문체가 한 곳으로 모이는 구조를 수식으로 풀었어
“다들 같은 모델로 글을 다듬으면 문체가 한 곳으로 모여.”
7월 29일 arXiv에 올라온 Linguistic Monoculture 논문 얘기야. 초안을 쓰고 고치고 다듬는 데 언어 모델을 쓰는 사람이 늘면, 집단 전체의 문장 형태 변이가 줄어든다는 게 출발점이야. 저자들은 이걸 언어 단작(linguistic monoculture)이라고 불러.
저자 한 명과 모델 하나를 각각 “언어 특징에 대한 분포”로 놓고, 둘이 주고받으면서 서로 변해가는 과정을 수식으로 세웠어. 실제 글을 모아 측정한 연구가 아니라 모형과 합성 모의실험이야.
공용이냐 개인화냐에서 결과가 갈려
- 고정된 공용 모델: 모두가 같은 모델을 쓰고 모델은 변하지 않아. 저자들이 하나의 공통 규범으로 수렴해.
- 재귀 갱신되는 공용 모델: 저자들이 쓴 글로 모델이 다시 학습돼. 규범이 놓인 위치는 옮겨가는데 저자들 사이 간격은 그대로야. 모여 있는 지점만 이동하는 거지.
- 개인화 모델: 사람별 피드백과 집단 피드백을 같이 받아 각자의 모델이 갱신돼. 이때만 서로 다른 균형이 여러 개 남고 다양성이 0으로 안 떨어져.
저자 100명에 언어 특징 10개, 200단계로 돌린 모의실험에서 개인화 정도를 0으로 두면 다양성이 약 0.057이었고, 1까지 올리면 0.171이 나왔어. 세 배쯤 차이인데, 모의실험 안의 값이라 절대 수치보다 방향으로 보는 게 맞아.
개인에게 이득인 선택이 모이면 손해가 돼
논문이 한 걸음 더 간 부분은 순응 수준을 저자가 고르는 선택으로 놓은 거야. 모델 문체를 따르면 명확성과 가독성이라는 이득이 생기고, 대신 자기 색이 옅어져.
여기서 각자에게 합리적인 선택은 사회적으로 최적인 수준보다 더 순응하는 결과가 돼. 내 문체가 남들에게 주는 가치를 내가 계산에 넣지 않기 때문이야. 논문은 이 손실을 단작의 대가(price of monoculture)로 부르고, 개성의 값이 커질수록 이 대가가 한없이 커질 수 있다고 봤어.
팀 글쓰기에 모델을 붙이는 상황이라면
- 공용 프롬프트의 대가: 팀 전체가 같은 프롬프트와 같은 스타일 가이드를 쓰면 결과물이 빨리 균질해져. 문서 품질이 목적이면 이득이고, 브랜드 목소리나 개별 저자 색이 자산이면 손해야.
- 재학습의 착시: 우리 글로 모델을 다시 학습시키면 나아질 것 같은데, 모형대로면 모여 있는 위치만 옮겨가고 서로의 간격은 그대로야. 다양성을 되찾는 방법은 아니야.
- 개인화의 조건: 다양성이 남는 유일한 경우는 사람별로 모델이나 프롬프트가 갈릴 때였어. 다만 그 비용이 얼마인지는 논문 밖 이야기야.
이론 모형이라 그대로 현실에 옮길 수는 없어. 다만 팀 전체가 같은 도구로 같은 방식으로 글을 다듬고 있다면, 어디까지 맞추고 어디부터 두는지는 한 번 정해둘 만해.