글쓰기의 사회적 계약

• LLM 글쓰기는 블로그, 소셜 미디어, 신문, 책, 맞춤법 검사와 초안 작성까지 퍼졌고, 반복되는 문체가 글을 균질한 슬롭처럼 보이게 만듦
• 독자는 글을 읽는 데 시간을 들이는 만큼 필자도 지적 노고를 들였다고 기대하며, LLM 사용은 결과물의 품질과 별개로 이 기대를 흔듦
• Oxide RFD 576은 필자가 직접 이해하고 썼다는 믿음이 독자의 이해 노력을 정당화하며, LLM 산문은 이 사회적 계약을 훼손한다고 봄
• ChatGPT 이후 생성 텍스트는 직접 쓰지 않아도 인간의 말과 문체에 영향을 주며, “delve”, “realm”, “meticulous” 같은 단어 사용 증가로 드러남
• 좋은 글의 기준은 문법과 어휘의 완성도에서 독창적 표현과 인간적 흔적으로 이동하며, 오탈자도 AI 텍스트와 구별되는 신호가 될 수 있음

LLM 글쓰기와 사회적 계약

• LLM은 여러 산업에 퍼졌지만, 특히 글쓰기에서 블로그, 소셜 미디어, 신문, 책, 맞춤법 검사, 문법, 사실 확인, 전체 초안 작성에 폭넓게 쓰이고 있음
• 많은 양의 콘텐츠를 만드는 데 강하지만, LLM 특유의 관용구와 문체 패턴을 알아보기 시작하면 곳곳에서 같은 느낌이 반복됨
• “it’s not x, it’s why”, em-dash, “you’re not imagining it, the problem is real” 같은 표현이 반복되며 글이 점점 같은 슬롭(slop) 으로 균질화됨
• 독자는 글을 읽는 데 시간을 들였는데 필자가 그에 상응하는 시간을 쓰지 않았다는 사실을 깨닫는 순간 강한 반감을 느낌
• 이 반감은 내용이 정확하고 충분히 조사됐으며 글 자체가 괜찮은 경우에도 사라지지 않음

Oxide RFD 576의 문제 제기

• Oxide RFD 576의 2.4절 “LLMs as writers” 는 LLM 생성 산문이 글쓰기의 사회적 계약을 훼손한다고 봄
• LLM이 없을 때는 독자와 필자 중 필자가 더 큰 지적 노고를 들였다는 전제가 성립함
• 독자는 필자가 어떤 생각을 직접 이해하고 썼다고 믿을 수 있을 때, 어려운 문장과 생각을 이해하려는 노력을 기울일 이유를 얻음
• LLM으로 글을 쓰면 글의 품질이나 내용의 정확성과 별개로, 필자가 콘텐츠를 만들기 위해 들인 노력이 줄어듦
• 핵심 문제는 결과물의 품질만이 아니라, 직접 쓰지 않고 LLM을 사용한 행위 자체가 사회적 계약을 어긴다는 데 있음

피하기 어려운 생성 텍스트의 영향

• LLM을 직접 쓰지 않아도 생성 텍스트의 홍수는 인간의 말과 글에 영향을 줌
• “you’re absolutely right” 같은 표현은 LLM을 놀리는 데 쓰이지만, 도구 자체가 인간의 언어 습관도 미묘하게 바꾸고 있음
• Max-Planck Institute for Human Development의 연구는 ChatGPT가 선호하는 단어가 인간의 구어에서도 더 자주 쓰이게 됐다고 분석함
• 증가한 단어에는 delve, realm, meticulous, adept, boast, swift, comprehend 등이 포함됨
• 생성 AI의 산출물은 직접 사용 여부와 상관없이 이미 언어 환경 곳곳에 퍼져 있음

저배경 강철 비유

• Low-background steel은 최초의 원자폭탄 폭발 이전에 생산된 강철을 가리키며, 특정 용도로 한때 더 많이 찾았던 재료임
• 1940~1950년대의 여러 핵실험은 대기 중 방사성 물질을 늘렸고, 이후 생산된 강철은 입자 검출기 같은 일부 응용 분야에 충분히 “깨끗하지” 않은 것으로 여겨졌음
• 다만 현재는 전 지구적 인위 배경 방사선이 낮아져 최근 생산된 강철도 대부분의 용도에 사용할 수 있는 것으로 보임
• 이 비유에서 2022년 11월 30일 이후의 글은 ChatGPT 확산 이후 쓰였기 때문에 어느 정도 LLM의 영향을 받은 것으로 간주됨
• 오래된 콘텐츠만 읽는 경우를 제외하면, LLM 이후의 언어 환경을 완전히 피하기는 어려움

LLM 이후의 글쓰기 기준

• 생성 콘텐츠가 인터넷을 더 많이 차지할수록 개인 인간과 모델 회사 모두에게 독창적 사고와 표현의 수요가 커질 것임
• LLM 없이 독창적 콘텐츠를 쓰는 능력은 더 가치 있어질 수 있음
• 다만 LinkedIn식 thought leadership 글과 AI 생성 고양이 이미지가 넘치는 환경에서는 그런 글을 찾아내기가 어려워짐
• 인간은 오랫동안 좋은 문법, 넓은 어휘, 적절한 표현과 은유, 탄탄한 구성을 좋은 글쓰기의 기준으로 여겨왔음
• LLM은 이런 전통적 기준을 대체로 충족하지만, 같은 패턴을 반복하고, 표현은 낡아 보이며, 은유는 다소 튀고, em-dash에는 나쁜 인상을 남김

좋은 글의 기준 변화

• 오늘날 학생은 열심히 써서 평균 점수를 받거나, 아무 일도 하지 않고 ChatGPT가 쓴 과제로 높은 점수를 받는 선택지를 가질 수 있음
• 현재 Claude가 쓴 글을 10년 전 사람에게 보여주면 크게 불평할 지점이 많지 않을 것이라는 평가가 가능함
• LLM 글은 오래 읽으면 반복성이 보이지만, 전통적인 “제대로 된” 글쓰기 기준에는 상당히 부합함
• 이제 더 중요한 가치는 독창적 표현으로 이동함
• 문법이 틀려도 다르다면 가치가 있고, 어휘가 제한적이어도 반복적인 LLM 단어를 피한다면 더 인간적으로 느껴짐
• 오탈자는 더 이상 단순한 결함이 아니라, 밋밋하고 일반화된 AI 생성 텍스트와 구별되는 인간적 흔적으로 받아들여질 수 있음

LLM 없이 쓰겠다는 약속

• 독자가 시간을 들여 글을 읽는 만큼, 필자도 글을 쓰는 데 시간을 들여야 사회적 계약이 성립함
• 오래된 영화를 틀어둔 채 하루의 상당 부분을 들여 작성한 글에는 읽는 사람의 시간에 대응하는 노력이 들어감
• 글쓰기는 즐거운 활동이며, 꾸준함의 정도는 달랐지만 평생 해온 일임
• 앞으로 글쓰기를 더 일상적인 루틴으로 만들려는 의지가 있으며, 그렇게 하는 일이 의미 있고 할 가치 있는 일로 여겨짐