모든 것이 거짓으로 가득한 미래, 이제 우리는 어디로 가야 하는가

• 대규모 언어 모델과 기계학습이 사회 구조를 재편하며, 자동차가 도시를 바꾼 것처럼 인간의 삶 전반을 변화시키고 있음
• 이미 AI가 생성한 허위 정보와 자동화된 콘텐츠가 검색, 이메일, 고객 서비스 등 일상 영역에 깊이 침투함
• AI 도구 사용 중단과 인간 중심의 사고 복원이 필요하며, 스스로 글을 쓰고 인간의 언어로 사고해야 함
• 개인은 AI 의존 거부, 노동조합 결성, 정치적 규제 요구 등 구체적 행동을 통해 기술 확산 속도를 늦출 수 있음
• 이러한 선택은 법적·사회적 부작용 완화와 윤리적 평화 확보로 이어질 수 있으며, 잘못된 판단이라면 다시 시작할 수 있음

인공지능 시대 이후의 선택

• 대규모 언어 모델(LLM) 과 기계학습(ML) 의 발전이 사회 전반에 미치는 영향을 자동차의 역사적 변화에 비유
  • 자동차가 도시 구조, 교통, 환경, 사회적 관계를 근본적으로 바꾼 것처럼, 인공지능도 인간의 삶과 산업 구조를 재편할 가능성 제시
  • 기술의 속도나 편리함보다 도시의 형태와 인간의 삶이 어떻게 변할지에 초점을 둠
• 이미 AI 기반 허위 정보와 자동화된 콘텐츠가 일상에 깊이 침투
  • 검색 결과, 고객 서비스, 이메일, 웹사이트 등에서 LLM이 생성한 부정확하거나 거짓된 정보가 확산
  • 데이터센터 전력 소비 증가로 인한 요금 인상과 환경적 부담이 발생
  • 개인의 업무, 예술, 인간관계까지 AI에 위임하는 현상이 확산 중
• AI 도구 사용 중단 필요성을 강조
  • ML 보조는 인간의 학습 능력과 이론적 사고력을 약화시키며, James C. Scott의 ‘metis’(숙련된 실천적 지식) 을 잃게 함
  • 스스로 글을 쓰고 문제를 직접 해결하며, 인간과의 대화를 통해 사고를 유지해야 함
  • AI 생성물 소비를 최소화하고, 인간이 만든 콘텐츠를 찾아 읽을 것을 권장
• 개인과 사회가 취할 실천적 행동 제시
  • 자신의 언어로 글을 쓰고, AI 생성물에 의존하지 말 것을 촉구
  • 직장 내 AI 도입 강요에 저항, 노동조합 결성, 정치적 규제 요구를 제안
  • AI 기업의 탄소·디지털 배출 책임 강화, 데이터센터 세금 감면 반대, 윤리적 이유로 퇴사 고려 등의 구체적 행동 제시
• 이러한 저항이 AI 발전을 완전히 멈추지는 못하더라도 속도를 늦출 수 있음
  • 기술·산업·정부가 적응할 시간을 벌고, 법적·사회적 부작용을 완화할 수 있음
  • AI 생성 아동착취물(CSAM), 사기, 보안 취약점 등 문제에 대응할 여유 확보
  • 윤리적 선택을 통해 양심의 평화 확보, 잘못된 판단이라면 “나중에 다시 만들면 된다”는 결론으로 마무리

그리고도 남는 유혹

• AI에 대한 혐오와 동시에 실용적 유혹이 공존
  • 예시로, 색이 변하는 조명을 제어하기 위한 LLM 코드 생성 활용 가능성을 언급
  • 보안 위험이 낮고 결과를 직접 검증할 수 있는 제한된 상황에서는 AI 사용의 유용성을 인정
  • 그러나 “무슨 해가 있겠는가?”라는 질문으로 끝맺으며, AI 사용의 경계와 자기 모순을 드러냄

집필 과정

• 본 글은 Vim에서 수작업으로 작성, Pandoc으로 조판, 두 차례 종이 교정을 거침
  • 초안은 친구들에게 공유되어 피드백을 받았으며, 모든 오류와 견해는 저자 본인의 책임으로 명시
  • 글쓰기와 편집 전 과정이 AI의 도움 없이 인간의 손으로 이루어졌음을 강조