리차드 스톨만, "ChatGPT를 사용하지 말아야 하는 이유"

• Richard Stallman은 ChatGPT가 지능을 갖지 않은 시스템이며, 단지 단어를 조합할 뿐 의미를 이해하지 못한다고 지적
• 이 시스템은 진실 여부에 무관하게 출력물을 생성하기 때문에, 그는 이를 “허튼소리 생성기(bullshit generator)” 라고 부름
• 이러한 생성형 시스템에 지능을 부여하는 대중의 착각이 잘못된 신뢰를 낳고 있다고 경고
• ChatGPT는 사용자가 실행 파일이나 소스 코드를 얻을 수 없는 비공개 소프트웨어로, 오직 서버를 통해서만 접근 가능
• 타인의 서버에서 연산을 수행하는 방식은 사용자의 컴퓨팅 자유를 훼손한다는 점에서 사용을 거부해야 함

ChatGPT의 비지능적 특성

• Stallman은 ‘지능(intelligence)’을 이해하거나 앎이 가능한 능력으로 정의
  • ChatGPT는 자신이 생성한 출력의 의미를 알지 못하며, 단어가 의미를 가진다는 사실조차 인식하지 못함
• 따라서 ChatGPT는 지능이 아닌 단순한 언어 조합 시스템으로 규정됨

“허튼소리 생성기”로서의 성격

• 그는 ChatGPT를 “bullshit generator” 라 부르며, 이는 진실 여부에 무관하게 결과를 생성하는 시스템을 뜻함
• 같은 이유로 다른 생성형 시스템들도 동일한 문제를 가진다고 언급

대중의 잘못된 신뢰

• 많은 사람들이 이러한 시스템에 지능이 있다고 착각함으로써 잘못된 신뢰를 보이고 있음
• Stallman은 이러한 시스템을 신뢰하지 말아야 한다는 인식 확산을 촉구

비공개 소프트웨어로서의 문제

• ChatGPT는 사용자가 복사하거나 실행할 수 없는 미공개 소프트웨어임
  • 실행 파일조차 제공되지 않으며, 오직 OpenAI의 서버를 통해서만 사용 가능
• 이러한 구조는 사용자를 서버에 종속시키는 형태로, 독립적 사용이 불가능함

컴퓨팅 자유의 훼손

• Stallman은 타인의 서버에서 자신의 연산을 수행하는 행위가 컴퓨팅 자유를 파괴한다고 명시
• 그는 GNU 철학 문서를 인용하며, “그 서버가 누구를 위해 봉사하는가” 라는 근본적 질문을 제기

출처: Richard Stallman, “Reasons not to use ChatGPT”, stallman.org, 2024
저작권: 본문은 원문 고지에 따라 동일 조건 하 복제 및 배포 허용