단어 주머니여, 우리에게 자비를 베푸소서

• 인간이 AI를 사람처럼 인식하려는 경향이 문제로 지적되며, 저자는 이를 교정할 새로운 비유로 ‘단어 주머니(bag of words)’ 를 제시
• AI는 인터넷과 책에서 수집된 膨대한 단어 집합으로, 입력된 문장에 가장 관련 있는 단어를 되돌려주는 구조로 설명
• 이 관점은 AI의 거짓말·환각·오류를 인간적 의도나 감정이 아닌 통계적 산출물로 이해하게 함
• 과학 연구나 창작에서도 AI는 도구로서 인간 능력을 증폭시키지만, 새로운 아이디어 창출에는 한계가 있다고 지적
• AI를 사회적 경쟁자나 지적 존재로 보지 않고, ‘인간을 향상시키는 도구’로 인식해야 함을 강조

인간의 본능적 의인화와 AI 오해

• 사람들은 AI를 인간처럼 인식하며, 대화형 응답을 보면 내부에 ‘작은 사람’이 있다고 느끼는 경향
  • 이는 이론적 사고, 인상 관리, 속임수 탐지 등 인간 대인관계 능력이 자동으로 작동하기 때문
• 역사적으로 인간은 사물에 의도를 부여해 왔으며, 질병을 마녀 탓으로 돌리거나 일식에 신의 분노를 상정하는 식의 사고를 반복
• 이런 본능 때문에 AI의 비인간적 오류—예를 들어 잘못된 인용 생성, ‘딸기’의 r 개수 계산 실패, 피자에 풀을 바르라는 조언—가 혼란을 초래

‘단어 주머니’ 비유

• AI는 인터넷과 서적에서 추출된 모든 단어를 담은 주머니로, 입력된 문장에 대응하는 단어를 확률적으로 반환
• 올바른 답이 주머니에 있으면 정확하지만, 없을 경우 관련 있으나 부정확한 문장 덩어리를 생성
• 사용자가 “거짓말했다”고 지적하면, AI는 ‘사과하는 문맥의 단어들’ 을 꺼내는 것일 뿐 의도적 행동이 아님
• 이 비유는 AI의 성공·실패 영역 예측에도 유용
  • 예: “북미 최악의 교통 재난 10건”은 쉬운 질문이지만, “Brachiosaurus brancai를 재분류한 사람과 시기”는 어려움
• 철학적 질문에는 피상적이고 진부한 문장이 나오는 이유도, 인간이 그 주제에 대해 생산한 텍스트가 대부분 그러하기 때문

과학과 ‘Galileo GPT’

• AI의 발전 가능성은 “그 내용을 주머니에 채울 수 있는가” 로 판단 가능
  • 단백질 데이터 17만 개를 넣으면 단백질 접힘 예측(AlphaFold) 가능
  • 화학 반응 데이터를 넣으면 신규 분자 합성 예측, 논문 데이터를 넣으면 중복 연구 탐지 가능
• 그러나 과학은 강한 연결(strong-link) 문제로, 저품질 연구를 늘려도 진보하지 않음
• 1600년대에 LLM이 있었다면 갈릴레오의 발견을 재현하지 못했을 것
  • 당시 언어에는 ‘발견(discover)’이라는 개념조차 부족했고, 새로운 아이디어는 기존 텍스트에 존재하지 않았음
• 혁신적 과학은 시대 기준으로 비이성적이고 어리석은 시도에서 나오며, AI는 과거의 단어만을 학습하기 때문에 미래의 혁신 창출에는 부적합

사회적 지위와 AI

• 인간은 본능적으로 지위 경쟁(status game) 을 수행하며, AI를 사람처럼 인식하면 이를 경쟁 상대로 착각
• “AI가 더 똑똑한가, 더 예술적인가” 같은 질문은 사회적 비교의 오류
• AI는 배우자·현자·주인·노예가 아닌 도구로, 목적은 인간의 노동 자동화와 능력 증폭
• 인간이 AI에 의해 대체될까 두려워할 필요는 없으며, 야구·음악·글쓰기의 가치는 인간 행위 자체에 있음
• 다만 AI는 비인간적 방식으로 위험할 수 있으며, 예를 들어 보안 취약 코드 제시 시 히틀러 찬양 문장 생성 같은 예측 불가능성이 존재

‘C’mon Bertie’와 인간의 선택

• 오래된 자동차에 성격을 부여하듯, AI에 마음이 있다고 느끼는 것은 진화적 착각
• 인간은 본능을 넘어 새로운 사고 틀(schema) 을 선택할 수 있음
  • 포크레인을 ‘인공 굴착인’, 책을 ‘인공 대화자’라 부르지 않는 것처럼, AI도 사람으로 보지 않아야 함
• ‘인공지능(artificial intelligence)’이라는 명칭 자체가 오해의 근원
  • ‘지능’을 인간 기준으로 측정하려는 시도는 환상적 비교에 불과
• 심리학이 아직 ‘지능’의 정의를 확립하기 전에 컴퓨터 과학이 그 비슷한 것을 만들어버린 상황으로,
  이제는 단어가 너무 많아 다시 되돌릴 수 없는 상태임