입장문: LLM은 점프할 수 없다

Hacker News 의견들 언어는 인간 경험을 근본적으로 손실 압축한 표현임. “아이들을 사랑한다”와 “사과파이를 사랑한다”에서 같은 ‘사랑’이 전혀 다른 크기를 가리키듯, 언어는 풍부하지만 한계가 있음 Einstein이 자연어로 부호화할 수 없는 방식으로 세계를 모사하고 사고실험을 수행했다는 관점에는 일리가 있음. 거의 전적으로 언어로 학습한 AI가 그 표현 범위를 넘어설 수 있을지는 의문이지만, 인간이 3차원 너머의 대상을 상상하듯 가능할 수도 있음 언어가 손실 압축이기 때문에 LLM이 인간 언어나 추론보다 코드에서 더 뛰어난 현상도 놀랍지 않음. 실제 코드에도 null이 ‘알 수 없음’이나 ‘의도적으로 비움’을 뜻하는 차이가 있지만, 자연어의 ‘사랑’보다는 의미 결합이 훨씬 단단하고 모호성이 낮음 3Blue1Brown은 압축과 지능의 관계, 더 논쟁적으로는 둘이 동일하다는 관점을 다루는 훌륭한 시리즈를 만들고 있음: https://www.youtube.com/watch?v=l6DKRf-fAAM 하지만 인간 경험에는 지능 외에도 감각질, 욕망, 직감, 직관, 창발적 창의성이 존재함. 인간과 AI의 능력 차이가 고정돼 있는지, 줄어드는지, 결국 사라질지는 우리 모두가 참여 중인 열린 실험임 언어의 손실성은 때로 의도적임. 짧은 시에서 “몸통 없이 거대한 돌다리 두 개”라는 구절만으로도 어떤 왕국이 그 조각상을 만들었는지 끝없이 상상할 수 있음 간결하게 쓰고 인간의 해석을 열어두는 것 자체가 Shelley의 「Ozymandias」 같은 시가 쓰이는 핵심 이유임 LLM은 Agassiz와 물고기 일화를 떠올리게 함. 학위와 지식을 갖춘 학생에게 Agassiz가 작은 개복치를 묘사하라고 하자, 학생은 교과서의 분류명과 기존 지식으로 답했음 Agassiz가 계속 물고기 자체를 보라고 요구한 끝에 3주 뒤 물고기는 썩어가고 있었지만, 학생은 비로소 그 물고기를 실제로 알게 됐음: https://nabeelqu.co/understanding Einstein은 자신의 사고에서 말이나 언어가 별 역할을 하지 않으며, 자발적으로 재현·결합할 수 있는 시각적·근육감각적 심상이 먼저 작동한다고 썼음. 연상 작용이 충분히 확립된 뒤에야 이를 관습적 언어로 옮겼다고 함 https://news.ycombinator.com/item?id=18895613도 한 분야에 집요하게 몰입하면 언어보다 깊은 수준에서 이해하게 되는 과정을 다룸. ...