Rich Hickey: ‘AI’는 도구가 아니다

도구는 사람이 직접 통제하며 다루는 것인 반면, LLM은 요청을 받은 뒤 직접적인 인간 통제 없이 작동하는 자동화라는 구분이 핵심임 도구 사용은 지속적인 기술과 에너지 투입, 감각적 피드백을 통해 숙련을 쌓는 과정이며, LLM에는 좋은 도구의 예측 가능성, 신뢰성, 결정성, 한정된 기능이 부족함 LLM으로 코드를 생성하는 것은 코드를 직접 쓰는 도구를 다루는 일이 아니라, 코드 작성을 자동화에 넘기는 일임 자동화를 다루며 익히는 요령은 현실 세계의 원리보다 시스템의 그때그때 달라지는 동작에 맞춰지며, 소프트웨어 업데이트 한 번으로 무용해질 수 있음 논문 읽기를 LLM 요약으로 대체하면 읽으며 배우고 사고할 기회를 놓치며, 자동화를 “그저 도구”라고 부르면 도구와의 본질적인 차이를 간과하게 됨 유용한 모든 것이 도구는 아님 도구라는 단어가 대상을 구별하고 이해하는 데 도움이 되려면, 단순히 “유용한 모든 것”을 뜻해서는 안 됨 돋보기를 넣어 두는 셔츠 앞주머니와 패스트푸드 드라이브스루는 유용하지만 도구는 아님 “이용할 수 있는 누구나 무엇이든”이라는 뜻 역시 여기서 말하는 도구의 의미에는 해당하지 않음 AI 거물들에게는 벤처캐피털, 정치인, 거물이 되고 싶어 하는 CEO, 소프트웨어 개발자, 농촌 마을까지 모두 이용할 ‘도구’가 됨 사전적 정의에서 도구는 특정 기능을 수행하는 기구, 특히 손에 쥐고 사용하는 물건임 망치나 톱처럼 장인이나 노동자가 작업에 사용하는 기구가 여기에 해당함 도구의 핵심은 직접 다루고 통제하는 데 있음 도구는 사람이 직접 다루는 것(wield) 이며, 이때 다룬다는 것은 충분한 지배력과 힘을 가지고 사용하고 조작하고 통제한다는 뜻임 손에 쥠은 통제와 피드백의 원천이며, 사용 행위와의 밀접함을 나타냄 힘에는 힘과 에너지의 전달, 방향 설정, 지렛대 효과 등이 포함됨 통제에는 의도와 사건의 진행 방향을 지속적으로 이끄는 행위가 포함됨 도구는 사람이 무언가를 하는 데 쓰는 기구이지, 사람을 대신해 일을 하는 존재가 아님 도구 사용은 전문성과 숙련을 키우고, 보상하며, 흔히 이를 요구함 기술과 에너지의 지속적인 적용, 감각적 피드백이 숙련 축적에 필수적임 전문성을 뜻하는 expertise의 어원인 experiri에는 “시도하다”라는 뜻이 있음 좋은 도구에는 예측 가능성, 신뢰성, 결정성과 한정된 기능이 있으며, 가능하면 단순하기도 해야 함. LLM에는 이런 특성이 부족함 도구를 다루며 배우는 것...