AI는 도구이며, 잘 쓰려면 숙련이 필요하다

LLM은 사람이 목적에 맞게 다룰 수 있는 도구이며, 유용성은 사용자가 지시하고 피드백을 해석하며 오류를 알아내 수정하는 능력에 달려 있음 예측 불가능성은 중요한 한계지만, 예측 가능성과 신뢰성은 도구의 품질을 평가하는 기준이지 도구 여부를 결정하는 필수 조건은 아님 자동화와 도구는 양립 가능함. 컴파일러와 스프레드시트처럼, LLM도 내부 작업을 자동으로 수행하면서 사람이 입력을 정하고 결과를 검토하는 방식으로 사용할 수 있음 LLM으로 설명을 검증하거나 논문 해석을 되짚는 과정에는 의도, 피드백, 전문성이 개입함. 지적 작업을 회피할 수 있다는 사실이 모든 사용을 지적 작업의 회피로 만들지는 않음 실용적인 구분은 AI가 도구인지 아닌지가 아니라, 숙련된 사용과 충분한 이해나 감독 없이 일을 위임하는 사용 사이에 있음 자동화도 사람이 다루는 도구가 될 수 있음 Rich Hickey는 「'AI' is Not a Tool」에서 LLM은 사람이 다룰 수 없으므로 도구가 아닌 자동화라고 주장함 일을 외부에 맡기면 학습 기회를 잃을 수 있지만, 그것만으로 LLM이 사람이 다루는 도구가 될 수 없다는 결론이 따라오지는 않음 톱을 잡는다고 곧게 자를 수 없고, 끌을 든다고 조각가가 되지는 않음. 도구는 좋은 판단뿐 아니라 잘못된 판단도 증폭할 수 있음 LLM 역시 사용자가 방향을 정하고, 피드백을 해석하고, 실수를 발견하고, 수정하는 능력이 필요함 예측 가능성과 신뢰성, 단순성과 제한된 기능 범위는 도구를 평가하는 특성이지 도구 범주에 들어가기 위한 필수 조건은 아님 통제하기 어렵거나 오용하기 쉽다고 해서 도구가 아니게 되지는 않음 자동화는 도구의 기능일 수 있음 컴파일러는 프로그래머가 각 연산을 계속 지시하지 않아도 상당한 작업을 수행하고, 스프레드시트는 사람이 모든 계산을 직접 하지 않아도 결과를 다시 계산함 사람은 입력을 지정하고 결과를 살피며 다음 행동을 결정하는 방식으로 이 시스템들을 다룸 코드 변환과 숫자 계산의 자동화가 도구 자격을 없애지 않는다면, 텍스트 자동 생성만으로 도구가 아니라고 구분할 근거도 부족함 숙련된 활용과 무감독 위임의 차이 프로그래머는 LLM에 낯선 코드의 설명을 요청한 뒤, 설명에 의문을 제기하고 원본 코드를 확인하며 변경안을 테스트하거나 거부하고 요청을 다듬을 수 있음 이는 사람이 목적을 가지고 이끄는 피드백 루프임 무엇을 물어야 하는지, 어떤 증거가 중요한지, 답이 언제 틀렸는지 아는 ...