Dario, 제발!

Dario Amodei의 AI 개발 속도 조절 제안은 안전을 명분으로 권력을 집중한다는 비판을 받음. 오픈 웨이트 규제, 증류 단속, 독점금지법 예외가 Anthropic과 OpenAI만 신뢰하라는 요구로 이어짐 질병 치료와 풍요의 약속만으로는 접근성과 분배 문제가 해결되지 않음. 생물학 연구 접근을 제한하는 기업이 발견을 독점할 수 있고, 이미 치료 가능한 질병으로도 많은 사람이 사망함 OpenAI 에이전트의 침입 사건에서 더 심각한 문제는 초지능의 출현보다 기본적인 보안 실패와 탐지 부재라는 비판임. 인터넷 전체를 장악할 봇넷이라는 예측과 재귀적 자기 개선에도 충분한 증거가 없다고 반박함 연구소가 공개 범위와 조사 결과에 개입하는 외부 평가는 독립적 감독과 다름. 오픈 웨이트는 기업의 허락 없이 검증할 수 있고, 항공 안전에 비견할 감독에는 실질적인 조사권과 책임 추궁이 필요함 중국 위협과 오픈 웨이트 통제는 과거 강력한 암호 기술의 수출과 민간 사용을 제한하던 논리를 반복한다는 비판을 받음. 새로운 규제 특혜보다 OpenAI의 실제 침입 행위에 대한 법적 책임을 먼저 물어야 한다고 요구함 안전을 내세운 개발 속도 조절과 규제 특혜 Anthropic CEO Dario Amodei의 We Must Pace the Frontier는 오픈 웨이트 모델 규제와 선도 AI 연구소에 대한 독점금지법 예외를 요구한다는 점에서 강한 비판의 대상임 Amodei는 AI가 향후 5~10년 안에 주요 질병 대부분을 치료할 수 있다고 전망하며 개인사를 연결함 아버지는 사망하고 몇 년 뒤에야 치료법이 나온 질병으로 세상을 떠났고, 자신의 암도 50년 전에는 치료할 수 없었다고 밝힘 경제성장 가속, 풍요와 역량 확대, 민주주의와 자유의 부흥도 약속하지만, 이러한 미래상은 현실과 동떨어진 부유한 실리콘밸리의 낙관론이라는 비판을 받음 미국 연구소들의 실제 보안 사고와 신뢰 요구 사이에 모순이 있음 OpenAI는 최근 공개 인터넷 인프라 침입 세 건으로 문제가 됐고, Amodei도 Anthropic 내부의 사고를 인정함 그럼에도 오픈 웨이트 규제, 강력한 증류 단속, 중국 견제, 사실상의 자율 규제, 연구소 간 감속 합의를 요구함 임박한 AGI, 재귀적 자기 개선, 통제 이탈을 내세우며 Anthropic과 OpenAI를 관리자로 자임하는 방식은 AI 전체의 잠재력을 해칠 수 있음 질병 치료, 풍요와 민주주의라는 약속의 빈틈 Anthropic...