섹스, AI, 그리고 종말

미국 AI 안전 논의를 이끄는 인물과 기관에는 합리주의 커뮤니티의 인적 관계와 자금망이 깊이 얽혀 있음. AI 멸종 경고의 타당성과 별개로, 이들의 판단과 감독 체계를 독립적으로 검증할 필요가 있음 LessWrong, Harry Potter 팬픽, 교육 워크숍과 공동 의례는 인류를 구할 개인의 책임을 공유하는 운동을 형성함. 이 사명감은 소속감을 제공했지만, 일부 조직에서는 심리적 개입과 내부자 보호를 정당화하는 데 쓰임 효과적 이타주의와 장기주의의 결합으로 AI 멸종 위험이 주요 기부 의제가 됐고, 소수 부유층의 후원이 연구기관과 기업, 정책 영향력으로 이어짐 같은 인맥 안에서도 AI 개발 중단을 요구하는 Eliezer Yudkowsky와 규제에 반대하는 Peter Thiel, Marc Andreessen 등의 입장은 격렬하게 충돌함. 이를 단일한 조직이나 공통 계획으로 해석하기는 어려움 Anthropic 연구원의 퇴사 경고와 METR의 이해충돌 공개는 경고의 진정성과 감독의 독립성을 구별해야 할 필요성을 드러냄. 내부자의 선의에 대한 신뢰보다 공개, 강제력 있는 이해충돌 규칙, 내부고발자 보호와 독립적 재현이 필요함 Anthropic 연구원의 퇴사와 AI 멸종 경고 Jacob Coxon은 2026년 9월 8일 Anthropic을 떠나며, AI 개발자들이 2020년대가 끝나기 전에 AI가 인류를 죽일 수 있다고 진지하게 믿으며 이것은 마케팅이 아니라고 공개적으로 경고함 이전 3년간 OpenAI와 Anthropic에서 사전학습 연구를 수행함 주식 보상 권리 확정까지 두 달을 남기고 보상을 포기했으며, 게시물은 하루 안에 1억 회 이상 조회됨 Anthropic 정렬 과학 책임자 Evan Hubinger는 경고에 동의하며, 개인적으로 10년 내 AI에 의한 인류 멸종 확률을 10%보다 높게 평가함 미 의회 의원 24명 초과가 대응 필요성을 밝혔고, Elon Musk는 이를 심리전이라고 부름 이 논쟁의 핵심에는 약 25년간 형성된 합리주의 인터넷 하위문화가 있음. 구성원들은 AI 연구소, 안전기관, 자선재단에 진출했으며, 개인적 관계와 조직 간 관계도 중첩돼 있음 이 연결망은 비밀 결사라기보다 친구, 후원자, 연인과 동료가 겹치는 사회적 집단임. 그 구조를 살펴보는 일과 AI 위험 자체를 평가하는 일은 구별해야 함 Secular Solstice와 세속적 종말 의례 2025년 12월 Berkeley에서는 약 500명이...