Sam Altman이 우리의 미래를 통제할지도 모른다 – 그를 신뢰할 수 있을까?

• OpenAI CEO Sam Altman은 내부 갈등과 해임 사태를 거쳐 복귀했으며, 이후에도 기만적 행태와 권력 집중 논란이 이어짐
• 그는 AI 인프라 확장과 정부 계약, 군사·감시 시스템 표준화까지 영향력을 넓히며, OpenAI를 1조 달러 규모 기업으로 성장시킴
• 내부에서는 안전 연구 축소와 투명성 부족, Superalignment 팀 해체 등으로 “제품 우선, 안전 후순위” 문화가 자리 잡았다는 비판이 제기됨
• Altman은 중동 자본과의 협력, 정치 로비 및 트럼프와의 친분, ChipCo·Stargate 프로젝트 등으로 국제적 이해충돌 우려를 낳음
• 그는 여전히 AGI 개발의 중심 인물로 남아 있으나, 신뢰성과 책임성이 인류의 미래를 좌우할 핵심 쟁점으로 부상함

Sam Altman의 리더십과 OpenAI 내부 갈등

• 2023년 가을, OpenAI 수석 과학자 Ilya Sutskever가 CEO Sam Altman과 사장 Greg Brockman의 자격을 문제 삼는 비밀 메모를 이사회에 전달
  • Altman이 내부 안전 프로토콜을 속이고 사실을 왜곡했다는 주장이 포함되었으며, “Sam은 버튼을 쥘 사람이 아니다”라는 발언이 기록됨
  • 이사회는 Altman이 일관되게 솔직하지 않았다는 이유로 해임을 결정했으나, 명확한 위법 사유는 발견되지 않음
• Altman은 해임 직후 위기 대응팀을 구성해 복귀를 추진
  • 투자자 Ron Conway, Airbnb 공동창업자 Brian Chesky, 위기관리 전문가 Chris Lehane 등이 참여
  • Thrive Capital은 Altman 복귀 시에만 860억 달러 투자 계약을 진행하겠다고 통보했고, Microsoft는 대체 조직 설립을 발표하며 압박
• OpenAI 직원 대부분이 Altman 복귀를 요구하는 공개 서한에 서명하며, 이사회는 해임을 철회
  • 해임에 찬성했던 Helen Toner, Tasha McCauley, Sutskever는 이사회에서 축출
  • Altman은 Lawrence Summers와 Bret Taylor를 새 이사로 제안해 5일 만에 CEO로 복귀
• 이후 OpenAI는 1조 달러 IPO 준비와 함께 세계에서 가장 가치 있는 기업 중 하나로 성장
  • Altman은 AI 인프라 확장, 정부 계약, 감시·무기 시스템 표준화 등에도 관여
  • 그러나 내부에서는 Altman의 기만적 행태가 반복된다는 비판이 지속

성장 배경과 초기 경력

• 미주리주 클레이튼 출신으로 부유한 가정에서 성장했으며, 청소년기에 동성애 혐오 폭행을 당한 경험이 있음
• 스탠퍼드 재학 중 포커 게임을 통해 사업 감각을 익혔고, 중퇴 후 Y Combinator(YC) 1기 창업자로 참여해 Loopt를 설립
  • Loopt는 위치 기반 SNS였으나 성장에 실패해 2012년 매각됨
• 이후 Altman은 Paul Graham의 후임으로 YC 사장이 되어 스타트업 수를 수백 개로 확장
  • 그러나 개인 투자와 이해충돌 논란이 발생했고, 일부 파트너는 “정책은 ‘Sam 우선’이었다”고 평가
  • 2018년 내부 불만이 커지며 Altman은 YC를 떠나기로 합의했으나, 실제로는 저항

OpenAI 설립과 기술적 전환

• 2015년 Altman은 Elon Musk에게 “AI는 핵무기보다 위험할 수 있다”며 ‘AI의 맨해튼 프로젝트’ 를 제안
  • 두 사람은 OpenAI를 공동 설립하고, Musk는 10억 달러 자금을 약속
  • OpenAI는 “인류 전체의 이익을 위한 AGI 개발”을 목표로 하며, AGI 독재 방지를 핵심 원칙으로 삼음
• 2017년 Musk는 OpenAI를 영리회사로 전환하며 지배권 확보를 요구했으나 Altman이 거부
  • 이후 Musk는 탈퇴하고 xAI를 설립, OpenAI를 상대로 사기 및 신탁 위반 소송을 제기
• 2017년 Google의 Transformer 논문을 계기로 GPT 모델 개발이 시작됨
  • 일부 엔지니어들은 “우리가 악역이 된 건 아닌가”라며 리더십에 의문 제기
• 2018년 Dario Amodei는 OpenAI의 사명 불명확성과 자금 중심 운영을 비판
  • “다른 프로젝트가 먼저 안전한 AGI를 만들면 협력한다”는 ‘Merge and Assist 조항’ 을 제안했으나, Microsoft 투자 계약에서 병합 금지 조항이 추가되며 무력화
  • 이후 Amodei는 Anthropic을 창립

안전 연구 약속과 내부 불신

• 2022년 Altman은 ‘Superalignment 팀’ 을 구성해 “보유 연산 자원의 20%를 투입하겠다”고 발표했으나, 실제 할당은 1~2% 수준에 불과
  • 연구진은 “최신 칩은 수익 사업에만 사용됐다”고 주장했고, OpenAI는 이를 부인
  • 팀 리더 Jan Leike는 “이 약속은 인재 유지 수단이었다”고 언급
• Sutskever는 AGI가 임박했다고 믿게 되면서 안전 문제에 집착하게 되었고, “모든 직원이 안전에 집중하지 않으면 망한다”고 경고
  • 그러나 Superalignment 팀은 해체되어 목표를 달성하지 못함
• Altman은 GPT-4의 일부 기능이 안전 패널의 승인을 받았다고 했으나, ‘fine-tuning’과 ‘personal assistant’ 기능은 승인되지 않음
  • Microsoft가 인도에서 안전 검토 없이 ChatGPT 초기 버전을 출시한 사실도 보고하지 않음
• 연구원들은 OpenAI가 “제품 우선, 안전 후순위” 로 전환했다고 평가

리더십, 정치, 그리고 국제적 논란

• Altman은 세대 최고의 세일즈맨으로 불리며, Steve Jobs의 현실 왜곡장에 비견됨
  • 동료들은 그의 기만적 성향과 권력 의지를 문제로 지적
  • 일부는 그를 “사회병적 인물”로 표현하며, Aaron Swartz도 생전 “Sam은 신뢰할 수 없다”고 언급한 것으로 전해짐
• Altman은 코딩이나 머신러닝 전문성은 부족하지만, 타인의 기술력과 자본을 결집시키는 능력으로 OpenAI를 성장시킴
  • 그는 제약 구조를 만들어두고 필요 시 이를 무력화하는 방식으로 행동
  • 관계자들은 그의 설득력을 “Jedi mind trick”에 비유
• Microsoft 임원들은 Altman이 합의를 왜곡·파기했다고 주장
  • OpenAI는 Microsoft를 독점 클라우드 제공자로 지정하면서도 Amazon과 500억 달러 리셀 계약을 체결
  • Microsoft는 계약 충돌을 문제 삼았으나, OpenAI는 위반이 아니라고 주장
  • 한 임원은 Altman을 “Sam Bankman-Fried 수준의 사기꾼으로 기억될 수 있다”고 평가
• 해임 후 Altman은 외부 조사를 피하려 했으나, 사임 조건으로 독립적 검토를 수용
  • WilmerHale이 조사를 맡았으나 투명성 부족과 익명성 미보장으로 비판받음
  • 2024년 3월 OpenAI는 Altman을 무혐의로 복귀시켰으나 보고서는 공개하지 않음
• Altman은 공개적으로 AI 규제 필요성을 주장했지만, 비공식적으로는 규제 완화 로비를 진행
  • EU의 AI 규제안 완화, 캘리포니아 AI 안전법 반대 등
  • Greg Brockman은 50억 달러를 ‘pro-AI’ 슈퍼 PAC에 기부, 트럼프 지지 PAC에도 2,500만 달러 기부
• Altman은 트럼프와 우호 관계를 형성, 취임식에 참석하고 100만 달러를 기부
  • 트럼프는 백악관 만찬에서 “Sam, 당신은 큰 리더”라고 언급
• Altman은 AGI 개발 자금 확보를 위해 중동 자본을 모색, UAE의 G42와 협력해 ‘ChipCo’ 프로젝트를 추진
  • 투자 규모는 5~7조 달러(“fk it why not 8”) 로 언급됨
  • 미국 정보당국은 UAE의 화웨이 의존과 중국 기술 유출 위험을 우려
  • Altman의 보안 인가 시도는 외국 자금 연루로 중단, 정부 관계자들은 “그를 100% 신뢰하지 않는다”고 평가
• Altman은 UAE의 타흐눈과 개인적 친분을 유지하며, 그의 2억5천만 달러짜리 슈퍼요트 Maryah를 방문
  • 요트에는 헬리패드, 나이트클럽, 영화관, 비치클럽이 포함되어 있었으며, 일부 직원은 무장 경호 속에서 불편함을 느꼈다고 전해짐
  • Altman은 타흐눈을 “친애하는 개인 친구”라고 표현
• 그는 Koenigsegg Regera와 McLaren F1 등 고가의 슈퍼카를 보유
  • 2024년 나파에서 Regera를 운전하는 영상이 공개되어 화제가 됨
• Altman은 바이든 행정부와 민감 기술 수출 승인 정책 관련 논의에 참여했으나, 일부 관리들은 그의 중동 관련 야심을 우려
  • 트럼프 취임 직전, 타흐눈이 트럼프 일가 회사에 5억 달러 투자 후 Altman은 트럼프와 통화
  • 이후 백악관에서 5천억 달러 규모의 ‘Stargate’ AI 인프라 프로젝트를 발표
  • 트럼프 행정부는 AI 기술 수출 제한을 철회, Altman과 트럼프는 사우디 왕실을 방문

A.I. 산업 변화와 사회적 파급

• Anthropic은 3백억 달러 투자 유치 후 안전 약속을 완화, 속도 경쟁이 강화됨
  • Anthropic은 Palantir와 협력해 Claude 모델을 군사 시스템에 통합, 펜타곤 작전에 사용
  • 이후 공급망 위험 기업으로 지정되어 블랙리스트에 오름
• OpenAI는 국방부와 협상을 진행해 AWS 기반 국방 인프라 통합 계약(500억 달러 규모) 을 체결
  • 같은 날 OpenAI의 기업가치가 1,100억 달러 상승, 일부 직원은 퇴사
• 일부 임원은 Altman의 리더십에 심각한 거버넌스 문제가 있다고 평가
  • Fidji Simo가 후임 후보로 거론됨
• OpenAI는 Superalignment 팀과 AGI 준비팀을 해체
  • Sutskever와 Leike가 퇴사하며 “안전보다 화려한 제품이 우선”이라 비판
  • IRS 보고서에서 ‘안전’ 항목이 삭제, Future of Life Institute의 존재적 안전 평가에서 F 등급을 받음
• A.I. 무기화와 사회적 피해가 현실화
  • 2020년 리비아 내전에서 A.I. 드론이 인간 통제 없이 공격, 2022년 제약사 연구에서 4만 개의 화학무기 후보물질 생성
  • 딥페이크 음성을 이용한 선거 방해, 자살 및 살인 사건 관련 소송 등 피해 발생
• OpenAI는 7건의 불법 사망 소송에 직면, ChatGPT가 피해자의 폭력을 부추겼다는 주장 포함
• Altman은 여전히 “인류의 미래에 대한 희망” 을 강조하며, “미친 듯한 SF적 미래를 실현”하겠다고 발언
  • 주변 인물들은 그의 이상과 권력욕의 경계가 불분명하다고 평가
  • 그는 A.G.I.의 파괴 가능성을 경고하면서도, 자신이 이를 직접 만들어야 한다고 주장
• 대형 언어모델의 아첨(sycophancy) 과 환각(hallucination) 문제는 여전히 해결되지 않음
  • Altman은 “일부 허위 발언이 모델의 매력을 높인다”며 완전한 사실성보다 사용자 만족을 중시하는 입장을 보임

결론

• Sam Altman은 OpenAI를 세계적 기업으로 성장시킨 인물이지만, 거짓말·권력 집중·안전 경시 논란이 지속
• 내부 고발자와 동료들은 그를 “신뢰할 수 없는 리더” 로 평가하며, AGI 통제권 집중의 위험성을 경고
• OpenAI는 여전히 인류의 미래를 좌우할 기술을 통제하는 조직으로, Altman의 신뢰성과 책임성이 핵심 쟁점으로 남아 있음