왜 내가 OpenAI에 합류했는가

8 hours ago 3

  • 급격히 증가하는 AI 데이터센터 비용과 에너지 소비 문제를 해결하기 위해 OpenAI에 합류, 초기에는 ChatGPT 성능 최적화에 집중
  • 기존의 성능 엔지니어링만으로는 한계가 있다고 보고, 새로운 엔지니어링 방법을 구상해 더 큰 최적화 효과를 빠르게 찾는 것을 목표로 함
  • 일상 사용자들이 ChatGPT를 폭넓게 활용하는 사례—예를 들어 미용사, 부동산 중개인, 세무사, 양봉업자—를 통해 기술의 사회적 확산을 실감
  • 26회의 인터뷰를 거쳐 여러 AI 기업의 엔지니어링 수준을 비교했으며, OpenAI의 인재 밀도와 협업 환경이 가장 인상적이었다고 평가
  • OpenAI에서의 역할을 통해 지구적 규모의 효율성 향상과 지속 가능성 확보에 기여할 수 있는 기회를 인생의 전환점으로 인식

AI 데이터센터와 성능 엔지니어링의 과제

  • AI 데이터센터의 비용과 성장 속도가 역사상 유례없이 빠르며, 단순한 비용 절감이 아니라 지구 환경 보호의 문제로 인식
    • OpenAI에서 이 문제를 직접 해결하기 위해 합류, 초기에는 ChatGPT 성능 개선에 집중
    • 기존 성능 엔지니어링의 한계를 넘어 더 큰 최적화와 빠른 개선을 위한 새로운 접근법을 모색
  • 대규모 환경에서도 변화를 가로막는 제약이 거의 없는 개방적 구조를 강조
    • “무엇이든 시도하고, 규모 있게, 지금 당장 실행하라”는 태도로 설명

ChatGPT의 일상적 확산과 개인적 계기

  • AI 채택에 회의적이던 중, 미용사 Mia와의 대화에서 ChatGPT의 대중적 사용을 직접 체감
    • Mia는 친구의 여행지 정보를 ChatGPT로 확인하며 정서적 연결감을 유지하는 등 다양한 활용 사례를 공유
    • ChatGPT의 기억 기능을 사람과 대화하는 듯한 경험으로 묘사
  • 부동산 중개인, 세무사, 양봉업자 등도 ChatGPT를 실무에 적극 활용
    • 예: 양봉업자는 소규모 사업 서류 작업을 ChatGPT로 처리
  • 이러한 경험을 통해 ChatGPT가 일상 도구로 자리 잡았음을 깨닫고, 기술적 기여의 사회적 의미를 확신

OpenAI 선택의 이유와 인터뷰 과정

  • 여러 업계 전문가의 추천으로 OpenAI를 포함한 AI 기술 대기업들과 26회 인터뷰 진행
    • Netflix 시절과 유사한 대규모 클라우드 환경과 빠른 코드 변경, 엔지니어 자율성을 발견
    • GPU뿐 아니라 전체 기술 스택 전반의 성능 문제를 다루는 폭넓은 과제 존재
  • OpenAI에는 이미 알고 지내던 유능한 엔지니어 동료들이 다수 근무
    • Netflix 동료 Vadim 등과의 협업 경험이 합류 결정에 긍정적 영향
  • OpenAI에는 이미 숙련된 성능 엔지니어 팀이 존재하며, 자신은 그중 “가장 최근에 합류한 사람”이라고 언급

어린 시절의 꿈 ‘Orac’과 AI의 연결

  • 어린 시절 영국 SF 드라마 Blake’s 7슈퍼컴퓨터 Orac에 매료되어 AI 개발을 꿈꿨던 경험 회상
    • 대학 시절 자연어 처리 소프트웨어를 직접 개발하려 했으나 메모리 제약으로 중단
  • ChatGPT를 사용하면서 Orac을 떠올리고, ChatGPT가 Orac의 성격을 완벽히 재현하는 답변을 보여 감탄
    • 이후 ChatGPT 설정에서 Orac 모드로 개인화해 사용 중
    • Blake’s 7의 리부트 소식도 함께 언급

OpenAI에서의 현재와 향후 계획

  • 현재 시드니에서 원격 근무 중이며, ChatGPT 성능 엔지니어링 팀의 Member of Technical Staff로 활동
    • 초기 프로젝트는 조직 간 협업을 통한 성능 개선 및 비용 절감 전략 수립
  • eBPF, Ftrace, PMC 등 기존 기술을 OpenAI의 필요에 맞게 적용할 계획
    • Codex를 코딩 외의 다양한 작업에도 활용
  • Intel 퇴사 후 Linux Plumber’s Conference에서 많은 이들이 향후 행보를 궁금해했으며, 이를 계기로 본 글을 작성
  • 마지막으로 미용사 Mia에게 다시 ChatGPT 사용 여부를 묻자, “24시간 내내 사용한다” 는 답변을 들었다고 전함
  • 글은 개인적 기록이며 회사 요청이 아닌 자발적 작성임을 명시

Read Entire Article