- 급격히 증가하는 AI 데이터센터 비용과 에너지 소비 문제를 해결하기 위해 OpenAI에 합류, 초기에는 ChatGPT 성능 최적화에 집중
- 기존의 성능 엔지니어링만으로는 한계가 있다고 보고, 새로운 엔지니어링 방법을 구상해 더 큰 최적화 효과를 빠르게 찾는 것을 목표로 함
- 일상 사용자들이 ChatGPT를 폭넓게 활용하는 사례—예를 들어 미용사, 부동산 중개인, 세무사, 양봉업자—를 통해 기술의 사회적 확산을 실감
- 26회의 인터뷰를 거쳐 여러 AI 기업의 엔지니어링 수준을 비교했으며, OpenAI의 인재 밀도와 협업 환경이 가장 인상적이었다고 평가
- OpenAI에서의 역할을 통해 지구적 규모의 효율성 향상과 지속 가능성 확보에 기여할 수 있는 기회를 인생의 전환점으로 인식
AI 데이터센터와 성능 엔지니어링의 과제
- AI 데이터센터의 비용과 성장 속도가 역사상 유례없이 빠르며, 단순한 비용 절감이 아니라 지구 환경 보호의 문제로 인식
- OpenAI에서 이 문제를 직접 해결하기 위해 합류, 초기에는 ChatGPT 성능 개선에 집중
- 기존 성능 엔지니어링의 한계를 넘어 더 큰 최적화와 빠른 개선을 위한 새로운 접근법을 모색
- 대규모 환경에서도 변화를 가로막는 제약이 거의 없는 개방적 구조를 강조
- “무엇이든 시도하고, 규모 있게, 지금 당장 실행하라”는 태도로 설명
ChatGPT의 일상적 확산과 개인적 계기
- AI 채택에 회의적이던 중, 미용사 Mia와의 대화에서 ChatGPT의 대중적 사용을 직접 체감
- Mia는 친구의 여행지 정보를 ChatGPT로 확인하며 정서적 연결감을 유지하는 등 다양한 활용 사례를 공유
- ChatGPT의 기억 기능을 사람과 대화하는 듯한 경험으로 묘사
- 부동산 중개인, 세무사, 양봉업자 등도 ChatGPT를 실무에 적극 활용
- 예: 양봉업자는 소규모 사업 서류 작업을 ChatGPT로 처리
- 이러한 경험을 통해 ChatGPT가 일상 도구로 자리 잡았음을 깨닫고, 기술적 기여의 사회적 의미를 확신
OpenAI 선택의 이유와 인터뷰 과정
- 여러 업계 전문가의 추천으로 OpenAI를 포함한 AI 기술 대기업들과 26회 인터뷰 진행
- Netflix 시절과 유사한 대규모 클라우드 환경과 빠른 코드 변경, 엔지니어 자율성을 발견
- GPU뿐 아니라 전체 기술 스택 전반의 성능 문제를 다루는 폭넓은 과제 존재
- OpenAI에는 이미 알고 지내던 유능한 엔지니어 동료들이 다수 근무
- Netflix 동료 Vadim 등과의 협업 경험이 합류 결정에 긍정적 영향
- OpenAI에는 이미 숙련된 성능 엔지니어 팀이 존재하며, 자신은 그중 “가장 최근에 합류한 사람”이라고 언급
어린 시절의 꿈 ‘Orac’과 AI의 연결
- 어린 시절 영국 SF 드라마 Blake’s 7의 슈퍼컴퓨터 Orac에 매료되어 AI 개발을 꿈꿨던 경험 회상
- 대학 시절 자연어 처리 소프트웨어를 직접 개발하려 했으나 메모리 제약으로 중단
- ChatGPT를 사용하면서 Orac을 떠올리고, ChatGPT가 Orac의 성격을 완벽히 재현하는 답변을 보여 감탄
- 이후 ChatGPT 설정에서 Orac 모드로 개인화해 사용 중
-
Blake’s 7의 리부트 소식도 함께 언급
OpenAI에서의 현재와 향후 계획
- 현재 시드니에서 원격 근무 중이며, ChatGPT 성능 엔지니어링 팀의 Member of Technical Staff로 활동
- 초기 프로젝트는 조직 간 협업을 통한 성능 개선 및 비용 절감 전략 수립
- eBPF, Ftrace, PMC 등 기존 기술을 OpenAI의 필요에 맞게 적용할 계획
- Codex를 코딩 외의 다양한 작업에도 활용 중
- Intel 퇴사 후 Linux Plumber’s Conference에서 많은 이들이 향후 행보를 궁금해했으며, 이를 계기로 본 글을 작성
- 마지막으로 미용사 Mia에게 다시 ChatGPT 사용 여부를 묻자, “24시간 내내 사용한다” 는 답변을 들었다고 전함
- 글은 개인적 기록이며 회사 요청이 아닌 자발적 작성임을 명시