#8 [UPDATE] OpenAI 쿠데타? 주말 동안 펼쳐진 시빌 워

주요 이벤트 정리

• 11/17 금요일 저녁: 오픈AI는 블로그를 통해 샘 알트만 대표가 떠나고 CTO인 Mira Murati가 임시적으로 대표직을 맡는다고 발표했다. 이사회는 샘 알트만 대표가 “정직하지 못했다”고 한다. 또한, OpenAI의 넘버2인 이사회 의장 Greg Brockman 또한 이사회 의장직에서 내려온다고 발표한다.

• 같은 날 저녁, Greg Brockman은 샘 알트만을 따라 오픈AI를 퇴사한다고 발표한다. 그 외 오픈AI 주요 시니어 엔지니어들 또한 퇴사한다.
• Jakub Pachocki - Director of Research
• Aleksander Madry - Head of AI Risk
• Szymon Sidor - 오픈AI 7년차 리서처

• Co-Founder 중 한 명이자 Chief Scientist인 Ilya Sutskever가 쿠데타를 일으킨 것으로 알려졌다. Ilya는 AI 분야에서 선구적인 인물로 오픈AI 내 많은 Breakthrough 리서치를 리드해왔다. Ilya는 오픈AI가 샘 알트만과 Greg Brockman 체제 하에 “인류를 위한 안전한 AI”란 본연의 미션을 잃고 상업화에만 집중 한다는 것에 대해 이견이 큰 것으로 알려졌다.

• Ilya는 그동안 트워터를 통해 불만을 조금씩 표출해왔다. 가디언 인터뷰 영상에서 AGI에 대한 Ilya의 생각을 엿볼 수 있다. Ilya는 AGI와 인류의 관계와 우리와 동물들의 관계를 비유한다. Ilya는 AGI에 대해 Dystopian 시각을 갖고 있는 듯 하다.
• “It’s highly likely that those systems(AGIs) will have completely astronomical impact on our society. Will humans actually benefit? And who will benefit and who will not?”
• “The beliefs and desires of the first AGIs will be extremely important and so it’s important to programme them correctly. I think that if this is not done, then the nature of evolution, of natural selection, favor those systems, prioritize their own survival above all else.”
• “I think a good analogy would be the way humans treat animals. It’s not we hate animals… but when the time comes to build a highway between two cities, we are not asking the animals for permission - we just do it because it’s important to us; and i think by default, that’s the kind of relationship that’s going to be between us and AGIs which are truly autonomous and operate on their behalf.”

• 특히 DevDay에서 공개된 GPT 터보, GPTs, Assistant API 등의 프로덕트가 충분한 준비와 보호장치 없이 상업화를 밀어붙인 것이 “Final Straw”였다고 추측되고 있다. 최근 마이크로소프트가 직원들에게 ChatGPT 액서스를 제한한다던지, GPT-4 Turbo의 신규 고객을 받지 않는다던지 등 누리꾼들은 꽤나 치명적인 보안 이슈가 있었다고 추측하고 있다.

• 한 Reddit 유저는 오픈AI가 준비되지 않은 프로덕트를 너무 빨리 상용화해서 이러한 큰 이슈들이 발생하기 시작했고 Ilya의 “오펜하이머 모먼트”를 촉발했다고 말한다.

• 11/18 토요일 오전: 오픈AI 이사회는 샘 알트만, Greg Brockman 등 퇴사한 임직원들을 다시 데려오기 위해 노력 중이라고 발표했다. 직접적인 권력을 행사할 수 없지만 주요 파트너인 마이크로소프트, 재무적 투자자인 Thrive Capital, Sequoia, Tiger Global 등이 샘 알트만 해임에 반발이 있었다고 한다. Khosla Ventures의 대표인 Vinod Khosla는 샘 알트만을 공개적으로 지지하기도 했다.

• 11/18 토요일 오후: 오픈AI의 임직원들은 이사회에게 토요일 오후 5시까지 사임하고 샘 알트만과 Greg Brockman을 데려오라고 요구한다. 오후 5시 기한이 넘긴 했지만 이사회는 요구를 받아들이겠다고 선언했다. 만약에 샘 알트만이 제안을 받지 않고, 새로운 스타트업을 시작할 경우, 많은 임직원들이 따라갈 것으로 보인다.

어떻게 이런 쿠데타가 가능했는가?

• 오픈AI는 크게 1) 비영리 법인(OpenAI, Inc.)과 2) 투자유치와 영리활동이 가능한 영리 법인(OpenAI Global, LLC)으로 나뉘어져 있다.

• 주로 이사회는 주주가치를 보호하기 위한 기구이기 때문에 투자자들이 이사회에 들어가는 경우가 많다. 하지만, OpenAI Global의 모회사인 Open AI, Inc.는 “인류를 위한 안전한 AGI”의 연구개발을 도모하는 “비영리 단체”이다. OpenAI의 실질적인 권한 행사를 하는 이사회 구성원들은 OpenAI에 대한 지분이 거의 없으며 주주가치 보다 비영리단체의 가치(prioritize the purposes of its nonprofit entity over maximizing profits to build safe AGI, preventing OpenAI from engaging in activities that would jeopardize the company's non-profit status)를 실현 시키는 것이 목적인 사람들이다.

• 대표인 샘 알트만과 이사회 의장인 Greg Brockman 외 4명의 이사들이 쿠데타를 일으켰다. 이사회 6명 중 4명, 즉 과반을 얻으면 권한을 행사할 수 있다. 쿠데타에 참여한 인원들은 Ilya 외 모두 사외이사이며 Ilya는 이 3명을 설득해 쿠데타를 진행할 수 있었다.

시사점

• 샘 알트만이 오픈AI로 돌아올지는 아직 모른다. 돌아올 경우, 오픈AI의 방향성은 크게 바뀔 것으로 예상된다.

• 먼저, 오픈AI는 이러한 권한행사를 가능하게 만든 조직 구조를 무조건적으로 손을 볼 것으로 보인다. 벤처투자자들이야 그렇다 쳐도 투자 전에 마이크로소프트와 같은 대기업이 이런 구조를 용인한 것은 놀랍다. 금전적인 이해관계 하나 없는 이사회가 $86B 기업가치의 회사를 쥐락펴락 할 수 있는 것은 더 이상 용인하지 않을 것이다. 이제 이 것을 손 볼 명분까지 생겼다.

• 마이크로소프트와 같이 큰 대기업이 이런 구조의 리스크에도 투자한 이유는 맘에 들진 않았지만 “그럼에도 불구하고” 최고의 인력과 압도적인 기술력이 있었기 때문이라고 본다. 샘 알트만이 돌아온다면 Ilya의 쿠데타는 완패로 돌아간다. AI안전과 속도조절을 주장한 파벌은 약해지고 오픈AI는 고삐 풀린 말처럼 더욱 공격적으로 프로덕트를 상용화할 것으로 본다. 이는 마이크로소프트와 오픈AI의 주주가치에 긍정적인 효과로 작용할 것이다.

• 샘 알트만은 이제 “Too Big to Fail” 존재가 된 것으로 보인다. 일론 머스크와 같이 정치인이 아니면서도 세계에서 가장 큰 권력을 휘두를 수도 있는 사람이 될 것으로 보여진다.

Conclusion

• AI 개발과 상용화 방향성에 대해선 AI 산업의 최고 권위자들도 쉽게 합의할 수 없는 문제이다. 일론 머스크, Anthropic의 co-founder들 모두 OpenAI에 한 때 몸담고 있다가 이 의견 충돌로 나와서 자체 AI회사를 차린 바 있다.

• 게다가 샘 알트만은 Y Combinator 대표 출신 “기업가”이다. Ilya는 평생 AI 개발에 매진한 “연구원”이자 “학자”이다. 의견 대립이 있는 것은 놀라운 일이 아니고 이런 이벤트가 마지막도 아닐 것이다. 오히려 건강한 현상이라고 생각한다.

• 하지만 이 대목에선 Ilya의 문제 해결 방식에 대해 매우 순진(naive)했다고 생각한다. 투자자들의 반발은 예상했어도 임직원들까지 샘 알트만 편을 드는 예상은 하지 못한 것 같다.

• 샘 알트만은 오픈AI를 2019년 $1B 회사에서 3년 만에 현재 $86B 거인으로 만든 장본인이다. 물론 인류를 위한 AGI를 만드는 미션이 큰 부분을 차지하겠으나, 임직원 입장에선 샘 알트만은 자신을 부자로 만들어주고 내 사회적 가치를 올려주는 사람이다. 또한, 내 혁신 창작물을 가장 빠르게 세상 사람들에게 전달하고 사용하게 해줘 성취감을 안겨준다. 임직원 입장에서 이 보다 더 좋은 리더가 있을까?

• 단기적으론 이번 이벤트 이후 샘 알트만이 돌아오지 않는다면 현재 진행 중인 텐더오퍼로 큰 Pay Day를 기대한 임직원들은 큰 손실을 보게 될 것이다. 나 같아도 샘 알트만을 응원할 것 같다.

• Ilya의 의도를 공감하지 못하는 것은 아니다. 하지만 세상은 철저한 자기중심적인 이해관계로 돌아간다. Ilya가 쿠데타에 패배한 가장 큰 이유라고 생각한다.

2023-11-20 업데이트:

• 샘 알트만과 Greg Brockman이 돌아오는 것에 대한 협상을 위해 오픈AI 본사를 찾았다는 얘기네요. Ilya의 쿠데타는 완패로 돌아가는 것으로 보입니다.

• 샘 알트만은 오픈AI 본사를 Guest 뱃지로 들어오자 X를 통해 오픈AI를 들어오던, 새로운 스타트업을 시작하던 “처음이자 마지막으로 출입증을 입는다”라고 말합니다. 자신감이 살아있네요.

• 위에서 언급한 바와 같이 투자자들과 샘 알트만은 오픈AI의 지배구조를 손 볼 것으로 보입니다. 이젠 재무적 투자자와 마이크로소프트까지 오픈AI의 고귀한 설립 미션을 재껴둘 “명분”까지 생겼습니다. 마이크로소프트와 Sequoia Capital 등 재무적 투자자 또한 이사회 의석, 또는 Board Observer(참관인)를 가져가겠다는 내용입니다.

• Ilya는 샘 알트만이 돌아오지 않는다고 내부적으로 발표하였습니다. 오픈AI 몰락의 시작일까요? 분명한 것은 경쟁 AI 업체들은 환호하고 있습니다. 하지만 아직 끝난 것은 아니라고 봅니다.

• 오픈AI 인력들의 Exodus가 시작되고 있습니다.

• 샘 알트만과 Greg Brockman이 마이크로소프트의 AI 리서치팀을 조인한다는 소식입니다. 오픈AI와 마이크로소프트의 어떤 의미가 있을지.. 지켜봐야 할 것 같습니다. 이번 계기로 마이크로소프트는 오픈AI란 스타트업의 의존도를 줄이고 직접적으로 AI 시장 경쟁에 뛰어드는 시발점이 될까요? AI 산업은 구글과 마이크로소프트란 두 거대한 공룡들로 재편될까요?

2023-11-22 업데이트:

• 돌고 돌아 샘 알트만이 대표로 다시 돌아온다는 소식입니다.. 새로운 이사회는 일단 Bret Taylor(Salesforce 대표), Larry Summers(전 미국 재무부 장관), Adam D’Angelo(Quora 대표) 구성될 것으로 보입니다. 기존 이사회 멤버 중 Adam만 남았네요.