Move 37 - 불가항력적 AI 발전에 우리가 대비해야 할 것들(feat. 이세돌)
Mar 03, 2025
알파고와 Move 37
2016년 3월 10일 첫 번째 패배의 충격 속에 이세돌과 알파고의 두 번째 대국이 시작되었다.
초반은 비교적 정석대로 진행되었지만, 알파고가 둔 37번째 수는 모두를 경악시켰다. 생중계를 하던 해설진마저 당혹감을 감추지 못했다.
- 김성룡 9단: "지금 어디에 뒀죠?"
- 이희성 9단: "충격적인 자리에 뒀어요." "지금까지 본 수 중에 가장 충격적인 수 같은데요. 이 수는 조금 이상하다고 얘기해야 되는 것 아닌가요?"
- 최유진 아나운서: "뭐 이상하다기 보다는 그냥, 없는 수예요. 프로의 감각에서는 생각하기조차도 힘든 수가 나왔습니다."
이세돌 역시 혼란스러워하며 다음 수를 결정하는 데 무려 15분을 고민했다.
대국이 진행될수록 알파고의 37수는 놀랍게도 승리를 위한 핵심 포석이 되었고 결국 이세돌은 패배했다.
이른바 "Move 37"은 딥러닝의 잠재력을 극적으로 보여준 사례로, AI 산업계의 상징적인 사건으로 지금까지도 회자된다.
경기는 4승 1패, 알파고의 승리로 막을 내렸다.
씁쓸한 교훈 (The Bitter Lesson)
알파고가 기존 모델들과 달리 큰 성능 도약을 할 수 있었던 이유는 무엇일까?
AI 대가 리처드 서튼(Richard Sutton)은 그의 유명한 에세이 "The Bitter Lesson"에서 "인간이 설계한 지식이나 개입을 최소화하고, 대신 모델이 강력한 컴퓨팅 파워를 활용해 스스로 데이터와 경험을 통해 학습하도록 해야 한다"고 주장했다.
예를 들어, 초기 바둑 AI 개발자들은 “두터운 세력 형성하기” “빈삼각형 모양 피하기” 등 바둑 heuristics(경험 기반의 규칙)나 직관을 bias로 알고리즘에 넣었다. 하지만 리처드 서튼은 이러한 인간의 직관적 bias가 오히려 발전을 제한하며, 고성능 하드웨어를 기반한 무제한적 탐색(MCTS)과 학습방식(self-play)이 결국 더 뛰어난 성과를 낸다고 주장하는 것.
이러한 관점의 전환 덕분에 알파고는 “Move 37”와 같은 기존 바둑의 상식을 뛰어넘는 창의적이고 혁신적인 수를 둘 수 있었던 것이다.
이는 바둑뿐 아니라 체스, 컴퓨터 비전, 음성 인식 등 모든 AI 분야에서도 마찬가지였다. 결국 인간의 직관적 개입보다는 컴퓨팅 파워와 데이터 기반의 단순하고도 강력한 접근이 AI의 큰 도약을 만들어냈다.
“The models… they just want to learn.” Dario Amodei (Anthropic 대표)
과거 AI 업계에는 언어학, 심리학 등 인문학적 배경의 연구자들이 활발히 참여했지만, 현재 이들의 역할은 현저히 줄어들고 있다. 사람이 정교하게 설계한 휴리스틱과 bias보다 결국 scaling law 앞에 뒤처지고 있기 때문이다.
인간이 세상을 이해하는 방식으로 AI에게 주입하는 방법은 틀렸던 접근이다. 리처드 서튼은 다음과 같이 지적한다.
The second general point to be learned from the bitter lesson is that the actual contents of minds are tremendously, irredeemably complex; we should stop trying to find simple ways to think about the contents of minds… They are not what should be built in, as their complexity is endless; instead we should build in only the meta-methods that can find and capture this arbitrary complexity… We want AI agents that can discover like we can, not which contain what we have discovered. Building in our discoveries only makes it harder to see how the discovering process can be done.
이 lesson은 쓰라리다. 여전히 사람들은 이 “씁쓸한 교훈”에 저항하고 있다. 인간이 필수적이라 믿어온 직관과 전문성이 사실상 그렇게 중요하지 않고 대규모 컴퓨팅 파워 앞에 밀려나는 현실을 받아들여야 하기 때문이다.
인류의 “패배”?
“이세돌의 패배지, 인류의 패배는 아니다.” 이세돌이 패배 후 밝힌 소감이다.
그러나 전 세계 바둑 팬들은 인간의 고유능력으로 여겨지던 창의성, 전략적 사고, 직관력을 AI가 뛰어넘었다는 점에서 충격과 씁쓸함을 동시에 느꼈다. 이로 인해 인간의 정체성에 대한 근본적인 질문이 제기되었다.
대체불가능하다고 생각되어 왔던 인간의 고유 역량을 기계가 뛰어넘을 수 있다면, 인간을 어떻게 정의해야 하는가?
게다가 AI 발전 과정에서 인간의 역할은 계속 축소되고 있다. 많은 이들이 데이터 부족으로 AI 발전이 결국 정체될 것으로 기대하지만, 이는 잘못된 판단이다. AI 발전의 관건은 단순한 데이터의 양이 아닌 '질'이며, 최고 수준의 전문가 지식(annotation)이 필요할 뿐이다. 이미 상당 부분은 합성 데이터로 대체되고 있으며, 결국 전문가 수준의 지식까지 AI가 습득하는 순간, AI 개발 과정 자체가 완전히 자동화될 날이 머지않았다.
모델 성능은 기하급수적으로 좋아지고 있다. 기업들이 앞다퉈 CapEx와 연구인력을 투입하고 있다. AGI에 대한 지불용의는 무제한이기 때문에 몇 백조 규모의 투자는 정당하다고 생각하기 때문이다.
이에 힘 입어 AI는 더 빠르고, 더 저렴하고, 더 똑똑해질 것이다. 이세돌이 언급한 “인간의 패배”는 우리 코 앞에 와있다.
인류의 미래에 대한 고민
AI는 막대한 경제적 번영을 가져올 것이다. 하지만 나처럼 AGI(인공 일반 지능)와 ASI(초지능 AI)의 도래를 믿는 사람들은 이면의 불편한 진실과 마주해야 한다.
- AI가 대부분의 일자리를 대체하면, 사람들은 생계를 어떻게 유지할 것인가?
- 일이 사라지면 사람들은 자신의 존재 가치를 어디에서 찾을 것인가?
- AGI와 같은 엄청난 권력을 누가 통제할 것인가? 정부인가, 기업인가, 아니면 국민인가?
이 질문에 쉬운 답은 없다. 우리는 이 현실을 외면하지 말고, 적극적으로 논의하고 실험하며 대비해야 한다.
Universal Basic Income(기본소득)이 한 예시이다. 미국에선 민간 주도 하에 다양한 사회적 실험을 진행하고 있다. 최근엔 Universal Basic Compute에 대한 얘기도 있다. 개인적으로는 UBI보다 UBC가 더 흥미로운 접근법이라고 생각한다.
일론 머스크의 X와 Grok도 한 예시이다. 이들은 표현의 자유를 보호하고 특정 정부나 기업, 또는 편향된 이념으로부터 자유로운 플랫폼과 AI를 개발하는 것을 목표로 하고 있다.
리딩 기업들이 폐쇄적(closed) 접근을 고수하는 상황에서, 이 들을 견제하기 위한 오픈소스 움직임 또한 활발히 진행 중이다. 허깅페이스라는 플랫폼 위에선 전세계 개발자들이 자신의 지식, 연구성과, AI 모델, 데이터셋, 어플리케이션을 아낌 없이 공유하고 있다.
Disclaimer: 내가 소속된 미래에셋에선 위 회사에 모두 투자한 바 있다.
한국의 고민
외국에선 이러한 논의가 활발히 진행되고 미래를 만들어나가고 있는 가운데, 안타깝게도 한국은 보이지 않는다. AI 윤리, 발전, 상품화 등에 관한 국제적 논의와 경쟁에서 한국은 소외되어 있다.
위에서 언급한 문제들에 더해, 한국은 거대국들 사이에서 우리만의 고유한 문제에도 직면해 있다. 그야말로 첩첩산중이다.
- AI가 이끄는 '지능과 자동화의 시대'에 컴퓨팅 파워는 석유와 같다. 한국이 글로벌 경쟁력을 확보하기 위해 이 필수 자원을 어떻게 확보할지 고민해야 한다. 외교 전략 수립부터 소버린 AI(Sovereign AI) 확보까지 국가적 차원의 대응이 절실하다.
- AI는 우리의 삶 곳곳에 깊이 침투할 것이다. 타국의 이념이나 사상에 종속되지 않고, 독립적이고 자율적인 인공지능을 구축하는 방법을 모색해야 한다. 어느 날 미국이나 중국이 최고 수준의 AI모델 접근을 끊어버릴 수도 있다는 리스크에도 대비해야 한다.
- 인터넷 혁명에 버금가는 AI 패러다임 전환 속에서 우리 기업이 글로벌 무대에서 기회를 잡을 수 있도록 전략적, 제도적 지원을 고민해야 한다.
한국도 미래를 준비하고 우리의 생존 전략을 찾기 위해 더 격렬하게 토론하고 실험하며 행동해야 한다. 글로벌 경쟁에 참여해야 한다.
이 글을 읽은 모든 이들이 적극적으로 논의에 참여해 주기를 진심으로 바란다.
스타트업 종사자 및 벤처투자자들을 위해 작은 오픈채팅방(<200)을 개설했습니다. 단순 뉴스클립이 아니라 깊은 공부와 고민이 필요한 주제에 대해 다뤄볼 예정입니다.
*익명 참여 가능, 광고 X, 스팸 X
카톡방 링크: jasonlee snippets 오픈채팅방
PW: 0852
내용 예시: Archive 링크
Share article
Jason 블로그 구독하기
