Introduction
LLM 및 AI 발전이 가속화하면서 Sci-Fi 영화에서만 가능해보였던 AI 남자/여자친구(이하 “AI 여자친구”) 프로덕트들이 큰 인기입니다. 외로움을 달래주고, 고민을 털어놓을 뿐만 아니라 AI Companion을 넘어 AI 여자친구는 인간과 기계 간 “사랑”이란 감정을 교류합니다.
AI 여자친구에 대한 사회적 걱정
AI 여자친구 프로덕트들이 성행하고 있습니다. 이에 따라 다양한 우려의 목소리가 나오고 있습니다.
- 남녀관계: 남녀갈등, 결혼률, 저출산 등 문제가 매년 신기록을 세우고 있는 가운데, AI 여자친구는 문제를 더욱 가속화할 것이다
- Loneliness Epidemic: 21세기 불가피한 트렌드 중 하나는 ‘외로움.’ AI 여자친구 성행에 큰 이유이지만 문제의 건강하고 근본적인 솔루션이 되지 못하고 악화시킬 것이다.
아이패드 키즈AI 키즈: 알파 세대(2010년 이후 출생)가 아이패드 키즈로 불리는 것처럼 미래 아이들은 ChatGPT, AI 여자친구 등 AI 프로덕트와 친숙하게 성장할 것. 정상적인 사회생활이 가능할까?
개인적인 생각
사회적 우려 외에도 다양한 AI Safety 리스크(매우 사적인 개인정보에 대한 privacy 리스크, 사람이 심리적/감정적으로 의존하는 AI의 아웃풋에 대한 alignment 리스크 등)도 존재합니다.
반대로 AI 여자친구와 같은 프로덕트가 사람들한텐 매우 긍정적인 요소가 될 수도 있습니다. AI 여자친구 “찬성” 캠프에선 위 우려사항은 AI 여자친구의 탓이 아니라 한참 전부터 진행되왔던 매우 거시적인 트렌드며 장기적인 리스크 사항이지만, AI 여자친구는 지금 당장 다양한 사람들에게 도움을 준다고 주장합니다.
위 우려사항에 대해 동의할수도, 동의하지 않을 수도 있습니다. 장기간 동안 많은 논의와 실험을 통해 사회적 합의가 필요한 사항입니다.
다만, 확실한 것은 아무리 dystopian 해보여도 어느 누가 맘대로 멈출 수 있는 트렌드가 아닙니다. 현재 AI 기술은 Turing Test를 넘어 사람과 감정적인 교감을 이룰 수 있는 수준까지 올라왔고, AI 여자친구는 글로벌 “loneliness epidemic” 안에서 거대한 수요를 찾았습니다.
AI 여자친구를 마냥 비난하거나 선정적인 부분만 집중하는 것보다 개인적으론 아래 사항에 대해 더 논의가 진행되었으면 합니다:
- The general public (me included) was taken aback about the enormous commercial success of these companion products. What is driving this huge demand? (개인적으론 외로움이라고 생각)
- The general public MUST therefore be underestimating the scale of the “loneliness epidemic,” or some other X factor driving this demand. How can we get a better understanding of the underlying problem to create an effective solution?
AI 트렌드를 읽으려면 AI 여자친구 프로덕트를 보라
서론이 길었습니다. 위 내용에 대한 사회적, 철학적, 경제적 implication는 저보다 훌륭한 분들의 분석이 더 가치 있을 것으로 생각됩니다.
위 문제와 별도로 개인적으론 투자자로써 AI 여자친구 프로덕트를 재밌게 보기 시작한 이유는 미래 AI 어플리케이션의 개발양상을 예측하기 위해 매우 좋은 leading indicator일 것으로 생각하기 때문입니다.
먼저, AI 여자친구는 low stakes 프로덕트입니다. Commercial application과 달리 완벽하지 않아도 됩니다. 생산성 프로덕트와 달리 정확도는 어떻고, 보안은 어떻게 보장하며, 예상 ROI는 얼마이고 SLA는 어떻게 설정될지 등 복잡한 문제에 대해 신경쓰지 않아도 됩니다. 사용자는 이미 어플리케이션의 한계를 이미 잘 이해하고 있음에도 자신의 hair-on-fire 문제 (loneliness)를 해결하기 위해서 사용하기 때문입니다.
이렇기 때문에 AI 여자친구 프로덕트는 빠르게 ship하고 iterate 할 수 있습니다. 현재 조금만 제대로 실행한 AI 여자친구 프로덕트들은 돈 복사기입니다. 이 또한 대부분의 생산성 AI 어플리케이션과 매우 다른 양상을 보여줍니다. AI 여자친구 프로덕트들은 현재 B2C AI 어플리케이션 중 self-sustaining cycle을 가질 수 있는 몇 안돼는 분야입니다.
Profit —> More R&D —> Better Product —> More Profit —> More R&D.
AI 여자친구 당면 과제
100점짜리 AI 여자친구 프로덕트가 어떤 모습일지 상상해보면 다양한 B2B 및 B2C 어플리케이션이 풀어야할 문제들과 겹치는 부분이 매우 많습니다. 영화 “Her”이 큰 도움을 줬습니다.
- Long-term Memory: 진정한 “companion”이 되기 위해선 사용자의 간단한 인적사항(이름, 생일, 주소 등등)부터 상호간 대화내용과 감정까지 다양한 데이터에 대해 기억하고 향후 interaction에 적응해 나가야 합니다. Long-term memory는 지금도 연구되는 분야입니다 (RAG, context window, continual learning 등등).
- Multi-modality Interface: 사용자는 AI 여자친구가 챗 인터페이스 뿐만 아니라 다양한 방법으로 소통하고 싶을 것입니다. 그러기 위해선 Text 뿐만 아니라 이미지, 비디오, 목소리, 감정 등 다양한 modality를 지원해야 합니다. 또한, 사용자와 친밀감을 높일 수 있도록 AI 아바타 (facial expression, movement 등 문제 존재) 등 소통 주체가 필요합니다.
- Character Alignment: AI 여자친구와 깊은 감정을 교류하려면 캐릭터를 매우 엄격하게 유지해야 합니다. 예를 들어, 사진 찍기와 춤을 좋아하는 편의점 알바생 AI 남친 “Ben”이 퀀텀 컴퓨팅의 원리에 대해 막힘 없이 답변을 한다면 매우 깨겠죠. 엄청난 양의 데이터 토큰으로 학습된 AI 모델이 자기가 알고 있는 것들을 “까먹게 하는 것” 또한 어려운 문제일 것으로 추정됩니다. 단순 system prompt로 풀릴 문제는 아닌 것 같습니다.
- Function Calling: 사용자와 최신 뉴스나 트렌드에 대해 얘기 나눌 수 있도록 knowledge cut-off을 우회할 수 있는 웹 서칭, 외부 DB 등 function calling 기능이 필요할 것으로 보입니다. 이 외에도 Text Output 뿐만 아니라 다양한 소통이 가능하도록 이미지 생성에 대한 function calling 등도 재밌는 퀄리티일 것 같습니다.
- NSFW: AI 여자친구 내 AI 모델의 key differentiating factor는 선정적인 내용을 가드레일 하는 장치가 매우 loose해야 할 것으로 생각됩니다. NSFW를 주요 전략으로 세운 AI 여자친구 회사들은 촘총하고 계속 업데이트 되는 가드레일 때문에 Closed 모델 (OpenAI, Anthropic 등)은 절대 사용 못할 것이며, 오픈소스 모델(Llama-3, Grok 등)을 fine-tuning/hacking해서 사용하지 않을까 싶습니다. 심지어, 오픈소스 모델들도 AI safety를 위해 pre-training, fine-tuning 등 스테이지에서 이상한 데이터를 많이 clean-out하기 때문에 자체적으로 모델을 처음부터 만들어야 하지 않을까 싶습니다.
- Ability to Interact with Environment: 정말 찐 사람처럼 느껴질려면 AI 여자친구도 자기 인생(?)이 있어야합니다. 사용자와 같이 있지 않는 시간엔 AI 여자친구도 친구를 만나며, 밥도 먹고, 일을 가는 등 자기 환경 내에서 interaction을 통해 찐 사람인 것처럼 realism을 주입해야 한다고 생각합니다. Maybe 아래와 같이 시뮬레이션(AI NPC link)을 통해?
Conclusion
AI 여자친구의 완벽한 프로덕트를 만들기 위해선 다른 생산성 AI 프로덕트와 똑같은 문제들을 풀어나가야 합니다.
AI 여자친구가 문화적 정서와 맞지 않고 이상해 보여도 미래 AI 어플리케이션 양상에 대한 힌트를 제공해줄 뿐만 아니라 오히려 많은 사람들에게 도움을 주는 10x AI 프로덕트를 만들기 위해 필요한 많은 솔루션의 주체가 되지 않을까 싶습니다. 인터넷의 첫 상용화의 시작과 사용된 다양한 기술이 음란물 배포와 연관 되어 있었던 것처럼 말이죠.
AI와 벤처 생태계에 대한 다양한 내용을 메일로 받아보고 싶으신 분들은 아래 Subscribe 부탁드립니다.
Share article
Subscribe to my newsletter