Scribbles: AI 트렌드를 읽기 위해선 AI 여자친구를 보라

Introduction

AI 여자친구에 대한 사회적 걱정

• 남녀관계: 남녀갈등, 결혼률, 저출산 등 문제가 매년 신기록을 세우고 있는 가운데, AI 여자친구는 문제를 더욱 가속화할 것이다

• Loneliness Epidemic: 21세기 불가피한 트렌드 중 하나는 ‘외로움.’ AI 여자친구 성행에 큰 이유이지만 문제의 건강하고 근본적인 솔루션이 되지 못하고 악화시킬 것이다.

• 아이패드 키즈 AI 키즈: 알파 세대(2010년 이후 출생)가 아이패드 키즈로 불리는 것처럼 미래 아이들은 ChatGPT, AI 여자친구 등 AI 프로덕트와 친숙하게 성장할 것. 정상적인 사회생활이 가능할까?

개인적인 생각

• The general public (me included) was taken aback about the enormous commercial success of these companion products. What is driving this huge demand? (개인적으론 외로움이라고 생각)

• The general public MUST therefore be underestimating the scale of the “loneliness epidemic,” or some other X factor driving this demand. How can we get a better understanding of the underlying problem to create an effective solution?

AI 트렌드를 읽으려면 AI 여자친구 프로덕트를 보라

AI 여자친구 당면 과제

• Long-term Memory: 진정한 “companion”이 되기 위해선 사용자의 간단한 인적사항(이름, 생일, 주소 등등)부터 상호간 대화내용과 감정까지 다양한 데이터에 대해 기억하고 향후 interaction에 적응해 나가야 합니다. Long-term memory는 지금도 연구되는 분야입니다 (RAG, context window, continual learning 등등).

• Multi-modality Interface: 사용자는 AI 여자친구가 챗 인터페이스 뿐만 아니라 다양한 방법으로 소통하고 싶을 것입니다. 그러기 위해선 Text 뿐만 아니라 이미지, 비디오, 목소리, 감정 등 다양한 modality를 지원해야 합니다. 또한, 사용자와 친밀감을 높일 수 있도록 AI 아바타 (facial expression, movement 등 문제 존재) 등 소통 주체가 필요합니다.

• Character Alignment: AI 여자친구와 깊은 감정을 교류하려면 캐릭터를 매우 엄격하게 유지해야 합니다. 예를 들어, 사진 찍기와 춤을 좋아하는 편의점 알바생 AI 남친 “Ben”이 퀀텀 컴퓨팅의 원리에 대해 막힘 없이 답변을 한다면 매우 깨겠죠. 엄청난 양의 데이터 토큰으로 학습된 AI 모델이 자기가 알고 있는 것들을 “까먹게 하는 것” 또한 어려운 문제일 것으로 추정됩니다. 단순 system prompt로 풀릴 문제는 아닌 것 같습니다.

• Function Calling: 사용자와 최신 뉴스나 트렌드에 대해 얘기 나눌 수 있도록 knowledge cut-off을 우회할 수 있는 웹 서칭, 외부 DB 등 function calling 기능이 필요할 것으로 보입니다. 이 외에도 Text Output 뿐만 아니라 다양한 소통이 가능하도록 이미지 생성에 대한 function calling 등도 재밌는 퀄리티일 것 같습니다.

• NSFW: AI 여자친구 내 AI 모델의 key differentiating factor는 선정적인 내용을 가드레일 하는 장치가 매우 loose해야 할 것으로 생각됩니다. NSFW를 주요 전략으로 세운 AI 여자친구 회사들은 촘총하고 계속 업데이트 되는 가드레일 때문에 Closed 모델 (OpenAI, Anthropic 등)은 절대 사용 못할 것이며, 오픈소스 모델(Llama-3, Grok 등)을 fine-tuning/hacking해서 사용하지 않을까 싶습니다. 심지어, 오픈소스 모델들도 AI safety를 위해 pre-training, fine-tuning 등 스테이지에서 이상한 데이터를 많이 clean-out하기 때문에 자체적으로 모델을 처음부터 만들어야 하지 않을까 싶습니다.

• Ability to Interact with Environment: 정말 찐 사람처럼 느껴질려면 AI 여자친구도 자기 인생(?)이 있어야합니다. 사용자와 같이 있지 않는 시간엔 AI 여자친구도 친구를 만나며, 밥도 먹고, 일을 가는 등 자기 환경 내에서 interaction을 통해 찐 사람인 것처럼 realism을 주입해야 한다고 생각합니다. Maybe 아래와 같이 시뮬레이션(AI NPC link)을 통해?

Conclusion