렛서 AI팀 인턴이 Staix을 활용하여 AI 서비스 개발하고 안정적으로 운영하기
렛서 AI팀 인턴 한재석입니다.
안녕하세요 렛서 AI팀 인턴으로 재직하고 있는 한재석입니다.
숭실대학교 수학과에 재학하고 있고, 최근 AI반도체 기술인재 선발대회에서 퓨리오사 NPU를 활용하여 라이브 스트리밍 개인정보보호 솔루션을 제안했고 최우수상을 수상했습니다.
빠르게 AI가 발전하면서 체감 성능이 급증하는 상황에서, 실제 기업들과 대중들이 활용하는 AI를 개발하는 경험을 해보고 싶었습니다. 수상소식을 듣고 마침 대표님이 직접 연락주시고 제안을 주셔서, 렛서 AI팀 프로세스를 거쳐 인턴으로 입사하게 되었습니다.
렛서 AI팀 인턴으로서 어떤 역할을 수행하고 있나요?
렛서는 고객사의 인하우스 AI팀을 지향하고 있습니다. 그래서 대기업뿐만 아니라, AI팀원이 없는 스타트업의 인공지능 서비스를 기획, 개발, 운영하는 일도 맡아서 진행하고 있습니다.
렛서 AI 개발팀에서는 아래 업무를 진행하고 있습니다.
📌 렛서 AI팀 인턴으로서 AI 전문 컨설턴트와 PM이 기획한 인공지능 서비스를 개발하는 역할을 수행하고 있습니다.
📌 렛서의 인공지능 운영관리 플랫폼(Backend as a Service)인 Staix에 개발된 AI 모델을 업로드하여 안정적으로 운영될 수 있는 환경을 구성하고 있습니다.
두 달 간 3개의 프로젝트 AI 개발과 운영관리를 진행하면서, 이런 것들을 느꼈습니다.
📌 이전보다 AI API 성능이 빠르게 증가하고 있고, AI 기능을 개발하는 패러다임이 바뀌고 있습니다. 여전히 일부 컴퓨터비전, 시계열 처리는 바뀌지 않지만, 자연어처리 대부분의 AI 기능들이 프롬프트로 정의되고 있습니다. 프롬프트는 비전공자도 이해할 수 있는 텍스트이기 때문에 AI 개발에 대한 비용과 절대적인 난이도는 낮아지고 있습니다.
📌 하지만, AI 기획의 중요성은 크게 증가했습니다. 입출력 양식, 서비스 운영 방식, AI 기능의 복잡도에 따라 프롬프트가 정의되고 관리되는 방식이 천차만별이기 때문입니다.
📌 AI 개발을 넘어 운영관리 관점에서, 일반적인 컴퓨터 시스템과 다르다는 것을 느꼈습니다. 일반적으로 500ms 이하에서 처리되는 이전의 AI 모델들과, 컴퓨터 시스템에서는 기존 Ops를 활용하는 것이 의미가 있었습니다. 하지만, 기본적으로 호출에 수초 이상 걸리고 안정적인 서비스를 보장하지 못하는 AI API를 활용하는 최근 AI 서비스를 관리하는 방법은 달라야 한다는 걸 느꼈습니다.
진행한 프로젝트를 소개해주세요.
인상깊게 진행했던 프로젝트는 스페이스웨이비의 Wavy AI (건축 모델링 AI) 개발 프로젝트였습니다. 사용자가 설문을 통해 사용 목적, 사용 인원 등을 입력하면 사용자 이메일로 멋진 맞춤형 모듈러 주택을 견적과 함께 제안하는 인공지능 기반 서비스입니다. 렛서는 기획부터 유입페이지 개발, AI 기능 개발, AI 운영관리에 참여하였습니다.
고객 유입 페이지
고객이 받아보는 메일
기획 과정에는 직접 참여하지 못했지만, 스페이스웨이비의 비즈니스 병목을 해결하는데 집중했다고 합니다. 특히, 고객이 유입되면 직접 컨설팅, 건축 모델링, 디자인 과정에 40일 이상 소요되는데, 이 과정을 AI를 통해 10분 남짓으로 줄였습니다. 그래서 고객이 유입되고 전환되기까지의 비용을 획기적으로 줄일 수 있었습니다 (스페이스웨이비-렛서, AI 건축 모델링 솔루션 개발).
그리고 영업과정에서 소요되는 다양한 비용들을, ‘고객의 제안 선택’으로 바꿈으로써 모듈러 하우스 생산속도 향상에 따른 확장성도 확보하였습니다.
AI 개발 과정은 어땠나요?
AI가 추천한 결과물을 실제 스페이스웨이비가 제작할 수 있는 형태로 이미지를 생성하는 것이 중요했습니다. 이 과정에서 모빌리티 대기업 H사 마케팅 프로젝트에 활용된 AI 템플릿을 사용하여 빠르게 개발할 수 있었습니다. 이미지 생성을 진행할때 모듈러의 크기, 조합 방식 등 여러가지 제약 사항을 반영하여 이미지를 생성할 수 있는 기술을 활용했습니다. 이러한 제약 사항 아래, 생성되는 이미지에 맞는 견적과, 모듈러 구성요소를 도출할 수 있었습니다.
그리고 스페이스웨이비는 다양한 스타일의 모듈을 보유하고 있습니다. 이러한 모듈의 특징을 프롬프트 엔지니어링을 통해 잘 구현하는 것 또한 어려웠던 점 중에 하나입니다.
AI 서비스는 어떻게 운영되고 있나요?
Staix는 렛서에서 운영하는 AI 모델 관리 및 배포 플랫폼으로, AI 모델을 쉽게 업로드하고 안정적으로 운영할 수 있도록 지원하는 시스템입니다.
AI 서비스 개발 과정에서 가장 고민했던 부분은 LLM API, 이미지 생성 API, 데이터 전처리 및 후처리 로직 등 여러 컴포넌트를 조합하여 안정적인 서비스를 구축하는 것이었습니다. 요청량이 많아질수록 지연 시간이 길어지고 리소스 관리가 복잡해지는 문제가 있었는데, Staix를 활용하여 MLOps 지식 없이도 모델을 배포하고 안정적으로 운영할 수 있었습니다.
Staix에서는 AI 모델별로 사용량을 실시간으로 모니터링하고, API 호출 최적화 및 비용 청구(빌링) 관리까지 지원하기 때문에, 마치 베스핀이나나 메가존 같은 MSP(Managed Service Provider)를 활용하는 것과 유사한 경험을 제공했습니다. 이를 통해 AI 모델 운영의 복잡성을 줄이고, 비용과 리소스를 체계적으로 관리할 수 있었습니다.
👉Staix가 어떤 문제들을 해결하고 있는지는 아래 컨텐츠를 통해서 확인해보세요.
Staix를 통해서 모델을 배포하고 운영해본 경험을 알려주세요.
한 마디로 정리하면, AI 개발에 신경 써야할 요소가 굉장히 많은데, 모델 개발에만 집중할 수 있었습니다.
사내 패키지 가이드에 따라 개발된 AI 모델 코드를 Staix 환경에 맞게 포팅하고, 프로세스를 따라 AI를 업로드하는 것이 주요 작업이었습니다. Staix에서는 표준화된 워크플로우를 제공하여, 모델을 빠르고 안정적으로 배포할 수 있도록 지원하였습니다. AI 개발자 입장에서는 모델개발에 집중할 수 있었어요.
또한 AI가 생성하는 결과물의 품질을 높이기 위해 고객사의 비즈니스 로직에 대한 정확한 이해를 바탕으로, 커스텀 함수 개발, 프롬프트 엔지니어링 등을 활용하여 최적의 AI 모델을 개발했습니다. 이를 위해 로우코드 기반의 AI 성능 테스트 환경을 세팅하고, Staix에서 모델을 손쉽게 튜닝하며 다양한 실험을 진행할 수 있었습니다.
특히, Staix에서는 버전 관리를 통해 모델을 지속적으로 업데이트하고, A/B 테스트를 수행하며 성능을 모니터링할 수 있었습니다. 이를 통해 AI 모델이 실무에서 실제로 활용될 수 있도록 품질을 유지하고, 지속적으로 개선하는 것이 가능했습니다.
더 하고 싶은 말이 있다면?
Staix를 활용하여 AI 모델을 배포하고 운영하면서, 플랫폼이 내부에서만 사용되는 것이 아니라 더 많은 기업과 개발자들에게도 공개되면 좋겠다는 생각이 들었습니다.
특히, AI팀이 없는 스타트업이나 AI 운영 경험이 부족한 기업들도 쉽게 활용할 수 있도록 Staix가 외부에 개방된다면, 많은 곳에서 AI 서비스의 기획부터 개발, 운영까지의 과정을 훨씬 효율적으로 진행할 수 있을 것이라 느꼈습니다.
실제로 AI 모델을 운영하면서 겪는 어려움은 단순히 모델을 개발하는 것에서 끝나는 것이 아니라, 서비스 안정성 확보, API 호출 최적화, 비용 관리, 성능 모니터링 등 여러 가지 요소가 복합적으로 얽혀 있습니다. Staix는 이러한 운영상의 복잡한 문제들을 해결해주는 플랫폼이기 때문에, 이를 필요로 하는 기업들에게도 제공된다면 AI 서비스 운영의 진입 장벽을 크게 낮출 수 있을 것이라 생각했습니다.
현재는 인하우스에서 AI를 관리하기 위한 플랫폼으로 역할을 하고 있지만, 앞으로 더 많은 기업들이 AI를 쉽게 도입하고 활용할 수 있도록, Staix가 외부에도 빠르게 공개될 수 있기를 기대합니다.
