AI 직군은 뭐가 있을까? 스타트업에서의 채용은 어떻게 대응해야 할까?
최근 AI 직군 채용 동향
요즘 스타트업들은 머신러닝/인공지능 모델을 안정적으로 운영하고 배포하기 위해 AI/MLOps 엔지니어를 적극적으로 채용하고 있습니다. 하지만 최근 AI 직군과 관련하여 채용시장에서 수요공급 불균형으로 인해 AI 직군의 연봉 상승과 인재 경쟁이 심화되면서, 스타트업 입장에서는 한정된 예산 내에서 적절한 인력을 확보하기가 쉽지 않습니다.
한국경제 기사에 의하면 AI역량 요구한 공고 비중이 3년간 약 10% 가량 늘었고, 평균 연봉 추이도 7,770만원을 넘어서면서 비AI 개발자 연봉을 넘어섰다고 합니다.
100건 이상의 AI 프로젝트를 운영하면서, 실질적인 서비스 운영이 필요한 프로젝트 별로 아래의 항목대로 리소스를 파악한 후 프로젝트를 진행하고 있습니다. 아래 직군 채용 공고에서 공통적인 JD와 자격 요건들을 살펴봤습니다.
AI 기획자 (AI 컨설턴트)
AI PM
AI 개발자
AI 백엔드 엔지니어 (혹은 MLOps 엔지니어)
해당 직군들은 AI 시장 환경이 빠르게 바뀌고 있어서 현재까지 직군의 주요 업무나 역할에 대해 사회적으로 완벽하게 합의가 되었다기보다는, 기업에서 주로 필요한 역량 혹은 환경을 기준으로 조금씩 Variation이 되고 있습니다. 때문에 직군 별로 서로 겹치는 JD가 존재하기도 하고, 같은 JD를 서로 다른 이름으로 부르는 상황이 왕왕 있기도 합니다.
AI PM (Project Manager)
AI Project Manager는 AI 프로젝트의 전반적인 기획, 운영 및 관리를 담당하며, 기술적 이해와 비즈니스적 통찰력을 바탕으로 프로젝트를 성공적으로 이끌어가는 역할입니다.
📌 주요 업무
AI 솔루션 구축 및 프로젝트 관리 (기획, 일정 조율, 인력 관리)
데이터 수집·분석 및 AI 모델 최적화
고객사 요구 분석 및 맞춤형 솔루션 제공
AI 서비스 운영 및 유지보수, 자동화 프로세스 개선
다양한 이해관계자(개발, 마케팅, 비즈니스)와 협업
🎯 자격 요건
AI 프로젝트 관리 경험 (5~7년 이상)
데이터 및 소프트웨어 엔지니어링 이해도
비즈니스적 사고 및 커뮤니케이션 능력
기술 문서 작성 및 프로젝트 산출물 관리 역량
Python, 데이터베이스, API 활용 가능 시 우대
AI 백엔드 엔지니어
AI 백엔드 엔지니어는 AI 모델과 서비스 간의 연결을 담당하며, 효율적인 데이터 흐름과 안정적인 AI 운영 환경을 구축하는 핵심 역할을 합니다.
📌 주요 업무
AI 서비스 백엔드 설계 및 개발 (API 설계, 구현, 고도화)
데이터 파이프라인 구축 및 비동기 처리 최적화
LLM 기반 RAG 및 AI 기능 개발 및 운영
클라우드 환경(AWS, GCP, Azure)에서 백엔드 서비스 운영
ML 모델 학습 및 배포 지원, AI 서비스 아키텍처 최적화
🎯 자격 요건
Python 기반 백엔드 개발 (FastAPI, Django, Flask) 경험
API 설계 및 RESTful 서비스 구축 역량
비동기 프로그래밍(Asyncio, Celery) 및 데이터 처리 경험
MLOps 및 AI 서비스 운영 경험 우대
클라우드(AWS, GCP) 및 컨테이너(Docker, Kubernetes) 활용 경험
AI 개발자
AI 개발자는 머신러닝·딥러닝 모델을 설계하고 AI 서비스를 구축하며, 최신 AI 기술을 연구하고 실무에 적용하는 핵심 역할을 담당합니다.
📌 주요 업무
자연어 처리(NLP) 및 머신러닝 모델 개발
AI 기반 데이터 분석 및 시스템 설계·운영
데이터 수집, 전처리, 시각화 및 모델 학습·평가
AI 서비스 및 솔루션 개발 및 최적화
대규모 데이터 처리 및 AI 성능 개선
최신 AI 연구 및 기술 도입, 논문 연구 및 적용
🎯 자격 요건
Python, R 및 AI 프레임워크(TensorFlow, PyTorch 등) 활용 능력
머신러닝 및 딥러닝 관련 경험(3년 이상)
데이터 분석 및 AI 모델 최적화 경험
문제 해결 능력 및 논리적 사고력
ML/DL 최신 논문을 이해하고 활용할 수 있는 능력
생성형 AI 및 LLM 활용 경험 우대
최근 AI 채용 시장에서는 OpenAI 등 생성형 AI API가 보편화됨에 따라 NLP 관련 AI 개발자보다는, 컴퓨터 비전, 시계열 분석 등 머신러닝 모델을 직접 구현해야 하는 환경에서의 인재 수요가 증가하는 특징이 있습니다.
스타트업에서 AI 서비스 개발을 위해 필요한 역량
최근 스타트업들의 AI 활용 트렌드를 살펴보면, 자체적으로 대규모 언어모델(LLM)을 개발·운영하기보다는 OpenAI GPT나 엔트로픽(Anthropic)의 Claude와 같은 고성능 모델을 API 형태로 손쉽게 활용하여 서비스를 개발·출시하는 사례가 두드러집니다. 대부분의 스타트업은 비즈니스 속도와 실행력이 중요한 상황에서 이미 완성도 높은 API를 빠르게 이용하는 방식을 택하고 있습니다.
하지만, API 활용 계획을 세우는 것 만으로는 AI 프로젝트가 해결되지 않습니다. 데이터 엔지니어, 백엔드 개발자, AI 기획자 등 다양한 역할이 유기적으로 협업해야 AI 서비스가 완성됩니다. 그렇다면 AI 관련 서비스를 운영하기 위해 어떤 역량이 최소한으로 필요할까요? AI 서비스를 잘 기획하기 위한 역량과 비즈니스 로직에 맞게 AI 서비스를 잘 운영하기 위한 역량이 강조되고 있습니다.
AI 서비스 기획 역량
AI 모델과 기술 스택을 결정하기 전에, 사용자에게 미치는 영향과 서비스 구현 가능성을 종합적으로 고려하는 역량이 필수적입니다. 이는 단순히 기술적 난이도를 파악하는 데 그치지 않고, 새로운 AI 기능이 사용자에게 어떠한 가치를 제공하고, 어떠한 경험을 선사할 수 있는지 판단하는 과정까지 포괄합니다. 이를 통해 스타트업은 AI 기술을 효과적으로 활용하면서도, 사용자 만족도와 비즈니스 목표를 동시에 달성할 수 있는 전략을 마련할 수 있습니다.
프롬프트 엔지니어링(Prompt Engineering)
대규모 언어모델(LLM)을 활용한 AI 서비스에서 프롬프트 엔지니어링은 품질 향상을 위한 핵심 역량입니다. 모델에게 원하는 응답을 정확히 이끌어내려면, 프롬프트를 어떻게 작성하고, 어떤 방식으로 실험하고, 모델의 응답에 대한 피드백을 어떻게 튜닝할지에 대한 노하우가 필요합니다. 프롬프트 설계가 정교해질수록 모델의 결과물 품질이 높아지며, 이는 곧 사용자 만족도와 서비스 경쟁력으로 직결됩니다.
모델 서빙(Model Serving)
AI 서비스가 시장에서 성공하기 위해서는 모델 서빙 단계에서 안정적 운영은 물론, 유연한 확장성을 보장할 수 있는 인프라 역량이 필수적입니다. 트래픽이 급증하거나 새로운 기능이 도입될 때, 무중단으로 서비스를 운영하면서도 빠르고 효율적으로 스케일업할 수 있어야 사용자 경험을 저해하지 않고 비즈니스 기회를 극대화할 수 있습니다.
스타트업의 현실: AI 인력 채용이 어렵다면?
스타트업이 AI 서비스를 운영하기 위해서는 다양한 직군의 협업이 필요하지만, 앞서 살펴본 것처럼 모델 서빙 엔지니어를 포함한 AI 전문 인력을 확보하는 것은 쉽지 않습니다.
AI 인력 채용의 한계
높은 연봉 부담: AI 직군의 연봉이 빠르게 상승하고 있어, 스타트업이 한정된 예산 내에서 고급 인력을 확보하는 것이 어려움.
다양한 직군 필요: 단순히 AI 개발자 한 명을 채용하는 것이 아니라, AI 기획자, 백엔드 엔지니어, MLOps 엔지니어 등 다양한 역할이 필요하기 때문에 개발 일정이 지연되는 문제 발생.
빠르게 변화하는 AI 기술 트렌드: 채용한 인력이 최신 AI 기술을 빠르게 습득하고 적용할 수 있을지 불확실하며, AI 인프라 및 MLOps 구축 경험이 부족한 경우 운영의 복잡성이 증가.
이러한 이유로 인해 스타트업들은 AI 인력 확보만으로는 효과적으로 AI 서비스를 운영하기 어렵다는 점을 경험하고 있으며, 보다 현실적인 대안을 모색할 필요가 있습니다.
스타트업의 대안: 외부 AI 솔루션 및 서비스 활용
스타트업이 AI 서비스를 효과적으로 운영하기 위해서는, 내부 인력 확보만을 고집하는 것이 아니라 외부 AI 솔루션과 서비스를 적극적으로 활용하는 전략이 필요합니다. ML 관련 전문 인력이 없는 스타트업에서도 도입하고 있는 렛서 서비스도 함께 소개합니다.
AI 컨설팅 및 전문 서비스 활용
AI 기술에 대한 경험이 부족한 스타트업이라면, 사례를 보유한 기업의 전문 컨설팅을 통해 빠르게 AI 도입 전략을 수립.
AI 서비스 기획 단계부터 AI 서비스 백엔드 구축까지 전반적인 기술적 지원을 받으면서 효율적으로 프로젝트를 진행할 수 있음.
렛서의 경우 다양한 프로젝트를 통해 누적한 경험치를 사용한 AI 서비스 기획부터, AI 개발, 운영에 대한 기술적 지원까지 진행합니다.
특히 R&D 주제 확보가 어려운 스타트업에게 팁스 8회 합격률 100% 경험을 기반으로 ‘Perfect TIPS for Winning TIPS’ 컨설팅 프로그램을 운영해 인하우스 AI 전문가 역할을 하고 있습니다.
Model Serving 솔루션 및 MLOps 도입
구체적으로 모델 서빙이 필요한 이유는 아래 게시물에서 살펴보세요!
ChatGPT API로 AI 서비스를 운영할 때 알아야 할 핵심 과제와 해결책 - LETSUR Blog
Databricks Model Serving, AWS SageMaker, Vertex AI 등의 Model Serving 솔루션을 활용하면, AI 모델 운영을 자동화하고, 확장성을 확보할 수 있습니다. AI 전문 기업 렛서에서도 AI 인프라가 부족했을때 Databricks Model Serving 서비스를 활용하여 다양한 AI 프로젝트를 운영했습니다. 그만큼 기존 개발자 만으로 AI 서비스를 운영할 수 있는 현실적인 대안입니다.
현재 렛서에서도 100개 이상의 인공지능 관리 경험을 바탕으로, AI 모델을 운영하고 관리하기 위한 솔루션을 제공합니다. 구체적으로 아래의 기능을 제공받음으로써 AI 서비스 운영에 필요한 업무를 렛서에 이관할 수 있고, 비즈니스에 더 집중할 수 있습니다.
🎯핵심 기능
유연한 스케일링 및 자원 활용 최적화
트래픽 상황이나 비즈니스 요구사항 변화에 따라, 서빙 인프라를 수동으로 조절하지 않아도 자동 스케일링이 지원됩니다.
예측 불가능한 트래픽 변동에도 안정적으로 대응 가능하며, 필요한 자원이 감소하면 자동으로 줄여 비용을 최적화합니다.
GPU 자원이 필요한 모델도 설정만으로 손쉽게 자원을 변경해가며 운영할 수 있습니다.
다양한 서드파티 솔루션 연동
AI 서비스는 모델만 잘 만든다고 끝나는 것이 아니라, Langchain 같은 오케스트레이션 솔루션이나, 대시보드/BI 툴과의 연동이 중요합니다.
모델에서 생성된 응답을 후처리하거나, 내부 지식베이스와 결합하는 등 다양한 활용 시나리오를 빠르게 구현할 수 있습니다.
렛서에서 이미 보유하고 있는 챗봇, 음성 인식, 이미지 생성 등 서비스 유형별로 필요한 API/SDK와 쉽게 연동하여, 별도의 추가 인력이 없어도 기능을 확장하기 쉽습니다.
🎯관리 유틸
모니터링 및 로깅 통합
운영 중인 다양한 솔루션의 모델 예측 결과(출력), 요청/응답 시간, 에러 로그, 트래픽 추이 등 다양한 로그를 자동으로 수집·분석할 수 있습니다.
사용량 패턴 분석에 활용 가능하여, 리소스를 적절히 배분하거나 모델 성능을 관리하는 데 유리합니다.
통합 빌링 및 비용 관리
ChatGPT, Stable Diffusion 등을 포함한 여러 API 서비스를 동시에 운영할 때, 비용 구조가 복잡해질 수 있습니다.
각 모델 또는 API별 사용량을 명확히 파악하고, 통합 결제 혹은 크레딧 방식의 관리가 가능합니다.
모델 사용량 예측, 알림(Threshold Alert) 기능 등을 통해 비용 초과를 방지하고, 효율적인 리소스 투자가 가능합니다.
간편한 테스트 환경 구성
로우코드 기반의 테스트 페이지를 손쉽게 생성해, 모델이 제대로 동작하는지 바로 확인할 수 있습니다.
사내 인원이 클릭 몇 번만으로 테스트용 페이지를 열고, 입력값에 따른 결과를 즉시 확인 가능
모델 변경 사항이 있을 때마다 별도의 코딩 없이도 실시간 검증 환경 구축 가능
모델 거버넌스 및 보안
다양한 프로젝트에서 여러 개의 모델을 운영하다 보면, 접근 권한, 버전 관리, 컴플라이언스 이슈가 발생합니다.
중앙화된 워크스페이스를 통해, 프로젝트별로 권한을 부여하고 모델 자산을 체계적으로 관리할 수 있습니다.
스타트업에서 솔루션을 선택하기 위해 어떤 점이 고려되어야 할까요?
컨설팅, 기술지원 제공
기업의 서비스 마다 배포되어야 하는 방식이 다르기 때문에, 우리 기업의 상황을 고려한 서비스를 제공받기 위해 기술지원이 원활해야 합니다. 실제로 아래 서비스들은 모두 다른 서빙 구조를 통해 운영하고 있습니다. 단순 솔루션 판매가 아닌, 우리 서비스 운영 환경을 고려한 배포, 운영 방식까지 함께 제안해줄 수 있는 파트너인지 살펴봐야 합니다.
대기업 H사에서 Stable Diffusion을 이용하여 대중을 대상으로 사용자 참여형 마케팅을 진행하는 경우
간헐적으로 트래픽이 피크(Peak)가 날 수 있는 커머스 스타트업의 AI 서비스
보안이 요구되는 대기업에서의 TTS (가상 아나운서) 서비스
최신 인공지능 서비스 업데이트
딥시크, ChatGPT, Stable Diffusion, GPT-4, Code Interpreter, Whisper 등 매일같이 새로운 모델이 나오거나 개선됩니다. 스타트업에서는 시장의 요구 변화나 신기술을 빠르게 적용해야 경쟁력을 확보할 수 있습니다.
이를 위해 로드맵에 맞춘 기술 업데이트가 빠르고, 최신 솔루션·모델을 연동하는 데 문제가 없는 서비스를 선택하는 것이 바람직합니다.
예를 들어, 버전 간 호환성을 자동으로 점검해주거나, 솔루션 공급사에서 주기적인 업데이트와 핫픽스를 제공해준다면 업무 부담이 크게 줄어듭니다.
결국, 우리 기업의 규모와 서비스 특성, 인프라 환경, 예산 등을 종합적으로 고려하여, 기술지원과 컨설팅이 원활하고 최신 모델 업데이트에도 즉시 대응할 수 있는 파트너를 찾는 것이 성공적인 AI 솔루션 도입의 핵심입니다.
