직장인의 AI 활용 방법

오픈AI가 새로운 ChatGPT를 발표했습니다. ChatGPT-4O 버전입니다. 모든 기능이 오픈 된 것은 아니지만 음성 답변에 감정을 부여하고, 다양한 언어를 지원하는 등 여러가지 점이 개선되었지만 가장 마음에 드는 건 응답속도의 개선입니다. 이전 버전은 대화 시에 2초에서 3초의 딜레이로 인해서 이질감은 느꼈지만 지금은 사람대화 동일한 속도를 보여 주고 있습니다.

ktds-ict

Jun 26, 2024

Contents

AI 사용해야 하나?어떤 AI를 사용해야 할까?AI에게 어떻게 일을 시켜야 할까?AI에게 무슨 일을 시켜야 할까요?AI를 업무에 활용 가능한 툴은?직장에서 AI에게 어떤 일을 시킬 수 있을까?AI를 활용하기 위해서 내가 준비해야 할 것은?

생성형 AI는 영상, 이미지, 사운드 등 특정분야에서 결과물을 생성하는 AI를 말한다. 과거에는 사전 정제된 데이터를 넣어서 정형화된 배치프로그램(사전에 코딩 된 프로그램)를 돌려서 결과를 얻었지만, 현재는 인간의 언어를 이해하는 AI엔진 즉 거대언어모델(LLM, Large Language Model)이 등장하면서 누구나 챗봇 창이나 음성을 통한 쉽게 활용이 가능하게 되었다. LLM의 발전으로 아이언맨 영화에서 토니 스타크가 사용하는 자비스를 개인이 가지게 되는 시대가 되어 가는 것 같다. 즉, 약간의 학습과 비용으로 업무에 유용한 인공지능을 각 개인이 사용할 때가 다가오는 것 같다.

AI 사용해야 하나?

하지만 AI 활용에 거부감을 가지거나 의문점을 가지는 사람들이 많은 것 같다.

“질문을 하면 답변을 주기는 하는데, 이게 무슨 의미가 있나”

“할루시네이션(거짓말: AI가 엉뚱한 답을 하거나 거짓된 답변을 하는 것)이 많은 것 같다. ·

” 생성은 하고 답은 하는 것 같은데 어떤 업무에 사용을 해야 할 지 모르겠다.”

등의 반응을 보이고 있습니다. 하지만 기업이 AI에 막대한 비용을 투자하고 직장인은 업무에 AI를 활용해야 한다는 이유가 무엇일까?

어떤 AI를 사용해야 할까?

LLM은 언어기반 AI엔진이다. 당연한 이야기지만 다시 언급하는 이유는?

LLM은 질문을 잘 해야 한다. 오죽하면 프롬프트엔지니어링(자연어 처리(NLP)모델을 효율적으로 활용하기 위해서 입력 프롬프트(질문)을 설계하고 조정하는 것) 이란 분야도 있고 이를 통해서 월급을 받는 사람도 있습니다.

LLM은 언어를 생성하는 AI이지 모든 것을 알고 답하는 존재가 아니라는 것이다. 주어진 데이터를 기반으로 학습한 결과를 언어를 통해서 답변을 생성하는 AI이기에 질문을 어떻게 하는가에 따라서 답변의 질 (답변의 양 뿐만이 아니라 정확성도)이 달라 진다.

예를 들어서 “자비스 대해서 알려줘” 질문을 하면, LLM은 지시를 최대한 수행하려고 한다. AI엔진이 학습에 사용한 데이터가 있다면 그것을 활용해서 답변을 하고, 없다면 인터넷 검색을 통해서 정보를 받아서, 이를 답변 형식으로 생성해서 보여 준다. 하지만 사전학습 데이터나 인터넷 검색 결과에 정답만 있다는 보장이 없고 AI는 그것의 진실을 판단할 수 없기에, 생성된 답변이 맞지 않을 수 있는 것이 당연할 것이다.

AI에게 어떻게 일을 시켜야 할까?

그럼 일을 어떻게 AI에게 일을 똑똑하게 일을 할까?

자세하게 질문을 하면 된다.
생성형AI의 특성 즉 언어생성 능력을 주로 활용
할루시네이션 방지를 위해서 주기적으로 정확한 데이터 제공

즉 수많은 데이터를 가공하고 복잡한 조건으로 데이터를 가공한 후에 결과를 생성하는 업무를 시키면 됩니다.

AI에게 무슨 일을 시켜야 할까요?

이 조건으로 LLM기반의 AI를 업무에 효율적으로 활용 가능한 분야는

기술정보나 해외동향을 알아보기 위해서 영어, 독일어, 프랑스어, 일본어 등으로 된 블로그나 레딧 등을 검색해 볼 때 언어의 한계를 느꼈는데, 내용을 AI에게 인지(파일생성 후 업로드, URL제공) 후 “요약 후에 한국어로 표시해줘” 라고 하면 번역 및 요약까지 가능하다.

LLM을 활용해서 SW개발 업무에 활용이다. 즉 소스코드를 AI에게 인지 (화면 캡쳐, 소스코드 업로드) 후에 상세 조건을 나열한 후에 특정 기능을 추가해줘 명령을 하면 AI즉 컴퓨터가 기능을 소스코드로 출력해주고, 운영자는 이것을 테스트 후에 정상 동작하면 적용하면 된다.

AI를 업무에 활용 가능한 툴은?

그럼 IT기업은 어디까지 업무에 도움을 줄 AI를 개발했을까요?

대표적인 IT기업인 MS사는 주력상품인 오피스와 AI의 결합을 시도하였고 그 결과를 코파일럿이라는 AI를 유료로 출시하였습니다(2024년 4월 부터 한국어도 지원).

회사 업무에 텍스트 기반인 워드보다는 이미지와 표를 주로 사용하는 파워포인트가 많이 사용이 되기 때문에 대화기반의 LLM에는 적합하지 않습니다(대화를 텍스트로 옮기고 쉽게 학습이 가능하지만, 표나 이미지를 텍스트로 설명하기에는 어렵듯이 언어기반 AI도 어렵게 인지하고 인식률도 저조 합니다. 텍스트는 90% 이미지나 표는 80% 인식율을 보임 ChatGPT 40 기준).

오피스 개발사인 MS사는 자신들의 강점을 활용하여서 Copilot을 통해서 파워포인트, 엑셀 등에서 텍스트, 코드, 이미지, 음성 데이터 처리를 학습해서 활용할 수 있게 하고, 아웃룩과 팀즈도 연동해서 활용 가능합니다.

직장에서 AI에게 어떤 일을 시킬 수 있을까?

엑셀데이터를 기반으로 분석과 그래프 작성 (숫자계산은 엑셀이 진행 LLM은 숫자에 약함), 기존 이메일을 바탕으로 메일 초안 작성, 팀즈 회의 내용 요약 등을 통해서 반복적인 문서작업 진행, 2023년 장애보고서 찾기, 2000년부터 2024년까지 장애시간 분석 등이 가능할 것이다.