비즈니스 혁신을 위한 기업의 LLM 활용법
2023/01/19 | 3 mins
비즈니스에 부는 LLM 열풍
산업별 AI 도입 예산 계획 - 2023~2026년 (출처: Master of Code)
비즈니스 혁신의 열쇠 중 하나는 바로 효율성입니다. 때문에 많은 기업들은 비즈니스에 기술을 적용해 생산성을 극대화하고 비용 효율성을 달성할 수 있는 방법을 끊임없이 모색합니다. 이러한 추세는 최근 AI 도입, 거대언어모델 열풍으로 이어지고 있는데요. Scale AI에서 공개한 '2023 AI Readiness Report'에 따르면 72%의 기업이 향후 3년간 매년 AI에 대한 투자를 대폭 늘릴 계획이라고 나타났을만큼 인공지능에 대한 관심은 높습니다. 특히 LLM은 다양한 자연어 처리 작업에 활용할 수 있기 때문에 기업의 업무 자동화와 고객 지원 등의 다양한 영역에 적용되고 있습니다. 실제 비즈니스에 LLM이 적용되고 있는 사례들을 좀 더 자세히 살펴보겠습니다.
기업의 LLM 활용 사례
(1) 고객 지원 혁신: 자동화 및 상호작용 증대
AI 기업 업스테이지와 손잡고 생성형 AI 기반의 ‘프라이빗(Private) 거대언어 모델’을 구축한 이커머스 전문기업 커넥트웨이브
다양한 산업 분야에서 고객 지원 서비스를 자동화하기 위해 LLM을 활용하고 있습니다. 자연어 처리(NLP)에 특화되어 있는 LLM은 챗봇과 제품 검색 기능 고도화 등을 통해 고객과의 상호작용에 도움을 줄 수 있습니다. 별도의 인력 투입 없이도 가능한 24시간 고객 지원과 개인화된 서비스 등은 고객의 만족도를 향상시킵니다. 또한 기업은 서비스를 통해 대화 데이터를 수집 및 분석하여 서비스의 품질을 개선하거나 귀중한 비즈니스 인사이트를 얻을 수도 있습니다.
(2) 콘텐츠 마케팅
프롬프트: “Give me 20 unique article titles related to child care in a click-bait style.” (출처: Wes McDowell YouTube)
프롬프트: “Now create an outline for an article: ‘The Incredible Sleeping Trick That Will Transform Your Child’s Nightmare Routine!’ Write it as a professional childcare expert and write it for young moms.” (출처: Wes McDowell YouTube)
LLM은 콘텐츠 제작과 마케팅에도 활용할 수 있습니다. 블로그, SNS 게시물, 제품 설명, 기사, 이메일, 세일즈 프레젠테이션 작성이나 홍보 문구 아이데이션 등 그 활용법도 무궁무진한데요. 생성형 AI에 콘텐츠 주제와 목표, 꼭 들어가야 하는 세부 정보 등을 프롬프트로 입력하면 콘텐츠 제작 및 마케팅에 드는 시간과 비용이 획기적으로 절약됩니다. 또한 문법적인 오류 수정이나 긴 문장을 가독성 있게 요약해서 다시 쓰기 등의 방법도 탐색해볼 수 있습니다. 많은 기업들은 콘텐츠 마케팅에 LLM을 활용하여 웹사이트 트래픽을 늘리고, 리드를 생성하며, 고객과의 커뮤니케이션을 개선하고자 하는 시도를 늘리고 있습니다.
상황/문맥에 맞는 글쓰기와 콘텐츠 작성을 돕는 서비스, WriteUp
이러한 콘텐츠 생성에 도움을 주는 LLM의 사례로는 최근 업스테이지에서 출시한 인공지능 글쓰기 서비스 ‘WriteUp’이 있습니다. 'WriteUp'은 사용자가 문맥에 맞게 글을 쓰고, 문법적인 오류나 오타를 교정할 수 있도록 돕는데요. 캐주얼한 상황이나 비즈니스 업무와 같이 다양한 상황별 글쓰기를 선택하는 기능이 있으며, 다국어 지원 및 이모티콘을 활용하는 것도 가능해서 다양한 스타일의 글을 손쉽게 작성하고 완성도 있게 다듬어볼 수 있습니다. Solar LLM이 탑재된 WriteUp을 Mac 컴퓨터에 설치하여 모든 온라인 편집 창에서 효율적으로 글을 작성해 보세요.
(3) 정보 검색 및 추출
많은 조직에서 디지털 혁신의 일환으로 문서를 디지털화하고, 손쉽게 데이터를 확인 및 추출할 수 있도록 시스템화 하기 위해 노력하고 있습니다. 사람이 수작업으로 문서를 처리하는 일은 시간과 비용이 많이 소요되며 오류가 발생하기도 쉽기 때문인데요. 이 경우 LLM은 좋은 솔루션이 됩니다. LLM과 문서 AI 기술(OCR)을 결합하면 표와 복잡한 문단이 포함된 비즈니스 문서에서도 문맥을 정확하게 해석하고 중요한 정보를 추출하는 데 도움이 될 수 있습니다. 여기서 한 걸음 더 나가면 구조 분석 이후 마크다운 변환까지도 가능합니다.
업스테이지의 'Layout Analyzer’가 대표적인 사례입니다. Layout Analyzer의 강점을 크게 세 가지로 추리자면 문서에서 요소 검출하기, 문서의 문맥에 맞는 순서 읽기, 문단 간 관계 인식 (이미지-캡션 / 표-캡션)이 가능하다는 점입니다. 즉, 문서의 구조와 내용을 분석해 필요한 정보를 추출하고 이를 데이터베이스로 정리할 수 있는 것인데요. 이러한 기술을 활용해 비즈니스에서 정보 검색 및 추출을 자동화하면 반복적인 업무를 효과적으로 자동화하고 유용한 인사이트도 쉽게 도출할 수 있습니다.
(4) 도메인 특화 LLM
도메인 특화 LLM은 특정 분야에 특화된 언어 모델을 말합니다. 범용 LLM과 달리 특정 도메인에 집중하여 보다 정확하고 맥락에 맞는 응답을 가능하게 하고 AI의 환각 현상을 방지할 수 있는 것이 특징인데요. 업계 규정을 준수하도록 학습시킬 수 있어 안정적인 대응과 간소화된 워크플로우를 보장합니다. 이러한 장점 덕분에 도메인 특화 LLM, 프라이빗 LLM을 금융, 의료, 법률과 같은 전문 산업 분야에 도입하려는 움직임이 늘고 있습니다. 이러한 모델은 기업 내부 서버에 설치하여 운영함으로써 정보 유출을 방지할 수 있습니다. 최근 AI 기업 업스테이지는 다양한 기업에서 AI를 안정적이고 혁신적으로 도입할 수 있도록 설계된 작지만 강력한 언어 모델, 'Solar'를 출시했습니다. 이러한 사용 사례를 고려하여 도메인에 특화된 LLM을 구축해 업계에서 경쟁 우위를 확보해 보세요.
안전하고 신뢰할 수 있는 사용성을 보장하기 위해 테스트중인 구글의 의료 특화 Med-PaLM 2 (출처: 구글 리서치)
금융 특화 언어 모델 BloombergGPT의 성능 비교 평가 표 (출처: 블룸버그)
(5) 스마트한 업무 자동화
맥킨지에 따르면, 생성형 AI와 기술을 활용하면 직원이 업무에 할애하는 시간을 최대 70% 자동화할 수 있다고 합니다. 생성형 AI는 다양한 산업 분야에서 반복되는 작업을 자동화하고 의사 결정에 도움이 되는 귀중한 인사이트를 제공할 수 있습니다. 또한 작업 우선순위 분류, 시스템에 데이터 입력, 문서 요약 등의 작업도 쉽게 처리할 수 있습니다. LLM 기반 RPA 봇을 최적화하면 정보를 추출, 분류하고 보고서를 생성하며, 최신 정보와 사용자의 선호도도 보장할 수 있습니다.
마치며
비즈니스에 거대 언어 모델을 적용하는 것은 기업의 생존 및 혁신을 위해 이제 선택이 아닌 필수가 되었습니다. 빠르게 발전하고 있는 LLM은 앞으로 단순한 태스크 수행 수단에서 기업의 광범위한 의사 결정을 돕고 고도화된 작업을 최적, 효율화 하는 핵심 기술이 될 것입니다. 현재 비즈니스의 상황에 맞는 올바른 LLM 도입 목표 설정과 전략적인 계획 수립을 통해 여러분의 비즈니스가 무궁무진하게 성장할 수 있는 방법을 모색해 보세요.
☀️ Solar LLM
[NEW] Upstage Solar Mini
Introducing a new 10.7B model that outperformed all competing models on the Open LLM Leaderboard.
