Upsstage's Enterprise AI Adoption Strategies and Innovations

Upsage는 워크플로와 데이터 처리를 개선하는 효율적이고 작업 지향적인 솔루션으로 엔터프라이즈 AI 도입에 혁신을 일으키고 있습니다.

### 기업을 위한 제너레이티브 AI 도입 전략: 업스테이지의 인사이트
* 👋 "안녕하십니까 저는 업스테이지에서 **LM 사업 개발을 총괄**하고 있는 업스테이지 김자현 팀장이라고 합니다."
* 💼 오늘의 주제는 **엔터프라이즈 기업의 생성형 AI 도입 전략**으로, 실제 시장 사례들을 중심으로 설명할 것입니다.
* 🚀 업스테이지는 **2020년에 창립된 AI 스타트업**으로, 현재 한국과 미국에 법인을 두고 있으며, 직원 120명 중 **80명 이상이 AI 소프트웨어 엔지니어**입니다.
* 📊 저희는 초기 컨설팅을 통해 AI 관련 니즈를 파악한 후, **광학문자 인식(OCR) 솔루션**을 시작으로 다양한 AI 솔루션을 개발해왔습니다.
* 💰 최근에는 **1억 원 규모의 시리즈 B 펀딩**을 포함해 누적 투자 금액이 **13억 원을 초과**하며, 국내 생성형 AI 스타트업 중 큰 규모의 투자를 받았습니다.
* 🔍 생성형 AI 시장의 트렌드는 **ChatGPT 서비스**로 시작되었으며, **LLM 모델이 멀티 태스크**를 수행할 수 있게 되면서 큰 진화를 이루었습니다.
* 📈 그러나 대규모 자본을 가진 빅테크 기업들이 시장을 주도하고 있으며, **폐쇄형 모델과 오픈 소스 모델 간의 격차가 줄어들고 있는 상황**입니다.
* 🤖 저희는 엔터프라이즈 관점에서 AI를 활용한 워크플로우 개선에 집중하고 있으며, **생성형 AI의 도입이 기업의 효율성을 높이는 데 기여**할 것이라고 믿고 있습니다.

### 엔터프라이즈 AI 강화: 데이터 및 모델 과제 극복하기
* 🔍 기업에서 생성 AI를 구현하는 과정은 작업 공간을 정리하고 구성하는 것과 비슷하며, **데이터 준비와 모델 통합의 중요성**이 강조됩니다.
* 📊 시장에서 가장 큰 병목 현상은 **데이터 정제 문제**인데, 이는 **생성형 AI 모델을 학습**하고 내부 데이터를 효과적으로 활용하는 데 매우 중요합니다.
* ⚙ 확인된 두 가지 주요 병목 현상은 **내부 데이터의 추출 문제**와 **정확한 응답을 제공하는 모델의 성능**입니다.
* 💡 이러한 문제를 해결하기 위해 기업은 **데이터 분류 및 추출을 포함하는 잘 구조화된 파이프라인**을 확보해야 하며, 종종 **검색 증강 생성(RAG) 방법**을 활용합니다.
* 🚀 업스테이지에서는 문서에서 정보를 자동으로 추출하는 **OCR 기술**과 같은 솔루션을 개발하여 데이터 처리 능력을 크게 향상시켰습니다.
* 🗂 최근에 출시된 문서 파서 모델은 문서 구조를 인식하여 효율성을 향상시켜 **특히 복잡한 표를 처리할 때 학습 효과가 60% 증가**합니다.
* 💻 솔라라 미니와 솔라라 프로를 포함한 업스테이지의 솔라라 모델 시리즈는 **GPT-4와 같은 주요 모델에 필적하는 강력한 성능**을 제공하면서도 제한된 GPU 리소스에서 기업용으로 최적화되어 있습니다.
* 📈 법률 및 금융 분야를 포함한 다양한 사용 사례에서 이러한 기술을 성공적으로 적용한 사례는 **효과적인 데이터 관리와 AI 통합**을 통해 기업 운영을 개선할 수 있는 잠재력을 보여줍니다.

AGI for Work를 위한 엔터프라이즈 기업의 생성형AI 도입전략 | 업스테이지 김자현

2023년, SK의 AI 기술은 어떤 미래를 그리고 있을까요?
최고의 기술 기업과 전문가들이 경험과 노하우를 나누는 자리에 여러분을 초대합니다.


SK TECH SUMMIT

발표자 소개: 업스테이지 김자현 팀장 (LM 사업 개발 총괄)

세션 주제: 엔터프라이즈 기업의 생성형 AI 도입 전략

발표자의 업스테이지 및 이전 경력 소개 (카카오, 카카오엔터프라이즈, SK브로드밴드)

업스테이지 회사 소개: 2020년 창업, 한국 및 미국 법인 운영, 엔터프라이즈 B2B AI 솔루션 제공

업스테이지의 생성형 AI 시장 진출 및 성과 (솔라 모델 출시, 시리즈 B 펀딩)

ChatGPT의 등장으로 촉발된 LLM에 대한 관심 증가

LLM에 대한 관심 증가 이유: 멀티태스크 가능 및 휴먼라이크한 답변 제공

빅테크 기업 중심의 시장 구조 및 높은 투자 규모

오픈소스 모델의 부상 (메타의 라마 모델)과 폐쇄형 모델과의 성능 격차 감소

기업들의 SLM(Small Language Model) 도입 증가 추세

엔터프라이즈 시장의 특징과 업스테이지의 전략

보안 이슈로 인한 온프레미스 중심의 시장 구조

업스테이지의 SLM 시장 진출 및 인지도 향상

SLM의 장단점: 성능과 효과성 문제

SLM의 해결 방안: 파인튜닝 및 레거시 파이프라인 레버리징

업스테이지의 미션: 엔터프라이즈 워크플로우 개선에 집중

생성형 AI에 대한 과도한 기대와 현실의 차이 (식기세척기 비유)

생성형 AI 도입의 어려움: 데이터 이슈

주요 문제점: 데이터 정제의 어려움

보틀넥 1: 데이터 전처리 (레코그니션, 익스트랙션)

업스테이지의 해결 방안 및 솔루션

LLM 활용 파이프라인 구성: 데이터 전처리, RAG(Retrieval Augmented Generation) 활용

엔터프라이즈 기업의 생성형 AI 도입 시 중요한 세 가지 허들: 데이터, 운영 효율성, 성능

업스테이지의 OCR 솔루션을 통한 데이터 전처리 지원

다큐먼트 파서 모델: 문서 구조 인식 및 LM 학습 효율 향상 (최대 60% 향상)

솔라 모델: GPT-4 수준의 성능을 가진 소규모 모델 (싱글 GPU 구동 가능)

프리디 베이스를 활용한 파인튜닝 성능 검증: 솔라 모델의 우수한 성능 확인

다양한 유스 케이스 및 향후 계획

다양한 유스케이스 적용 사례 (리걸, 언론, 금융)

솔라 프로, 솔라 미니, 닥 비전 등 다양한 모델 개발 및 제공

기업 내부 데이터 활용을 위한 전체 유스케이스 라인 지원 (데이터 콜렉션부터 레포트 제너레이션까지)

팩트 체커, 업데이트 체커, 인사이트 추천 등 다양한 모듈 제공

주요 유스케이스 성공 사례 소개 (로앤컴퍼니, 조선일보, 신한투자증권)