CWN(CHANGE WITH NEWS) - 올거나이즈, 기업 맞춤형 생성 AI 구축 솔루션 ′알리 LLM Ops′ 출시

자연어 인지검색 솔루션 기업 올거나이즈가 기업이 데이터 유출 걱정 없이 내부에서 AI 거대 언어모델을 자유롭게 활용할 수 있는 솔루션인 ‘알리 LLM Ops’를 출시했다고 14일 밝혔다.

알리 LLM Ops는 오픈소스 LLM(Large Language Model, 거대 언어모델)을 활용해 기업이 사내 구축형으로 LLM을 자유롭게 선택하고 활용할 수 있는 서비스로, 민감한 개인정보를 다루거나 데이터 유출을 걱정하는 기업들을 위해 출시됐다.

알리 LLM Ops를 활용하면 올거나이즈의 자연어 기반 인지 검색 솔루션인 알리(Alli)에서 노코드 기반 LLM 애플리케이션을 쉽게 개발할 수 있다. 기업 고객은 자신의 상황에 가장 잘 맞은 언어모델을 자유롭게 선택하고, 개발 현장에 노코드로 바로 반영 가능하다. 비개발자 역시 단 시간 안에 애플리케이션을 완성할 수 있을 만큼 직관적인 UI를 갖추고 있으며, 회계·인사·마케팅 등 직무별 업무 자동화 LLM 애플리케이션을 개발할 수 있다.

알리에서 업무 자동화 시나리오를 만들 때 원하는 LLM을 선택해 활용하면 된다. 돌리(Dolly), 스테이블LM, 블룸(Bloom) 등 파라미터 30억~1760억개의 오픈소스 거대 언어모델을 기업이 원하는 대로 자유롭게 선택할 수 있다. 기업 환경에 맞춰 사내에 언어모델을 구축하기 때문에 머신러닝 과정에서의 데이터 외부 유출을 막을 수 있고, 개인 정보 제어를 통해 보안을 강화할 수 있다.

오픈AI의 GPT나 구글의 바드 등 빅테크 기업의 거대 언어모델을 선택해 SaaS(Software as a Service, 서비스형 소프트웨어) 형태로 활용할 수도 있다. 기업의 정책·예산·태스크 종류 등 비즈니스 상황을 다방면으로 고려한 후, 가장 적합한 언어모델을 선택해 사용하면 된다. 빅테크 기업의 LLM을 사용해도 각 기업의 특성에 맞게 파인 튜닝하기 때문에 기업 특화 프롬프트 엔지니어링 및 버전 관리가 용이하다.

한편 올거나이즈는 △자연어 이해 AI 답변봇 ‘알리(Alli)’와 △문서 내 주요 정보 추출 △감정 및 리뷰 분석 API를 개발, 공급하고 있다. 대표 서비스 알리는 AI가 기업 내 다양한 형태의 문서에서 질문에 대한 답을 자동으로 찾아준다. 일상적인 문장(자연어)의 질문에도 정확한 답변 도출이 가능해 기업의 업무 생산성을 높인다. 최근 챗GPT의 기반 언어 모델인 GPT-3.5 API를 연동한 알리의 업그레이드 버전인 알리GPT를 출시했다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]