AI - 솔트웨어

AI Service

인공지능 기술을 활용한 자동화를 위해 기업형 챗봇 서비스를 제공합니다.

Scroll

솔트웨어 AI 브랜드 FitSapie

솔트웨어가 자체 개발한 AI 브랜드 FitSapie는 AI 기반 챗봇(Sapie-Bot), 제품 추천(Sapie-Reco), LLM(Sapie-LLM)으로 이루어진
서비스입니다. 특히 자체 개발한 한국어 언어 모델 Sapie는 한국어 능력을 종합 평가하는 호랑이 리더보드에서 오픈소스 부문
1위를 기록하여 그 성능을 증명하였으며, 이는 솔트웨어가 고도의 데이터 처리 및 모델 세팅 능력을 보유하였음을 의미합니다.

Service 01
Sapie-Bot

LLM 기반
인공지능 챗봇
Service 02
Sapie-Reco

사용자 행동 패턴 기반
초 개인화 제품 추천
Service 03
Sapie-LLM

기업 맞춤형
AI 모델 구축

01.Sapie-Bot

Sapie-Bot은 LLM 기반의 인공지능 챗봇으로 24시간 Q&A 채널, 초개인화 업무 어시스턴트 등
고객의 다양한 니즈를 현실화하여 업무의 생산성과 효율성을 극대화하는 솔트웨어의 AI 챗봇 서비스입니다.

Sapie-Bot, 어떤 특장점이 있나요?

정확성과 신뢰성을 높인 AI 응답 시스템
▪ 할루시네이션 최소화 ▪ 다양한 데이터 포맷으로 내부데이터 적용 가능
고객 환경 최적화
▪ Cloud/On-premise/Hybrid 등 맞춤 구축 ▪ 고객의 도메인, 테스크 등에 특화된 커스터마이징 가능
손쉬운 확장성
▪ 주요 기능을 API로 제공해 서비스 확장 용이 ▪ 레거시스템, DB 등과 자유롭게 연결 가능

Service Architecture

Advanced RAG

내부 데이터 기반의 정확한 답변으로 할루시네이션(Hallucination)을 최소화합니다.
다양한 데이터 포맷 지원, 최적의 검색 시스템과 청킹 전략 설정 등 고객 맞춤형 RAG 시스템을 만나 보세요.

02. Sapie-Reco

Sapie-Reco은 사용자의 의도와 행동 맥락을 파악하는 새로운 상품 추천, 상품 데이터 기반의 풍부하고
창의적인 테마 생성 등으로 사용자에게 새로운 구매 경험을 제공하는 토탈 추천 서비스입니다.

Sapie-Reco, 어떤 특장점이 있나요?

개발 및 운영 리소스 절감
▪ 복잡한 알고리즘 대신 LLM 기반 손쉬운 추천 시스템 개발·운영 ▪ 기존 비용 대비 운영 효율을 최대 700% 향상
추천 시스템 성능 향상
▪ 일반 환경은 최대 3%, 콜드 스타트 환경은 2배 이상의 추천 정확도 향상 ▪ 기존 추천 시스템과 결합하여 구매 전환율, 체류시간 등 향상
고객 구매 경험 개선
▪ 초개인화 추천으로 맞춤형 쇼핑 경험 제공 ▪ 풍부하고 창의적인 카테고라이징을 통해 더 나은 고객 만족도 실현

Service Architecture

03. Sapie-LLM

Sapie-LLM은 솔트웨어가 자체 개발한 LLM으로, 고객의 도메인에 특화된 서비스 제공을 가능케 함과
동시에 데이터 유출 등 보안 이슈를 완전히 차단할 수 있는 생성형 AI 솔루션입니다.
호랑이 리더보드 오픈소스 부문 1위를 만들어 낸 솔트웨어의 모델 커스터마이징 능력으로,
고객에게 ‘Fit’한 맞춤형 LLM을 제공해 드립니다.

Sapie-LLM, 어떤 특장점이 있나요?

고객 특화 서비스 가능
▪ 고객 데이터를 이용한 모델 학습(Fine-tuning)으로 도메인 특화 서비스 가능
높은 수준의 보안 제공
▪ 외부와 차단된 폐쇠망 동작으로 데이터 유출 가능성 원천 차단
커스터마이징 & 통합성 제공
▪ 리더보드 1위를 달성한 솔트웨어의 맞춤형 모델 커스터마이징 서비스 제공 ▪ API 인터페이스 제공, 모듈화 구성으로 높은 시스템 통합성

Performance Benchmark

Reference

1. Sapie-Bot 사례 : 국내 대학교 24시간 고객 Q&A 챗봇 구축

Y대학교는 높은 취업률을 강점으로 하는 수도권 소재 학교로 학생 및 학부모와 소통하기 위한 채널로서 카카오톡 채널을 운영하고 있었으나, 사람이 직접 질의를 확인하고 응답하는 방식이었기 때문에 입시 시즌 등 문의가 집중되는 시기에는 답변이 늦어질 수밖에 없어 운영 효율이 크게 떨어졌습니다. 이에 고객의 만족도와 업무 효율을 모두 높이기 위하여 생성형 AI의 도입을 결정했습니다.
솔트웨어는 고객의 서비스 운영 상황에 맞춘 클라우드 인프라 구축, 자동화된 RAG 파이프라인 구축, 모델의 선정 및 프롬프트 튜닝 등 생성형 AI 서비스의 도입 및 운영에 필요한 전 과정을 진행하고, 이관 후에도 안정적인 운영이 이루어질 수 있도록 다방면의 기술 지원을 수행했습니다. 특히 할루시네이션으로 인한 잘못된 정보의 발송을 막기 위하여 프롬프트 엔지니어링 고도화, 관리자의 답변 관리 기능 등을 맞춤형으로 제공하였습니다.
또한 기존에 운영하던 카카오톡 채널에 챗봇을 연결하고 공식 홈페이지에서도 플로팅 팝업 형태로 챗봇을 제공하는 등 기존 시스템을 최대한 활용, 불필요한 개발을 최소화하였습니다.
Y대학교는 자동화된 Q&A 챗봇을 통해 입시 시즌 기준 질의 응답에 소요되는 인력을 50% 이상 절감할 수 있었으며, 학생과 학부모 역시 24시간 운영되는 챗봇을 통해 궁금한 사항을 언제든지 확인할 수 있게 되어 서비스 만족도를 크게 높일 수 있었습니다.

2. Sapie-Reco 사례 : B사 초개인화 추천 서비스 구축

B사는 수제작의 독특한 상품들을 한눈에 살펴볼 수 있어 특히 젊은 층에게 선물 구매처로 인기가 높은 쇼핑몰을 운영하고 있습니다. 기존의 추천 알고리즘과 별개로 생성형 AI를 도입, 각 시즌별로 더 참신하고 새로운 방식으로 상품을 추천하는 추천 서비스를 구축하고자 하였습니다.
매번 수많은 상품이 새롭게 등록되는 쇼핑몰의 특성에 맞추어 솔트웨어는 상품과 사용자 정보를 데이터화하고 활용하기 위한 자동화 파이프라인의 구축에 특히 집중하였습니다. 상품 등록 시 자동으로 클러스터링을 수행하고 Vector DB를 만드는 파이프라인, 고객의 정보를 업로드하여 프롬프트로 전달하는 파이프라인 등을 구축하고, 고객사의 요구에 따라 챗봇과 웹페이지 각각에 맞추어 UI/UX를 구현하였습니다.
고객 서비스에 구축한 새로운 추천 서비스는 내부 테스트 인원 뿐만 아니라 실제 고객을 대상으로도 유의미한 성과를 이끌어냈습니다. 특히 기존 추천 시스템이 가지고 있던 Cold Start 문제를 효과적으로 개선하였으며, 인력 대비 훨씬 더 짧은 시간 내에 밀도 높은 추천 테마를 생성하여 고객 만족도를 높이는 등 쇼핑몰 안팎으로 다양한 효율화를 이루어 냈습니다.

3. Sapie-LLMS 사례 : 내부 규정 기반 챗봇 구축

S사는 총 직원 수 130여 명의 IT 기업입니다. 사내 업무 관련 규정이나 운영 지침, 각 조직별 담당자 등을 사내 플랫폼 내에 공지하고 있으나, 관련 규정을 찾지 못한 조직원의 문의에 응대하는데 경영 지원 부서의 인력이 상당수 소요되고 있었습니다. 이와 같은 리소스 소모를 줄이기 위하여 S사는 생성형 AI 기반의 챗봇을 구축하기로 결정하였습니다.
S사의 내부 데이터에는 임직원들의 연락처와 같은 민감정보나 외부로 유출되어서는 안 되는 정보들이 포함되어 있었으므로 S사는 독립된 폐쇄망에서 서비스를 구축하고자 하였고, 이에 따라 Sapie-LLM을 이용하여 서비스를 구축하기로 하였습니다. 솔트웨어는 먼저 S사의 데이터를 활용하여 Sapie-LLM을 튜닝함으로써 모델이 IT 도메인에서 활용되는 단어와 문맥을 잘 이해할 수 있도록 하였고, 그와 동시에 S사의 사내 플랫폼에 분산된 데이터를 모아 RAG 시스템을 구축, 이를 모델과 연결하여 챗봇 시스템을 구현한 뒤 S사의 플랫폼에 추가하였습니다. 그리고 차후 업무별로 다양한 챗봇을 활용할 수 있도록 Sapie Studio를 제공하여 복수의 챗봇을 생성하거나 챗봇별 데이터를 관리하는 등 손쉬운 운영을 할 수 있도록 하였습니다.
내부 규정 기반 챗봇의 활용도가 높아짐에 따라 S사의 경영 지원 부서는 업무 부담이 크게 완화되었으며, 규정 관련 문의에 대한 즉각적인 대응이 가능해져 사내 전 구성원의 업무 효율이 향상되는 효과를 얻을 수 있었습니다.