솔트룩스, 생성 AI 어플라이언스 '루시아 온' 출시
2024-03-20 14:25
솔트룩스에 따르면, 루시아 온은 구축형(온프레미스) 환경에서 정보 유출 걱정 없이 누구나 내부 문서를 학습시킨 '맞춤형 챗GPT'를 만들 수 있는 서비스다. 도서 약 420만 권 분량의 한국어 데이터를 학습했다. 여기에 최근 오픈소스 초거대언어모델(LLM) 리더보드에서 350억 매개변수(파라미터) 이하 기준 성능 1위를 기록한 자체 LLM '루시아'를 기본 탑재했다.
솔트룩스는 여기에 다양한 응용프로그램인터페이스(API) 세트를 제공해 추가 프로그램 개발과 기능 확장이 용이하다. 오픈AI 'GPT'와 미스트랄의 '미스트랄(Mistral)', 메타 '라마' 등 다른 언어모델과의 연동도 가능하다. 특히 검색증강생성(RAG)과 데이터를 벡터화하는 임베딩(Embedding) 기능을 지원해 챗GPT의 단점으로 꼽히는 환각 현상을 최소화할 수 있다는 설명이다.
솔트룩스 관계자는 "노코드 방식의 웹 기반 관리 도구를 채택해 코딩을 몰라도 기본 관리와 모니터링이 가능하다"며 "루시아 온 추가 구입으로 사용량 증가에도 유연하게 대처할 수 있어 도입 후 발생하는 운용 방안과 비용에 대한 우려까지 크게 낮췄다"고 강조했다.
솔트룩스는 루시아 온이 △고객 서비스 자동화 △문서 요약·분석 △언어 번역 △콘텐츠 생성 △개인화 추천 시스템 구축 등에서 다양하게 활용될 것으로 기대했다.
현재 루시아 온에 탑재된 루시아 13B(130억 파라미터) 모델은 영어와 한국어를 지원하며 약 50명 정도가 활용할 수 있는 규모다. 대규모 시스템 구축 등 커스터마이징이 필요할 경우 별도 문의하면 된다.
솔트룩스 관계자는 "생성 AI의 도입을 고민하고 있으나 비용과 전문가 부족, 보안 문제로 어려움을 겪던 전 세계 기업·기관들의 니즈를 빠르게 해결할 수 있을 것으로 기대한다"고 말했다.