올거나이즈 생성 AI 솔루션, LH에 구축된다
2024-08-01 16:25
올거나이즈는 자체 거대언어모델(LLM) '알파'와 검색증강생성(RAG) 솔루션을 결합해 LH 내부에 생성 AI 서비스를 구축한다. 알파 LLM에 LH 고유 업무 문서, 유관 분야 전문 데이터를 학습시켜 공공·건설 관련 업무 확장성이 높은 특화 모델로 고도화한다. 데이터는 편람, 매뉴얼, 현행법령·행정규칙, 표준·전문시방서 등 LH 내외부의 업무 관련 내용들로 구성된다.
생성 AI의 환각 현상을 줄일 수 있는 RAG도 접목한다. 지식 검색과 출처 표시, 사내 문서와 복잡한 표 기반 질의응답, 사용자별 질의이력 관리 등을 LH 업무에 맞게 적용한다.
생성 AI 기반 업무기준 질의응답 서비스는 LH의 업무 특성상 수많은 법령, 지침을 참조하고 수시로 변경, 개선되는 정책을 반영해야 하는 배경에서 사업이 추진됐다. LH는 이번 사업을 통해 업무기준에 대한 질의응답 서비스를 구축하고 지속적인 학습데이터 현행화 기반을 마련할 방침이다.
올거나이즈는 PDF나 HWP 등 다양한 문서 형식과 복잡한 표를 포함한 문서에서도 답을 잘 찾을 수 있도록 전략적으로 구성한 RAG 솔루션을 적용할 예정이다. 또 답변 출처 미리보기 화면에서 답을 강조 표시하는 등의 최적화된 UI·UX도 더한다.
이창수 올거나이즈 대표는 "올거나이즈는 이미 한국과 미국, 일본의 다양한 기업·공공기관과 수십만, 수백만 페이지의 방대한 문서를 대상으로 생성 AI를 활용해 필요한 지식을 찾고 업무를 자동화하는 프로젝트를 수년간 진행해 왔다"며 "생성 AI를 사내 서버에 구축할 때는 적절한 경량화와 특화된 학습도 중요하지만, 함께 작동하는 RAG 솔루션의 품질도 중요하다"고 강조했다.