라이너, KAIST와 AI 에이전트 시스템 신뢰도 제고 '박차'
2024-06-25 17:07
이번 연구는 AI 에이전트 시스템 신뢰도 제고를 위해 라이너가 전문 대학 연구기관과 진행하는 첫 산학협력 프로젝트다. 라이너와 KIXLAB은 오는 2025년 3월까지 공동 연구를 진행하고, AI 에이전트 시스템의 신뢰도를 측정하고 규정할 수 있는 벤치마크 데이터셋을 구축할 예정이다.
라이너와 KIXLAB은 반복적으로 제기되고 있는 AI 신뢰 문제를 해결하기 위해 공동 연구를 계획했다. 각자의 전문성과 역량을 결합해 AI 에이전트 시스템 신뢰도를 측정할 수 있는 벤치마크 데이터셋을 개발하겠다는 설명이다.
라이너는 지난 2015년부터 웹 하이라이팅 서비스를 운영하며, 사람이 직접 중요하고 유용하다고 판단하고 선별한 고품질의 데이터를 바탕으로 AI 에이전트를 고도화해 왔다. 웹에는 거짓이거나 불필요한 정보도 방대하게 존재하는데, 라이너는 그간 축적해 온 양질의 데이터를 활용해 신뢰할 수 있는 정보를 정확하고 빠르게 제공한다는 것이 회사 측의 설명이다.
카이스트 전산학부의 김주호 교수가 이끌고 있는 KIXLAB은 대규모 온라인 시스템에서의 인간-컴퓨터 상호작용(HCI) 분야에서 활발한 연구를 수행하는 연구실이다. KIXLAB은 올해 FAccT 학회에 제출한 논문을 통해 AI 생성물로부터 정확한 정보를 파악할 수 있는 효과적인 방법을 제안한 바 있다. AI 신뢰성·투명성 제고에 기여할 수 있는 연구를 진행하고 있다.
김진우 라이너 대표는 "이번 프로젝트를 통해 상호 이익 증진은 물론, AI 검색 엔진에 대한 사용자의 신뢰 향상에 기여하게 되기를 바란다"며 "연구 진행과 동시에 라이너 AI 에이전트 기술은 지속적으로 고도화할 예정이며, 리서치 AI 분야에서 라이너의 선도적 위치를 한층 더 견고하게 다져나갈 것"이라고 말했다.