카카오브레인, AI 연산시간 줄이는 개발 코드 공개
2023-07-26 17:44
깃허브 통해 공개... AI 개발자 진입 장벽 낮출 것
카카오브레인은 인공지능(AI) 모델 훈련과 추론 속도를 높이는 성능 라이브러리 '트라이던트(Trident)'를 오픈소스 플랫폼 깃허브에 공개했다고 26일 밝혔다.
트라이던트는 오픈AI의 그래픽 처리장치(GPU) 개발 언어 '트리톤'을 기반으로 구현한 라이브러리(소스코드 집합)다. AI 모델 개발에 필요한 연산을 최적화한 커널로 구현했다. 메타가 개발한 기계학습 프레임워크 '파이토치'와 같은 사용 방법을 제공한다.
카카오브레인에 따르면 AI 개발자는 복잡한 GPU 커널 최적화 과정을 거치지 않고, 트라이던트를 활용해 모델 학습과 추론에 필요한 연산 시간을 기존 대비 25% 줄일 수 있다. AI 연구개발(R&D)을 효율성도 높아지는 셈이다.
카카오브레인 측은 이번 공개에 대해 AI 연구의 기술 장벽을 낮춰 개발자를 지원하기 위함이라고 설명했다. 개발자가 자주 사용하는 연산 중심으로 한층 개선된 트라이던트 라이브러리를 구현하고, 사용 빈도가 높은 연산 조합을 하나의 커널로 만들어 공개하겠다는 계획도 밝혔다.
김일두 카카오브레인 각자 대표는 "다수 AI 개발자가 거대 AI 모델을 쉽게 개발할 수 있도록 지원하고자 트라이던트를 공개한다"며 "대규모 언어 모델, 이미지 생성 모델 등의 기초 연구뿐 아니라 주요 기술 공개와 같은 AI 생태계 발전에 기여하는 활동을 꾸준히 이어나갈 것"이라고 말했다.