[이데일리 강민구 기자] 구글이 2억7000만개의 매개변수(파라미터)로 구성된 초소형 인공지능(AI) 모델 ‘젬마3 270M’을 허깅 페이스, 캐글 등에 출시했다.
이 모델은 △압축되고 강력한 구조 △뛰어난 에너지 효율성 △지시사항 준수 △양자화 인식 학습 등이 강점이다.
|
우선 총 2억7000만개의 매개변수 중 약 1억7000만개는 임베딩 매개변수이며, 나머지는 변동형 블록 매개변수로 구성돼 있다. 특정 도메인과 언어에 맞춰 세부 조정을 할 수 있다는게 특징이다.
가장 큰 장점은 낮은 전력 소비다. 픽셀9 프로에서 시험한 결과, 25번 통화 시 배터리의 0.75%만 소비하는 것으로 나타났다. 지시 기반 학습 기반의 AI가 산업 현장에서도 효율적인 것으로 분석됐다. SK텔레콤과 AI 스타트업 어댑티브 ML(Adaptive ML)이 공동으로 수행한 작업에서 대규모 범용 모델 대신 쓰여 다국어 콘텐츠 관리 작업에서 우수성을 나타냈다.
구글은 젬마3 270M을 개발자들이 쉽게 사용하도록 다양한 도구도 함께 공개했다. 특히 문서와 조정 방법들을 제시해 개발자들이 자신의 환경이나 요구사항에 맞춰 모델을 최적화하도록 했다.
구글은 “젬마3 270M을 고객만의 맞춤형 솔루션으로 최대한 쉽게 전환하도록 지원하고 있다”며 “다른 젬마3 모델과 같은 구조를 기반으로 구축돼 개발자들이 더 똑똑하고, 효율적인 AI 시스템을 구축하도록 돕는다”고 밝혔다.
