[더테크 이승수 기자] IBM은 오늘 자사 거대언어모델(LLM) 제품군의 차세대 버전인 그래니트(Granite) 3.2를 출시했다고 27일 밝혔다. 그래니트는 작고 효율적이며 실용적인 기업용 인공지능(AI)을 제공해 실질적인 비즈니스 효과를 창출하기 위한 IBM의 지속적인 노력이 담긴 솔루션이다.

그래니트 3.2 모델은 허깅 페이스에서 허용되는 아파치 2.0 라이선스에 따라 사용할 수 있다. 일부 모델들은 IBM 왓슨x.ai, 올라마, 리플리케이트, LM 스튜디오에서 오늘 즉시 사용가능하며. 곧 레드햇 엔터프라이즈 리눅스 AI 1.5에서도 제공돼 기업과 오픈 소스 커뮤니티에 새로운 기능을 제공할 계획이다.

이번에 출시하는 그레니트 3.2는 문서 해석 작업을 위한 새로운 비전 언어 모델로, 필수 엔터프라이즈 벤치마크인 DocVQA, ChartQA, AI2D 및 OCRBench 에서 기존 대형 모델인 라마 3.2 11B 및 픽스트랄 12B와 동등하거나 그 이상의 성능을 입증했다.

IBM은 학습 데이터뿐 아니라 자체 오픈 소스 도클링(Docling) 도구를 활용해 8,500만 개의 PDF를 처리하고 2,600만 개의 합성 질문-답변 조합을 생성해 복잡한 문서 중심의 업무를 처리하는 VLM의 능력을 향상시켰다고 말했다.

또한, 3.2 2B 및 8B 모델에서 제공되는 향상된 추론을 위한 ‘연쇄적 사고’ 기능으로, 추론 기능을 활성화하거나 비활성화해 효율성을 최적화할 수 있고 밝혔다. IBM은 이 기능을 통해 8B 모델은 다른 곳의 안전성이나 성능 저하 없이 아레나하드 및 알파카이벨과 같은 인스트럭션 추종 벤치마크에서 이전 모델보다 두 자릿수 개선을 달성했다.

그래니트 8B 모델은 추론 확장과 같은 다른 추론 기법을 통해 표준 수학 추론 벤치마크에서 보다 규모가 큰 모델의 성능과 동등하거나 이를 능가하는 것으로 나타났다. 추론 확장 같은 발전된 방법은 IBM 연구팀의 주요 관심 분야다.

스리람 라가반 IBM AI 연구 담당 부사장은 “다음 AI 시대는 기업이 과도한 컴퓨팅 비용 없이도 강력한 성과를 달성할 수 있는 효율성, 통합 가능성, 실용성이 화두가 될 것”이라며, “개방형 솔루션에 중점을 둔 IBM의 최신 그래니트 모델은 오늘날의 기업들의 AI 접근성, 비용 효율성, AI 자체의 가치를 높이는데 있어 도움을 줬다고 생각한다”고 말했다.