[더테크 이지영 기자]  ㈜마음AI 가 오는 CES 2025 에서 퀄컴 테크날러지스와의 온디바이스 AI 협력 성과를 공개한다. 마음AI 는 이번 CES 2025 전시회에 단독 부스로 참여해 LLM 기반 음성 대화 제품인 'SUDA'를 선보인다고 18일 밝혔다. 

'SUDA'는 퀄컴 QCS6490 프로세서 기반의 퀄컴 RB3 2세대 플랫폼을 탑재해 음성 대화를 위한 STT, LLM, TTS 를 지원하며 인터넷 연결 없이 디바이스 상에서 음성 대화가 가능하게 만든 것이 특징이다.

퀄컴의 QCS6490 프로세서는 스마트홈, 운송, 창고 관리, POS 키오스크, 커넥티드 헬스케어, 물류 관리 등 산업용 IoT 애플리케이션에 최적화된 플랫폼이다. 마음AI 는 이번 퀄컴과의 협업을 통해 QCS6490 프로세서에 STT, LLM, TTS 를 탑재하는데 성공했다.

마음 AI는 "QCS6490 프로세서는 마음 AI가 온디바이스 LLM을 통해 원활한 음성 상호작용 서비스를 구현할 수 있으며, 온디바이스 비전 AI를 포함한 다른 애플리케이션을 실행할 수 있는 능력을 확보 할 수 있다"고 밝혔다.

또한 "마음AI는 LLM 추론 속도를 최대한 끌어올린 결과, 온디바이스 상에서 총 처리 지연시간(Total Latency)을 1.5 초 이내로 단축하는 데 성공했다. 일반적인 AI 스피커나, 가전제품에 탑재된 음성 대화 모듈들에 비해 사용자 경험을 향상시킬 수 있다"고 말했다. 

최홍섭 마음AI의 기술총괄 CEO는 "QCS6490 프로세서에 LLM을 탑재하려는 수요가 많은 것이며, 퀄컴 테크날러지스와 긴밀한 협력을 통해 온디바이스 AI 시장을 선도할 수 있을 것이라 기대한다”라고 밝혔다.