노타, ‘디지털퓨처쇼 2025’서 AI 모델 최적화 기술 공개…GPU 없이 엣지에서 LLM 구동

[더테크 이지영 기자] 노타가 대규모 AI 모델의 보편화를 앞당길 기술을 선보인다. 오는 11월 5일부터 7일까지 일산 킨텍스에서 열리는 ‘디지털퓨처쇼 2025’에서 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 중심으로 GPU 없이도 대규모 언어모델(LLM)을 엣지 환경에서 구동할 수 있는 기술을 공개한다고 31일 밝혔다. 이번 전시에서 노타는 저전력 디바이스에서도 대규모 언어모델(LLM)과 비전언어모델(VLM)을 최적화할 수 있는 서비스를 선보인다. 이 기술은 모델의 성능을 유지하면서도 추론 속도를 비약적으로 향상시켜, GPU 서버나 고전력 인프라 없이도 고성능 AI를 실행할 수 있게 한다. 이를 통해 GPU 비용과 전력 제약으로 고성능 AI 기능 도입이 어려웠던 기업들이 손쉽게 LLM을 제품에 탑재할 수 있으며, 산업 현장·공공시설·모바일 기기 등 다양한 환경에서 AI 활용 범위를 확대할 수 있다. 노타는 전시 부스 내에서 LLM과 VLM이 엣지 환경에서 구동되는 시연을 마련했다. 관람객은 문서를 업로드하고 질문을 입력하면, 최적화된 LLM 모델이 문서를 이해하고 답변을 생성하는 기능을 직접 체험할 수 있다. 또, VLM 최적화 서비스 시연과 함께 방문객을

• 이지영 기자
• 2025-10-31 10:54