[더테크 이승수 기자] 도시 인프라 전반에 인공지능을 내장해 실시간으로 상황을 판단하고 대응하는 ‘AI 도시’ 구현이 본격화된다. 인터넷 연결 없이 기기 자체에서 데이터를 처리하는 온디바이스 AI 기술이 재난 대응과 교통 관리 등 공공 서비스 혁신의 핵심 인프라로 떠오르고 있다.
과학기술정보통신부는 신경망처리장치(NPU)를 활용한 온디바이스 AI 기반 공공 서비스를 발굴하고 도시 단위 대규모 실증을 추진하는 '온디바이스 AI 서비스 실증·확산' 사업의 2026년도 신규 과제 공모를 3월 24일부터 4월 30일까지 실시한다고 밝혔다.
온디바이스 AI는 클라우드 서버에 의존하지 않고 기기 자체에서 데이터를 분석·판단하는 기술이다. 지연 없이 즉시 대응이 가능하고 외부 통신이 없어 보안성이 높다는 점에서 재난·안전 분야에 적합하다. 특히 물리 환경과 직접 상호작용하는 ‘피지컬 AI’ 시대의 핵심 기술로 평가된다.
정부는 지난해부터 공공 분야에 온디바이스 AI를 적용하는 사업을 추진해 왔다. 기존 실증 사례로는 수상 드론을 활용한 해안 감시, 산불 조기경보 시스템, 하천 녹조 감시 서비스 등이 있으며 각각 부산, 경남 하동·산청, 경북 영주에서 운영되고 있다.
올해는 교통·물류, 보건·복지, 재난·안전 등 주요 도시 서비스 영역에서 신규 과제 5개를 선정한다. 선정된 컨소시엄은 2년간 AI 모델 개발과 NPU 탑재 지능형 기기 제작을 수행하고, 실제 도시 환경에서 대규모 실증을 진행하게 된다. 어린이 보호구역 전역이나 해안 지역 전체 등 도시 단위 적용이 목표다.
이번 사업은 단순한 위험 감지 수준을 넘어 ‘판단과 대응까지 자동 수행’하는 시스템 구현에 초점을 맞춘다. 예를 들어 위험 상황을 탐지하면 경보 발령이나 장비 제어 등 대응 조치가 자동으로 실행되는 형태다. 이는 도시 운영을 인간 중심 대응에서 AI 기반 자율 대응 체계로 전환하는 단계로 평가된다.
또한 시각·언어·행동 정보를 통합 처리하는 피지컬 AI 기술을 활용한 서비스 실증도 병행한다. AI가 센서와 기기를 통해 현실 세계와 직접 상호작용하는 새로운 공공 서비스 모델을 검증하려는 목적이다.
총 사업 규모는 2026년 기준 약 147억 원으로 과제당 약 29억 원이 지원된다. 컨소시엄은 지역 산업진흥기관, AI 및 기기 기업, 지방자치단체가 함께 참여해 기술 개발과 현장 적용을 동시에 추진한다.
전문가들은 온디바이스 AI가 자율주행, 스마트시티, 국방, 산업 자동화 등 다양한 분야에서 핵심 기술로 자리 잡을 것으로 전망하고 있다. 클라우드 의존도를 낮추고 실시간 처리 능력을 확보할 수 있기 때문이다.
정부는 이번 사업을 통해 도시 단위 성공 사례를 축적하고 국내 AI 반도체와 디바이스 산업 생태계를 활성화한다는 계획이다. 궁극적으로는 공공 서비스 혁신과 동시에 AI 강국 도약을 위한 기반을 마련하는 것이 목표다.















