[더테크=전수연 기자] 한국IBM이 높아지는 기업의 생성형 AI 수요와 도입으로 인해 발생하는 문제점들을 개선한 통합 플랫폼을 선보인다. AI 라이프사이클 전반에 걸쳐 모니터링, 관리하며 리스크를 최소화할 수 있게 되면서 기업의 사용 편의가 높아질 것으로 보인다.

IBM은 서울 여의도 한국IBM 사무실에서 IBM 왓슨x. 거버넌스를 소개하고 시연하는 기자간담회를 14일 개최했다.

(관련기사: IBM, 차세대 양자 컴퓨팅 시스템 발표와 로드맵 제시)

간담회 시작과 함께 김현정 한국IBM 컨설팅 대표는 ‘기업의 생성형AI 도입 시 고려사항’ 주제를 언급했다. 김 대표는 “기업이 현재 생성형AI로 가치를 내기 위해서는 기술 활용에 대한 대비가 필요하다”며 “소위 LLM(거대언어모델)을 중심으로 많은 시도들이 있었다. 자연어, 컴퓨팅 언어를 기반으로 다양한 유스케이스들이 논의됐다”고 말했다.

생성형AI는 멀티모달뿐만 아니라 영상, 소리, 분자 데이터, 센서 데이터 등 잠재력이 구현되지 못했던 다양한 유형의 데이터를 기반으로 유스케이스를 만들어낼 것으로 분석됐다. 하지만 AI가 야기할 수 있는 환각현상, 편견, 사실의 정확성, 법·지적재산권 침해, 데이터 오염 등이 위험요인으로 꼽히고 있다.

이를 해소하기 위한 관점으로 △데이터 관련 보안, 품질, 최신성 △AI 모델 관련 신뢰, 편향, 투명성 △AI 관련 규제 3가지가 소개됐다. 김 대표는 “기업은 생성형AI를 사용함에 있어 자사 데이터와 기업 기밀 유출, 데이터 품질 문제에 대한 심각한 고민을 하고 있다”며 “이를 위해 기업에서 갖춰야 할 내부 통제와 프레임워크를 준비하고 있다”고 말했다.

이어서 이지은 한국IBM 전무는 ‘IBM 왓슨x. 거버넌스 기술 및 제품 소개’를 발표했다. IBM은 기업이 AI를 활용하기 위해 고려해야 하는 사항과 리스크를 염두에 두고 중요한 영역이 거버넌스 영역이라고 판단했다.

왓슨x.은 AI, 데이터, 거버넌스의 3개 영역으로 구성돼 모듈화된 아키텍처 기반의 플랫폼으로, 기업 수요에 맞춰 필요한 영역만 유연하게 구성할 수 있는 플랫폼이다.

이지은 전무는 “AI를 활용하려면 우선 데이터가 필요한데 왓슨x. 데이터 플랫폼은 사용자들이 쉽게 데이터에 접근하고 관리할 수 있다”며 “데이터를 가지고 AI, LLM, 머신러닝 등을 적용할 수 있다. 또 어떤 모델과 데이터를 사용하는지 전반을 관리할 수도 있다”고 전했다.

IBM은 플랫폼들을 엔터프라이즈 기업이 퍼블릭클라우드에 데이터 유출 고민이 있을 때도 안전하게 사용할 수 있도록 제작했다. 특히 AI 거버넌스는 AI 도구와 시스템이 유지되도록 보장하는 장치이자 공정성, 인권을 위해 개발을 지시하는 프레임워크 겸 표준이라고 볼 수 있다.

왓슨x. 거버넌스의 주요 기능은 △AI 라이프사이클 전반에 걸쳐 모델을 모디터링 및 분류 △보고서 생성을 위해 모델 메타데이터 캡처 자동화 △리소스, 인퍼런스 관리 성능 지속 모니터링 △생성형 AI와 LLM에 대한 빌트인 매트릭 지원과 커스텀 매트릭 반영 △팩트, 워크플로 관리 자동화 △내부통제 준수 여부 식별 관리 모니터링 보고 △동적 대시보드 △싱글 뷰 제공 등이다.

이와 함께 왓슨x. 거버넌스의 환각현상 대응 방안에 대한 질문에 이지은 전무는 “환각현상 해소를 위해 데이터 트레이닝 단계부터 자사의 질문에 맞도록 파인튜닝을 진행해야 한다”며 “또 일반 LLM을 사용하더라도 자사 도메인 데이터를 학습시키는 게 중요하다”고 답했다.

아울러 내년 AI 시장 화두와 이와 관련한 IBM의 계획에 대해 김현정 대표는 “올해는 생성형 AI가 불러올 수 있는 가능성을 점검한 해였다면 내년에는 이런 점들이 확산될 것으로 본다”며 “각 기업 환경에 맞는 AI 모델이 개발, 테스트되고 여러 운영모델의 변화를 통해 기술 활용도를 높이는 것을 고민하고 있다. 사용자가 많아질수록 기업에서도 체계를 만들어야 하기 때문에 함께 고민할 수 있는 서비스를 준비하고 있다”고 덧붙였다.