[더테크 이지영 기자]  영상 플랫폼에 집행되는 광고 예산의 상당 부분이 민감하거나 저품질 콘텐츠에 노출되며 브랜드 신뢰도를 훼손하고 있다는 분석이 나왔다. 영상 이해 AI 기업 파일러는 생성형 AI 확산으로 급증한 저품질 콘텐츠 문제를 분석한 ‘AIGC 시대의 AI 슬롭 확산 리포트’를 발간했다.

리포트에 따르면 기업이 영상 플랫폼에 집행하는 광고 예산의 19.3%가 AI 슬롭을 포함한 저품질 콘텐츠 및 민감 영상과 연계돼 사용되고 있는 것으로 나타났다. 특히 한국은 세계 최대 AI 슬롭 소비국으로 분류되며, 국내 디지털 광고 환경 전반에서 브랜드 세이프티 확보가 시급한 과제로 떠올랐다.

파일러는 AI 슬롭을 성격에 따라 세 가지 유형으로 분류했다. AI로 생성된 허위 정보와 사칭으로 신뢰를 붕괴시키는 AI 허위정보, 비동의적 누드 등 성적 이미지를 생성해 인권을 침해하는 AI 선정성, 저품질 콘텐츠가 검색 피드를 점령해 이용자의 주의력을 분산시키는 AI 정보 교란이다. 이러한 콘텐츠는 개인 이용자뿐 아니라 기업 브랜드에도 직접적인 타격을 준다.

실제 분석 결과, 광고가 유해 콘텐츠와 함께 노출될 경우 브랜드 신뢰도는 최대 60%까지 하락하며, 구매 의도 역시 절반 수준으로 감소하는 것으로 나타났다. 더 나아가 기업 영상 광고 예산의 최대 55%가 실질적인 마케팅 효과 없이 낭비되고 있어, 광고 집행 구조 자체가 왜곡되고 있다는 지적도 제기된다.

파일러는 일반 이용자와 기업이 AI 슬롭을 식별할 수 있는 기준도 제시했다. 인물 관절이나 디테일이 뭉개지는 시각적 결함, 맥락 없는 문구의 반복과 인과관계가 부족한 정보 구성, 지나치게 일관된 톤과 무의미한 컷 전환이 반복되는 패턴이 대표적인 징후다.

기술적 대응 방안으로 파일러는 브랜드 안전을 넘어 브랜드 적합성까지 고려한 솔루션을 제안했다. 저품질·유해 콘텐츠를 차단하는 AiD 솔루션에 민감 영상 카테고리 기능을 추가해, 기업이 공통적인 유해 요소 차단은 물론 브랜드 철학과 캠페인 성격에 따라 광고 환경을 세밀하게 관리할 수 있도록 했다.

파일러는 자체 개발한 영상 이해 AI 모델 안타레스를 기반으로 하루 250만 건 이상, 누적 60억 건 이상의 영상을 분석하고 있다. 해당 기술을 적용한 AiD 솔루션은 유해 콘텐츠 노출을 평균 85% 이상 줄이고, 낭비되는 광고 예산을 전체의 3% 내외 수준으로 절감하는 성과를 내고 있다.

오재호 파일러 대표는 “생성형 AI는 창작의 문을 넓혔지만 동시에 저품질 AI 슬롭이라는 새로운 리스크를 만들었다”며 “영상의 생성 여부를 넘어 맥락과 의미를 이해하는 기술을 통해 기업이 신뢰할 수 있는 디지털 광고 환경을 구축하겠다”고 말했다.