앤트로픽 '클로드2', 보다 윤리적이고 안전한 AI될까

2023.07.12 11:59:11

11일 출시 발표, 美-英서 베타버전 제공
회사 측, 코딩-추론 능력 이전보다 개선됐다 밝혀

 

[더테크=조재호 기자] 인공지능(AI) 스타트업 앤트로픽(Anthropic)이 새로운 챗봇 ‘클로드2(Claude2)’를 출시했다. 이전 버전에 비해 안전성과 성능이 향상됐다고 밝혀 챗GPT의 아성에 도전할 수 있을지 관심을 모은다. 

 

오픈AI출신의 개발자들이 설립한 앤트로픽는 현재 구글의 투자를 받고있어 향후 '마이크로소프트-오픈AI' 진영과 '구글-앤트로픽' 연합의 구도로 'AI경쟁'이 가시화될 가능성도 조심스레 점쳐진다. 

 

앤트로픽은 11일(현지시간) 자사 홈페이지를 통해 클로드2 출시를 발표했다. 미국과 영국에서 API와 웹으로 베타 버전이 제공된다. 코딩 AI ‘Sourcegraph’와 콘텐츠 마케팅 AI ‘Jasper’ 등이 이번 챗봇을 탑재했다.

 

클로드2는 이전 버전보다 대화하기 쉽고 명확한 결과물을 내놓으며, 유해한 내용을 생성할 확률이 줄어들었다는 평가를 받았다. 앤트로픽은 코딩과 수학, 추론 능력도 한층 더 개선됐다고 밝혔다.

 

일례로 클로드2는 Bar exam(미국 변호사 시험) 객관식 영역에서 76.5%를 기록했는데 이전 버전닌 클로드1.3의 73%보다 높은 점수다. 미국 대학원 수학 자격시험인 GRE(Graduate Record Examination)에서도 상위 10% 이상의 점수를 받았다. 프로그래밍 언어인 파이썬(Python) 코딩 테스트인 'Codex HumanEval'에서도 71.2%로 기존 56%보다 높은 성능을 보였다.

 

한 번에 작업할 수 있는 토큰 수도 10만 개로 증가해 책 한 권 분량이나 수백 페이지에 달하는 기술 문서를 처리할 수 있다. 이는 생성형 AI 모델 중 가장 큰 규모라는 것이 회사 측 설명이다.

 

아울러 앤트로픽은 안전성 개선을 위한 작업을 지속해 1.3버전보다 두 배 이상 우수한 성과를 보였다고 밝혔다. 자체적으로 운용하는 '레드팀'이 AI의 결과물을 수동 확인하고 있다는 설명이다.

 

앞서 앤트로픽은 지난 4월 클로드를 출시했고 5월에는 자사 AI 모델이 반드시 지켜야할 원칙을 담은 ‘클로드 헌법’을 공개했다. 이를 통해 보다 윤리적이고 안전한 AI를 만들겠다는 것이다.

 

앤트로픽은 오픈 AI의 연구진이었던 다니엘라 아모데이(Daniela Amodei)와 다리오 에머데이(Dario Amodei) 남매가 설립한 AI 스타트업이다. 올해 2월 구글은 앤트로픽에 3억 달러(약 3875억)을 투자해 지분 약 10%를 보유 중이다.

 

 

조재호 기자 jjh@the-tech.co.kr
Copyright @더테크 (TEC TECH) Corp. All rights reserved.





  • 네이버포스트
  • X
  • Facebook