인공지능(AI) 스타트업 앤트로픽이 미국 정부의 수출 통제로 서비스가 일시 중단됐던 최신 AI 모델 '클로드 페이블5(Claude Fable 5)'를 재공개하고 차세대 모델 '클로드 미토스5(Claude Mythos 5)'와 함께 보안 체계를 강화했다고 밝혔다.

앞서 미국 정부는 지난 6월12일 두 모델에 대해 외국인 접근을 제한하는 수출 통제 조치를 시행했다. 당시 앤트로픽은 수출 통제 대상 여부를 신뢰성 있게 판별할 수 있는 기술적 수단이 부족하다고 판단해 전 세계 이용자의 접근을 일시적으로 중단했다.
이번 수출 통제의 배경에는 아마존 연구진이 '페이블5'의 안전장치를 우회하는 '탈옥(Jailbreak)' 기법을 발견한 것이 있었다. 해당 기법은 모델이 소프트웨어 취약점을 식별하고 일부 상황에서 공격 코드 생성을 지원할 가능성을 보여주면서 보안 우려를 불러왔다.

앤트로픽은 약 2주간 미국 정부와 아마존 연구진과 공동 조사를 진행한 결과, 해당 현상이 방어적 사이버 보안 업무 범위를 크게 벗어나지 않았으며 경쟁 모델과 기존 모델에서도 유사하게 재현되는 일반적인 특성으로 확인됐다고 설명했다. 다만 같은 문제가 반복되지 않도록 추가적인 안전장치를 적용했다.

가장 큰 변화는 새로운 '안전 분류기(Safety Classifier)'의 도입이다. 이 분류기는 아마존 연구진이 보고한 탈옥 기법을 99% 이상 차단하도록 설계됐으며, 위험성이 높은 요청을 탐지하면 자동으로 이전 세대 모델인 '클로드 오푸스 4.8'로 전환해 응답한다. 이를 통해 정상적인 사용 경험은 유지하면서도 악용 가능성을 최소화했다는 것이 회사 측 설명이다.
앤트로픽은 이번 사례를 계기로 AI 안전성 평가 체계도 고도화한다. 아마존과 마이크로소프트, 구글 등 글래스윙(GlassWing) 프로그램 참여 기업들과 함께 AI 탈옥 위험을 객관적으로 평가하는 공동 프레임워크를 개발하기로 했다. 새로운 기준은 기존 도구 대비 성능 향상 정도와 수행 가능한 공격 범위, 실제 무기화 난이도, 온라인을 통한 재현 가능성 등 네 가지 요소를 종합해 위험도를 평가한다.

외부 보안 연구자들과의 협력도 확대한다. 앤트로픽은 보안 취약점을 신고하면 보상하는 '해커원(HackerOne)' 프로그램을 통해 '페이블5'의 사이버 보안 취약점을 상시 점검할 계획이다.

또한 차세대 AI 모델을 정식 출시하기 전에 미국 정부 지정 기관의 독립적인 사전 검증과 안전성 평가를 받을 예정이며, 취약점 발생 시 관련 정보를 신속히 공유하고 공동 연구를 위한 전담 기술팀과 컴퓨팅 자원을 지원하는 등 미국 정부와의 협력 체계를 확대할 방침이다.

앤트로픽은 "고성능 AI의 안전한 배포를 위해서는 산업계와 정부가 공통된 위험 평가 기준을 마련하는 것이 중요하다"며 "이번에 구축한 공동 프레임워크가 글로벌 AI 안전성 관리의 새로운 기준이 되기를 기대한다"라고 밝혔다.

김형근 기자 (noarose@dailygame.co.kr)