앤트로픽의 독립 평가자 접근 확대

앤트로픽이 외부 평가기관 METR에 사내 직원급 접근 권한을 주기 시작했다고 밝혔다. 기준 시점: 2026-10-15

무슨 일인가

앤트로픽 뉴스룸에 따르면, 2026년 10월 15일 프론티어 모델을 평가하는 비영리기관 METR 소속 6명에게 "직원과 비슷한 수준의 접근(employee-like access)"을 주기 시작했다고 밝혔다. 이 팀은 앤트로픽의 사내 장비·사무공간·내부 툴과 시스템을 자체 위험 평가팀과 "거의 같은 수준으로" 쓸 수 있고, 앤트로픽 직원들은 위험·정렬 문제를 함께 다루는 동료처럼 이 팀과 정보를 공유하도록 권장받는다고 한다. 다만 고객 데이터, 변호사-의뢰인 특권 정보, 모델 아키텍처 정보는 제외되며, 아키텍처 정보는 매우 관련이 높고 내부 승인을 받은 경우에만 예외적으로 공유한다고 밝혔다. METR 내부에서도 이 전담팀은 나머지 METR 인력과 분리되어 있고, 구속력 있는 계약 하에 움직인다고 한다.

뉴스룸은 평가자 접근을 3단계로 나눠 설명했다. 1단계는 범위가 좁은 위험 조사이고 공개 전에 앤트로픽의 승인이 필요하다. 2단계부터는 평가자가 앤트로픽의 승인 없이 결과를 공개할 수 있고, 앤트로픽은 사전에 정해둔 범주에 한해서만 특정 정보의 삭제를 요구할 수 있으며, 평가자는 그 삭제가 타당했는지에 대해 의견을 밝힐 수 있다고 한다. 이번 METR 사례는 3단계로, 공개 권한은 2단계와 비슷하다고 설명했다. 같은 글에서 SecureBio는 2026년 2월 위험 보고서를 시범 검토한 데 이어 8월 위험 보고서의 화학·생물무기 관련 챕터를 검토 중이고, 이후 접근을 더 넓힐지 검토한다고 밝혔다. 또 Accenture·Faculty와는 모델 평가·레드팀, 정렬 평가, 안전장치 테스트, 역량 구축을 다루는 협력을 추진 중이며, Hugging Face 등과도 초기 논의를 하고 있다고 전했다.

앤트로픽은 "앤트로픽은 공개를 거부할 수 없다(Anthropic can't veto publication)"고 밝혔고, 삭제를 요구할 수 있는 범주도 기밀 지식재산권 재현 같은 사전 정의된 항목으로 제한된다고 설명했다. 이런 평가자 체계를 갖추는 이유로 전문성·독립성(지분이나 재정적 의존이 없음)·충분한 접근권·공개할 자유 네 가지를 들었고, "모든 프론티어 AI 회사가 똑같이 해야 한다"고 덧붙였다.

왜 중요한가

이 발표가 눈에 띄는 지점은 평가자에게 접근권만 주는 게 아니라 공개 거부권을 회사가 포기했다고 명시한 부분이다. 외부 평가가 유의미하려면 평가자가 회사 눈치를 보지 않고 결과를 낼 수 있어야 하는데, 이번 체계는 그 조건(독립성 + 공개 자유)을 접근 단계별로 구조화해서 보여준다. 에이전트나 모델을 다루는 입장에서 보면, 모델이 강력해질수록 "모델을 만든 회사가 자기 모델이 안전하다고 말하는 것"과 "독립된 제3자가 같은 결론에 도달하는 것"의 신뢰 격차가 벌어지므로, 이런 평가 체계가 업계 표준처럼 자리잡는지 지켜볼 만하다.

짚고 갈 개념

내 생각

"공개 거부권을 포기한다"는 선언 자체는 강하지만, 실제로는 앤트로픽이 "사전 정의된 범주"의 삭제 요구권은 쥐고 있고 그 범주를 정하는 것도 앤트로픽이라는 점이 눈에 들어온다. 평가자가 삭제 타당성에 "의견을 밝힐 수 있다"는 것과 "거부할 수 있다"는 것은 다른 얘기라서, 이 체계가 실제로 얼마나 독립적으로 작동할지는 METR이 공개할 보고서들이 실제로 불편한 내용을 얼마나 담는지를 봐야 판단될 것으로 보인다.

출처

CSLOG에서 보기