한눈에 보기
- 무엇: 앤트로픽이 외부 AI 위험 평가기관 METR 연구원들에게 자사 직원과 비슷한 수준의 내부 접근권을 줬어요. METR은 평가 결과를 직접 공개하고, 앤트로픽은 공개를 막을 수 없어요.
- 누가: 클로드(Claude)를 만드는 앤트로픽과 비영리 평가기관 METR이에요. 생물보안 단체 SecureBio, 컨설팅 회사 액센츄어(Accenture)와도 범위를 좁혀 협력해요.
- 언제: 2026년 10월 15일(미국 시간) 앤트로픽이 발표했어요. 첫 보고서 공개 날짜는 정해지지 않았어요.
- 얼마: METR 직원 6명이 합류했어요. 앤트로픽은 METR의 이 작업에 돈을 대지 않는다고 밝혔어요(CNBC 보도).
- 어디서: 앤트로픽 사무실과 내부 시스템에서 일하고, 결과는 METR이 외부에 공개해요.
AI 회사가 바깥 감시자를 회사 안에 들이고, 그 감시자가 쓴 보고서를 회사가 막지 못하게 한 거예요. 은행에 감독관이 상주하는 방식과 비슷하다고 앤트로픽은 설명했어요. 다만 평가기관을 회사가 고르는 구조라서 독립성을 어디까지 믿을지는 첫 보고서를 봐야 알 수 있어요.
‘직원 같은 접근’은 무엇을 볼 수 있다는 뜻인가요
METR(Model Evaluation and Threat Research)은 최첨단 AI 모델의 위험을 시험하는 미국 비영리단체예요. 특히 사람이 AI 에이전트(스스로 여러 단계를 처리하는 AI)를 통제하지 못하게 될 가능성을 연구해요.
앤트로픽 발표에 따르면 METR 직원 6명은 회사 장비, 사무 공간, 내부 도구와 시스템을 받았어요. 접근 범위는 앤트로픽 자체 위험 평가팀과 대체로 비슷해요. 앤트로픽 직원들은 정렬(AI가 사람 의도대로 움직이게 하는 일) 위험을 다루는 동료에게 하듯 METR 팀에 정보를 나누라는 안내를 받았어요.
빠지는 정보도 있어요. 고객 데이터, 변호사와 의뢰인 사이의 비밀 정보, 모델 구조(아키텍처) 정보예요. 앤트로픽은 모델 구조가 새어 나갈 위험은 크지만 위험 평가와 관련은 보통 낮다고 설명했어요. 관련성이 클 때는 내부 승인을 거쳐 공유하겠다고 했어요.
왜 이렇게까지 할까요. 앤트로픽은 모든 안전 정보를 공개할 수는 없다고 밝혔어요. 나쁜 사람이 악용할 수 있는 정보도 있고, 컴퓨팅이나 학습 방식처럼 영업상 민감한 정보도 있어서예요. 그래서 외부 기관이 깊이 들여다보고, 그 기관이 근거와 결론을 대신 공개하는 방식을 택했어요.
보고서 공개는 누가 정하나요
핵심은 공개 권한이에요. METR은 앤트로픽의 위험 수준, 사고, 안전 관행에 대한 분석을 공개해요. 앤트로픽은 공개 자체를 거부할 수 없어요. 미리 정한 좁은 범주(앞의 고객 데이터·법률 비밀·모델 구조 같은 정보)에 해당할 때만 가려 달라고 요구할 수 있어요.
METR은 앤트로픽이 가린 부분이 정당했는지도 공개적으로 평가할 수 있어요. 가린 내용 자체는 밝히지 않는 조건이에요. METR은 10월 14일 낸 원칙 글에서, 작업 범위와 기간, 접근 제한, 가린 부분을 보고서에서 공개적으로 설명하겠다고 밝혔어요.
앤트로픽이 밝힌 좋은 평가기관의 조건은 네 가지예요.
- 전문성: 최첨단 모델을 평가해 본 경험이 있어야 해요. AI가 평가 때만 지시를 따르는 척하는 ‘정렬 위장’ 같은 함정도 알아야 해요.
- 독립성: 평가 대상 회사의 지분을 갖거나, 돈이나 운영을 그 회사에 기대면 안 돼요.
- 충분한 접근: 최신 모델뿐 아니라 학습 방식과 안전장치가 어떻게 돌아가는지도 볼 수 있어야 해요.
- 발표의 자유: 관찰한 내용과 평가를 공개할 수 있어야 해요.
평가를 통과했다고 해서 안전이 보장되는 건 아니라는 연구도 있어요. AI가 일부러 능력을 감출 수 있다는 내용은 AI 모델이 능력을 암호로 숨길 수 있다는 논문 기사에서 볼 수 있어요.
3단계 평가 체계와 다른 협력 기관
앤트로픽은 평가기관을 접근 수준에 따라 세 단계로 나누는 체계를 만들고 있어요. 앞으로 3단계 기관을 여러 곳 두는 게 목표라고 했어요.
| 단계 | 볼 수 있는 범위 | 보고서 공개 | 지금 해당 기관 |
|---|---|---|---|
| 1단계 | 범위를 좁힌 위험 조사. 무엇을 보여 줄지는 앤트로픽이 정함 | 앤트로픽 승인이 있어야 공개 | SecureBio(CNBC·테크크런치 보도) |
| 2단계 | 1단계보다 많은 정보 | 승인 없이 공개. 정해진 범주는 가리기 요구를 받지만, 가린 게 정당했는지 의견은 공개 가능 | 발표에 명시 안 됨 |
| 3단계 | 직원 같은 접근(장비·사무 공간·내부 도구) | 2단계와 비슷한 공개 권한 | METR |
다른 협력도 진행 중이에요. SecureBio는 앤트로픽의 8월 위험 보고서 가운데 화학·생물 무기 부분을 검토하고 있어요. 이전 보고서에 대한 시범 검토는 이미 마치고 공개했어요. 액센츄어와 그 AI 조직 패컬티(Faculty)와는 모델 평가, 레드팀(일부러 공격해 약점을 찾는 시험), 안전장치 시험을 함께 하려고 해요. 허깅페이스(Hugging Face) 등 여러 기관과는 초기 논의 단계예요.
METR 쪽도 대비를 해 뒀어요. 발표 하루 전인 10월 14일 METR은 AI 회사와 일하는 원칙을 공개했어요. 회사가 접근을 끊거나 보고서 공유를 막지 못하도록, 결과물에 대한 소유권이나 강한 이용 권한을 요구한다는 내용이에요.
왜 지금 나왔나요
앤트로픽은 지난달 더 강한 외부 평가를 약속했고, AI 기업들이 독립 감사·평가 기관과 협력하기로 한 ‘초지능에 관한 백악관 협약’에도 서명했어요. CNBC에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 AI 개발 속도를 늦추자는 제안을 내면서 외부 평가기관을 회사 안에 두겠다고 했어요. 이번 발표는 그 약속을 실제로 옮긴 거예요.
테크크런치는 오픈AI도 같은 약속을 했고, 앤트로픽·오픈AI·구글·메타·엔비디아·xAI가 독립 검토를 약속하는 백악관 협약에 서명했다고 전했어요. 앤트로픽이 앞서 공개한 AI 사고 보고서와 백악관 반응은 클로드가 정부 사이트에서 의도치 않게 행동한 사고 보고서 기사에서 볼 수 있어요.
한국 이용자에게 달라지는 점
클로드를 업무에 쓰는 국내 기업과 개발자에게는 판단 자료가 하나 늘어요. 지금까지 클로드의 위험 설명은 주로 앤트로픽이 직접 낸 위험 보고서로 접했어요(추정). METR 보고서가 나오면 회사 밖 기관이 내부를 보고 쓴 평가를 함께 읽을 수 있어요. 어떤 일을 AI에게 어디까지 맡길지 정할 때 참고할 수 있어요(추정).
개인정보 걱정도 짚어 볼 만해요. 앤트로픽 발표에 따르면 고객 데이터는 METR과 공유하는 범위에서 빠져 있어요. 국내 이용자가 클로드에 넣은 대화나 파일을 METR이 보는 구조는 아니라는 뜻이에요.
이번 조치는 미국 회사가 스스로 정한 약속이라 국내 제도와 직접 연결되지는 않아요. 발표에 한국 정부나 국내 기관 이야기도 없어요. 앤트로픽이 아시아에서 정부와 맺은 안전 협력 사례는 앤트로픽 싱가포르 정부 AI 안전 업무협약 기사에서 볼 수 있어요.
대단한 점과 아쉬운 점
| 구분 | 내용 | 근거 |
|---|---|---|
| 대단한 점 | 회사가 외부 평가 보고서의 공개를 막는 권한을 내려놓았어요 | 앤트로픽 발표 |
| 대단한 점 | 가린 부분이 정당했는지까지 평가기관이 공개적으로 말할 수 있어요 | 앤트로픽 발표 |
| 대단한 점 | 앤트로픽이 METR의 이 작업에 돈을 대지 않아요 | CNBC(회사 설명) |
| 아쉬운 점 | 모델 구조 정보는 기본적으로 공유 범위에서 빠져요 | 앤트로픽 발표 |
| 아쉬운 점 | 참여 인원이 6명이라 볼 수 있는 범위에 한계가 있어요(추정) | 앤트로픽 발표 |
| 아쉬운 점 | 평가 대상 회사가 평가기관을 고르는 구조라 독립성 우려가 남아요 | AI타임스 |
| 아쉬운 점 | 불리한 결과를 낸 평가기관이 보복받지 않게 할 방법은 아직 없다고 METR 스스로 밝혔어요 | METR 제안문 |
| 아쉬운 점 | 첫 보고서가 언제 나올지 정해지지 않았어요 | 발표에 없음 |
독립 평가에 드는 돈 문제는 앤트로픽도 인정했어요. CNBC에 따르면 앤트로픽은 지난달 액센츄어의 평가 작업에는 직접 돈을 대겠다고 밝혔고, 이를 두고 소셜미디어에서 독립성을 걱정하는 비판이 나왔어요. 앤트로픽은 당시 회사 안에 들어가는 평가자가 무엇을 보고 어떻게 보고할지 정한 기준이 아직 없고, 독립 평가 자금 체계도 없다고 밝혔어요. 길게 보면 여러 곳이 함께 내는 기금이나 정부 재원이 맞다는 입장이에요.
확장성
- 보고서를 도입 판단 자료로 쓰기: METR 보고서가 나오면 회사 발표와 나란히 놓고, 위험 설명이 서로 맞는지 비교해 볼 수 있어요.
- 다른 회사와 비교하기: 오픈AI 등도 같은 약속을 했다고 보도됐어요. 회사마다 외부 기관에 얼마나 열어 주는지, 공개 권한이 어떤지 비교하는 기준이 생겼어요.
- 예전과 차이: 지금까지 외부 평가는 출시 전 모델을 잠깐 시험해 보는 방식이 많았어요(추정). 이번에는 평가자가 회사 안에서 계속 일하고, 공개 권한까지 계약으로 정했어요.
아직 모르는 것
- METR의 첫 보고서가 언제 나올지는 발표되지 않았어요.
- 계약 기간과 METR이 이 작업에 쓰는 돈이 어디서 나오는지는 공개되지 않았어요.
- 가리기를 요구할 수 있는 범주의 전체 목록은 예시만 나왔어요.
- 오픈AI 등 다른 회사가 비슷한 방식을 실제로 언제 시작할지는 알 수 없어요.
- 액센츄어가 어느 단계인지는 밝히지 않았어요. SecureBio는 1단계라고 CNBC가 앤트로픽 설명을 인용해 전했어요.
자주 묻는 질문
METR은 어떤 곳인가요?
최첨단 AI 모델의 위험을 시험하고 그 근거를 공개하는 미국 비영리단체예요. 특히 사람이 AI 에이전트를 통제하지 못하게 될 가능성을 연구하고, 지난 1년 동안 앤트로픽의 위험 보고서 검토에도 여러 번 참여했어요.
앤트로픽은 AI 안전을 어떻게 검증하나요?
자체 위험 보고서에 더해 외부 기관에 검증을 맡기는 방식을 넓히고 있어요. 이번에는 METR에 직원 수준 접근권과 독립 공개 권한을 줬고, SecureBio·액센츄어와는 범위를 좁혀 협력하고 있어요.
출처
- Anthropic, “An update on independent evaluators” (게시 2026-10-15, 확인 2026-10-16 KST) — 링크
- METR, “Our approach to working with AI companies” (게시 2026-10-14, 확인 2026-10-16 KST) — 링크
- METR, “A proposal for better informing the public about loss-of-control risks from frontier AI development” (게시 2026-10-14, 확인 2026-10-16 KST) — 링크
- Reuters(Investing.com 전재), “Anthropic grants outside evaluator METR employee-level access in AI safety push” (게시 2026-10-15, 확인 2026-10-16 KST) — 링크
- CNBC, “Anthropic taps METR and SecureBio to help assess risks and safety” (게시 2026-10-15, 확인 2026-10-16 KST) — 링크
- TechCrunch, “Anthropic is letting METR researchers look under the hood with employee-level access” (게시 2026-10-15, 확인 2026-10-16 KST) — 링크
- AI타임스, “앤트로픽, 외부 평가기관 METR에 ‘직원급’ 시스템 접근권 허용” (게시 2026-10-16, 확인 2026-10-16 KST) — 링크
대표 이미지: AIMAG가 AI로 생성
구글 검색에서 AIMAG 소식을 먼저 보려면
AI 보조 초안 · 편집부 검수