미국 정부, 빅테크 AI 사전 안전 테스트 의무화: Google·Microsoft·xAI 합류

미국 정부, AI 사전 안전 테스트 체계 완성

미국 상무부 산하 AI 표준혁신센터(CAISI, Center for AI Standards and Innovation)가 2026년 5월 5일, Google DeepMind, Microsoft, Elon Musk의 xAI와 프론티어 AI 모델 사전 안전 평가 협약을 공식 체결했다. 이로써 CAISI는 2024년부터 협약을 맺어온 OpenAI, Anthropic에 이어 미국의 주요 AI 개발사 5곳 모두를 포함하게 됐다.

CAISI란 무엇인가

CAISI는 미국 표준기술연구소(NIST) 산하 기관으로, AI 모델의 역량과 보안 위험을 독립적으로 평가하는 임무를 맡고 있다. 크리스 폴(Chris Fall) CAISI 소장은 "독립적이고 엄격한 측정 과학이 프론티어 AI와 국가 안보 측면의 이해에 필수적"이라고 밝혔다.

이번 협약의 핵심은 AI 기업들이 모델을 일반에 공개하기 전, 정부 기관이 분류(기밀) 환경에서 해당 모델을 직접 평가할 수 있도록 사전 접근권을 부여하는 것이다.

테스트 범위와 방법

CAISI의 평가는 출시 전 단계와 출시 후 단계 모두를 포함한다.

사전 평가 항목:

• 사이버보안 위협 생성 능력 (악성코드 작성, 취약점 탐색 등)
• 바이오보안 위험 (생물학적 위협 정보 제공 여부)
• 화학무기 관련 지식 활성화 여부
• 국가 안보 관련 역량 평가

사후 평가 항목:

• 모델 공개 후 실제 악용 가능성 모니터링
• 새로운 위협 유형 지속 추적

트럼프 행정부의 전략 전환

이번 협약은 트럼프 행정부의 AI 정책 방향 변화를 보여주는 주목할 사례다. 트럼프 대통령은 집권 초기 AI 산업에 대한 '가벼운 규제(light-touch)' 기조를 강조했지만, 국가 안보 당국의 강력한 요구와 AI 역량의 급격한 향상으로 인해 보안 중심의 감독으로 방향을 선회하고 있다.

미국 상무부는 Google DeepMind·Microsoft·xAI와의 기존 합의를 상무장관 지시와 'America's AI Action Plan'에 맞게 재협상했다고 밝혔다.

산업계 반응과 파급 효과

시장조사 기관 The Futurum Group의 닉 패이턴스(Nick Patience) 연구원은 "CAISI의 프로그램이 사실상 연방 정부의 AI 승인 마크 역할을 하게 된다"고 지적했다. 특히 정부 계약을 추구하는 기업들에게 CAISI 안전 평가 통과 여부가 벤더 선정의 핵심 기준이 될 수 있다는 것이다.

주목할 만한 것은 Anthropic의 사례다. Anthropic은 CAISI 평가에 참여하면서도 국방부로부터 "보안 위험"으로 지정된 전례가 있다. 이는 기업의 내부 윤리 정책과 국가 안보 요구 사이의 갈등이 실제로 제재로 이어질 수 있음을 보여준다.

국제적 맥락: 사이버 공격 AI 역량 급성장

이번 협약의 배경에는 AI의 사이버 공격 역량이 급속도로 향상되고 있다는 위기감이 있다. 영국 AI 보안 연구소(AISI)에 따르면 프론티어 AI 모델이 32단계 엔드투엔드 사이버 공격 훈련장을 완수하는 사례가 나오고 있으며, 사이버 공격 역량이 4개월마다 두 배씩 향상되고 있다는 추정도 제기됐다.

AnthropicAnthropicAnthropicAnthropicAnthropicAnthropic의 Claude Mythos Preview가 이런 사이버 공격 시나리오를 처음 완수했으며, OpenAI의 GPT-5.5가 3주 뒤 이를 따라잡았다는 보도도 있었다.

각 기업의 입장

Google DeepMind: 공식 성명은 없었으나, 정부와의 협력이 AI 안전 생태계 구축에 기여한다는 입장을 유지해왔다.

Microsoft: AI 거버넌스 강화 기조와 일치한다. Microsoft는 올해 들어 Copilot 과부하 현상을 자체 인정하고 품질 중심의 AI 통합으로 방향을 수정한 바 있다.

xAI: Elon Musk의 xAI는 그동안 AI 규제에 비판적 입장을 보여왔지만, 실질적인 시장 접근을 위해 정부 협력을 선택했다.

한계와 비판

이번 프레임워크에 대한 비판도 존재한다. 일부 AI 연구자들은 사전 테스트가 모든 안전 위험을 탐지하기에 충분하지 않다고 지적한다. 또한 기밀 환경에서의 평가는 독립적 연구자의 접근을 차단해 오히려 투명성을 낮출 수 있다는 우려도 나온다.

기업 측에서는 테스트 절차가 지나치게 복잡해 모델 출시 속도를 저해할 수 있다는 점을 우려하는 시각도 있다.

결론

미국 정부의 이번 AI 사전 안전 테스트 체계는 AI 거버넌스의 새로운 단계를 열었다. 자율 규제에 의존하던 방식에서 독립적인 정부 평가 체계로의 전환은 AI 산업이 성숙 단계에 진입했음을 시사한다. 특히 정부 계약과 글로벌 표준 경쟁이 맞물리면서, CAISI 평가 통과 여부가 AI 기업의 시장 영향력을 좌우하는 새로운 변수로 부상하고 있다.