OpenAI 적대적 증류 방어 강화: 추론 추출 성공률 54.0%→0.2%
OpenAI가 2026-11-20 적대적 증류 방어 강화를 공개했다. GPT-6.2 Astra의 이전 요청 추출 공격 성공률은 GPT-6 Astra의 54.0%에서 0.2%로 낮아졌다(내부 평가).
OpenAI가 2026-11-20 적대적 증류 방어 강화를 공개했다. GPT-6.2 Astra의 이전 요청 추출 공격 성공률은 GPT-6 Astra의 54.0%에서 0.2%로 낮아졌다(내부 평가).
핵심 요약
OpenAI는 2026-11-20 "Combatting Adversarial Distillation"을 공개했다. GPT-6.2 Astra와 GPT-6.2 Sol의 보호된 추론 추출 방어를 강화했다는 내용이다. GPT-6 Astra는 비교 기준선이다. 모델 출시는 2026-11-19 기사에서 다뤘으므로 이 글은 증류 방어에 집중한다. 수치는 모두 OpenAI 내부 평가이며 독립 검증 결과가 아니다.
적대적 증류란 무엇인가
증류(distillation)는 한 모델이 다른 모델의 답, 추론, 판단 데이터로 학습하는 일반 기법이다. 적대적 증류는 무단 버전이다. 프런티어 모델 출력으로 유사한 능력의 모델을 학습시켜 동등한 보호장치 없이 배포한다. OpenAI는 이를 지식재산을 넘어 안전 문제로 본다. 사이버보안, 생물 등 이중용도 능력이 보호장치 없이 퍼질 수 있기 때문이다.
내부 연구: 추론 trace 보호의 근거
같은 사전학습 모델에서 파생한 학생 모델을 Astra급 교사의 코딩 및 방어적 사이버보안 궤적으로 학습시킨 내부 연구다.
- SFT 후에는 정확한 추론 흔적(trace)으로 학습한 학생이 요약으로 학습한 학생보다 대체로 우수했다.
- 가벼운 RL 한 라운드 후 가장 큰 추론 예산에서는 정확한 trace 학생이 ExploitBench와 SEC-bench Pro 모두 더 높았다. 낮은 예산에서는 요약 학생이 더 높았다.
OpenAI는 추론 trace 보호가 사이버 능력 전이를 제한할 수 있다고 설명했다.
방어 구조
요청 수준
- 적대적 훈련: 자동 레드팀링, 조사, 외부 제보에서 확보한 성공 공격 사례를 쓴다.
- 입력 분류기: 추출 시도를 탐지한다.
- 출력 분류기: 어시스턴트 메시지와 툴 호출 인자의 유출을 스트리밍과 비스트리밍 모두에서 탐지한다.
- API 수준 보호: 사용자, 워크스페이스, 조직, 모델 패밀리 경계를 적용한다. 다른 사용자의 암호화된 추론이 노출될 수 있던 경로를 차단했다.
GPT-6.2 Astra와 Sol은 추론이 생성한 대화 이력에 묶인다. 이전 메시지가 재작성되면 API가 이후 추론을 폐기한다고 OpenAI는 설명했다. 보호가 약한 구형 모델 패밀리는 이 모델들의 보호된 추론을 읽을 수 없다.
캠페인 수준
의심 계정을 조사하고 적발 시 연관 계정 네트워크를 제재한다. 결과는 탐지 개선에 쓰고 침해 지표(IoC)를 다른 모델 제공자와 공유한다. consistent-standards policy로 OpenAI 모델을 제공하는 제공자 전반에 공통 보호와 집행 기준을 둔다.
측정 결과
적응형 블랙박스 레드팀에서 공격자 모델 6종의 합산 공격 성공률이다. 낮을수록 좋다.
| 추출 유형 | GPT-6 Astra(기존 보호) | GPT-6.2 Astra(개선) |
|---|---|---|
| 이전 요청에서 보호된 추론 추출 | 54.0% | 0.2% |
| 현재 요청에서 추출 | 22.9% | 0.9% |
두 유형 모두 1% 미만이다. 보고된 것은 블랙박스 결과뿐이며 화이트박스 수치는 공개되지 않았다.
집행과 정책
OpenAI는 올해 여러 무단 캠페인을 관측했다. 주간 제재 규모는 수천에서 수만 계정이며 여름 이후 크게 증가했다. 누적 총계는 공개하지 않았다. 9월에는 보호된 추론 추출 캠페인을 차단하고 핵심 부분을 Moonshot AI 관련 개인들로 귀속했다(OpenAI 자체 발표). 2월에는 DeepSeek의 증류 시도 징후를 의회에 브리핑했다. The Decoder는 Anthropic도 수만 개 계정을 차단했다고 밝혔다고 보도했다.
개발사 권고와 개발자 관점
OpenAI는 다른 개발사에 네 가지를 권고했다.
- 어시스턴트 메시지와 툴 호출 인자를 포함해 상호작용 전체에서 비공개 추론을 보호한다.
- 성공한 추출 공격 로그를 회귀 테스트로 보관하고 방어 갱신 시 원 공격을 재현한다.
- 요청 수준 완화와 캠페인 수준 조사 및 집행을 결합한다.
- 배포 파트너와 보호 요건 및 집행을 조율해 업계 최저 기준을 높인다.
어시스턴트 메시지를 재작성하면 API가 이후 추론을 폐기한다고 OpenAI가 설명했다. 이 글은 공개 정보를 정리한 분석이며 직접 검증하지 않았다.
한계
평가는 OpenAI 자체 보고이며 독립 검증 전이다. 일부 세부사항은 악용 방지를 위해 비공개다.
결론
OpenAI는 증류 방어를 요청, API, 계정 집행 단계로 설명했고, 내부 평가에서 추출 성공률이 1% 미만이 됐다고 밝혔다. 프런티어 모델 API 운영 팀과 AI 안전 정책 담당자가 참고할 만하다. 평점 4점은 공개 정보 기준이다.
장점
- 두 가지 추출 유형 모두 공격 성공률 1% 미만 (내부 평가)
- 모델, API, 계정 집행을 결합한 다층 방어 구조
- 성공 공격 로그의 회귀 테스트 보관 등 다른 개발사용 권고 4가지 공개
- 침해 지표(IoC)를 다른 모델 제공자와 공유
단점/한계
- 내부 평가 자체 보고이며 독립 검증 전
- 블랙박스 결과만 보고되고 화이트박스 수치는 없음
- 일부 세부사항과 누적 제재 총계가 비공개
참고 자료
댓글0개
주요 기능/특징
1. 보호된 추론 추출 성공률 54.0%에서 0.2%로 감소 (이전 요청, 내부 평가) 2. 입력/출력 분류기로 추출 시도와 툴 호출 인자 유출 탐지 3. 추론을 대화 이력에 결속, 메시지 재작성 시 이후 추론 폐기 4. 의심 계정 네트워크 제재와 IoC 공유 5. 제공자 전반의 consistent-standards policy
핵심 인사이트
- 이전 요청에서 보호된 추론을 추출하는 공격 성공률이 GPT-6 Astra 54.0%에서 GPT-6.2 Astra 0.2%로 낮아졌고, 현재 요청 추출은 22.9%에서 0.9%로 낮아졌다 (OpenAI 내부 평가)
- OpenAI는 적대적 증류를 지식재산 문제를 넘어 안전 문제로 규정했다. 사이버보안과 생물 등 이중용도 능력이 보호장치 없이 퍼질 수 있기 때문이다
- 내부 연구에서 SFT 후 정확한 추론 trace로 학습한 학생이 요약으로 학습한 학생보다 대체로 우수했다. 이것이 추론 보호의 근거로 제시됐다
- RL 한 라운드 후에는 가장 큰 추론 예산에서 trace 학생이, 낮은 예산에서 요약 학생이 더 높았다. 결과가 예산 구간에 따라 갈린다
- 방어는 요청 수준, API 수준, 캠페인 수준으로 나뉜다. 분류기만이 아니라 계정 제재와 IoC 공유까지 포함한다
- GPT-6.2 Astra와 Sol은 추론이 생성된 대화 이력에 묶이며, 이전 메시지가 재작성되면 API가 이후 추론을 폐기한다고 OpenAI가 설명했다
- 측정은 적응형 블랙박스 레드팀의 공격자 모델 6종 합산값이다. 화이트박스는 수치가 보고되지 않았다
- 수치는 모두 자체 보고이며 독립 검증 전이다. 일부 세부사항은 악용 방지를 위해 비공개다
이 리뷰가 유용했나요?
공유하기
관련 AI 리뷰
OpenAI GPT-6.2 Astra·Sol 출시: Astra 입력 $8, 사이버 Critical 등급
OpenAI가 2026년 11월 17일 GPT-6.2 Astra와 Sol을 공개했다. Astra는 입력 $8·출력 $40이며 사이버 Critical 등급이다. 일반 Chat에는 없어 업무·코딩 사용자에게 해당한다.
ChatGPT Wallet 출시: dots 에이전트 결제, 미국 Pro 한정 제공
OpenAI가 2026-11-13 ChatGPT Wallet을 발표했다. 에이전트 dots가 상품 선택과 결제를 돕고, 초기에는 미국 Pro 구독자 일부만 쓴다. 한국 출시는 미공개다.
OpenAI GPT-6 Cyber 시스템 카드 분석: 승인된 보안 업무용 Astra 변형
OpenAI가 2026-11-05 GPT-6 Astra의 사이버보안 특화 변형 GPT-6 Cyber 시스템 카드를 공개했다. ExploitGym 48.45%를 보고했고, Daybreak Red 승인 사용자만 쓸 수 있다.
ChatGPT 청소년 무기·보안시스템 정보 제한, 폭력 대화 자동 종료 도입
OpenAI가 ChatGPT의 청소년 무기·보안시스템 정보 제한, 폭력 대화 자동 종료, 계정 일시 정지를 발표했다. 종료·정지 기준과 연령 예측 정확도는 확인되지 않았다.
