증류 공격은 잘 만든 AI에게 질문을 대량으로 던져 그 답과 생각 과정을 모은 뒤, 다른 AI를 훈련시키는 '실력 베끼기'입니다. 앤트로픽이 2026년 10월 12일 이 증류 공격을 막는 새 방어책을 발표했는데, 채팅으로 클로드를 쓰는 직장인은 거의 영향이 없고, 회사에서 API로 클로드를 연결해 쓰고 있다면 확인할 것이 두 가지 생겼습니다.
증류 공격이 정확히 뭔가요?
쉽게 말해 '남의 과외 노트를 통째로 베껴 가는 것'입니다. 공부 잘하는 친구에게 문제를 수만 개 물어보고, 답뿐 아니라 어떻게 풀었는지까지 받아 적어서 내 공부에 쓰는 거죠.
앤트로픽은 이것을 "원래 만든 회사의 허락 없이, 공장처럼 대량으로 AI의 능력을 빼내 다른 AI에 옮기는 몰래 하는 캠페인"이라고 설명합니다. 가짜 계정을 대량으로 돌리는 경우가 많고, 앤트로픽이 지난 2월에 밝힌 한 조직은 계정 2만 개 이상을 한꺼번에 운영했다고 합니다.
특히 노리는 것은 클로드가 답을 내기 전에 거치는 '생각 과정'입니다. 앤트로픽 실험에서 생각 과정 전체로 훈련한 AI는 코딩 시험(SWE-bench Verified)에서 80.4점, 요약본으로 훈련한 AI는 71.8점이 나왔습니다. 생각 과정이 그만큼 값진 재료라는 뜻이에요.
앤트로픽의 증류 공격 방어책 3가지
| 방어 | 무엇을 하나 |
|---|---|
| ① 생각 과정이 새 나가는 길 막기 | 2026년 8월 31일 이후 만든 API 계정은 클로드의 앞선 대화 내용(생각 과정 포함)을 고쳐서 다시 넣을 수 없게 함. 일부 모델은 생각 과정을 요청한 회사만 볼 수 있게 함 |
| ② 빼내기 시도 걸러내기 | 위험 요청을 거르는 2단계 필터로 생각 과정 빼내기를 차단. 잘못 막는 비율은 0.1% 미만이라고 밝힘 |
| ③ 계속하면 더 세게 | 반복하는 계정은 사용량 제한·계정 정지. 9월 24일부터는 필터가 답하기 전에 막은 요청에도 요금 부과 |
앤트로픽은 초기 결과로 베껴 간 데이터가 약 90~99% 줄었고, 증류 공격과 연결된 계정 수만 개를 정지했으며 많은 경우 시작 두 시간 안에 막았다고 밝혔습니다.
실제로 어떤 일이 있었나요?
앤트로픽은 발표에서 사례도 밝혔습니다. 한 연구실은 생각 과정을 빼내려고 요청 1만 2천 개를 하나하나 다른 수법으로 시험했다고 합니다. 또 중국의 한 AI 회사(지푸)가 새 모델을 만들면서 미국 AI 모델에서 해킹 관련 능력을 증류했고, 다른 회사(문샷) 모델로 들어온 요청이 몰래 클로드로 전달된 일도 있었다고 설명했습니다.
앤트로픽은 이 과정에서 상당한 매출과 수조 토큰 규모의 유료 사용량을 일부러 거절했다고 밝혔습니다. 앞으로도 막는 쪽과 뚫는 쪽의 '숨바꼭질'이 이어질 거라고 봤고, 아직 아주 정교하고 끈질긴 우회 시도는 보지 못했다고 덧붙였습니다.
증류 공격 방어, 직장인에게 무슨 의미일까? (제 해석)
채팅으로만 쓰는 분 — 거의 신경 쓸 일이 없습니다. 앤트로픽도 보통 사용자는 숨은 생각 과정을 그대로 내놓으라고 요구할 일이 드물다고 설명했어요. 보고서 요약, 메일 초안, 엑셀 수식 질문처럼 평소 업무에 쓰는 것은 대상이 아닙니다.
회사에서 API로 연결해 쓰는 분 — 사내 챗봇이나 자동화 도구에 클로드를 붙여 쓰고 있다면, 아래 두 가지는 개발 담당자에게 한 번 물어볼 만합니다.
- 8월 31일 이후 새로 만든 API 계정이라면, 생각 과정을 다루는 연결 코드를 고쳐야 할 수 있습니다.
- 필터에 막힌 요청도 요금이 나갈 수 있으니, 비용이 갑자기 늘었다면 막힌 요청이 있는지 확인해 보세요.
AI 서비스를 고르는 입장에서 — 이번 발표는 "내가 쓰는 AI가 남에게 쉽게 복제되지 않도록 회사가 지키고 있는가"도 고를 때 볼 점이 됐다는 신호입니다. 다른 AI 회사들도 비슷한 정책을 내놓는지 지켜볼 만합니다.
지금 바로 해 볼 것
- 회사에서 쓰는 AI가 채팅형(웹·앱)인지 API 연결형(사내 도구에 붙인 것)인지 확인하기
- API 연결형이면 담당자에게 "8월 31일 이후 만든 계정인지, 생각 과정 관련 수정이 필요한지" 묻기
- 월 사용 요금 내역에서 갑자기 늘어난 날이 있는지 보기
자주 묻는 질문
Q. 제가 클로드를 많이 쓰면 계정이 막히나요?
평소처럼 일에 쓰는 정도로는 해당하지 않습니다. 방어 대상은 가짜 계정을 돌려 생각 과정을 대량으로 빼내려는 시도입니다.
Q. 챗GPT나 다른 AI도 똑같이 하나요?
이번 발표는 앤트로픽(클로드) 이야기입니다. 다른 회사는 각자 정책이 다르니 그 회사 공지를 확인해야 합니다.
Q. 정상 요청이 잘못 막히면 어떻게 하나요?
앤트로픽은 잘못 막는 경우가 0.1% 미만이라고 밝혔습니다. 다만 막힌 요청도 요금이 나갈 수 있어, 같은 일이 반복되면 앤트로픽 고객지원에 문의하는 게 좋습니다.
참고한 자료
2026년 10월 13일 기준