"Claude 능력을 빼갔다" — 앤트로픽이 알리바바를 겨냥한 '모델 추출' 논란

무슨 일이냐면요

AI 회사 앤트로픽(Anthropic, Claude를 만든 곳)이 중국의 알리바바를 겨냥해 "우리 AI 모델 Claude의 능력을 부적절한 방법으로 빼갔다"고 주장했다는 보도가 나왔어요. 영어 표현으로 'illicitly extracted', 즉 정당하지 않은 방식으로 모델의 능력을 추출했다는 거예요. 아직 어디까지나 한쪽의 '주장' 단계라는 점은 먼저 짚어둘게요. 다만 이게 무슨 말인지, 그리고 왜 AI 업계에서 이런 갈등이 반복되는지는 알아둘 가치가 있어요.

모델 능력을 '추출'한다는 게 뭐냐면요

여기서 핵심 개념이 '모델 증류(model distillation)'예요. 원래 증류는 좋은 의도로 쓰이는 정당한 기술인데요. 크고 똑똑한 AI(선생님 모델)에게 질문을 잔뜩 던지고, 그 답변들을 모아서 작은 AI(학생 모델)를 가르치는 방법이에요. 선생님이 내놓는 답을 학생이 흉내 내도록 학습시키면, 작고 가벼운 모델이 큰 모델의 실력을 상당히 따라잡거든요. 비유하자면 명강사의 모든 강의를 녹음해서 그 노트로 다른 학생을 키우는 거예요.

문제는 남의 상용 모델을 몰래 '선생님'으로 쓰는 경우예요. 경쟁사의 AI API에 어마어마하게 많은 질문을 던져 답변을 잔뜩 긁어모은 다음, 그걸로 자기 모델을 학습시키는 거죠. 이렇게 하면 상대가 수년간 막대한 돈을 들여 만든 결과물을 단기간에 '복사'하다시피 할 수 있어요. 대부분의 상용 AI는 이용약관(ToS)에서 '우리 모델의 출력으로 경쟁 모델을 학습시키지 말라'고 명시해 두는데, 그걸 어겼다는 게 이번 주장의 핵심이에요.

왜 이게 논란이 되냐면요

쟁점이 두 갈래예요. 하나는 약관 위반이라는 명확한 계약 문제고, 다른 하나는 훨씬 모호한 지식재산권 문제예요. "AI가 내놓은 답변의 스타일이나 능력을 누가 소유할 수 있는가?"라는 질문은 법적으로 아직 정리가 안 됐거든요. 게다가 여기엔 묘한 역설도 있어요. AI 회사들 스스로가 인터넷에 널린 글과 데이터를 긁어 모델을 학습시켜 왔는데, 이번엔 "내 모델 출력은 가져가지 마"라고 말하는 셈이니까요. 이 부분이 사람들 사이에서 의견이 갈리는 지점이에요.

업계 맥락

사실 비슷한 일이 처음은 아니에요. 앞서 OpenAI도 중국의 DeepSeek을 두고 "우리 모델 출력을 부적절하게 활용했을 가능성이 있다"는 취지의 의혹을 제기한 적이 있어요. 패턴이 비슷하죠. 강력한 모델을 가진 미국 회사가, 빠르게 따라붙는 중국 모델을 향해 '증류 의혹'을 제기하는 구도예요. 그 배경엔 미국과 중국의 AI 패권 경쟁이라는 큰 그림이 깔려 있어요. 모델 자체가 점점 비슷해지면서, 이제 경쟁의 무게추가 '누가 더 잘 만드냐'에서 '누가 누구 걸 베꼈냐'라는 신경전으로 옮겨가는 분위기예요.

한국 개발자에게

남 얘기 같지만 실무와도 맞닿아 있어요. 요즘 많은 팀이 상용 LLM API로 학습용 데이터셋을 합성(synthetic data)하거든요. "GPT나 Claude한테 예시 답변을 잔뜩 만들게 해서 우리 모델을 학습시키자" 같은 작업이요. 이게 편리하지만, 각 API의 이용약관을 반드시 확인해야 해요. '출력물을 경쟁 모델 학습에 쓰지 말라'는 조항을 무심코 어기면 법적 리스크가 생길 수 있어요. 그래서 라이선스가 명확한 오픈 모델(예: 상업적 이용이 허용된 모델)을 데이터 생성에 쓰는 선택지도 함께 검토할 가치가 있어요.