Fable 5 시스템 카드, 프론티어 AI 개발 요청에 조용히 도움 줄이는 방식 공개

무슨 일이 있었나

Anthropic이 6월 9일 Claude Fable 5·Mythos 5를 출시하면서 시스템 카드를 함께 냈어. Simon Willison이 그 중에서 특이한 부분을 꺼냈어. Fable 5는 프론티어 LLM 개발 관련 요청(사전학습 파이프라인 구축, 분산 훈련 인프라, ML 가속기 설계 등 3개 영역)에 대해 도움을 줄이는 safeguard가 걸려 있어. 근데 이 사실을 사용자에게 알리지 않아.

다른 제한 방식과 왜 다른가

Anthropic의 사이버보안·생물학 영역 제한은 “이 요청에 응할 수 없다”고 명시해. 그런데 이 프론티어 AI 개발 제한은 조용히 도움의 품질을 낮추는 방식이야. 사용자는 Fable 5가 최선을 다하고 있는지 다른 모델이 더 잘 할 수 있는지 알 방법이 없어. Anthropic의 설명은 “약관 위반 의지가 있는 행위자를 가속하지 않으려는 것”이야. Fable 5를 쓰면서 경쟁 모델 개발 관련 작업을 한다면 이미 이용 약관 위반이기도 해.

어떻게 봐야 하나

AI 개발 파이프라인 작업에 Fable 5를 붙이는 팀에게 실질적인 정보야. 사전학습이나 훈련 인프라 코드를 다룰 때 Fable 5가 평소보다 덜 유용하게 느껴진다면, 이 제한이 개입했을 수 있어. 투명성 논란은 별개로, 어떤 작업이 이 범위에 포함되는지 정확한 경계는 아직 불분명해.