안트로핀의 강제 튜토링 법안: 모범으로 삼을 가치가 있다는 것 – 그리고 그 위험도 있음

국경으로 가는 길에 이상한 일이 일어났다. 2월에 안타피크는 딥시크, 무스홍 AI, 미니맥스라는 세 중국 AI 연구소가 조용히 운영을 시작했다고 주장했다.약 24,000개의 가짜 계정과 1,600만 개 이상의 질문이 클로드에 제출되었습니다.그의 대표 모델입니다. 4개월 후에…미국 상원의원들에게 보내는 편지에그는 알리바바와 관련된 기업들이 더 큰 규모로 같은 행동을 하고 있다고 비난했습니다.4월부터 6월까지 약 2,800만 건의 거래가 있었으며, 그 중 약 25,000개의 사기 계정이 있었습니다.이것들은 극적인 표현을 원하는 회사가 내린 비난들입니다. 알리바바는 그러한 비난들을 부인했습니다. 하지만 누가 무슨 행동을 했는지에 대한 논란보다는, 더 흥미로운 사실에 주목해야 합니다. 규모 자체가 투자자들에게 안트로피크의 위치에 대해 특정한 정보를 제공하며, 이는 양쪽 모두에게 중요합니다.

이 기술은 ‘증류’라고 불리며, 숫자들이 의미를 갖게 되기 전에 이를 이해하는 것이 중요합니다. 일반적으로 연구실에서는 자체적으로 훈련 데이터를 준비하고, 그 데이터를 필터링한 뒤, 엄청난 컴퓨팅 능력과 비용을 사용하여 모델에게 그 데이터 내의 관계들을 가르칩니다. 하지만 증류 방식은 그 과정을 대부분 생략합니다. 즉, 더 강력한 모델을 사용하여 질문을 던지고, 그 답변들을 바탕으로 더 약한 모델을 훈련시킵니다. Anthropic도 이 방법이 효과적이라는 점을 인정합니다.모델의 더 작고 저렴한 버전을 만들 수 있는 합법적인 방법입니다.이들 연구소는 클로드의 결과를 얻기 위해 이 방법을 사용했다고 합니다. 마치 외딴 학생이 이웃의 시험지를 복사하는 것과 같죠. 즉, 학비를 내지 않고도 격차를 메우려는 방식입니다. ‘Anthropic Notes’라는 제품은 중국에서는 판매되지도 않습니다. 운영자들은 그 제한을 피하기 위해 프록시 서비스를 이용한다고 합니다.

따라서 이 숫자들을 처음으로 분석해보면 꽤 좋은 결과가 됩니다. 이 연구소들은 수백만 달러를 들여 고품질의 데이터를 생성하는 데 시간을 보내지 않았습니다. Anthropic에 따르면, 그들은 클로드의 가장 뛰어난 능력에 집중했습니다.코딩, 도구 사용, 에이전트 기반 추론바로 그런 기술들이, 프론티어 모델과 일반 상품 모델을 구분하는 요소입니다. 미니맥스의 트래픽은 클로드가 가장 최신 버전인 경우로 집중됩니다. 가치 있는 내용을 그대로 복사합니다. 만약 그 비난이 사실이라면, 그러한 캠페인들은 간접적인 시장 조사에 해당합니다. 즉, 경쟁자들이 클로드가 프론티어에 있다는 의견에 동의하는 것입니다.

두 번째 읽기는 경제적 측면에서 불편한 점이 있는 부분입니다. 투자자라면 이 부분을 주의해야 합니다. ‘디스틸레이션’이라는 방식은 경쟁자가 독자적으로 모델을 개발하는 데 필요한 시간과 비용의 일부만으로 모델의 기능을 재구성할 수 있게 해줍니다. 거의 1조 달러에 달하는 AI 가치 평가의 근거는, 최첨단 모델을 구축하는 것이 매우 비용이 많이 들고 드물다는 것입니다. 그러나 경쟁자가 클로드를 이용해 운영하는 모든 거래는 API 가격으로 이루어지기 때문에, Anthropic은 사실상 원하지 않는 수익을 얻게 됩니다. 이러한 원치 않는 수익은 단순히 비즈니스 문제가 아니라, 경쟁자가 동등한 위치를 얻는 데 필요한 자금을 제공하는 것입니다.

이 부분을 잘 지켜야 합니다. 왜냐하면 이는 실제로 저작권과 관련된 것이 아니기 때문입니다. Anthropic의 강점은 그들의 브랜드나 판매력이 아닙니다. 마치 마이크로소프트처럼 주요 기업으로서의 지배력을 가진 것도 없습니다. 그들의 가치는 그들이 선보이는 혁신적인 모델이 앞서 있다는 점에 있습니다. 하지만 앞서다는 것은 변동적인 목표일 뿐, 일정한 기간 내에 가치가 감소할 수 있는 자산이 아닙니다. Distillation은 그러한 선도적 위치를 약화시키며, 경쟁자가 그 능력 격차를 활용하기 전에 그 능력 격차를 수익으로 전환할 수 있는 기회를 제한합니다. 위협은 누군가가 그 모델을 도난당하는 것이 아니라, 첫 번째가 되는 것이 모든 사람에게 더 저렴해지는 것입니다.

이것은 전략적인 문제를 제기합니다. 이러한 공격에 대응하는 방법은 기술적 측면에 의존하지 않습니다. Anthropic이 얼마나 많은 탐지 도구를 개발하든 간에 말입니다. 그들의 분류 시스템과 동기화된 활동 감지 기능은 특정 영역에서 엄청난 양의 요청이 발생하고, 단계별로 추론을 수행하는 방식으로 작동한다는 것을 파악할 수 있습니다. 하지만 공격자들은 Anthropic이 ‘히드라 클러스터’라고 부르는 네트워크를 사용합니다. 이 네트워크는 수만 개의 계정을 통해 접근 권한을 판매하며, 일반 고객의 요청과 혼합되어 무해해 보이도록 합니다. 또한 금지된 계정도 즉시 다시 생성됩니다. 이는 서버 팜상에서의 공격 방식입니다. 최근 보고서에 따르면…이 활동은 더 이상 모니터링하기 어려운 채널로 이동하고 있습니다..

그래서 애너핉은 기술적인 측면과 함께 정치적 측면도 강조합니다. 이런 규모의 채굴을 위해서는 첨단 칩에 대한 접근이 필요하며, 칩 수출을 제한하면 직접적인 훈련도 제한되고, 경쟁자들이 행할 불법적인 활동도 제한됩니다. 수출 통제는 사실상 그 방어막의 일부입니다. 애너핉은 민간 기업입니다.2월에 300억 달러를 조달했으며, 기업 가치는 3800억 달러에 달함.그리고 그에 대한 보고가 있더군요.1조 달러에 가까워지는 수준까지 다시 성장하기 위한 협상이 진행 중입니다.따라서 소매 투자자들은 그 전제를 단순히 구입할 수는 없습니다. 하지만 이는 출시 전에 반드시 고민해야 할 질문입니다. 애너핀의 프리미엄이 어떤 기회의 격차에 기반하는지, 그리고 다른 기업들이 그 격차를 효율적이고 저비용으로 극복할 수 있는지가 중요합니다. 경쟁자가 그 방식을 도입하지 못한다면, 그 가치는 더욱 커집니다. 복사될 가치가 있다는 것은 확인된 사실일 뿐이며, 복사될 수 있다는 것은 위험입니다. 그리고 천조 달러 규모의 가격을 고려할 때, 이 두 가지 사이의 거리는 바로 투자 사례의 전체 내용입니다.