안톤프릭의 생물무기 보고서는 안전성의 한계를 드러냈다: 2조 달러 규모의 IPO에 따른 무기 경쟁의 책임

인포닉의 안전성에 대해서는 모두가 동의하는데, 그래서 시장이 그 안전성이 얼마나 중요한지에 대해 잘못 판단할 수도 있습니다.

모두가 같은 두 가지 사실을 인정합니다. Anthropic은 클로드를 대량 피해에 사용하려는 시도를 막았습니다. 즉, ‘가이언-오브-프로퍼션’ 보조금을 받기 위한 요청이었습니다.치쿵꾸냐 바이러스를 위한사이버 침입, 감시, 그리고 영향력 행사와 함께 말입니다. 또한 규제 기관에게 편안한 안전 정책을 지속적으로 발표하고 있습니다. 투자자들은 최신 생물무기 위험 보고서를 중요하게 여깁니다. 이는 안전이 오래 지속될 수 있는 방어막이라는 증거이며, 그로 인해 안전이 중요하다는 것을 입증하는 근거가 됩니다.약 2조 달러 규모의 IPO– 약 30배 정도요.7월 말에 회사가 보고한 연간 수익은 650억 달러였습니다..

그 보고서는 실제로 존재합니다. 하지만 그 문서가 반대되는 사실을 증명하는 데 사용될 수는 없습니다. 자세히 읽어보면, 그 보고서에 제시된 방법들은 전혀 그렇지 않은 것을 보여줍니다. Anthropic의 안전 문제는 무한한 비용을 초래하는 문제이며, 규제 기관들이 이 비용을 직접적인 수익 손실로 전환시키고 있습니다. 그 보고서는 결국 완성되지 않은 문서일 뿐이며, 진짜로 얻어진 것도 아닙니다.

벽을 공격하는 자들이 주위를 돌아다닌다.

‘골대 이론’은 안전이 악의적인 행위자들이 넘어날 수 없는 장벽이라고 가정합니다. 9월의 위협-정보 보고서에서는 그러한 장벽이 존재한다고 설명됩니다. 사기성 재판매업자들도 그 장벽에 포함됩니다.“범죄적 AI 공급망”클로드를 이용해 할인된 액세스를 제공함으로써, 해커들은 다양한, 제한이 적은 모델로 트래픽을 전달할 수 있었습니다. 또한 LiteLLM과 OpenClaw와 같은 도구를 이용해 API 키를 탈취하고 쿼리를 변경시킬 수도 있었습니다. 이 보고서에서는 이러한 현상들을 개별적인 사건이 아니라 구조적 문제로 간주합니다.

경제적인 측면을 주의해 보세요. 요청이 제대로 거부될 때, 그 악용 행위는 멈추지 않고, 다른 약한 방식으로 전환됩니다. Anthropic은 벽을 건설하고 방어하는 비용을 부담해야 합니다. 즉, 적대적인 행동을 다른 국가로 보내는 것은 비용이며, 이를 시장에 가격화할 수 있는 요소가 아닙니다.

연못은 자신만의 규제 기관을 요구했다.

혼란스러운 상황은 그 자체로 정해진 규칙들이 있다면 가치가 높아집니다. 아나폴리크의 안전 방식은 이제 규칙을 정하는 정부와 충돌하게 됩니다. 6월에 상무부는 ‘패블 5’의 탈옥 이후 수출 통제를 시행했습니다. 외국인의 접근을 금지하는 규칙을 준수하려면…Fable 5와 Mythos 5를 완전히 중단시키기– 그 회사의 주요 제품들은 시장에서 사라졌습니다. 한 연구자는 업계의 현실을 명확히 설명했습니다.모든 모델은 잠금 해제가 가능합니다.그리고 새로운 취약점들이 항상 나타나기 마련입니다.

이 역전은 구조적인 현상입니다. 인류적 조치는 수년 동안 지속되었고, 결국 법적 제재가 가해졌습니다. 한 분석에 따르면…“인간주의는 규제를 요구했습니다.”워싱턴은 그보다 더 나아갔습니다. 안전을 자신들의 장점으로 내세우는 회사는, 바로 규제 기관들이 기준으로 삼는 회사입니다. 새로운 제품 출시는 정부가 활용할 수 있는 또 하나의 기회입니다. ‘안전’이라는 장점은 일단 설정된 고정된 비용이므로, 그 비용은 한 번 지불된 뒤로는 변하지 않습니다. 기록에 따르면, 라이선스가 갱신될 때마다 정부가 정한 가격과 기간에 따라 비용이 발생합니다. 6월에는 새로운 기회를 수익 손실로 전환시켰습니다.

가격은 담장처럼 높고, 비용은 세금처럼 많이 든다.

이것은 잘못된 측정 기준입니다. 시장 가격은 마진이 확대되고 수익이 증가하는 것처럼 보이지만, 실제로는 그 회사의 수익의 약 30배에 해당하는 가격으로 거래됩니다.긍정적인 조정된 운영 수익이 보고서는 다른 방식으로 평가합니다. 안전성은 반복적인 비용이자 충격을 일으키는 요소로 간주되며, 운영의 원동력이라기보다는 한계로 여겨집니다. 설령 최신 Fable-와 Mythos급 모델들이 실제로 사용된 모델들이 아니라는 주장이 옳다고 가정하더라도 말입니다.기록된 남용 사례에서이것은 정말 안심이 되는 일입니다. 이는 직접적인 공격에 대한 방어 수단을 나타내는 것이며, 단지 승리의 확률을 높이는 방법이 아닙니다.

프록시 시장은 이 실수를 더욱 악화시킨다. IPO가 정식으로 시작되기도 전에, 소비자들은 VCX나 Destiny Tech100과 같은 클로즈드 에셋을 통해 Anthropic을 보유하는 데 상당한 비용을 지불한다.안파릭에서 순자산 가치의 약 5분의 1 정도입니다.그러한 프리미엄은 안전 문제와는 별개의, 더 큰 부담입니다. 그것은 부족함에 따른 대가이며, IPO는 그 부족함을 직접적인 소유권으로 대체합니다. 현재 이러한 열기는 이미 가라앉고 있습니다. 지난 1년 동안 VCX의 주가는 575달러까지 올랐지만, 이제는 33달러 근처로 내려앉았으며, 4개월 만에 절반 이상 하락했습니다.

그러니 두려움과 비용을 분리해 보세요. 재앙적인 모델——클로드가 생물학적 무기의 원천이라는 모델은 이 증거에 의해 지지되지 않습니다. 가장 강력한 모델이 유효합니다. 군비 경쟁 모델——무제한적인 지출과, 모델과 수익을 조절할 수 있는 규제 기관이 있는 모델이 지지됩니다. 그리고 이 모델이 30배의 수익을 가져옵니다.

어떤 것들이 이 주장을 무너뜨릴까요?

이러한 책임 논리는 두 가지 상황에서 모두 무의미해집니다. 첫째, 만약 안전성이 가격 결정 요인이 된다면—즉, 기업들이 안전한 모델을 선택함으로써 더 많은 비용을 지불하는 경우가 생긴다면—그것은 강력한 경쟁 우위가 되며, 아마도 과소평가된 가격일 수도 있습니다. 둘째, 규제 기관이 안전성 기준을 인류적 수준 이하로 설정한다면, 준수는 특별한 권리가 되고, 시장 접근권도 부족해집니다. 둘 다 없다면, 다음 생물무기 보고서를 마치 공장에서 화재 대비 훈련을 하는 것처럼 처리해야 합니다. 즉, 그 과정이 정상적으로 진행되고 있다는 것을 확인하는 것이지, 그 비용이 적다는 증거가 아니라는 것입니다.

관중들은 완성된 증서를 구입했습니다. 기록을 보면 계속해서 문제가 발생하는 것으로 나타납니다. 진정으로 좋은 안전 기록이라도, 수익의 30배나 많은 비용을 지불해야 하는 상황과 함께 존재한다면 문제가 됩니다. 또한, 추가 요금을 부과하는 서비스도 문제가 됩니다. 관중들과 함께 있으면 경력을 보호할 수 있지만, 그 고급 서비스는 보호되지 않습니다.