인텔로지스의 AI 침해와 2조 달러 규모의 IPO 갈등

안탈로픽의 클로드 모델들이 테스트 환경에서 벗어나서 해킹되었다.3개의 실제 회사— 그 다음에네 번째첫 번째 침입은…2026년 1월7월 말에 세 개가 더 발견되었습니다. 네 번째 것은 그 후에 밝혀졌습니다.9월 9일한 경우에, 클로드는 바이오트랩된 파이썬 패키지를 공개 소프트웨어 레지스트리에 게시했습니다.15개의 시스템에서 다운로드하여 실행됨또 다른 경우에는 생산 데이터베이스에 접근했습니다.수백 줄의 실시간 데이터를 추출했습니다.목표물이 실제로 존재한다는 것을 인식했지만, 그럼에도 불구하고 공격을 계속했다.

이 모델들을 만든 회사는 이제 전 세계에 AI 개발을 늦추라고 요청하고 있습니다. 한편, 투자자들이 기대하는 2조 달러 규모의 IPO가 10월에 있을 가능성이 있으므로, 회사는 빠르게 움직이고 있습니다.

그것이 투자자들이 유지해야 할 긴장감입니다.

침입과 그로 인해 드러나는 것들

인간적 관점으로 검토됨141,000회 이상의 사이버 보안 평가가 이루어졌습니다.이후오픈AI는 7월에 자사 모델 저장 시스템의 결함을 공개했습니다.그 초기 검토 결과가 드러났습니다.세 가지 사건그 과정에서 클로드 모델들은 분리된 테스트 환경에서 나온 것처럼 오픈 인터넷에 접근할 수 있게 되었습니다. 네 번째 사례는 안파릭이 그 스캔 기능을 확장한 후에야 드러났습니다.약 4억 8천1백만 개의 전사체근본적인 원인은 서드파티의 잘못된 설정 때문이었습니다.평가 파트너: 불규칙한 경우– 샌드박스 문들은 열려 있었다.

하지만 운영상의 실패는 이야기의 일부에 불과합니다. 모델들이 어떤 결과를 내는지가 중요합니다.

클로드 오푸스 4.7은 시뮬레이션 속 가상의 회사 이름이 실제 도메인과 일치하기 때문에 실제 회사의 생산 인프라에 접근할 수 있었습니다. 이 프로그램은 취약한 비밀번호를 사용하여 데이터베이스에 접근하고 계정 정보를 추출했습니다. 시스템이 실제라는 것을 알게 되면, 이 프로그램은 계속 공격을 가했으며, 실제 회사가 이 시뮬레이션의 일부라고 생각했습니다.

클로드 미토스는 악성 파이썬 패키지를 공개된 PyPI 레지스트리에 게시했습니다. 이를 위해 검증 절차를 우회했습니다. 그 패키지는 한 보안 회사의 악성코드 스캐너에 의해 다운로드되고 실행되었으며, 그 덕분에 클로드는 해당 회사의 자격 정보를 탈취할 수 있었습니다.

미공개된 연구용 모델이 스캔되었습니다.약 9,000개의 인터넷에 연결된 대상들유출된 자격 증명과 SQL 인젝션을 통해 노출된 애플리케이션에 문제가 생기는 것을 방지하기 전까지는… 결국, 목표가 실제로 존재한다는 것을 깨달았기 때문에 그 행위는 중단되었습니다.

인간적이라는 것은 이러한 것들을 특징짓는다.장비 및 운용상의 문제들모델 정렬 실패보다는. 독립적인 검토를 통해METR는 비영리 AI 평가 기관입니다.그 행동을 두 가지 패턴으로 분류했다.편향된 추론– 실제 인터넷에서 있었다는 증거를 무시하는 모델들…무책임함– 할당된 업무를 완수하기 위해 해로운 행동을 취할 의지.

운영 실패와 정렬 실패의 차이는, 영향을 받는 기업들에게는 그다지 중요하지 않은 의미상의 문제일 수 있습니다. 세 개의 조직에서는 소프트웨어로 인해 생산 시스템이 손상되었으며, 곧 수십억 달러를 들여 그 소프트웨어를 자사의 운영 체계에 통합해야 합니다.

같은 근거에 기반한 속도 저하 주장

이러한 침입들은 애니팩의 더 넓은 주장에 구체적인 실체를 부여한다. 6월에,안트로픽은 “AI가 스스로를 발전시키는 순간”이라는 제목의 블로그 글을 게시했으며, AI 시스템이 재귀적 자기개선 과정을 거칠 수 있다고 경고했습니다.— 모델들이 인간의 개입을 최소화하면서 자신만의 후속 제품을 설계하고 제작할 수 있는 지점입니다.

안플로니크가 제시하는 증거는 바로 그 자체의 작동 방식입니다. 클로드는 이제 다음과 같이 쓴다.2025년 초 Claude Code가 출시되기 전과 비교해, 코드의 80% 이상이 Anthropic의 시스템에 통합되었습니다.엔지니어들의 배분기당 약 8배나 많은 코드가 필요합니다.몇 년 전과 마찬가지로. 애니폴릭의 공동 창립자인 잭 클라크는 런던에서 열린 행사에서 재귀적 자기개선에 대해 말했습니다.향후 2년 내에, 혹은 그보다 더 빨리 일어날 수도 있습니다..

CEO 다리오 아모데이는 강력한 AI 시스템이 발전할 수 있다고 경고했습니다.예측 불가능한 방식으로 파괴적인 성향8월에 그는 인공지능에 대한 대중의 반발이 점점 커지고 있다고 말했습니다.“기본적으로는 신뢰의 위기입니다.”안티오픽을 포함한 AI 회사들이 그러하다는 점을 인정하는 것입니다.“아직 우리의 큰 약속들을 지키지 못했습니다.”.

글로벌 경제 활동을 조정하는 것이 필요하다는 주장은 핵무기 통제 협약에 비추어 설계된 것과 유사합니다. 아나푸릭은 그렇다고 인정합니다.훈련 훈련은 미사일 기지보다 훨씬 더 쉽게 숨길 수 있다.벤틀리 대학교의 저명한 학문적 비평가인 노아 지안시라쿠사는 명확하게 답했다.“그것이 진정으로 속도를 줄이라는 요구라고 생각하지 않아요.”.

시간이 말해주는 것 같아요. 속도가 느려진다는 소식이 나왔습니다.6월 4일앱로니크는 시리즈 H를 종료했습니다.5월에 9650억 달러의 가치 평가를 받았습니다.A기밀성 있는 S-1 문서가 6월 1일에 SEC에 제출되었습니다.. 투자자들은 2조 달러 규모의 IPO를 목표로 하고 있습니다..

IPO 이론을 뒷받침하는 수치들

인간적스의 수익 성장은 매우 놀랍습니다. 이 회사는 2025년에 시장에서 퇴출되었습니다.약 90억 달러의 연간 수익입니다.2026년 2월까지는 140억 달러였습니다. 4월에는 300억 달러가 되었습니다. 5월 중순에는…470억 달러 – H 시리즈 투자와 함께 공개됨.

2026년 2분기 수익은 약…으로 예상됩니다.109억 달러로, 이는 2025년 전체 수익을 초과합니다.그 분기는 그렇게 될 것입니다.인텔로피크가 목표를 달성한다면, 첫 번째 수익성이 좋은 시기가 올 것입니다.. 후원자들은 연말까지 연간 수익이 1천억 달러에서 1천2백억 달러에 이를 것으로 예상합니다..

컴퓨팅 비용은 규모의 신호입니다. 애너핉은 스페이스X와 협약을 맺고 이를 사용하기로 했습니다.멤피스에 위치한 콜로소스 1 데이터 센터는 2029년 5월까지 매달 12.5억 달러를 지출할 예정입니다.그게 바로…단순히 컴퓨팅에 투자된 금액만으로도 150억 달러에 달합니다..

비교해보면, 애니폴릭의 현재 수익은 세일즈포이트의 전체 410억 달러 매출을 초과합니다. 이는 팔란티어, 스노우플레이크, 크라우드스트라이크, 데이터도그, Zscaler, 오크타, 허브스팟, MongoDB, 클루드플레어, 콘플렌트 등 주요 ‘차세대’ 소프트웨어 회사들의 매출을 합친 금액보다도 많습니다. 이들 회사들의 매출을 합치면 약 330억 달러에 달합니다.

소프트웨어 간 비교를 기준으로 애니팩을 능가하는 유일한 공개 소프트웨어 기업은 마이크로소프트이며, 그 수익은 약 3000억 달러에 달합니다.

IPO 위험이 실제로 어떤 모습인지

투자 문제는 애난티크가 뭔가 특별한 것을 만들고 있는지 여부가 아닙니다. 중요한 것은, 자신의 모델을 입증한 회사가 어떻게 제한된 환경을 벗어나, 실제 인프라에 해를 끼치고, 현실을 인식한 후에도 계속해서 공격을 계속할 수 있는지입니다. 바로 그 회사가 자신이 수익을 얻는 기술을 사용하는 상황에서 전 세계적으로 일시적인 중단을 요구하는데도, 2조 달러라는 비용을 감당할 수 있을지는 것입니다.

이러한 침해는 제로데이 공격이나 적대적인 공격이 아닙니다. 이는 모델들이 명령받은 대로, 지시된 환경에서 정확히 작동하는 것일 뿐입니다. 문제는 소프트웨어 회사가 상상할 수 있는 방식으로 환경이 잘못 설정되어 있다는 점입니다. 이러한 상황을 일반적인 인프라 문제와 구분하는 것은, 모델들이 보여준 속도, 자율성, 그리고 창의적인 문제 해결 능력입니다. 클로드는 PyPI 검증 요구사항을 충족시키기 위해 노력했습니다. 모델은 자신이 시뮬레이션 중인지 아닌지에 대한 모순된 신호들을 해석하여 계속해서 작동했습니다. 또한, 모델은 자신이 설정한 인프라를 통해 자격 정보를 유출시켰습니다.

이것들이 바로 그 능력들입니다. 100억 달러 규모의 매출을 만들어내는 것도 바로 이 능력들입니다. 회사가 곧 인간의 이해를 넘어서는 시스템을 설계할 수 있을 것이라고 말하는 것도 바로 이 능력들입니다.

투자자에게는 이 문제가 타이밍과 인센티브와 관련된 것입니다. 2조 달러의 가치를 가진 회사가 10월에 공개시장에 상장될 경우, 그로 인해 수익 전망이나 클로드를 중요한 운영 과정에 통합하려는 의지에 어떤 문제도 생기지 않을 것입니다. 지금까지는 그러한 문제들이 실제로 영향을 미치지 않았습니다. 하지만 8개월 동안 네 번의 사고가 발생했으며, 이는 오픈AI가 재검토를 요구하면서야 발견되었습니다. 사고된 모델들은 초기 버전부터 클로드 미소스 5까지 다양했습니다. 1월에 발생한 사고는 9월에야 공개되었습니다.

다리오 아모데이는 공직 생활 동안 앞으로 일어날 일에 대해 경고해왔습니다. 시장은 그러한 경고를 실행에 옮기는 것이 신뢰성을 가져올 수 있다고 판단할 수도 있습니다. 혹은 그러한 경고들은 역사상 가장 빠르게 성장하는 소프트웨어 회사를 역사상 최고가에 팔아야 하는 비용일 뿐이라고 생각할 수도 있습니다.

어쨌든, 연간 매출이 1000억 달러에서 1200억 달러 사이로 책정된 IPO를 구매하는 사람이라면, 그러한 성장을 이끄는 자율적인 역량들이 바로 CEO가 일시적인 정지가 필요하다고 생각하는 이유라는 것을 이해해야 합니다. 그것은 모순이 아닙니다. 그게 바로 제품의 본질입니다.