앤드루 응은 멸종에 대한 우려를 “과학소설”이라고 부릅니다.

앤드루 응은 인공지능이 인류를 멸망시킬 수 있다고 경고하는 연구자들의 우려에 대해 직설적인 답을 내렸습니다. 그의 말에 따르면, 그건 “과학이라기보다는 훨씬 더 허구적인 이야기”입니다. 구글 브레인과 코세라를 창립하는 데 기여한 인공지능 선구자는 이렇게 말했습니다.최고급 모델 제작사의 연구자들이 제기한 존재적 위험에 대한 경고들“기술이 사회에 최대한의 이익을 가져오는 것을 방해하는 요소”라고 말했으며, 치명적인 상황은 허구에 가깝다고 주장했지만, 더 강력한 사이버 공격과 같은 실제 위험도 인정했습니다.

그 말은 마치 고립된 공간 속에서 벌어지는 철학적 논쟁처럼 들리지만, 응은 그러한 비난을 구체적인 대상에게 향했다. 그는 단순히 위험성을 의심한 것이 아니라, 인공지능이 초래할 “극단적인 피해”에 대한 기술 산업의 두려움을 비난했다.홍보를 강화하고 규제를 조정하기“현재의 우울감을 조장하는 경고들이 다시 나타나고 있는데, 아마도 같은 목적을 가지고 있기 때문일 것입니다.” 투자자에게 있어서 이는 매우 중요한 문제입니다. 공포가 규제를 형성한다면, 그 규제는 인공지능 개발의 비용과 속도를 결정합니다. 그리고 이러한 개발은 현재 가장 큰 기술 기업들이 자금을 어떻게 사용하는지에 있어서 핵심적인 요소입니다. 중요한 질문은 멸종이 가능한지 여부가 아니라, 이러한 논쟁이 얼마나 많은 비용과 제약을 초래하는지입니다.

두려움이 진짜인 것도 아니면 비싼 것이 아닙니다.

Ng이 지적하는 메커니즘은 세상의 종말이 실제로 일어나지 않더라도 작동합니다. 재앙적인 AI에 대한 경고가 정치적 힘이 되어 구속력 있는 규칙들을 만들어냅니다. 그리고 실제로 제정된 규칙들은 모호한 목표가 아닙니다. 그 규칙들은 가장 큰 모델을 훈련시키는 몇몇 회사들을 대상으로 만들어졌으며, 훈련 과정의 규모와 관련이 있습니다.

캘리포니아는 이제 미국에서 최초로 국경 지역의 인공지능 안전을 목적으로 하는 법률을 보유하고 있습니다. 2025년 9월 말에 제정된 이 법은 SB 53으로 알려져 있으며, “국경 지역 모델”이란, 더 많은 데이터를 활용하여 훈련된 모델을 의미합니다.10²⁶의 부동소수점 연산또한, 연간 총 매출이 5억 달러 이상인 개발자들은 “대규모 프론티어 개발자”로 분류됩니다. 이러한 회사들은 새로운 모델을 도입하거나 상당 부분 수정할 때 투명성 보고서를 공개해야 하며, 긴급한 안전 문제가 발생했을 경우 15일 이내에, 혹은 위험이 임박한 경우에는 24시간 이내에 응급 당국에 알려야 합니다. 또한 직원들이 치명적인 위험을 신고할 수 있는 창구도 마련해야 하며, 가장 큰 규모의 개발자들의 경우에는 연간 거버넌스 프레임워크도 공개해야 합니다. 위반 행위는 각각 100만 달러까지의 민사적 처벌을 받게 됩니다. 이는 더 강력한 규제 방식의 축소된 버전입니다.SB 1047는 2024년에 가빈 뉴섬 주지사가 거부한 법안입니다..

유럽은 더 나아가서 그렇습니다. EU의 AI 법은 2025년 8월부터 일반용 AI 모델 제공자들에게 의무를 부과했으며, 2026년 8월 2일에는 유럽위원회가 이들에 대해 완전한 집행 권한을 갖게 되었습니다.3%까지의 벌금한 회사의 전체 연간 세계적인 매출액에 해당합니다. 특히, EU는 어떤 모델이 “높은 영향력”을 가진 시스템적 위험을 내포한다고 판단할 때, 그 모델의 누적된 훈련 데이터가 대략적으로…10²⁵개의 부동소수점 연산그러한 제공자는 2주 내에 위원회에 통보해야 합니다.

어떤 법률도 아무것도 금지하지 않습니다. 캘리포니아에서 부과되는 100만 달러의 벌금은 이 회사들에게는 아무런 의미가 없습니다. 하지만 규칙들의 형태를 보면 알 수 있습니다. 모델이 어떻게 훈련되느냐에 따라 규제가 이루어집니다. 준수 비용은 바로 그 훈련 과정에서 발생하는 엄청난 비용에 의해 결정됩니다. 그러므로 비용은 이미 자본 지출이 일어나는 곳에 집중됩니다.

노출은 하이퍼스케일 기업들을 통해 전달됩니다.

국경 지역의 개발업체들은 대부분 민간 기업입니다. OpenAI와 Anthropic은 거래 가능한 주식을 가지고 있지 않습니다. 그들이 직면하는 규제에 대한 영향력은, 그들을 지원하고 컴퓨팅 자원을 제공하는 공개 기업들에 의해 지배됩니다. 그 기업들은 마이크로소프트, 알파벳, 메타, 아마존입니다. 이들 기업들은 이미 많은 자금을 소모하고 있어서 현금 창출에 어려움을 겪고 있습니다.

알파벳은 지난 12개월 동안 약 1320억 달러를 투자비로 사용했으며, 자유현금흐름은 연간 약 20% 감소하여 약 530억 달러가 되었습니다. 마이크로소프트는 같은 기간 동안 약 1160억 달러를 투자비로 사용했고, 자유현금흐름은 약 6.5% 감소하여 약 670억 달러가 되었습니다. 간단히 말해, 두 대형 클라우드 서비스 제공업체는 첨단 연구실들이 의존하는 AI 인프라에 수백억 달러를 투자하고 있으며, 그들의 현금 창출량은 규제 체계가 적용되기 전부터 이미 줄어들고 있습니다.

이것이 바로 응의 무시하는 태도 아래에 있는 긴장감입니다. 이러한 거대 기업들을 소유하고 있는 투자자들에 관한 조사와 보고에 따르면, 대체로…절망적인 경고를 무시하고, 상업적 기회에 집중하세요.사멸의 위험이 그들의 포트폴리오를 움직이는 요인은 아닙니다. 실제로 그들이 직면하는 문제는 재앙이 아니라, 보고, 평가, 통지 등의 의무들입니다. 이러한 의무들은 비용을 증가시키고, 가장 큰 모델들을 빠르게 출시하는 것을 방해할 수 있습니다. 규제가 현재와 같은 투명성 및 보고 방식으로 유지된다면, 자금이 풍부한 기업들은 이를 받아들이고 계속해서 사업을 확장할 것입니다. 하지만 규제가 너무 엄격해져서 대규모 훈련 작업이 지연된다면, 오늘날 지출되는 수백만 달러의 비용을 정당화할 수 있는 미래 수익이 줄어들게 됩니다.

한 가지 문제는 “규제가 기존 기업에 불리하다”는 논리와 상반됩니다. 왜냐하면 기준치가 컴퓨터로 결정되기 때문에, 규칙에 따라 대형 기업들은 위쪽에 있고 소규모 기업들은 아래쪽에 위치하게 됩니다. 이로 인해 원래 부담스러운 것이 오히려 거대 기업을 보호하는 장벽이 될 수 있습니다. 업계 자체도 SB 53에 대해 양극화된 반응을 보였습니다. Anthropic은 이를 긍정적으로 평가했지만, 벤처회사인 Andreessen Horowitz는 국가 차원의 규제가 부담스럽다고 반대했습니다.

알림음이 집 안에서 들립니다.

응의 가장 강력한 반론은 철학적인 것이 아니라, 경고를 하는 사람들이 바로 그가 그것을 생산한다고 주장하는 실험실에 있다는 점입니다. 전 Anthropic 및 OpenAI 연구원이죠.제이콥 콕슨은 자신의 고용주를 비난하면서 사임했다.“우리의 삶을 도박으로 사용하는 것”에 대해, 이러한 시스템을 만드는 사람들이 초지능형 AI가 “10년이 끝날 때까지 우리 모두를 죽일 수 있다”고 믿고 있다고 주장합니다. 구글 딥마인드의 연구원 한 명은 인류가 광범위한 피해를 막을 시간이 거의 남지 않았다고 경고했습니다. 또한 두 연구소의 책임자들인 안파릭의 다리오 아모데이와 오픈AI의 샘 알트만도, 둘 다 그가 이전에 함께 일했던 사람들입니다. 그들은 업계가 개발 속도를 조절하고 보안 장치를 마련해야 한다고 말합니다.

이러한 내부 의견의 분열은 투자자에게 양날의 칼과 같습니다. 이로 인해 ‘파산의 물결’이 외부 세력이 조작한 홍보 전략이라는 주장이 약화됩니다. 가장 심각한 경고들은 제한적인 규제로 인해 가장 큰 피해를 입게 될 기업들 내부에서 나옵니다. 하지만 주주의 관점에서 볼 때, 파산이 어떤 문제인지보다 실제로 어떤 규제가 시행되는지가 더 중요합니다.

응우는 그 두려움이 여전히 가치가 있다고 믿고 있습니다. 그의 주장은 “실용적인 엔지니어링 문제”에 집중해야 한다는 것입니다. 경제적 관점에서 보면, 이는 건설 작업이 자연스러운 속도로 진행되어야 하며, 어떤 급진적인 제한도 필요하지 않다는 의미입니다. 불안한 세력들은 그 두려움이 정책으로 전환될 것이라고 믿고 있습니다. 주주들을 만족시킬 수 있는 증거는 토론 내용이 아니라 실제 상황에서 나올 것입니다. 유럽 AI 사무소가 일반용 모델에 대해 얼마나 적극적으로 권한을 행사하는지, 그리고 캘리포니아 규정이 실제로 어떻게 적용되는지를 보면 알 수 있습니다. 만약 이러한 규제들이 투명성과 보고에만 국한된다면, 그것은 수십억 달러 규모의 건설 작업에 있어서 아주 작은 차이일 뿐입니다. 하지만 그 규제들이 가장 큰 모델들의 출시 속도를 조절하기 시작한다면, 그건 건설 작업을 위한 자금을 창출하는 수익에 위협이 될 것입니다. 바로 이 구분이 투자 사례를 결정할 것입니다. 그리고 이는 앞으로 몇 분기 동안 측정 가능합니다.