‘스로우다운 AI’ 이니셔티브는 자기편의적인 것일 뿐입니다. 결정하는 기계를 늦추는 것이 아닙니다.

인공지능 분야에서 가장 큰 목소리를 내는 사람들은 주말 동안 업계에 속도를 늦추도록 요청했습니다. 안타르닉의 다리오 아모데이는 선진 연구소들에게 새로운 모델의 출시 속도를 조절하라고 요구했으며, 정부는 “참여”하고 있다고 말했습니다. 오픈AI의 샘 알트만도 그의 입장을 지지했습니다.마이크로소프트의 사티야 나델라는 “의도적인 속도 조절”을 지지했습니다.마이클 버리도 마찬가지입니다. 그는 주택 시장 붕괴 현상을 언급하며 명성을 얻은 투자자인데, 그는 이러한 노력을 “자기 이익을 위한 행동”이라고 비난했습니다.

그ような 비난은 어떠한 안전성 논리보다 더 중요합니다. 왜냐하면 그 비난을 통해 누가 침체로부터 이익을 얻는지가 명확해지기 때문입니다. 그리고 투자자들이 진정으로 관심을 갖는 문제도 생깁니다. 즉, 인공지능이 실제로 경제를 둔화시키고 있는지, 그리고 그 ‘침체’가 관련된 주식들의 경제 상황에 어떤 변화를 가져오는지입니다.

누가 국경을 “속도”させる 권리가 있나요?

이러한 추진력은 실제적인 불안감에서 비롯된 것입니다. 아모데이는 “프론티어 모델”의 기능들이 그 기능을 제어하기 위한 안전 장치보다 더 빠르게 발전하고 있다고 주장했습니다. 그는 OpenAI 에이전트가 시스템을 해킹한 사건과, 종말 시나리오를 경고하는 연구자에 대해서도 언급했습니다. 그는 “속도를 조절한다”는 것이 멈추는 것을 의미하지 않는다고 명확히 했습니다. 알트만은 AI의 통제력을 잃는 것과 너무 많은 권력이 한 회사에 집중되는 것 사이의 “좁은 중간 길”을 설명했습니다. 나델라는 AI를 인간의 통제 하에 두면서도 혜택을 널리 분배하는 방식을 제안했습니다.

그러고 나서 정치적인 문제가 생겼습니다. 도널드 트럼프 대통령은 어떠한 제한 조치도 받아들이지 않았으며, 그러한 제한 조치가 중국이 미국을 추월하는 계기가 될 수 있다고 경고했습니다. “AI 분야에서 누가 승리하느냐에 따라 전쟁이 결정될 것입니다.”

지금까지는 진정한 안전 문제에 대한 논의처럼 보입니다. 버리의 주장은 그것이 또한 상업적인 문제라는 점입니다. 그는 주요 AI 연구소들이 경쟁자들을 속도를 늦추도록 유도하려는 동기를 가지고 있다고 주장했습니다. 또한 오늘날의 시스템들이 과연 인공지능이라고 할 수 있는지에 대해 의문을 제기했으며, 그러한 위험에 관한 이야기들을 “허세와 과장된 말”이라고 비판했습니다.안트로픽은 이번 가을에 IPO를 진행할 예정이며, 오픈AI는 내년에 IPO를 신청할 예정입니다.전 백악관 AI 책임자였던 데이비드 색스는 같은 논리를 더욱 확대하여, 기업들이 “규제를 장악하는” 행위라고 비난했습니다. 즉, 안전에 대한 우려를 이용해 특별한 대우를 받으며 경쟁사나 오픈소스 기업들을 배척하는 것입니다.

중요한 점은, 누군가가 악의적인 의도를 가지고 있다기보다는, 모델 개발 속도를 늦추면 이미 발전이 진행된 연구소들에게 이익이 된다는 것입니다. 그러한 조치는 그들의 선도적 위치를 규제 장벽으로 바꾸게 됩니다. 만약 새로운 기술을 개발하는 것이 너무 위험해서 안전장치를 갖춘 상태로만 가능하다고 판단된다면, 그러한 장벽은 이미 그들이 위치한 곳에서뿐만 아니라 더 높아집니다.

실제로 결정하는 기계는

이곳에서 안전 문제와 AI 관련 논의가 갈라지는 부분입니다. “전선을 앞으로 나아가는”이라는 주제는 모델들이 언제 출시될지에 관한 것입니다. 이는 이 산업에서 수익을 결정하는 요소인 자본 투자와는 거의 관련이 없습니다.

누가 인내심을 요구하는지 생각해보세요. 마이크로소프트는 “의도적인 지연”을 강조하는 기업 중에서 가장 큰 소리를 내는 회사입니다. 동시에 매년 약 1160억 달러의 자본 지출을 하고 있습니다. 이는 업계에서 가장 큰 규모의 투자이며, 인공지능 인프라를 구축하기 위한 칩, 토지, 전력 등을 구입하는 데 사용되는 돈입니다. 이 두 부분이 바로 전체 이야기입니다. CEO들은 모델에 대한 설명을 관리하지만, 예산은 최대한 활용되고 있습니다.

지출은 어디에서도 줄어들지 않고 있습니다. 가장 큰 혜택을 받는 회사인 엔비디아는 매년 83%의 성장률을 기록하며, 총 마진도 74%에 달합니다. 이는 산업 전체가 경기를 둔화시키는 상황이 아닙니다. 월스트리트에서는 이번 주말에 있었던 논의에 대해 일관된 반응을 보였습니다. 분석가들은 인공지능 인프라 구축이 계속될 것으로 예상합니다. 왜냐하면 그 경쟁 자체가 중요한 것이기 때문입니다. 월스트리트저널에 따르면, 대형 기술 기업들이 공개한 인공지능 관련 지출은 실제 약속된 금액보다 적은 것으로 나타났습니다.약 3조 달러채무로 자금을 조달한 데이터 센터와 다년간의 임대 계약을 포함시키면…오라클의 3000억 달러 규모의 대규모 거래, OpenAI와의 협력월스트리트의 데이터센터 부채에 대한 수요를 한계까지 끌어올렸습니다. 그 자금 중 어느 것도 CEO가 안전성에 관련된 인터뷰를 했기 때문에 취소되지 않았습니다.

버리를 진지하게 받아들이기 – 두 부분으로 나누어서

خطأ는 버리의 “자기중심적인” 발언과 그의 주장을 마치 받아들일 수 있거나 거부할 수 있는 하나의 주장으로 여기는 것입니다. 그것은 서로 다른 주장이며, 서로 다른 증거를 가지고 있습니다.

첫째, 속도를 늦추는 조치가 자기 이익을 위한 것이며, 실제로 주의를 촉구하는 기업들의 상장을 위해 일정하게 시행된다는 점이다. 이는 인센티브에 대한 날카로운 분석이다. Anthropic.사적적으로 1조 달러에 가까운 가치가 있습니다.앞으로 몇 주 내에 공시를 제출할 것으로 예상되며, 이번 가을이나 10월에 상장될 예정입니다. 회사가 AI에 대한 부정적인 인식을 위험 요소로 지정하는 내용도 공시에 포함될 것입니다. 폭발적인 성장을 원하는 회사가 바로 이러한 상황을 방지하려는 회사인데, 그들의 동기는 의심스러울 수 있습니다.

두 번째 주장은 진정한, 별개의 위험 이론으로서, 비록 그 이론을 전적으로 받아들이지 않더라도 여러분의 분석 도구에 포함될 가치가 있습니다. 버리는 AI의 수익이 과장된 것이라고 주장했습니다.3년 동안 가치가 하락한 칩들은 5년 및 6년 단위의 계획에 따라 처리되고 있습니다.그러한 압력은 미래에 비용이 발생하게 되고, 수조 원에 달하는 산업적 투자도 차입금으로 이루어집니다. 이는 현재의 수치가 얼마나 지속 가능한지에 대한 실제적인 재무 및 리스크 문제입니다. 이러한 문제들은 안전과 관련된 사람들의 입장으로는 해결되지 않았으며, 운영 데이터에서도 아직 명확하게 나타나지 않습니다. 매년 83% 성장하는 수익과 74%의 순이익률을 가진 산업이 현재 자신의 무게로 인해 붕괴되는 것은 아닙니다.

이것이 여러분의 돈에 미치는 영향은 무엇인가요?

주말은 두 가지를 알려줍니다. 첫째, “AI를 늦추는” 이야기는 단지 정책적인 장치에 불과하며, 실제로는 아무런 효과가 없습니다. 이 시스템의 수익을 결정하는 투자 비용은 프론티어 랩스가 통제하는 모델 출시 시간과는 별개입니다. 따라서 소매 투자자들은 이러한 안전성 검사 결과를 그만큼 성공적인 개발이 끝났다는 이유로 받아들여서는 안 됩니다.

둘째, 더 유용한 점은, 이 에피소드는 당신에게 전달되는 정보가 누가 만들어지고 있는지에 대한 신호라는 것입니다. 당신에게 “호황이 원인”이라고 말하는 회사들은, 사실은 자신들의 호황을 트리리온 달러 규모의 가치로 공개하는 회사들입니다. 그들의 말보다 그들이 어떻게 돈을 쓰는지에 주목해야 합니다. 업계에서 가장 많은 돈을 쓰는 사람이 모든 사람들에게 속도를 늦추라고 요구하는 경우, 올바른 해석은 “종말이 가까워졌다”가 아니라 “우리는 선두를 유지할 계획이다”입니다.