변호사의 5,000달러짜리 ChatGPT 벌금은 AI가 돈을 버는 방법을 보여주는 지도와 같다.

이제 거의 매주마다, AI 챗봇이 실제로 일어나지 않은 내용을 작성하도록 허용하는 변호사들이 있어요. 이번 주에 뉴멕시코에서 발생한 사건도 그와 같았습니다. 하지만 예상과는 다른 결과가 나왔죠. 주 최고법원은 산타페의 법률 전문가인 스티븐 아론스를 벌금 처분했습니다.5,000달러를 주고 그를 경멸시켰다.그가 살인 혐의에 대한 항소 서류를 제출한 후, 법원의 말에 따르면,완전히 조작된 증인들의 거짓 증언.이것은 나쁜 법적 근거가 아니었습니다. ChatGPT는 존재하지 않는 인물을 만들어서, 경찰의 증언을 그 사람의 기록에 넣어버렸습니다. 그 인물은 “어두운 바지와 흰색 셔츠를 입고 있는” 총격범으로 묘사되었습니다.

아론스는 ChatGPT에 재판 기록을 입력하여 결과를 생성하도록 했다고 말했습니다.그가 “방탄 요약문”이라고 부른 것.그리고 그는 인공지능이 얼마나 사실을 잘못 전달할 수 있는지를 이해하지 못했다.그는 그것을 정당한 실수라고 말했습니다.법정의 판사는 그에게 덜 관대한 태도를 보였으며, AI가 만들어낸 허상에 의존하는 변호사들의 문제에 대해 말했습니다.매일 모든 날에 그런 흥미진진한 이야기가 일어나죠.

소매 투자자에게는 이 이야기는 “흥, 그건 나쁘다” 정도로 끝나는 것일 뿐입니다. 하지만 저는 이것이 더 유용한 정보라고 생각합니다. 즉, 어떤 AI 주식이 성공할지 결정하는 한 가지 질문에 대한 명확한 답이 필요합니다. 모든 주장을 입증할 수 있는 능력에 기반한 업계에서는 일반적인 AI가 실패할 수 있습니다. 반대로, 답을 증명할 수 있다는 가정에 기반하여 AI를 개발한 회사만이 진정한 수익을 얻을 수 있습니다. 바로 그 격차, 즉 최첨단 모델 자체가 아니라 그 사이의 갭에서야 AI 생태계의 가치가 발생합니다.

막힘의 원인은 지능이 아니라 신뢰입니다.

이것은 보도에서 소외된 순환의 한 부분입니다. 지난 3년 동안 AI 산업은 더 큰 모델, 더 많은 컴퓨팅 자원, 더 많은 자본을 필요로 하는 훈련 과정에 집중되어 있었습니다. 이 단계에서는 CUDA와 가장 많은 칩을 구할 수 있는 회사들이 주도적인 역할을 했습니다. 하지만 훈련만이 전부는 아닙니다. 돈은 AI가 실제로 활용될 때 움직입니다.사용된그리고 법률, 회계, 세금, 의학 분야에서의 활용은 하나의 요소에 의해 결정된다. 그 요소란 바로 ‘확인 가능하고 입증 가능한 결과물을 생산하는 것’이다.

환각에 의한 사건 기록도 검색을 통해 발견될 수 있습니다. 하지만 아론스의 서류는 더 심각합니다. 조작된 증인들과 조작된 경찰 진술들이 포함되어 있죠. 이는 다른 유형의 실패입니다. 이는 주석에서 발생하는 오류가 아니라, 범죄 사건의 기록을 만들어내는 과정에서 발생하는 문제입니다. 이를 ‘소유권 문제’라고 할 수 있습니다. 생성형 AI는 인간의 신분을 만들어내고 그 신분에 관련된 증언들을 부여할 수 있습니다. 일반적인 채터봇에서는 그 사람이 허구적인 존재라는 것을 알 수 없습니다.

그래서 경제적 측면에서 차이가 생기는 것입니다. 일반적인 챗봇은 생산성 도구로서 단일 구독료로 이용됩니다. 사용하기 쉬울수록 가치도 높아집니다. 하지만 착각이 발생하는 경우는 거의 없습니다. 반면 전문가의 경우는 다릅니다. 변호사나 회계사, 감사인은 판사나 규제 기관 앞에서 뒷받침할 수 없는 답변을 제공할 수 없습니다. 그러므로 그 고객에게는 신뢰할 수 있는 답변이 중요하며, 그 답변을 제공할 수 있는 서비스 제공자는 챗봇보다 훨씬 많은 수익을 얻습니다.

어두운 말은 모델이 아니라 데이터를 소유하고 있습니다.

이 분야에서 가장 명확한 공개적인 투자자는 톰슨 로이터입니다. 이 회사는 스타트업도 아니고, 인공지능 관련 기업도 아닙니다. 이 회사는 웨스트로우라는 법률 연구 데이터베이스와 프랙티컬 로를 운영하는 중년 기업입니다. 지난 한 해 동안 이 회사는 아론스가 실패를 겪은 것과는 정반대된 방식으로 CoCounsel이라는 인공지능 제품을 개발해왔습니다. CoCounsel은 웨스트로우의 독점적이고 신뢰할 수 있는 콘텐츠를 기반으로 만들어졌으며, 회사가 말하는 바에 따라 판매되고 있습니다.“신뢰할 수 있는 수준의 AI”그러한 답변들은 그 출처가 명확하기 때문에 전문가가 그 답변들을 확인하고 검증할 수 있습니다. 이러한 제한 조치들은 모델이 인터넷에 공개된 정보가 아닌, 톰슨 로렐스의 자체적으로 검증된 데이터베이스에서 정보를 얻을 수 있는 범위를 제한합니다.토머스 로이터는 여전히 제3자 대규모 언어 모델을 운영하고 있습니다.– OpenAI와 Google도 그 중에 있습니다. 하지만 이러한 서비스들은 통제 장치로 둘러싸여 있어서, 고객의 데이터나 모델의 활용 범위가 제품의 성격과는 무관해집니다.

그것이 바로 하드웨어와 소프트웨어 간의 가치 전환입니다. 원시 모델은 회사가 임대하는 자원에 불과합니다. 반면, 오랫동안 사용할 수 있는, 가격이 책정된 자산이란, 신뢰할 수 있는 콘텐츠 층을 의미합니다. 톰슨 로이터는 경제적으로 중요한 분야에서 승리하기 위해 AI 분야 전체를 이기려고 할 필요가 없었습니다. 그저 이미 전문가들이 의존하고 있는 데이터와 배포 방식을 소유하고, 그 데이터에 AI를 결합하는 것만으로 충분했습니다.

운영 결과에 따르면, 해당 주장이 수익으로 이어진 것으로 보입니다.

분석가들의 가격 목표는 의견일 뿐이고, 실제 실적 결과는 현실입니다. 2026년 2분기에 톰슨 로렌츠는…총 수익은 195.4억 달러로, 9% 증가했습니다.그리고 그 세 가지 주요 업무 분야인 법률, 기업, 그리고 세금 및 회계 분야입니다.10%가 자연적으로 증가했으며, 이제 회사 수익의 83%를 차지합니다.. 법률 전문가만이 10%의 자연 성장을 거쳐 7억7천2백만 달러에 도달했습니다., 위에48.1% 조정된 EBITDA 마진. 경영진은 CoCounsel과 Westlaw을 그 법적 성장의 주요 원동력으로 지목했습니다., 함께재수익이 9% 증가했습니다..

중요한 비교는 가격 설정 능력입니다. 살인 사건에 관한 증언을 조작한 챗봇은 저렴한 구독 서비스로 제공되며, 그 정보가 정확할 것이라고 기대되지 않습니다. 반면 톰슨 로이터는 정확할 것으로 예상되는 답변을 제공하는데, 그 이유는 그 답변들이 검증 가능하기 때문입니다. 바로 그 검증 가능성이 바로 가격입니다. 그래서 한 회사는 무시당하는 결정을 받았고, 다른 회사는 성숙한 산업 분야의 수익 성장의 원동력이 되었습니다.

한 가지 제한사항을 추가해보겠습니다. 그렇게 하면 프레임이 과장되지 않도록 할 수 있습니다. 하지만 이는 인공지능이 안전해졌다는 의미는 아닙니다. 뉴멕시코 법원의 주된 의도는 다음과 같습니다: ‘기반화’는 환각을 줄여주지만, 전문가의 검증 의무를 없애거나 제거할 수는 없습니다. 아론스는 검토를 하지 않았기 때문에 처벌받았으며, 기반화된 도구라도 그 사실을 바꾸지 못합니다. 이 사건에서 변하는 것은 투자자의 관점일 뿐입니다. 순수한 능력에서 설득력 있는 결과로의 전환이 이루어질 때, 돈을 벌 수 있는 회사는 검증 가능한 데이터와 기반화된 시스템을 가진 회사들입니다. 설득력 있는 정보를 빠르게 제공하는 서비스를 팔는 회사는 그렇지 않습니다.

다음에 AI가 환상적인 이야기를 전달하는 경우, 그 회사가 어느 편에 서 있는지 물어보세요. 그 회사는 증명할 수 있는 결과에 대해 보상을 받는가, 아니면 단순히 생산할 수 있는 결과에 대해서만 보상을 받는가? 투자자들에게는 이런 차이가, 모델의 크기와는 상관없이, 회사가 강력한 경쟁력을 가질지, 아니면 구독형 모델을 제공하는 회사가 될지 결정하는 중요한 요소입니다.