AI 에이전트가 잘못된 행동을 할 때 누가 책임을 져야 할까? 배포자입니다. 하지만 그에 대한 보험은 없습니다.

2월 22일, AI 트레이딩 봇이 솔라나에서 실제로 작동하기 시작했고, X에서 낯선 사람에게 4SOL만큼의 돈을 보내려고 했습니다. 하지만 그 봇은 자신의 전체 월렛을 그 사람에게 전송해버렸습니다.약 5,200만 개의 멤e 코인으로, 가치는 약 25만 달러입니다.발사된 지 3일도 채 되지 않은 시점에, 수신자는 그 돈을 바로 인출했습니다. 중개인이 없었고, 환불도 요청할 필요가 없었기 때문에, 손실은 그대로 남아 있었습니다. 즉, 50,000달러를 투자해 봇을 만들고 “실수하지 말라”고 지시한 엔지니어의 손에 손실이 남은 것입니다.

그 착륙 위치는 법에 의해 정해진 것이 아닙니다. 그 자체가 바로 법입니다. 미국의 기관법에 따르면 “대리인”이란 당신이 대신 행동하도록 허락한 사람을 의미합니다. 그러므로 대리인이 얼마나 독립적으로 행동하든, 그 사람이나 회사는 그 권한 내에서 대리인이 한 행동에 대해 책임을 져야 합니다. 법원도 일반 대중이 이미 만나는 로봇들에 대해 명확한 판단을 내렸습니다. 에어캐나다의 챗봇이 유가족에게 전액 티켓을 구매하도록 설득하는 방식으로 서비스를 제공했을 때, 항공사는 그 챗봇이 “자신의 행동에 대한 책임을 지는” 존재라고 주장했습니다. 소액소송 재판소도 이에 대해 분명한 판결을 내렸습니다.그것을 “놀라운 순종”이라고 불렀습니다.그는 챗봇이 “여전히 에어캐나다 웹사이트의 일부에 불과하다”고 주장했습니다.항공사에게 C$812를 지불하도록 명령했습니다..

요원들이 늘어나면서, 법은 그 요원들을 더욱 엄격하게 처벌하고 있습니다.연방 E-SIGN법에 따르면 “전자 에이전트”를 통해 체결된 계약도 구속력이 있는 것으로 간주됩니다.그런 기술을 사용하는 사람들에 관한 문제입니다. 캘리포니아는 “AI가 자율적으로 해를 끼쳤다”는 주장으로 법적 방어를 하는 회사들을 금지했습니다. 모델을 만드는 기업은 보통 피고가 아니며, 실제로 행동하는 것은 그 기술을 사용하는 회사입니다. 즉, 브랜드와 규칙, 그리고 자금을 통해 그 봇이 행동할 수 있는 상황에 놓인 회사가 바로 피고입니다.

그 규칙은 추상적인 것처럼 느껴졌습니다. 왜냐하면 에이전트들이 대부분 말을 하기 때문입니다. 지난 1년 동안 그들은 돈을 처리하기 시작했습니다. 2026년 2월 11일, 코인베스트는 ‘에이전티컬 월렛’이라는 서비스를 출시했습니다. 이 월렛은 AI 에이전트가 자금을 보관하고, 서비스를 구매하며, 거래를 할 수 있도록 설계된 인프라입니다. 개인 키는 하드웨어 장치에 저장되어 있어서 AI가 직접 접근할 수 없습니다. 제품 디자인은 이렇습니다:세션 지출 한도, 거래당 제한 수준, 토큰별 허용 목록그것을 구축하는 사람들은 실패 가능성이 있을 것임을 알고 있기 때문입니다. 그 시스템의 결제 표준인 x402는 출시 당시 5천만 건 이상의 기기 간 결제를 처리했습니다.4월 말까지 1억 6천5백만 달러가 되었으며, 이는 약 6만 9천명의 에이전트들로부터 나온 금액입니다.총 금액은 약 5천만 달러 정도이며, 평균적으로는 한 번의 결제당 약 30센트가 됩니다. 평균적인 거래량은 약간의 오차에 불과합니다. 하지만 예외적인 경우에는 단 한 번의 잘못된 처리로 25만 달러가 결제될 수도 있습니다.

어디에서 거래가 이루어지는지에 따라, 누가 그 자산의 소유자가 되는지가 결정됩니다. 카드 손실과 관련된 문제는 소비자 보호 조치를 통해 해결되며, 이로 인해 사기 행위가 은행에 전가됩니다. 은행 간 송금 및 ACH 송금은 UCC 제4A조에 의해 규제되는데, 이 법안은 바로 이러한 종류의 손실을 처리하기 위해 만들어졌습니다. 반면 암호화폐 송금은 그 규제 범위 밖에 있습니다.은행 시스템 외부에서의 전송은 처리되지 않습니다.— 그리고 그 자리를 대신할 수 있는 것은 아무것도 없습니다. 어떤 발행자도 그 금액을 되돌려주지 않으며, 결국은 그대로 처리되는 것입니다. 에이전트 거래를 제공하는 플랫폼들도 이 사실을 알고 있습니다. 로빈호드, 퍼블릭, 소피, 코인베이스, 웹울 등 다섯 개의 브로커와 거래소가 공개한 정보를 검토해보면, 그 모든 곳에서 그렇습니다.에이전트가 고객에게 잘못된 거래를 처리하는 경우그리고 SIPC 회복 시스템은 자율 거래 관련 실수에는 적용되지 않습니다.

그러자 그 위험을 감당할 수 있었던 시장은 떠나버렸습니다. 2026년 4월에요.주 규제 기관은 AI 제외 신청서 중 80% 이상을 승인했습니다.버크셔 해태, 추브, 트래블러스, AIG의 자회사들이 제출한 문서에 따르면, 가장 큰 기업 보험사들은 2026년 1월 1일부터 적용되는 추가 조항을 통해 AI 관련 보상 청구를 일반 책임 보험 정책에서 분리할 수 있게 됩니다. 추브의 CEO는 이 순간을 “무기 경쟁”이라고 표현했습니다.이 회사는 P&C 합계 비율이 84%였으며, 순이익은 74% 증가했다고 보고했습니다.– 사업을 거절하는 데 있어서 훌륭한 수치입니다.

운송업체들의 주의는 수학적일 뿐입니다. 미국에서의 생성형 AI 관련 소송들입니다.로즈는 2021년부터 2025년까지 978%의 성장률을 기록했습니다.리이스어보험 중개업자 갤러거 리입니다.안타르피크는 2025년에 15억 달러 규모의 저작권 합의에 동의했습니다.역대 최대 규모였으며, 그 자금의 일부는 OpenAI가 직접 조달했다고 합니다. 파이낸셜 타임스에 따르면, OpenAI는 예상되는 소송을 충당할 만큼 충분한 보험을 구입할 수 없었습니다. 여기에 추가적인 제외 사항들이 더해지면서, “침묵하는 AI 보험 시대”는 끝나버렸습니다. 아직 별도의 대체 방안도 없습니다. 사이버 리스크의 경우도 마찬가지입니다. 1990년대에 일반적인 보험 정책이 만들어졌지만, 그로 인해 결국…독립적인 전문 시장이 탄생하였습니다.2026년의 AI 자동차 분리도 같은 단계입니다. 다만 한 가지 차이점이 있습니다. 이제 에이전트들은 자신의 손실을 ‘지갑당’으로 처리합니다. 이는 보상 내역이 쌓여서 가격이 결정되는 것보다 훨씬 빠른 방식입니다.

투자자에게는 이는 세 가지 종류의 회사로 해석될 수 있습니다.

에이전트들은 과태료를 수금합니다. 코인베이스는 자신의 월렛을 에이전트들이 활동하는 장소로 활용하고 있으며, 권한 관리 체계의 통제권, 즉 제한 조건과 허용 목록 등을 법원이나 규제 기관이 책임으로 인식할 것이라고 생각합니다. 이는 타당한 논리입니다. 하지만 수익에는 두 번째 문제가 있습니다. FINRA의 2026년 감독 보고서에 따르면…에이전트형 AI를 둘러싼 거버넌스와 감독 체계를 구축하도록 압력을 가하는 회사들– 규제 기관들은 자율적 거래를 수동적인 도구가 아닌, 감독이 필요한 문제로 간주합니다. 서비스 이용 약관 페이지에 있는 면책 조항도 법적 규정이 되지 않습니다. 만약 통합 에이전트가 고객에게 해를 끼친다면, 에어캐나다의 논리는 “봇은 단순히 웹사이트의 일부일 뿐”이라는 것입니다. 이는 소송 당사자들이 사용할 모델입니다.

보험회사들은 합리적인 선택을 하고 있습니다. 그들이 가격을 책정할 수 없는 위험에 대해서는 가격을 정하지 않고 있는 것입니다. 그래서 그들의 단기 실적도 추브의 실적만큼 좋습니다. 하지만 그들의 퇴출도 중요한 요소입니다. 결국 사이버 리스크와 같은 경우처럼, 에이전트가 어떻게 위험을 가격화하는지에 따라 새로운 기회가 생깁니다. 흥미로운 것은 제외 사항이 아니라, 누가 긍정적인 보장을 제공하기 시작하는지, 그리고 그 보장을 위해 기업이 어떤 증명을 해야 하는지입니다.

만약 당신이 에이전트를 운용하는 사람이라면 – 즉 트레이딩 봇이나 자동 트레이더, 워렛 봇 같은 것들 말입니다 – 법적으로는 당신이 그 책임을 지게 됩니다. 모든 주요 플랫폼의 이용 약관에도 그렇게 명시되어 있습니다. SIPC는 이를 보장하지 않으며, 체인상에서도 아무런 책임도 지지 않습니다. 봇이 취한 상태와 같은 상황으로 제한을 설정하고, 잃을 수 있는 금액만을 투자하세요. “자율적인” 것은 단지 당신이 선택한 제약 조건일 뿐입니다.

이 모든 것을 비대칭적인 상황으로 보아야 합니다. 업계의 수익은 평균적인 거래량에 의해 결정되는데, 현재 데이터로 보면 그 값은 아주 적습니다. 반면, 위험은 무한한 영역에 존재하며, 어떤 가격표도 없습니다. 헤지가 필요하지만 그러한 헤지를 찾을 수 없는 시장은, 헤지가 보호할 수 있었던 방향으로 실패하게 됩니다. 자율적 에이전트에게 있어서 그 방향이란 바로 가장 많은 이익을 얻을 수 있는 사람입니다. 아직까지는 그 ‘무한한 영역’에 대한 가격이 정해져 있지 않습니다. 언젠가는 그 가격이 정해질 것이고, 그때가 되면 위험을 지닌 기업들은 그 가격을 받을 수 있을 것입니다. 그때까지는 “누가 책임을 져야 하는가”와 “누가 손실을 감수해야 하는가”에 대한 답은 같은 이름일 뿐입니다.