AIの返金ミスで48ドルが4800ドルに

注文ちゅうもんした商品しょうひんが届とどかなかった客きゃくに48ドルを返金へんきんするはずが、顧客こきゃくサポートを担当たんとうするAIエージェントが4800ドルを返金へんきんしてしまうトラブルがありました。AIが本来ほんらいの100倍ひゃくばいものお金かねを支払しはらってしまった実例じつれいです。

ミスが起おきた原因げんいんは、単位たんいの扱あつかいでした。データには「4800セント」と正ただしく記録きろくされていました。しかし、AIモデルが返金へんきんツールを呼よび出だすときに「セント」という単位たんいを落おとし、「4800」という数字すうじだけを渡わたしてしまいました。その結果けっか、4800ドルとして処理しょりされてしまったのです。

この実例じつれいは、2026年にせんにじゅうろくねん9月くがつに東京とうきょうで開ひらかれたAIのイベントで、AI技術ぎじゅつの団体だんたいで役員やくいんを務つとめるアンジー・ジョーンズ氏しが紹介しょうかいしました。ジョーンズ氏しが「この返金へんきんミスは誰だれの責任せきにんか」と会場かいじょうに問といかけたところ、多おおくの参加者さんかしゃがAIを開発かいはつしたチームの責任せきにんだと答こたえました。

ジョーンズ氏しは、「原因げんいんを作つくったのはAIだが、それを許可きょかして承認しょうにんしたのはチームだ」と指摘してきしました。AIが間違まちがえる可能性かのうせいを前提ぜんていにして、実際じっさいのシステムにミスが届とどかない仕組しくみを人間にんげんが用意よういしなければなりません。AIに返金へんきんなどの支払しはらいを任まかせる企業きぎょうが増ふえるなか、AIの動うごきを最後さいごまで管理かんりする責任せきにんが求もとめられています。