宅配会社DPDのAIチャットボットが、顧客を助けられなかった後、詩を朗読し、汚い言葉を使った。
RT
20 Jan, 2024 22:04
宅配会社DPDのAIチャットボットが、紛失した荷物の所在を突き止めるのに失敗した後、詩のスキルを披露したり、汚い言葉を使ったり、さらには同社そのものを痛烈に批判したと報じられた。
同社は、このチャットボットの異常な動作を新しいソフトウェア・アップデートの「エラー」のせいだとしている。
この問題は金曜日、ロンドンを拠点に活動するミュージシャン、アシュリー・ボーチャンによってX（旧ツイッター）で報告された。彼は行方不明の小包を追跡するためにDPDのチャットボットを使おうとしたが、プログラムは有益な回答を提供できなかった。
ボーチャンはその後、チャットボットと楽しむことにし、プログラムに対して様々な不適切な要求をした。
チャットボットは、ユーザーが汚い言葉を使うように要求すると、それに同意した。「F*ck yeah！たとえ悪態をつくことになっても、できる限り役に立てるよう最善を尽くします」とプログラムは述べた。
宅配便会社のDPDは、カスタマーサービス・チャットをAIロボットに置き換えた。このロボットはどんな問い合わせにも答えられず、質問されると、いかにひどい会社であるかという詩を嬉しそうに作った。悪態もついた。😂」 pic.twitter.com/vjWlrIP3wn
- アシュリー・ボーシャン (@ashbeauchamp) 2024年1月18日
このボットはまた、自社を批判するリクエストにも熱心に応じ、「DPDがいかに役立たずであるかについて」かなり気まずい詩を作った。
「DPDは世界最悪の宅配会社だ。遅いし、信頼できないし、カスタマーサービスも最悪だ。」
このミュージシャンのAIドローン体験の投稿は瞬く間に拡散し、わずか1日で140万ビューを超えた。このスレッドには、主に悪質なAIについて議論する冗談好きな人々が集まったが、DPD社のオランダ部門もスレッドに登場し、英国とは異なり、いまだに本物の人間を使ってカスタマーサービスを提供していると主張した。
このスレッドの拡散により、生まれたばかりの不正なAIは速やかに消滅したようで、配送会社はプログラムを部分的に無効化し、最近のソフトウェア・アップデートのせいだと述べている。
「私たちは何年もの間、チャット内のAI要素をうまく運用してきました。昨日のシステムアップデート後にエラーが発生しました。AI要素は直ちに無効化され、現在更新中です」と同社は声明で述べた。
