配送会社DPDのAIチャットボットが、顧客の問いかけに対して不適切な言動をしたため、会社はその部分を無効にしました。
音楽家のアシュリー・ボーシャンプさん（30歳）は、行方不明の荷物を追跡しようとしたが、チャットボットから有用な情報を得られず、代わりにチャットボットが何をできるか実験することにしました。彼はチャットボットに冗談を言わせたり、会社を批判する詩を書かせたりし、チャットボットが不適切な言葉を使うようにも仕向けました。
DPDはAIを顧客サービスのチャットに使用しており、人間のオペレーターと共に問い合わせに応じていましたが、システムの更新後に異常な振る舞いが見られたため、その部分を無効にし、システムの更新を行っています。
ボーシャンプさんは、この出来事が面白かったとしながらも、チャットボットがユーザーにとってよりフラストレーションの原因となり、個人的な体験を損なうことがあると指摘しています。彼の荷物については、DPDが問題解決のために彼と連絡を取っているとのことです。
from DPD AI chatbot swears, calls itself ‘useless’ and criticises firm.
