航空会社の規約をAIが変更し法廷闘争に 裁判所が顧客への払い…の画像はこちら >>
航空会社のAIチャットボットが、本来は存在しない「払い戻しポリシー」を作成し、航空会社が顧客にチケット代を払い戻すことに。この一件が、AIに依存する顧客サービスの課題を浮き彫りにした。『Odee』や『Wired』が報じている。
2022年末、ジェイク・モファットさんという男性が、11月に他界した祖母の葬儀のために、カナダの航空会社であるエア・カナダの航空券を購入した。
その際に問い合わせた同社のAIチャットボットが、存在しない弔慰ポリシーに基づく払い戻しを約束したという。
エア・カナダは葬儀などで利用する際に割引料金で乗ることができるが、チケット購入前に申請が必要だ。しかしモファットさんが同社のAIチャットボットに尋ねたところ、「発券された日から90日以内に航空券払い戻し申請フォームにご記入ください」と、利用後の返金ルールがあると誤認する説明をしたそうだ。
関連記事：リクエストに応えすぎて悪態をつくAIチャットボット 運送会社が使用中止に
モファットさんがAIチャットボットの提案に従い返金を申請したところ、エア・カナダはそれを拒否した。
同社の弔慰ポリシーによると「フライト予約後の払い戻しはしない」と明記されていたためだが、モファットさんは「航空会社のAIアシスタントがミスを犯し、その誤った情報に基づいて航空券を購入した」と主張した。
それに対するエア・カナダの言い分は、「他のケースではAIチャットボットは正しい弔慰ポリシーへのリンクを提供している」の一点張りで、モファットさんがどうすればよかったのかは詳しく説明しなかった。
関連記事：チャットボットに促され男性が自殺か 「天国でひとつになろう」などの発言に批判
エア・カナダはAIチャットボットをアップデートし、モファットさんに将来のフライトに使える200ドル（約3万円）のクーポンを提供するという妥協案を提示した。しかしそれはモファットさんに受け入れられず、裁判で争うこととなった。
モファットさんは「ウェブサイトで提供された情報の正確性」を根拠に、カナダ・ブリティッシュコロンビア州の裁判所に訴えを起こし、裁判所は原告の主張を支持し、エア・カナダに対してチケットの払い戻しを命じた。
企業側が全面敗訴となった今回ケースについて、専門家は「もしエア・カナダがAIチャットボットの提供する情報の不確かさについて顧客に事前に警告を表示していれば、責任回避に成功したかもしれない」と語っている。