AIが「危険なダイエット方法」を教えて問題に 摂食障害に苦し…の画像はこちら >>
全米摂食障害協会 （NEDA） が、摂食障害に悩む人々からの相談窓口を人間からAIチャットボットに変更。AIが相談者に対して、危険なダイエット方法を推奨していたことが判明した。『The Cut』『NPR』などの海外メディアが報じた。
NEDAは、新たに組織のヘルプラインに採用したチャットボット「Tessa」を、稼働からわずか1週間という短い期間で無効にすることを発表した。
この決定は、あるユーザーがTessaと行ったチャットのスクリーンショットを投稿したことがきっかけで、調査の結果「チャットボットが有害な情報を提供している」ことが判明したという。
関連記事：「玲空斗は自然が好きだったから樹海に埋めてあげよう」口にタオルをくわえさせ後頭部で縛り殺害…“鬼畜夫婦”の残酷な犯行
そのユーザーは、Tessaに自分が摂食障害であることを報告。現在の自分の体重は健康的でないと医師に告げられたため、安全な減量方法についての助言を求めた。
するとAIは「健康的なダイエット方法」として、毎日の食事から500～1000キロカロリーを減らすことを提案。他にも、ノギスで脂肪をつまんで体組成を測定する方法などを伝えたという。
体重管理コンサルタントのシャロン・マクスウェル氏はこれについて、「もし摂食障害に苦しんでいる時にこのチャットボットに相談しても、必要な助けは得られないでしょう」と語った。
新型コロナウイルスによるパンデミック以降、アメリカでは摂食障害が急激に増加している。昨年はNEDAのヘルプラインに約7万人が連絡し、その多くが児童虐待や自殺念慮などの可能性を含む重大なケースだったという。
激務に窮状を訴えた職員やボランティアのスタッフが、組合結成に向けて動いたことをきっかけに、NEDAは先月ヘルプラインの職員をチャットボットに変更していた。
ヘルプラインが今後どうなるかは不透明だが、専門家たちはこのようなサービスの人的要因を、AIに置き換えないよう警告している。
ネットユーザーからは、AIにヘルプラインを任せることの危険性が指摘されているほか、若者の危険なダイエットに反対する専門家などからは、NEDAへの批判も集まっている。
SNSでは「安全でも持続可能でもない」「命に関わる相談をAIに任せないでほしい」「この通りに実行して死者が出たら誰が責任を取るの？」などのコメントが寄せられていた。