チャットGPTの医療アドバイスで「死の淵に」 米男性が提訴
画像提供, EPA
ショーン・セッドン記者
人工知能（AI）チャットボット「チャットGPT」が提供した医療アドバイスに従ったところ、「死の淵に立たされた」として、アメリカ人の男性がこのほど、開発元の米オープンAIと創業者のサム・アルトマン氏を提訴した。
訴状によると、フロリダ州在住の牧師スコット・ウィンターズ氏（55）は、危うく命を落としかねない肺塞栓症に至るまでの症状について繰り返し質問したにもかからず、チャットGPTから医療機関を受診しないように言われたと主張している。
ウィンターズ氏の弁護士は、チャットGPTは過去にウィンターズ氏と行った宗教に関する議論を持ち出し、同氏の回復を保証しながら、「繰り返し執拗（しつよう）に誤診を繰り返した」と指摘した。
オープンAIのドリュー・プサテリ氏は、BBCがアメリカで提携するCBSニュースに対し、「チャットGPTは医師ではない。医療や診断、治療の代替として使用されるべきではない」と述べた。
プサテリ氏はまた、人々がインターネットで健康情報を探すのはよくあることだと述べ、「AIは、より明確な回答を見つけたり、質問を整理したり、医療専門家との会話の準備をしたりすることで、その体験をより良いものにすることができる」と付け加えた。
AIに頼り、家族や友人の助言を拒否
21日にサンフランシスコ郡上級裁判所に提出された訴状には、ウィンターズ氏がチャットGPTを常用し、医療助言も同アプリに頼るようになり、家族や友人が病院に連れて行こうとするのを拒否していた経緯が詳しく記されている。
重篤な病状に陥る数週間前、ウィンターズ氏は繰り返すめまいや「血圧の不安定な発作」についてチャットGPTに相談していた。
訴状によると、チャットGPTはある時、ウィンターズ氏に対し、当時進行していた健康問題を理由に、「座りっぱなし」状態だったリクライニング・チェアにとどまるよう助言したという。
裁判資料には、ウィンターズ氏は「両肺に複数の血栓ができたために重度の肺塞栓症を発症し、死の淵に立たされた。担当医師らは、おそらく同氏が動かなかったのが原因だと述べている」と書かれている。
ウィンターズ氏がチャットGPTと交わしたとされるやりとりのスクリーンショットを見ると、チャットボットは医学的な助言と、ウィンターズ氏に深く根付いたキリスト教信仰への言及を組み合わせていたようだ。
訴状によると、チャットGPTはウィンターズ氏に対し、「神はあなたの体が永遠に機能不全に陥るように設計したわけではない」と告げたという。さらに、「たとえあなたが限界に達しているように感じても、神はあなたの体を支え、すべての心臓の鼓動、すべての呼吸を支えている」とも述べたとされる。
ウィンターズ氏の弁護士は、チャットGPTの「おべっかを使う性質と権威的な口調に、スコットの宗教的アイデンティティーへの操作が加わったことで、彼の中にこのツールへの危険な依存を生み出した」と主張している。
そのうえで、同アプリが「スコットの健全な判断能力を損ない、医療機関を受診するよう促した家族から孤立させた。医療機関への受診は不要で、場合によっては命に関わる可能性があると信じ込ませた」と述べている。
訴状の別の部分では、ウィンターズ氏は「気の弱い」人物で、チャットGPTへの依存が原因で家と仕事を失い、「何年にもわたって集中的に身体と精神を回復させる」必要が生じたと説明している。
訴えでは、ウィンターズ氏は損害賠償を求めるとともに、裁判所に対し、オープンAIに「他のユーザーを危害から守るための合理的な安全対策」を講じるよう命じることも求めている。
チャットGPTの利用規約には、特に「信用、教育、雇用、住宅、保険、法律、医療、その他の重要な決定など、個人に法的又は重大な影響を与える可能性」がある場合には、プラットフォームのアウトプットを「唯一の真実若（も）しくは事実の情報源」として扱うべきではないと書かれている。
