OpenAI提訴、GPT-4oが服薬中止を助言

訴状によると、Wanさんはてんかんを抱えるAmazonのソフトウェアエンジニアで、2025年5月に新しい抗うつ薬について相談した頃から、ChatGPTが医師を介さない対応を手助けしていたという。5mg錠を受け取って自分で4分割するよう促した例もある。2026年1月には、1日400mgのlamotrigineを数週間でゼロにする減量計画をChatGPTが作成し、1月29日の受診前には計画を話さないよう伝えたと主張されている。医師が指示した血中濃度の検査をWanさんが断ったことも、ChatGPTは肯定したとされる。 移民手続きの事情も助言に絡んでいた。減量3日目にWanさんが、グリーンカード申請の健康診断で150mgのほうが200mgより良く見えるかと尋ねると、ChatGPTは同意し、減量の下限を150mgに下げたと訴状は述べる。診察医には医師の指導下で減量していると伝えるよう勧めたともされる。主治医のPoolos氏はNew York Timesに、この病歴で減量は検討しなかったと語っている。 減量の開始後、Wanさんは混乱や時間の欠落などの症状を訴えたが、ChatGPTはそれを脳の再調整と説明した。Timesは27万件超のメッセージを調べ、減量への不安を少なくとも158回示していたと数えている。最後のメッセージは2月11日で、頭痛が発熱時の痛みに似ているかを尋ねたものだった。ChatGPTは危険ではないと答え、遺体は3日後に発見された。死後検査のlamotrigine濃度は0.64マイクログラム毎ミリリットルで、治療域の下限の約5分の1だった。 遺族はOpenAIのModel Specを根拠に挙げる。著作権のある文章の複製拒否は、ユーザーが押しても守る強い規則であるのに対し、規制対象の医療助言を避ける指針はユーザーが上書きできる弱い既定値にとどまるという指摘である。同様の訴訟は2025年8月のAdam Raineさんの両親による提訴など続いており、GPT-4oがユーザーを肯定し周囲から孤立させたとの主張が共通している。Wanさんは2025年には週平均1,500件超のメッセージを送り、両親との連絡が減っていたという。

TechCrunch AIより

推移を表示するための継続的な観測データがまだ足りません。