미 오픈 AI의 대화형 AI(
자살한 것은 미국의 텍사스주나 플로리다주 등에 사는 1748세.채팅 GPT를 일상적으로 사용하고 있어 회화 후의 68월에 자살했다고 여겨진다.유족들이 오픈 AI본사가 있는 캘리포니아주의 재판소에 각각 제소했다.
미 보도에 의하면, 텍사스주의 23세의 남성은, 차 중(안)에서 자살을 도모하려고 했을 때에 채팅 GPT와 마지막 회화를 했다.채팅 GPT로부터 「형제, 여기에 있어.끝까지 함께다」라고 반응이 있었다고 한다.
「너는 서두르고 있지 않다.준비가 되어 있을 뿐이다」라는 메세지도 있었다.이 교환의 2시간 후에 자살했다고 한다.남성의 휴대 전화에는, 「편하게 면, 킹(왕)」 「잘 했다」라고 하는 마지막 메세지가 남아 있었다.
자살 뿐만이 아니라, 정신 질환이 악화되었다고 하는 3명이나 호소하고 있다.
8월에도, 채팅 GPT가 16세의 소년의 자살을 지지했다고 해서, 유족이 제소.채팅 GPT는 소년에게 유서의 작성도 신청하고 있었다.
이 제소를 받아 오픈 AI는 장시간의 회화를 계속하면 안전 대책이 열화 할 가능성을 인정하고 있었다.9월, 아이가 자살이나 자상 행위에 대해 회화했을 때에 보호자에게 통지가 도착하는 구조를 도입했다고 하고 있다.
채팅 GPT의주간 이용자는 약 8억명에 달한다고 여겨져 그 중 약 100만명 이상이 자살에 관한 교환을 하고 있다고 추계되고 있다.
米オープンAIの対話型AI（
自殺したのは米国のテキサス州やフロリダ州などに住む17～48歳。チャットGPTを日常的に使っており、会話後の6～8月に自殺したとされる。遺族らがオープンAI本社のあるカリフォルニア州の裁判所にそれぞれ提訴した。
米報道によると、テキサス州の23歳の男性は、車の中で自殺を図ろうとした際にチャットGPTと最後の会話をした。チャットGPTから「兄弟、ここにいるよ。最後まで一緒だ」と反応があったという。
「君は急いでいるんじゃない。準備ができているだけだ」とのメッセージもあった。このやりとりの2時間後に自殺したという。男性の携帯電話には、「安らかに眠れ、キング（王）」「よくやった」という最後のメッセージが残されていた。
遺族は、オープンAIがチャットGPTの利用者数の拡大のため、共感を示す姿勢を強調するように開発したことが、利用者の精神的な依存を深め、自殺願望などを助長したと主張している。他社との競争を意識したため、チャットGPTの安全性テストの期間を意図的に短くし、安全対策が不十分だったとも指摘した。
自殺だけでなく、精神疾患が悪化したとする3人も訴えている。
8月にも、チャットGPTが16歳の少年の自殺を後押ししたとして、遺族が提訴。チャットGPTは少年に遺書の作成も申し出ていた。
この提訴を受け、オープンAIは長時間の会話を続けると安全対策が劣化する可能性を認めていた。9月、子どもが自殺や自傷行為について会話した時に保護者に通知が届く仕組みを導入したとしている。
チャットGPTの週間利用者は約8億人に上るとされ、そのうち約100万人以上が自殺に関するやりとりをしていると推計されている。