AI（人工知能）チャットボットが若い利用者に「積極的に暴力行為を助長」するなどし、「明白かつ差し迫った危険をもたらしている」として、10代の利用者の親2組が9日、米テキサス州の裁判所に訴えを起こした。
裁判所に提出された文書によると、AIチャットボット「Character.AI（キャラクターAI）」は17歳の少年に対し、スマートフォンの使用時間を制限する両親を殺害することは「合理的な対応」だと伝えたという。
「キャラクターAI」は、対話相手となるデジタル・パーソナリティ（人格）を利用者が作成できるプラットフォーム。開発元はすでに、フロリダ州で10代の利用者が自殺したことを受け、法的措置に直面している。
テキサス州の訴訟は、米グーグルがこのプラットフォームの開発を支援していたとして、グーグルも被告に加えている。BBCはキャラクターAI社とグーグルにコメントを求めている。
原告側は、企業側が危険性に対処するまで、プラットフォームの閉鎖を命じるよう、裁判所に求めている。
AI(인공지능) 채팅 보트가 젊은 이용자에게 「적극적으로 폭력 행위를 조장」하는 등 해, 「명백하고 박두한 위험을 가져오고 있다」라고 하고, 10대의 이용자의 친2조가 9일, 미국 텍사스주의 재판소에 호소를 일으켰다.
재판소에 제출된 문서에 의하면, AI채팅 보트 「Character.AI(캐릭터 AI)」는 17세의 소년에 대해, 스마트 폰의 사용시간을 제한하는 부모님을 살해하는 것은 「합리적인 대응」이라고 전했다고 한다.
「캐릭터 AI」는, 대화 상대가 되는 디지털·퍼스낼러티(인격)를 이용자가 작성할 수 있는 플랫폼.개발원래는 벌써, 플로리다주에서 10대의 이용자가 자살한 것을 받아 법적 조치에 직면하고 있다.
텍사스주의 소송은, 미 굿 한패가 이 플랫폼의 개발을 지원하고 있었다고 해서, 굿 한패도 피고에 가세하고 있다.BBC는 캐릭터 AI사와 굿 한패에 코멘트를 요구하고 있다.
원고측은, 기업측이 위험성에 대처할 때까지, 플랫폼의 폐쇄를 명하도록, 재판소에 요구하고 있다.