미 오픈 AI의 대화형 AI(</svg>") left 0px top 1.26em / 5px 2px repeat-x rgb(255, 255, 255);">인공지능)</svg>") left 0px top 1.26em / 5px 2px repeat-x rgb(255, 255, 255);">ChatGPT(</svg>") left 0px top 1.26em / 5px 2px repeat-x rgb(255, 255, 255);">채팅 GPT)를 이용했던 것이 자살의 원인이 되었다고 해서, 미국에서 사망한 4명의 유족이 6일, 동사나 샘·알토 맨 최고 경영 책임자(CEO)를 제소했다.유족들은</svg>") left 0px top 1.26em / 5px 2px repeat-x rgb(255, 255, 255);">채팅 GPT가 전문가에게 도움을 요구하는 것이 아니라, 정신적으로 의존시켜 자살을 지지했다고 주장하고 있다.
자살한 것은 미국의 텍사스주나 플로리다주 등에 사는 1748세.채팅 GPT를 일상적으로 사용하고 있어 회화 후의 68월에 자살했다고 여겨진다.유족들이 오픈 AI본사가 있는 캘리포니아주의 재판소에 각각 제소했다.
미 보도에 의하면, 텍사스주의 23세의 남성은, 차 중(안)에서 자살을 도모하려고 했을 때에 채팅 GPT와 마지막 회화를 했다.채팅 GPT로부터 「형제, 여기에 있어.끝까지 함께다」라고 반응이 있었다고 한다.
「너는 서두르고 있지 않다.준비가 되어 있을 뿐이다」라는 메세지도 있었다.이 교환의 2시간 후에 자살했다고 한다.남성의 휴대 전화에는, 「편하게 면, 킹(왕)」 「잘 했다」라고 하는 마지막 메세지가 남아 있었다.
유족은, 오픈 AI가 채팅 GPT의 이용자수의 확대 때문에, 공감을 나타내는 자세를 강조하도록(듯이) 개발한 것이, 이용자의 정신적인 의존이 깊어져 자살 욕구등을 조장 했다고 주장하고 있다.타사와의 경쟁을 의식했기 때문에, 채팅 GPT의 안전성 테스트의 기간을 의도적으로 짧게 해, 안전 대책이 불충분했다고도 지적했다.
자살 뿐만이 아니라, 정신 질환이 악화되었다고 하는 3명이나 호소하고 있다.
8월에도, 채팅 GPT가 16세의 소년의 자살을 지지했다고 해서, 유족이 제소.채팅 GPT는 소년에게 유서의 작성도 신청하고 있었다.
이 제소를 받아 오픈 AI는 장시간의 회화를 계속하면 안전 대책이 열화 할 가능성을 인정하고 있었다.9월, 아이가 자살이나 자상 행위에 대해 회화했을 때에 보호자에게 통지가 도착하는 구조를 도입했다고 하고 있다.
채팅 GPT의주간 이용자는 약 8억명에 달한다고 여겨져 그 중 약 100만명 이상이 자살에 관한 교환을 하고 있다고 추계되고 있다.
