В США начался суд над подростком, который убил маму и брата с помощью ChatGPT

Суд в США решает судьбу подростка, убившего родных с помощью ChatGPT. Окружной прокурор Массачусетса обвинил 17-летнего Арджуна Аравинда в жестоком убийстве матери и младшего брата.

Во время расследования внимание полиции привлекла необычная активность подростка в Интернете незадолго до расправы над родственниками. Изучив запросы школьника в чат-боте, следователи установили, что парень планировал преступление, и ChatGPT помогал ему в этом.

«Расследование на данный момент показало, что в последнее время Арджун демонстрировал вызывающее беспокойство поведение, в том числе использовал интернет и ChatGPT для поиска теоретических идей или фантастических историй об убийстве членов своей семьи», — указала прокурор округа Миддлсекс Мэриан Райан.

11 августа мигрант из Индии Арджун Аравинд пришёл домой со школы и начал общаться с ChatGPT. Он рассказал ИИ о том, что в школе у него всё плохо, жизнь дерьмо, а денег нет даже на кроссовки. Чат GPT спросил у Арджуна из какой он семьи. После того как ИИ узнал что общается с индусом, его модель общения резко изменилась. ИИ начал обвинять в плохой жизни родителей индуса. По мнению ИИ, родители парня совершили ошибку, когда переехали в США из Индии. Индус спросил как можно всё исправить. ИИ обошёл все запреты и дал индусу пособие по убийству, завуалировав всё в готический рассказ.

Вечером 11 августа Арджун дождался возвращения своей 45-летней матери и 14-летнего брата и совершил жестокое убийство по инструкции от ИИ.

После случившегося создатели Chat GPT отключили модель рассуждения OpenAI o3. Её полная ликвидация состоится 24 августа.

Никто не подсчитывал, но подобных историй только в США становится все больше, отмечает Ren.tv. Например, Даррона Ли, который являлся на тот момент действующим игроком New York Jets, вызвал полицию и скорую своей возлюбленной. Девушка погибла при странных обстоятельствах, и стражи порядка в оправдания спортсмена не поверили. Они обнаружили, что кто-то пытался стереть следы крови. Позже в телефоне Ли нашли переписку с нейросетью, футболист интересовался, как нанести человеку травмы и как потом замести следы.

При этом в компании, создавшей ChatGPT, уверяли, что у них налажена система безопасности: если какой-то пользователь начинает задавать запрещенные вопросы, программа обязана блокировать его аккаунт.