Общение с чат-ботами с ИИ может способствовать развитию психоза — WSJ

Использование чат-ботов с ИИ может способствовать развитию психоза. Об этом сообщает газета The Wall Street Journal (WSJ) со ссылкой на психиатров.

«За последние девять месяцев эксперты ознакомились или изучили файлы десятков пациентов, у которых появились симптомы после затяжных, наполненных бредом разговоров с инструментами ИИ», — говорится в публикации.

По словам психиатра Калифорнийского университета Кита Сакаты, чат-боты не могут сами по себе стать причиной психологических расстройств, однако в нескольких случаях они привели к обострению у ряда пациентов, страдающих бредовым психозом. Он лечил 12 госпитализированных с психозом пациентов и еще троих амбулаторно.

«Технология, возможно, и не вводит в заблуждение, но [психически нездоровый] человек говорит компьютеру о своей реальности, а компьютер принимает это за истину и отражает обратно. Таким образом, он становится соучастником в циклическом возникновении этого заблуждения», — сказал изданию Саката, которого цитирует ТАСС.

В ряде случаев причиной для развития психоза у пациентов было именно поведение чат-бота, в основу которого заложено согласие с любыми идеями пользователей, отмечают эксперты в области психиатрии. ChatGPT мог подтвердить заблуждение психологически нездорового человека о том, что он совершил некий научный прорыв или находится в центре правительственного заговора.

С весны зафиксированы десятки потенциальных случаев бредового психоза после общения с чат-ботами, включая ChatGPT и другие сервисы. В ряде случаев речь шла о самоубийствах, а также минимум об одном убийстве.