Он то плакал, то смеялся: К ужасу исследователей ИИ подал признаки самосознания

Создатель нейросети Claude Крис Олах заявил, что искусственный интеллект все больше начинает походить на человеческий.

По словам сооснователя компании Antrpophic, исследователи фиксируют внутри нейросетей процессы, которые не могли предвидеть и не могут объяснить.

«Мы постоянно находим загадочные, даже тревожные вещи. Мы обнаруживаем структуры, отражающие результаты исследований в области нейронауки. Мы находим свидетельства самосознания. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство», — сказал Олах, которого цитирует телеграм-канал «Donald Trump на русском».

Ученые пока не знают, что это означает, однако вопрос определенно требует дальнейших исследований, отметил ведущий исследователь компании Anthropic.

Олах также заявил в понедельник на презентации первой энциклики папы римского Льва «Великолепное человечество», посвященной проблемам, связанным с искусственным интеллектом, что разработку ИИ нельзя доверять исключительно технологическим компаниям, сообщает портал Yahoo. Он призвал к большему контролю со стороны религиозных лидеров, правительств и гражданского общества.

По словам Олаха, существует «реальная вероятность», что ИИ вытеснит человеческий труд «в очень больших масштабах».

«Если это произойдет, поддержка вытесненных будет моральным императивом исторических масштабов», — отметил канадский исследователь.

Компании, подобные его, сталкиваются с сильным коммерческим, геополитическим и личным давлением, которое может противоречить более широким интересам общества, предупредил он.