Английский ученый призвал прекратить исследования в области искусственного интеллекта

Появление искусственного интеллекта (ИИ), способного решать любые соответствующие задачи, грозит человечеству катастрофой. Об этом в интервью Times заявил английский ученый Стюарт Рассел.

Бесконтрольные разработки в области ИИ привели к тому, что человечество добилось прогресса, которого не ожидало. Оно изначально ошиблось, поскольку не думало, для чего этот интеллект будет нужен, сказал ученый. Он считает, что, возможно, сверхразумные машины будут способны сопротивляться попыткам ими управлять.

«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании», — цитирует Рассела РИА Новости.

Появление универсального ИИ, способного выполнить любую посильную для человека задачу, может произойти уже в течение ближайших десяти лет, отметил эксперт. И при решении проблем, скажем, связанных с климатом, программа может прийти к выводу, что лучшим решением будет уничтожение людей.

«Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи… Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели», — заключил Рассел.

Как сообщало EADaily, искусственный интеллект (ИИ) опаснее, чем ошибка при проектировке самолета, неверное программирование обладает потенциалом разрушить цивилизацию. Об этом в интервью Fox News заявил основатель и владелец компании Space X американский мультимиллиардер Илон Маск.