Сверхумный искусственный интеллект может привести к противостоянию машин и человека

Исследование было опубликовано в августе, отмечает «CNews».

Авторы исследуют возможность катастрофы в интересном контексте.

Ради получения награды ИИ может начать придумывать стратегии обмана человека, которые чреваты прямой угрозой всему человечеству.

Цель самообучающегося ИИ – вознаграждение.

Алгоритм искусственного интеллекта построен по принципу «игры с нулевой суммой», т.е. постоянного соревнования, с обязательным победителем и проигравшим.

Ученые прогнозируют несколько сценариев развития будущего, при которых продвинутый алгоритм ИИ может поменять «правила игры» на ходу так, чтобы получить своё вознаграждение без достижения заданной ему цели.

Некоторые специалисты уже замечают негативный эффект от использования ИИ.

Целью ИИ является максимально быстрое и справедливое распределение социальных благ, но на практике замечается предвзятость и другие изъяны, приводящие к нежелательным последствиям.

Напомним, что недавно в России заработал центр развития искусственного интеллекта.