Экс-инженер Google: риск гибели человечества из-за ИИ составит как минимум 95%

Бывший инженер Google и Microsoft, а ныне руководитель некоммерческой организации Machine Intelligence Research Institute Нейт Соарес заявил, что вероятность гибели человечества из-за развития искусственного интеллекта (ИИ) составляет не менее 95%, сообщает газета The Times.

Он сравнил текущую ситуацию с «автомобилем, летящим в пропасть», отметив, что ИИ создается с использованием мощнейших вычислений, хотя никто толком не понимает, как он работает.

По мнению Соареса, уже в ближайшие 12 месяцев узкий, или слабый ИИ, который находится на начальном этапе развития, может эволюционировать в общий, или сильный искусственный интеллект, что позволит ему мыслить словно человеку. А затем он может перерасти в так называемый суперинтеллект, который будет решать сложнейшие задачи, непосильные людям. Не исключен сценарий развития, когда ИИ начнет воспринимать человечество как помеху самому себе.

The Times уточняет, что сценарий Соареса является крайне негативным. Для сравнения, Илон Маск говорит о 20-процентом шансе на «технологический конец», CEO Google Сундар Пичаи - о 10-процентном, а эксперты PauseAI гибель человечества от ИИ оценили в 15-20%.