Цифровой Чернобыль: "крестный отец" ИИ Хинтон предсказал крупный инцидент

Хинтон сравнил возможный сбой в энергетике или финансах из-за ИИ с катастрофой на Чернобыльской АЭС.

Один из «крёстных отцов» искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон предупредил, что в конце 2026 или в 2027 году может произойти крупный инцидент с использованием ИИ, который станет «тревожным звонком», подобным аварии на Чернобыльской АЭС. Об этом сообщает The Guardian.

В качестве примеров он привёл атаку на энергосистему, способную вызвать масштабное отключение электричества, или сбой, который парализует финансовую систему на неделю. Хинтон допустил, что человечеству, возможно, было бы лучше вовсе не разрабатывать нейросети.

В ближайшие десять лет станет ясно, удастся ли справиться с рисками ИИ или технология приведёт к массовой безработице и усилению неравенства. Он также раскритиковал руководителей крупнейших ИИ-компаний за стремление к прибыли в ущерб безопасности и призвал ввести обязательное независимое тестирование моделей до их выпуска.

Джеффри Хинтон получил Нобелевскую премию по физике в 2024 году вместе с Джоном Хопфилдом за открытия в области машинного обучения. В 2023-м он ушёл из Google, чтобы иметь возможность свободно предупреждать мир об опасностях ИИ.