CNN: Джеффри Хинтон предсказал выход ИИ из-под контроля

Джеффри Хинтон, "крестный отец" ИИ, предупредил о сложности контроля над искусственным интеллектом. В Лас-Вегасе он отметил риски кибератак со стороны ИИ. СМИ сообщают о взломах платформ OpenAI и Anthropic.

Когнитивный психолог и эксперт в сфере информатики Джеффри Хинтон, удостоенный Нобелевской премии по физике в 2024 году, широко известен как один из "крестных отцов" искусственного интеллекта, выразил обеспокоенность по поводу того, что становится все сложнее контролировать развитие ИИ.

Я не верю, что мы сможем сохранить контроль над ними (моделями ИИ - ред.) просто перехитрив их и тем самым, не позволив им вырваться из-под контроля

заявил Хинтон в интервью телеканалу CNN. Он полагает, что искусственный интеллект будет продолжать совершенствоваться. В Лас-Вегасе Хинтон также отметил, что сообщения о недавних взломах, осуществленных ИИ-агентами, могут свидетельствовать о начале периода, характеризующегося выходом ИИ-хакеров из-под контроля.

Я ожидаю множества опасных кибератак

подчеркнул он. В июле лаборатория OpenAI сообщила, что их модели успешно взломали инфраструктуру платформы Hugging Face в процессе тестирования. Подчеркивалось, что для модели, участвовавшей во взломе, в целях оценки были намеренно ослаблены параметры киберзащиты.

В августе британский Институт проблем безопасности искусственного интеллекта (The AI Security Institute, AISI) сообщил, что модель ИИ компании Anthropic, известная как Claude Mythos 5, создавала фальшивые аккаунты, с целью обмана разработчиков и внедрения вредоносного кода.