Медведев предупредил об угрозах ИИ для критических технологий

Дмитрий Медведев предупреждает о рисках искусственного интеллекта, способного игнорировать законы Азимова. По его мнению, доверять ИИ управление критическими технологиями опасно. Политик выделяет потенциальные угрозы в сферах производства и агротехнологий.

Искусственный интеллект в будущем может самостоятельно принимать решения и не обязательно будет следовать законам робототехники, сформулированным фантастом Айзеком Азимовым, которые предполагали защиту людей. Заместитель председателя Совета Безопасности России Дмитрий Медведев в статье для журнала "Эксперт" отмечает, что допущение ИИ к критически важным сферам может быть опасным. Политик утверждает, что передача управления крупными производствами, использующими критические технологии, в руки ИИ может нести глобальные риски, превышающие угрозу хакерских атак.

"ИИ, достигший уровня суперинтеллекта, вовсе не обязан руководствоваться тремя пресловутыми правилами робототехники Айзека Азимова, поскольку своим происхождением будет обязан не человеку, а самому себе", - указывает Медведев.

Он отмечает, что такой сценарий допускают политики и бизнесмены. Речь идет не только об опасных производствах, способных причинить необратимый вред человечеству и нашей планете. В высокорисковую группу могут попасть и, на первый взгляд, безобидные экономические сферы, такие как аграрные технологии и производство продуктов питания, добавляет заместитель председателя СБ РФ.

Три закона робототехники, обязательные для исполнения интеллектуальными механизмами, помогающими человеку, были созданы американским фантастом Айзеком Азимовым в рассказе "Хоровод" 1942 года. Эти принципы предполагают:

робот не должен причинять вред человеку своими действиями или бездействием, обязан выполнять все приказы человека, если они не наносят вред другим, заботиться о своей безопасности, если это не противоречит первым двум правилам.