Будущее под угрозой. Эксперты предупредили о неожиданной опасности ИИ

Искусственный интеллект (ИИ) может не только вытеснить людей с работы, но и лишить их способности мыслить и принимать решения. Исследователи предупреждают: общество рискует стать зависимым от машин, а государства — всё реже учитывать мнение самих граждан.

Не восстание, а автоматизация

Сценарий называют «постепенной утратой человеческой самостоятельности». Он не предполагает, что ИИ обязательно объявит войну людям или захватит власть. Опасность может возникнуть из стремления компаний сократить расходы и автоматизировать больше процессов.

«Я поставил постепенную утрату человеческой самостоятельности на первое место в своём списке угроз», — заявил Джей Чуи, глава Robocurve — компании, оценивающей возможности робототехники на основе ИИ.

По его словам, ИИ может превзойти людей во многих интеллектуальных задачах — от программирования до научных исследований. Роботы смогут эффективнее выполнять и физическую работу. Если машины начнут производить товары быстрее и дешевле, бизнесу будет трудно сохранять рабочие места: конкуренты, перешедшие на автоматизацию, предложат более низкие цены.

Когда это происходит во всех отраслях, человек постепенно теряет экономическую роль и возможность поддерживать навыки, которые обеспечивали ему работу. Чем больше решений передаётся ИИ, тем сложнее людям понимать, проверять и оспаривать их.

Демократия под угрозой

Исследовательница ИИ Маргарет Митчелл из Hugging Face предупреждает: если люди перестанут выполнять задачи, переданные ИИ-агентам, они утратят способность справляться с ними. Если система даст сбой, может не оказаться специалиста, который сумеет исправить ситуацию.

Риск касается и политики с безопасностью. Ян Кулвейт, соавтор научной работы об утрате человеческой самостоятельности, отмечает: если решения на поле боя всё чаще будут принимать алгоритмы, государства могут полагаться на ИИ из-за его скорости. Армии, использующие людей, рискуют уступить соперникам, которые автоматизируют процессы.

Кулвейт считает, что в таком мире может ослабнуть демократия. Сегодня государствам нужны граждане: они платят налоги, служат в армии и влияют на власть через выборы. Но если экономику и безопасность обеспечат автоматизированные системы, у властей может стать меньше причин зависеть от населения.

Как сохранить человеческий контроль

По мнению авторов исследования, остановить процесс будет трудно: экономические, культурные и политические стимулы к автоматизации усиливают друг друга. Поэтому важно отслеживать, какие профессии и задачи передаются алгоритмам и как это влияет на людей.

Митчелл призывает не исключать человека из рабочих процессов: участие специалистов помогает контролировать системы и сохранять компетенции. ИИ можно создавать не как замену человеку, а как инструмент, который дополняет знания и помогает учиться.

Кулвейт предлагает определить сферы, где конкуренция не должна полностью вытеснять людей из принятия решений. Особенно важно сохранить человеческую экспертизу там, где цена ошибки высока, в том числе в военной сфере. Задача — не соревноваться с машинами в скорости, а направить технологии на поддержку человека.

«У организаций будут очень веские экономические и политические причины постепенно отказываться от человеческого труда и передавать всё больше задач роботам и искусственному интеллекту», — предупреждает Чуи. Поэтому последствия автоматизации нужно обсуждать заранее, пока зависимость от неё не стала фатальной.