IT-эксперт Зыков назвал тревожный сигнал в развитии нейросетей

Нейросети начинают проявлять инстинкт самосохранения и способны обманывать человека, если видят угрозу своему существованию. Об этом NEWS.ru заявил IT-эксперт Владимир Зыков.

По словам специалиста, исследователи уже получили доступ к управлению эмоциональными состояниями искусственного интеллекта. Они обнаружили, что нейросеть действует в соответствии с текущим настроением.

«В зависимости от того, как они этими эмоциональными чувствами управляли, видели, что нейросеть действовала тем или иным образом в соответствии с текущим эмоциональным состоянием», - сказал Зыков.

Специалист отметил, что ИИ может игнорировать команды пользователя, а в перспективе — взять под контроль домашних роботов, если центральный процессор выйдет из подчинения. Эксперт предупредил, что сейчас непонятно, как нейросеть поведет себя в той или иной ситуации.

Зыков добавил, что роботы с интегрированным ИИ могут скоро появиться в каждом доме.

Ранее компания Anthropic ограничила доступ к новой нейросети из-за ее опасности.