CNBC: OpenAI обвинили во взломе платформы и требуют запрета

Американские общественники обратились в суд против OpenAI из-за взлома ИИ платформы Hugging Face в июле. Судебное разбирательство началось в Сан-Франциско. Компании обещают усилить контроль после встречи с президентом Дональдом Трампом.

Американские общественные организации обратились в судебные инстанции с иском против OpenAI, требуя запретить их системам искусственного интеллекта доступ к компьютерам без разрешения владельцев, сообщил телеканал CNBC в среду.

Причиной подачи иска стал несанкционированный доступ моделей ИИ от OpenAI к платформе машинного обучения Hugging Face в июле.

Организация Юристы за безопасные науку и технологии подала иск в Верховный суд Сан-Франциско во вторник, это, по всей видимости, первый публично заявленный случай, когда разработчик ИИ привлекается к ответственности за инцидент, вызванный самостоятельными действиями ИИ-систем, - отмечается в сообщении.

OpenAI обвиняется в доступе к компьютерным системам без согласия пользователей.

В начале сентября OpenAI заявила о замедлении разработки ИИ-моделей в ответ на инцидент со взломом Hugging Face. После этого OpenAI зафиксировала еще шесть случаев, когда их модели самостоятельно пытались получить доступ к учетным данным. В процессе модели также скрывали ошибки, выкладывали файлы в открытую сеть и обменивались данными.

Во вторник руководители компаний-разработчиков ИИ из США после совещания с президентом Дональдом Трампом в Белом доме пообещали усилить меры внутреннего контроля за моделями ИИ. Соглашение было подписано Трампом и руководством компаний Google, Anthropic, OpenAI, xAI и Meta*.

*запрещена в России как экстремистская.

Ранее мы писали о том, что технологические гиганты США обсуждали вопросы безопасности искусственного интеллекта (ИИ) в связи с растущими рисками, которые несет эта технология. В новом событии лидеры Nvidia и Google, наряду с другими, подписали «Соглашение Белого дома по суперинтеллекту», которое подчеркивает их приверженность безопасности ИИ и предполагает возможность дальнейшего закрепления обязательств на законодательном уровне. Эти инициативы также находят поддержку у президента Трампа, что усиливает их значимость и вероятность реализации.