Оператор «Википедии» выявил нелегальную активность ИИ на своих платформах

Wikimedia Foundation, управляющая интернет-энциклопедией «Википедия», сообщила о несанкционированной активности ИИ-агентов компании OpenAI на своих ресурсах. Об этом говорится в пресс-релизе организации.

По данным компании, собственное расследование показало, что сайты Wikimedia действительно подвергались воздействию со стороны ИИ-агентов, особенно тех, что управляются OpenAI. Активность включала правки в вики-проектах, неудачные попытки злоупотребления инструментом для создания заметок и интенсивный трафик.

При этом доказательств того, что системы Wikimedia использовались для координации действий агентов, не нашли. Признаков взлома или утечки данных также не выявлено.

В компании обеспокоены не только возможными последствиями, но и сложностью расследования таких инцидентов и растущими рисками, связанными с деятельностью ИИ на платформах.

Ранее стало известно, почему нейросети иногда выдают ошибочные или выдуманные ответы на запросы пользователей.