Ученые Сколтеха научили нейросеть сомневаться для большей точности
Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Института проблем передачи информации РАН представили на конференции WACV-2025 разработанный ими метод, который позволяет нейросетям точнее оценивать собственную «уверенность» в прогнозах.
Как отмечают ученые, новый метод позволяет повысить надежность моделей за счет более точного контроля над их поведением в сложных и пограничных сценариях, что особенно важно в таких сферах, как медицина, промышленная безопасность, системы технического контроля и автономные решения.
Так, разработанный российскими специалистами подход помогает нейросети обнаруживать случаи, в которых в ее прогнозе требуется дополнительная проверка со стороны человека.
Как рассказал младший инженер-исследователь Александр Югай, разработанный подход позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев.
«Мы протестировали метод на реальных данных и подтвердили его эффективность в оценке неопределенности», — отметил он.
Напомним, ранее преподаватель онлайн-магистратуры НИУ ВШЭ «ИИ в маркетинге и управлении продуктом» Юлиана Нам сообщила, что российские нейросети продолжают демонстрировать высокий уровень эффективности.