Существующие нейросети, хоть и обладают высокой точностью, часто проявляют чрезмерную уверенность в своих предсказаниях, особенно при работе с нечеткими, неполными или зашумлёнными данными . Чтобы решить эту проблему, учёные Центра искусственного интеллекта Сколтеха совместно с Институтом проблем передачи информации РАН разработали новую методику обучения, которая повышает осознанность решений ИИ, позволяя моделям не только делать предсказания, но и понимать степень их обоснованности.
В основе подхода лежит использование обучающих данных с «мягкими» метками, где вместо бинарного формата (0 или 1) применяется непрерывная шкала от 0 до 1, отражающая уверенность эксперта в правильности разметки . Такой формат помогает системе учитывать как эпистемическую неопределённость, связанную с недостатком данных, так и алеаторную, вызванную природным шумом и вариативностью информации. Это позволяет нейросетям выявлять те случаи, когда требуется вмешательство человека для корректировки решений, что критически важно в таких областях, как медицинская диагностика, технический контроль и автономное производство.
Экспериментальные тесты метода продемонстрировали рост точности при оценке неопределенности в задачах классификации и сегментации, что делает эту разработку перспективной для применения в системах, где ошибка может дорого обойтись . «Наш метод помогает нейросети понять, где стоит проявить осторожность», – поясняет Александр Югай, младший инженер-исследователь Сколтеха. Результаты работы были представлены на международной конференции WACV‑2025, что подчеркивает их значимость для дальнейшего развития надежных ИИ-систем.