👓 Ботанские новости
технологии, открытия, исследования и разработки
🤖 Нейросети научились объяснять свои решения, но сами ли они их понимают?
Нейросети научились объяснять свои решения, но сами ли они их понимают?
Исследователи представили метод генерации минималистичных объяснений для решений предобученных классификаторов изображений. Система создает бинарные маски, выделяющие критические области картинки, и строит графы каналов для интерпретации внутренних вычислений модели. Теперь ИИ может показать, на что он смотрел, принимая решение - правда, все равно непонятно, что у него в голове.
#ИИ #машинное_обучение #компьютерное_зрение