Представьте ситуацию — чиновники, ответственные за распределение благ между гражданами, делегируют свои полномочия компьютерной программе. Фактически сегодня уже это можно наблюдать в Европе и США. Выделение детских пособий, приоритезация пациентов для оказания медицинской помощи, распределение субсидий для сельского хозяйства — зачастую это задачи алгоритмов «цифрового государства».
Привычный подход к оценке подобного инструментария — эффективность, ресурсоемкость. Однако некоторые политологи обращают внимание и на другое измерение — справедливость решений, принимаемых машиной. Почему использование машинного обучения и ИИ в публичной политике несет риски дискриминации?
Выученная предвзятость
Проблема на поверхности — «выученная» предвзятость моделей, используемых в ходе распределения ресурсов. «Выученная» — потому что модель запоминает закономерности, заложенные в тренировочных данных. Таким образом, если обучающая выборка оказывается нерепрезентативной — результаты будут …
Свежие комментарии