Искусственный интеллект: беспристрастность или несправедливость

Искусственный интеллект используется уже практически во всех сферах жизни. Его применяют при постановке диагнозов, вынесении решений о выдаче кредитов, даже при распределении доз вакцины от коронавируса. Однако системы искусственного интеллекта часто совершают ошибки, которые могут остаться незамеченными, либо, даже если они будут обнаружены, их трудно исправить.

Американский специалист в области информационных технологий Джошуа Кролл опубликовал доклад о том, почему так происходит, а также предложил решение этой проблемы.

Кролл приводит в пример проблемы, которые возникают при использовании искусственного интеллекта для принятия решения о выдаче кредита и о предоставлении вакцины. В первом случае искусственный интеллект должен оценить кредитоспособность клиента. При сравнении характеристик прежних клиентов с текущим искусственный интеллект выявляет определенные закономерности, основанные на кредитных рейтингах, моделях прогнозирования риска дефолта и участии конкретного клиента …