(Часть 1)
На этом снимке 1939 года показана практика красной черты в Детройте. Термин происходит от политики, разработанной Корпорацией жилищного кредитования (HOLC), в которой районы будут ранжироваться в соответствии с их предполагаемым инвестиционным риском. Худшие кварталы, отмеченные красным, имели нечто общее: они были домом для расовых и этнических меньшинств.
До 1968 года расистский предлог для того, чтобы списать целые районы как «опасные», был не только нормой, но и полностью законным.
Последствия ощущаются и сегодня, поскольку отказ в доступе к домовладению распространял модели расового и экономического подчинения, которые мы наблюдаем сегодня.
Чтобы избежать как преднамеренного, так и непреднамеренного отказа в кредитовании определенным слоям населения, родилась концепция справедливого кредитования.
Что такое справедливое кредитование?
Справедливое кредитование занимается расследованием решений и систем, регулирующих доступ к кредитам, во избежание неоправданной дифференциации.
Что является неоправданным основанием для дифференциации?
Это атрибуты, которые мы не должны учитывать при принятии решения о чьей-либо кредитоспособности. Мы обозначаем эти «защищенные атрибуты». У них могут быть:
Практическая неуместность
Атрибуты, не имеющие материальной основы для результата.
Пример. Сами по себе раса или пол не влияют на чью-либо кредитоспособность и как таковые не должны приниматься во внимание.
и / или
Моральная неуместность
Атрибуты, против использования которых мы морально возражаем, независимо от того, как они влияют на результат.
Пример: Статус инвалидности может повлиять на способность человека выплатить ссуду, но мы морально возражаем против его использования, потому что не хотим, чтобы люди с ограниченными возможностями были подчинены подчиненному статусу в нашем обществе.
У них всегда есть:
Социальная значимость
Социально значимые атрибуты, служившие основой для систематической неоправданной дифференциации в прошлом.
Пример. Раса исторически использовалась как основание для дискредитации отдельных лиц и сообществ.
Две доктрины закона о дискриминации
Эти руководящие принципы закона США о дискриминации определяют этические нормы, определяющие справедливое кредитование. Они называются разрозненным обращением и разрозненным воздействием и направлены на устранение различных причин несправедливой дискриминации.
Несопоставимое обращение
Этот принцип описывает более «очевидные» случаи дискриминации, такие как непосредственное рассмотрение расы при принятии решения.
Не имеет значения, имеет ли это цель благоприятствовать или не благоприятствовать защищаемой группе; Использование защищенного атрибута (или прокси) в решении всегда является нарушением этого принципа.
В нем описаны следующие случаи дискриминации:
Официально
Когда защищенный атрибут рассматривается непосредственно для принятия решения.
Пример: андеррайтер, принимающий решения в зависимости от пола соискателя кредита.
и / или:
Умышленное
Использование прокси для защищенного атрибута как целенаправленная попытка различения.
Пример: чтобы отказать меньшинствам в доступе к кредитам, районы, населенные меньшинствами, считаются «опасными». Есть попытка скрыть расистский предлог.
Несопоставимое воздействие
Этот принцип описывает менее «очевидные», но не менее значимые случаи дискриминации.
Например, ипотечный кредитор, у которого есть политика отклонения заявок на получение ссуды на сумму менее 60 000 долларов США. На первый взгляд это может показаться нейтральной политикой: но более тщательное изучение покажет, что эта политика непропорционально исключает соискателей из числа меньшинств из домов, которые они обычно могут себе позволить.
В нем описаны случаи дискриминации, которые одновременно:
Внешне нейтральный
На первый взгляд они кажутся недискриминационными, но непропорционально сильно влияют на членов защищенного класса.
Пример. Ипотечный кредитор придерживается политики отклонения заявок на получение ссуды на сумму менее 60 000 долларов США. Однако заявители из числа меньшинств непропорционально лишены доступа к домам, которые они обычно могут себе позволить.
а также
непреднамеренное
Негативное воздействие непреднамеренно (иначе было бы разрозненное обращение).
Пример. Тот же ипотечный кредитор не знал о несоразмерном исключении из этой политики заявителей из числа меньшинств.
а также
Можно избежать
Существует другое правило или политика, которые менее различаются по своему влиянию, и нет необходимости для бизнеса, которая помешала бы их использованию.
Пример: Тот же ипотечный кредитор мог бы отменить это правило, чтобы отклонить заявки на получение ссуды на сумму менее 60 000 долларов, поскольку это не повлияло бы отрицательно на их способность вести бизнес. Поскольку несопоставимые воздействия имели место, были непреднамеренными и их можно было избежать, ипотечный кредитор несет ответственность за нарушение несопоставимых воздействий.
Где сегодня могут происходить эти нарушения справедливого кредитования?
Ручное андеррайтинг
Традиционная форма андеррайтинга, выполняемая специалистами-людьми.
Люди имеют печально известную склонность к предубеждениям. Часто предвзятость андеррайтера-человека приводит к тому, что он считает заемщика менее кредитоспособным из-за его расы или пола, что подрывает их шанс быть оцененным с учетом его достоинств и лишает его возможностей в жизни.
Ручное андеррайтинг имеет риски с точки зрения несоразмерного отношения (из-за сознательной или неосознанной предвзятости) и несоразмерного воздействия (из-за необоснованной политики, исключающей защищенные классы).
Автоматизированный андеррайтинг
Все чаще процесс андеррайтинга автоматизируется алгоритмами машинного обучения.
Используя атрибуты и исходы по умолчанию прошлых заемщиков, эти алгоритмы изучают закономерности того, что делает хорошего заемщика лучше, чем любой человек может когда-либо надеяться.
Однако эти модели обучаются на прошлых данных: эти данные могут быть испорчены предвзятыми решениями бывших андеррайтеров.
Автоматизированные системы андеррайтинга имеют риски с точки зрения разрозненного воздействия, поскольку предвзятые данные могут привести к исключению защищенных классов.
Что машинное обучение означает для справедливого кредитования?
Поскольку андеррайтинг все больше становится областью машинного обучения, сложные алгоритмы машинного обучения позволяют судить о финансовом будущем миллионов людей.
Мы должны осознавать его потенциал для создания более справедливого процесса кредитования: если все сделано правильно, мы можем автоматизировать андеррайтинг формализованным, основанным на фактах способом и избежать человеческих предубеждений и предубеждений, как показали исследования. (Гейтс, Перри, Зорн (2002))
Мы также должны гарантировать, что эти модели, использующие данные, запятнанные предрассудками бывших людей, принимающих решения, не просто увековечивают одни и те же модели исключения и лишения избирательных прав. Мы должны избегать «красной черты».
Справедливое кредитование должно стать началом новой эры машинного обучения: эпохи, когда цель этих систем состоит не просто в максимальном увеличении предсказательной силы, но и в создании систем, поддерживающих общечеловеческие ценности.