Как Goldman Sachs может восстановить доверие пользователей после дискриминации Apple Card
Goldman Sachs должен инвестировать средства в инструменты, позволяющие снизить предвзятость в процессе подачи заявки на Apple Card. Apple
С тех пор, как на прошлой неделе появились новости о гендерной дискриминации Apple Card, Goldman Sachs перешел в режим контроля за ущербом.
Финансовый институт, который в партнерстве с Apple выпустил недавно выпущенный кредитная карта, настаивает на том, что ее процесс утверждения не одобряет кандидатов-мужчин, как сообщают пользователи. Можно с уверенностью сказать, что публика не верит утверждениям Goldman о невиновности; даже соучредитель Apple Стив Возняк отметил, что лимит расходов его жены на Apple Card значительно ниже.
СМОТРИ ТАКЖЕ: Amazon теперь предлагает кредитную карту клиентам с плохой кредитной историей
«Что Goldman Sachs не удалось учесть, что алгоритмы машинного обучения превосходно обнаруживают скрытые функции в данных », - пояснил аналитик Lux Research Коул МакКоллум. «Это функции, которые не используются напрямую при обучении модели машинного обучения, но выводятся из других функций».
МакКоллум сказал Observer, что этот тип предвзятости, обнаруживаемый в наборах исторических данных, является одним из самых больших проблем при внедрении машинного обучения. Именно поэтому компаниям необходимо изучить инструменты обнаружения предвзятости и объяснимости искусственного интеллекта (ИИ), которые могут помочь уменьшить потенциальную дискриминацию. «В случае ограничения расходов Apple Card, даже если пол не учитывался специально (как утверждает Goldman Sachs), другие связанные функции в наборе данных все равно могут включать эти предубеждения и приводить к несправедливым решениям», - сказал он.
Титановая карта Apple, ориентированная на безопасность, призвана стать инновационным продуктом для потребительского финансирования. Хотя процесс подачи заявки на Goldman Sachs все еще нуждается в технической настройке, кредитная карта Apple может оказаться на другом конце благодаря своим привлекательным преимуществам, например, функции ежедневного возврата денег.
«Этот инцидент должен служить предупреждением. чтобы компании вкладывали больше средств в интерпретируемость алгоритмов и их тестирование в дополнение к обучению руководителей тонким способам, которыми предвзятость может закрасться в проекты ИИ и машинного обучения », - заключил МакКоллум.
комментариев