Как Goldman Sachs может восстановить доверие пользователей после дискриминации Apple Card

  • 22-12-2020
  • комментариев

Goldman Sachs должен инвестировать средства в инструменты, позволяющие снизить предвзятость в процессе подачи заявки на Apple Card. Apple

С тех пор, как на прошлой неделе появились новости о гендерной дискриминации Apple Card, Goldman Sachs перешел в режим контроля за ущербом.

Финансовый институт, который в партнерстве с Apple выпустил недавно выпущенный кредитная карта, настаивает на том, что ее процесс утверждения не одобряет кандидатов-мужчин, как сообщают пользователи. Можно с уверенностью сказать, что публика не верит утверждениям Goldman о невиновности; даже соучредитель Apple Стив Возняк отметил, что лимит расходов его жены на Apple Card значительно ниже.

СМОТРИ ТАКЖЕ: Amazon теперь предлагает кредитную карту клиентам с плохой кредитной историей

«Что Goldman Sachs не удалось учесть, что алгоритмы машинного обучения превосходно обнаруживают скрытые функции в данных », - пояснил аналитик Lux Research Коул МакКоллум. «Это функции, которые не используются напрямую при обучении модели машинного обучения, но выводятся из других функций».

МакКоллум сказал Observer, что этот тип предвзятости, обнаруживаемый в наборах исторических данных, является одним из самых больших проблем при внедрении машинного обучения. Именно поэтому компаниям необходимо изучить инструменты обнаружения предвзятости и объяснимости искусственного интеллекта (ИИ), которые могут помочь уменьшить потенциальную дискриминацию. «В случае ограничения расходов Apple Card, даже если пол не учитывался специально (как утверждает Goldman Sachs), другие связанные функции в наборе данных все равно могут включать эти предубеждения и приводить к несправедливым решениям», - сказал он.

Титановая карта Apple, ориентированная на безопасность, призвана стать инновационным продуктом для потребительского финансирования. Хотя процесс подачи заявки на Goldman Sachs все еще нуждается в технической настройке, кредитная карта Apple может оказаться на другом конце благодаря своим привлекательным преимуществам, например, функции ежедневного возврата денег.

«Этот инцидент должен служить предупреждением. чтобы компании вкладывали больше средств в интерпретируемость алгоритмов и их тестирование в дополнение к обучению руководителей тонким способам, которыми предвзятость может закрасться в проекты ИИ и машинного обучения », - заключил МакКоллум.

комментариев

Добавить комментарий