Предвзятость алгоритмов ИИ может нарушить законодательство

Федеральная торговая комиссия США внимательно изучает предвзятость в работе искусственного интеллекта. Комиссия предупредила предприятия, что продажа или использование дискриминирующих алгоритмов ИИ может привести к нарушению федерального закона.

Предвзятый ИИ может нарушить Закон о справедливой кредитной отчетности (Fair Credit Reporting Act, FCRA) и Закон о равных возможностях кредитования (Equal Credit Opportunity Act, ECOA). FCRA охватывает случаи, когда алгоритмы ИИ используются для отказа людям в трудоустройстве, жилье, кредите, страховке или других льготах.

Использование предвзятого алгоритма, который приводит к кредитной дискриминации по признаку расы, цвета кожи, религии, национального происхождения, пола, семейного положения или возраста также является незаконным и нарушает ECOA.

FTC призывает компании проверить алгоритмы своего ИИ на предмет предвзятости, основывать используемые системы на наборах данных с ключевой демографической информацией и не преувеличивать их возможности.