Из-за неправильного использования ИИ люди лишаются льгот, подвергаются дискриминации։ The Guardian

Издание The Guardian провело расследование, в ходе которого была опубликована статья, в которой государственные чиновники обвиняются в хаотичном и не контролируемом использовании искусственного интеллекта и алгоритмов для решения разнообразных важных вопросов: от назначения пособий до подтверждения брака.

Издание утверждает, что как минимум восемь правительственных департаментов и несколько полицейских подразделений используют искусственный интеллект для принятия решений в вопросах социального обеспечения, иммиграции и уголовной юстиции. The Guardian считает, что такие методы приводят к дискриминации. Например, ошибка в алгоритме, используемом Министерством труда и пенсий (DWP), привела к потере пособий десятками людей. Средство распознавания лиц, внедренное лондонской полицией, при определенных настройках допускает больше ошибок при идентификации лиц с темной кожей.

Министерство внутренних дел также признало использование искусственного интеллекта в системах сканирования паспортов в аэропортах, подачи заявлений на получение паспорта и выявления фиктивных браков. Внутреннее расследование в министерстве выявило, что алгоритм, используемый для выявления фиктивных браков, сосредотачивал внимание на выходцах из Албании, Болгарии, Греции и Румынии в несоразмерно большей степени.

Также болгары пострадали от использования алгоритма DWP, который помогает выявлять мошенников среди заявителей на пособие. Депутат от Лейбористской партии Кейт Осамор считает, что использование этого алгоритма могло привести к тому, что десятки болгар внезапно перестали получать пособия, так как их заявления ошибочно идентифицировались как потенциально мошеннические. Несмотря на это, в DWP настаивают на том, что алгоритм не учитывает национальность.

Расследование прокомментировала Мэрион Освальд, профессор права Нортумбрийского университета: "В использовании искусственного интеллекта в государственном секторе не хватает последовательности и прозрачности. Многие из этих инструментов влияют на повседневную жизнь многих людей, таких как те, кто обращается за пособиями. Но люди не понимают, для каких целей они используются, и у них нет возможности оспаривать их использование".

Ранее в Великобритании существовал независимый правительственный консультативный совет, который отслеживал, как правительство использует искусственный интеллект. Однако этот совет был ликвидирован в начале этого года.

The Guardian также напоминает, что проблемы, связанные с использованием искусственного интеллекта государственными учреждениями, возникают не только в Великобритании. Например, в Нидерландах налоговые органы использовали средства искусственного интеллекта для выявления потенциального мошенничества среди заявителей пособий по уходу за детьми. В конечном итоге налоговые органы были оштрафованы на сумму в 3,7 миллиона евро после многократного приема неправильных решений и "погружения десятков тысяч семей в бедность".