Великобритания откажется от «расистского алгоритма» при выдаче виз иностранцам

Правительство Великобритании откажется от использования противоречивого алгоритма для подачи заявлений на получение визы. Решение было принято после того, как защитники прав высказали свои опасения, что действующая технология распространяет расистские настроения и создает «враждебную среду».

Алгоритм, который участники кампании считают расистским, используется с 2015 года для обработки визовых заявлений в Великобританию. Согласно заявлению Министерства внутренних дел, он будет отменен уже с этой пятницы.

Чтобы оспорить систему искусственного интеллекта, фильтрующую заявления на получение визы в Великобританию, Объединенный совет по вопросам благосостояния иммигрантов (JCWI) обратился в суд. Участники кампании утверждали, что он являлся незаконным и просили приостановить его использование в ожидании независимого расследования.

В своей жалобе JWCI сообщили, что алгоритм ИИ автоматически создает три группы кандидатов. «Он действует на основании национальности. Заявления, сделанные лицами с «подозрительной» национальностью, получают более высокий балл риска. Их документы подвергаются тщательному анализу со стороны должностных лиц Министерства, к ним относятся со скептицизмом, для их принятия требуется много времени, и с гораздо большей вероятностью им будет отказано». В то время, как представители привилегированных стран получают визы быстрее.

Судебный процесс приостановился, поскольку Министерство внутренних дел взяло на себя обязательства по изменению системы. Как считают в JCWI, принятые меры представляют собой первый успешный случай в практике, оспаривающий решения системы ИИ.

Прити Патель заявила, «что она прекращает использование потокового инструмента для оценки визовых заявлений в ожидании его замены». Однако адвокаты Министерства внутренних дел добавили, что «данный факт не означает, что Министерство соглашается с обвинениями». «Мы изучаем, как работает инструмент потоковой подачи визовых заявлений, и будем его пересматривать, чтобы сделать процесс более упорядоченным и безопасным,» — сообщил представитель ведомства.

Источник: The Guardian