Правительство Великобритании откажется от использования противоречивого алгоритма для подачи заявлений на получение визы. Решение было принято после того, как защитники прав высказали свои опасения, что действующая технология распространяет расистские настроения и создает «враждебную среду».
Алгоритм, который участники кампании считают расистским, используется с 2015 года для обработки визовых заявлений в Великобританию. Согласно заявлению Министерства внутренних дел, он будет отменен уже с этой пятницы.
Чтобы оспорить систему искусственного интеллекта, фильтрующую заявления на получение визы в Великобританию, Объединенный совет по вопросам благосостояния иммигрантов (JCWI) обратился в суд. Участники кампании утверждали, что он являлся незаконным и просили приостановить его использование в ожидании независимого расследования.
В своей жалобе JWCI сообщили, что алгоритм ИИ автоматически создает три группы кандидатов. «Он действует на основании национальности. Заявления, сделанные лицами с «подозрительной» национальностью, получают более высокий балл риска. Их документы подвергаются тщательному анализу со стороны должностных лиц Министерства, к ним относятся со скептицизмом, для их принятия требуется много времени, и с гораздо большей вероятностью им будет отказано». В то время, как представители привилегированных стран получают визы быстрее.
Судебный процесс приостановился, поскольку Министерство внутренних дел взяло на себя обязательства по изменению системы. Как считают в JCWI, принятые меры представляют собой первый успешный случай в практике, оспаривающий решения системы ИИ.
Прити Патель заявила, «что она прекращает использование потокового инструмента для оценки визовых заявлений в ожидании его замены». Однако адвокаты Министерства внутренних дел добавили, что «данный факт не означает, что Министерство соглашается с обвинениями». «Мы изучаем, как работает инструмент потоковой подачи визовых заявлений, и будем его пересматривать, чтобы сделать процесс более упорядоченным и безопасным,» — сообщил представитель ведомства.
Источник: The Guardian
Праздничных ярмарок в Лондоне немало, но, признаемся честно, во-первых, все они похожи друг на друга,…
Чтобы успеть все, Ольга составляет список самых интересных проектов в городе и делится ими в…
О том, что делать в городе, где ты ничего не знаешь Даша Берман переехала в…
Громкий развод и дружба с Эпштейном Принц Эндрю — сын королевы Елизаветы II и принца…
По набережной напротив Нотр-Дама маленькая собачка ведет на поводке хозяйку. Она (собачка, а не хозяйка) напряженно и деловито перебирает из‑под…
Все важные предложения в этой области вносятся в специальный программный документ — Restoring Control Over…