Преимущества распознавания лиц ИИ дико преувеличены

автор: ТРИСТАН ГРИН - 20 дней назад в ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ


Технология распознавания лиц пришла в неистовство по всему миру. В США он продолжает увековечиваться тревожными темпами, несмотря на двухпартийное давление со стороны политиков и несколько географических запретов. Даже правительство Китая начало сомневаться, есть ли достаточная выгода от использования вездесущих технологий наблюдения, чтобы оправдать полное уничтожение частной жизни общественности.

Правда заключается в том, что технология распознавания лиц служит только двум законным целям: контролю доступа и наблюдению. И, слишком часто, люди, разрабатывающие технологию, не являются теми, кто в конечном итоге определяет, как она используется .

Вроде отличная цена на билеты

ДАЙ МНЕ

Большинство порядочных, законопослушных граждан не возражают против того, чтобы их снимали публично, и, в определенной степени, не будут возражать против использования технологии распознавания лиц в тех местах, где это имеет смысл.

Например, использование FaceID для разблокировки вашего iPhone имеет смысл. Он не использует массивную базу данных фотографий для определения личности человека, он просто ограничивает доступ к человеку, которого он ранее идентифицировал как авторизованного пользователя.

Распознавание лиц в школах также имеет смысл. Кампусы должны быть закрыты для всех, кто не имеет права там находиться, и гости должны быть помечены при входе. Это использование распознавания лиц – только в точках входа и выхода – зависит от предварительного согласия людей на добавление их изображений в базу данных.

Однако, когда распознавание лиц используется в общественных местах, таких как аэропорты, библиотеки, больницы и городские улицы, оно становится инструментом наблюдения – одним из часто замаскированных под механизм контроля доступа или технику "предупреждения преступности".

В аэропортах, например, распознавание лиц часто преподносится как средство замены посадочных талонов. В прошлом году телеканал CNN Fancesca Street сообщил, что некоторые авиалайнеры внедряли системы распознавания лиц без ведома клиентов.

Я только что сел на международный рейс @JetBlue. Вместо того чтобы просмотреть свой посадочный талон или вручить паспорт, я посмотрел в камеру, прежде чем мне разрешили спуститься на реактивный мостик. Может ли распознавание лиц заменить посадочные талоны, о которых я не знал? Согласился ли я на это?

Аэропорты и другие районы, ставшие объектом общественного транспорта, часто внедряют системы от компаний, которые утверждают, что их ИИ может останавливать, предотвращать, обнаруживать или предсказывать преступления.

Нет такой вещи, как искусственный интеллект, который может предсказать преступление . Сотни венчурных капиталистов и генеральных директоров ИИ-стартапов могут быть разными, но простой факт заключается в том, что ни один человек или машина не может заглянуть в будущее (исключение: дурацкие квантовые компьютеры ).

ИИ иногда может обнаружить объекты с достаточной долей точности – некоторые системы могут определить, есть ли у человека мобильный телефон или огнестрельное оружие в карманах. Это может потенциально предотвратить преступление, ограничивая доступ, например, запирая двери, если обнаружено огнестрельное оружие, пока человек не сможет определить, является ли угроза реальной или нет.

Но ИИ, призванный предсказывать преступления, - это просто системы наблюдения, построенные на престидигитации. Когда правоохранительные органы заявляют, что они используют программное обеспечение для прогнозирования преступности, на самом деле они имеют в виду, что у них есть компьютер, который говорит им, что места, где много людей уже были арестованы, являются отличными местами для ареста большего количества людей. ИИ полагается на данные, которые он дает, чтобы сделать предположения, которые понравятся его разработчикам.

Когда аэропорты и другие общественные магистрали используют распознавание лиц, ответственные за его развертывание почти всегда утверждают, что это сэкономит время и жизни . Они говорят нам, что система может сканировать толпы на предмет террористов, людей с дурными намерениями и преступников на свободе. Мы полагаем, что тысячи огнестрельного оружия, бомб и других видов угроз будут уничтожены, если мы используем их технологию.

Но какая от этого реальная польза? Мы действуем исходя из предположения, что каждая секунда может быть нашей последней, что мы находимся в опасности каждый раз, когда входим в общественное пространство. Мы, по-видимому, сталкиваемся с выбором жизни и смерти, чтобы либо иметь частную жизнь, либо жить через опыт выставления себя на всеобщее обозрение.

Разум и общая статистика сказали бы нам, что это не может быть так. На самом деле, вы скорее умрете от болезни, автомобильной аварии или передозировки наркотиков, чем будете убиты незнакомцем или убиты террористом.

Казалось бы, измеримый успех benefit – одна компания говорит, что она обнаружила около 5000 угроз при сканировании более 50 миллионов человек – не перевешивает потенциальные риски. У нас нет способа узнать, каковы были бы буквальные результаты этих 5000 угроз, но мы точно знаем, что может произойти, когда технология правительственного наблюдения используется не по назначению.

Генеральный директор TNW Борис Вельдхейзен ван Зантен сказал Это о нашей конфиденциальности в своем посте, который он написал о людях, которые думают, что им нечего скрывать:

До Второй мировой войны в Амстердаме полагали, что было приятно вести учет как можно большего количества информации. Они прикинули: чем больше вы знаете о своих гражданах, тем лучше вы сможете им помочь, и граждане согласились. Потом пришли нацисты, искали евреев, геев и всех, кто им не нравился, и сказали: "Эй, это удобно, у вас есть записи обо всем!’ Они использовали эти записи, чтобы очень эффективно подобрать и убить много людей.

Сегодня идея правительства отслеживать нас всех с помощью программного обеспечения для распознавания лиц не кажется такой уж страшной. Если мы хорошие люди, нам не о чем беспокоиться . Но что, если плохие актеры или правительство не считают нас хорошими людьми? Что делать, если мы LGBTQIA + в государстве или стране, где правительству разрешено дискриминировать нас?

Что делать, если наше правительство, полиция, или политическими противниками создания баз данных известных геев, мусульмане, иудеи, христиане, республиканцы, которые поддерживают 2НД поправку, врачи готовы делать аборты, “Антифа” или “Alt-правых” активистов, и использует ИИ для выявления, дискриминировать, а также отслеживать людей, которых они считают своим врагом. История говорит нам, что такие вещи не просто возможны, но до сих пор они были неизбежны.

Мы уходим от времени регулирования и приближаемся к точке определенного сожаления.