Deepfakes наконец-то стал мейнстримом с китайским приложением Zao. Приложение использует распознавание лиц, чтобы заменить лица знаменитостей с вашим в видеоклипах, но это вызывает беспокойство о том, как используется ваше лицо и кто имеет доступ к технологии deepfake.

Приложение работает следующим образом: загружая одно из ваших селфи в приложение, оно может поместить ваше лицо поверх знаменитостей, таких как Леонардо Ди Каприо, что делает его похожим на вас, снявшегося в "Титанике". Приложение по существу позволяет любому создать deepfake, или поддельное видео, которое кажется невероятно реальным.

В случае, если вы еще не слышали, ZAO – это китайское приложение. Лучшее применение "Deepfake" - style AI facial replacement i've когда-либо видел.

Приложение дебютировало в китайском магазине iOS app store. 30. Фирма, которая отслеживает загрузки приложений под названием App Annie, сказала, что Zao было самым загружаемым бесплатным приложением в магазине приложений Китая. В настоящее время он доступен только в Китае.

Популярность Zao заставила некоторых задаться вопросом, стоит ли нам опасаться того, насколько доступной стала технология deepfake. Уже были проблемы с поддельными deepfakes, претендующими на то, чтобы показать известных людей, говорящих то, что они никогда на самом деле не говорили, в том числе один deepfake Марка Цукерберга, провозглашающего свою власть над “украденными данными миллионов людей.”

Однако эксперты говорят, что важно не спешить с выводами, когда речь заходит о deepfakes.

"Я думаю, что Zao является символическим представлением того, что эта технология становится все более и более распространенной и простой в использовании”, - сказал Генри Айдер , руководитель отдела анализа коммуникаций и исследований компании Deeptrace, которая строит платформу для обнаружения deepfakes. “Я думаю, что это просто очень важно, чтобы оставаться бдительными и не создавать по существу сенсационные ответы, которые могут принести больше вреда, чем пользы в долгосрочной перспективе.”

Поскольку все больше пользователей загружают приложение, последние сообщения предупреждают, что они должны быть осторожны с условиями конфиденциальности Zao.

Reuters сообщает, что пользовательское соглашение ЗАО гласит, что те, кто использует приложение “согласны передать права интеллектуальной собственности на их лицо, а также разрешить ЗАО использовать свои изображения в маркетинговых целях."При загрузке вашей фотографии приложение, которое было опубликовано китайской социальной сетью Momo, может использовать вашу фотографию любым способом, который оно выберет.

Zao, как сообщается, уже ответило на вопросы пользователей об условиях соглашения.

“Мы полностью понимаем беспокойство людей по поводу конфиденциальности", - говорится в сообщении китайской социальной сети Weibo. “Мы получили вопросы, которые Вы нам прислали. Мы будем исправлять те области, которые мы не рассматривали и требуем определенного времени.”

Аналогичный случай произошел еще в июле, когда приложение FaceApp стало вирусным по всему миру. Приложение получило значительную отрицательную реакцию за свои сомнительные условия конфиденциальности, которые дали ему почти полный контроль над вашими фотографиями лица. Создатель и генеральный директор FaceApp Ярослав Гончаров с тех пор сказал, что с внедрением обновленной политики конфиденциальности будет больше прозрачности.

Айдер сказал, что такие приложения, как Zao и FaceApp, имеют ограниченную функциональность. Например, у вас есть ограниченные варианты видеоклипов на выбор в приложении Zao и вы не можете загрузить свое собственное видео. Он сказал, что хотя технология для этих приложений очень впечатляет, она также ограничена и во многом является новинкой, чтобы получить популярность для приложения.

В случае, если эта технология была переведена таким образом, что кто-то мог загрузить свое собственное видео, Адждер сказал, что это может стать проблемой.

"Опасность будет заключаться в том, что кто-то создал специальный веб-сайт или своего рода независимый источник, который пошел аналогичным вирусным”, - сказал он, добавив, что что-то подобное будет самым значительным развитием с deepfakes до сих пор.

“Мы все больше приближаемся к ситуации, которая при низких ресурсах и высокой доступности может нанести ущерб”, - сказал Айдер.