Социальная сеть Facebook, владеющая также Instagram и WhatsApp, заявила о намерении отказаться от системы автоматического распознавания лиц. Шаг, казалось бы, правильный и вроде бы даже добровольный, вот только на деле это мало что изменит: Facebook – это не про приватность!
Facebook об изменениях в системе автоматического распознавания лиц
- Мы отключаем систему распознавания лиц на сайте Facebook. Если вы успели активировать систему распознавания лиц, вы больше не будете получать уведомления о том, что кто-то загрузил на сайт фото или видео с вашим. Также мы удалим более миллиарда шаблонов лиц, которые успели собрать за время существования данной опции.
- Изменения коснутся и системы автоматического создания альтернативного текста. Отныне альтернативный текст не будет включать имена людей, которые изображены на снимке. В остальном всё останется без изменений.
- У системы распознавания лиц есть как очевидные достоинства, так и неоспоримые недостатки. Мы взвесили все за и против и учти тот факт, что регулирующие органы всё ещё не сформулировали чётких правил в отношении подобных систем.
В ближайшее время мы отключим система распознавания лиц на сайте Facebook. Это первый шаг на пути к общему ограничению распознавания лиц во всех наших продуктах. Если вы активировали распознавание лиц в настройках, через несколько недель вы перестанете получать уведомления о том, что кто-то загрузил на сайт вашу фотографию или видео с вашим участием. Кроме того мы также удалим собранные шаблоны лиц, которые до сего момента использовали для идентификации пользователей.
Это серьёзный шаг в использовании технологии распознавания лиц. Больше трети активных пользователей Facebook активировали систему автоматического распознавания лиц, и её отключение приведёт к удалению миллиарда индивидуальных шаблонов лиц наших пользователей.
Мы тщательно изучили проблему и понимаем, что отказ от автоматического распознавания лиц повлияет и на другие наши алгоритмы. К примеру, алгоритм, отвечающий за создание альтернативного текста для слабовидящих пользователей, больше не сможет сообщать им, кто из их друзей изображён на конкретном снимке.
Долгое время у вас также была возможность получать уведомления о том, что кто-то загрузил на сайт снимок или видео с вашим участием, или автоматически отмечать на ваших снимках друзей, которые также попали в кадр. Без распознавания лиц данный функционал уйдёт в прошлое.
Забегая вперед, стоит отметить, что мы по-прежнему считаем распознавание лиц прорывной технологией, способной существенно облегчить повседневные задачи: к примеру, это могло бы защитить ваш аккаунт от сторонних посягательств. Система распознавания лиц могла бы помочь нам защитить конфиденциальность наших пользователей, обеспечить полную прозрачность и контроль. Вы и только вы решали, использовать систему распознавания лиц или нет. Мы продолжим развивать технологию и привлекать ведущих экспертов в этой области.
Но, несмотря на то, что системы распознавания лиц могут быть действительно полезными, нельзя забывать и о рисках, связанных с использованием подобных технологий. Регулирующие органы пока не сформулировали чётких правил в этой области, и многих пользователей это беспокоит. В условиях сложившейся неопределённости мы считаем, что было бы разумно приостановить использование системы распознавания лиц, ограничившись лишь узким набором сценариев, при которых распознавание лиц было бы допустимо.
К примеру, с помощью системы распознавания лиц мы могли бы помочь пользователям вернуть доступ к заблокированной учётной записи. Система распознавания лиц может подтвердить вашу личность в финансовых приложениях или при попытке разблокировать устройство. В этих случаях распознавание лиц кажется социально приемлемым и вполне допустимым, но и тут его нужно использовать с осторожностью. Мы продолжим работу над системой распознавания лиц и постараемся обеспечить полную прозрачность этого процесса.
Противоречивость системы распознавания лиц – сложная социальная проблема. Мы понимаем, что выбранный нами подход предполагает некоторые компромиссы. Например, мы больше не сможем сообщить слепому пользователю о том, что на фотографии изображён кто-то из его школьных друзей или коллега по работе. А ведь это действительно важная функция, которая делала Facebook доступным для пользователей с ограниченными возможностями. Но этот функционал невозможен без сопоставления лица на фотографии с уже имеющейся у нас базой данных. Анонсированные сегодня изменения ознаменуют переход от широкой практики распознавания лиц к более узким формам аутентификации.
Технология распознавания лиц будет особенно полезна, если она работает локально, то есть только на вашем устройстве. В этом случае вам не придётся передавать кому-то свои данные. К примеру, подобным образом устроена раблокировка вашего смартфона.
Мы верим, что в будущем подобные системы будут использоваться во благо всего общества, не нарушая при этом конфиденциальности каждого из его членов. Мы продолжим изучение спорных вопросов и попытаемся выяснить, как именно должна работать система распознавания лиц, чтобы это устроило всех наших пользователей. Что же касается будущих проектов, мы продолжим публиковать информацию о том, как именно мы используем созданные нами технологии. Мы постараемся чётче объяснять пользователям, каким образом они могут контролировать свои личные данные. Мы стремимся к инновациям, но чувствуем свою ответственность.
Как только мы отключим систему распознавания лиц, связанные с ней сервисы будут удалены. Скорее всего, на это уйдёт несколько недель. Настройки, позволявшие пользователям автоматически искать себя на фотографиях друзей, также в скором времени исчезнут.
Всё это приведёт к ряду серьёзных изменений:
- Наши алгоритмы больше не будут автоматически распознавать лица людей на фотографиях или видеозаписях.
- Пользователи больше не смогут активировать автоматическое обнаружение своих фотографий и не будут получать предложения отметить кого-то из друзей. Однако вы всё ещё сможете отмечать друзей вручную.
- Изменения затронут и алгоритм, отвечающий за создание текстовых описаний фотографий (он нужен, чтобы упростить работу с сайтом для слабовидящих пользователей). В настоящий момент он идентифицирует людей примерно на 4% загруженных на сайт фотографий. Теперь же он сможет лишь определить количество людей в кадре. Сама технология не изменится, просто теперь алгоритм разучится различать лица. Мы продолжим сотрудничество с сообществами слепых и слабовидящих пользователей и постараемся и дальше улучшать технологию.
- Если вы разрешили сайту автоматически находить вас на фотографиях друзей, мы удалим ваше лицо из базы данных. Если вы уже отключили данную опцию или никогда ей не пользовались, ваши данные уже удалены.
Технологии сами по себе нейтральны: они могут приносить как пользу, так и вред. Мы же пытаемся соблюсти баланс. Системы распознавания лиц пока остаются в серой зоне морали, и мы должны обсудить это с теми, кого это может затронуть. Мы готовы к диалогу как с общественными организациями, так и с регулирующими органами.
Джером Песенти,
вице-президент Facebook по вопросам ИИ
