апрель 2021 г.
Характеристики, присущие биометрическим технологиям, позволяют им активно вмешиваться в различные аспекты жизни общества, препятствуют реализации прав на неприкосновенность частной жизни и на свободу выражения мнений и создают угрозу безопасности личных данных.
В недавно опубликованной аналитической записке АРТИКЛЬ 19 выражает обеспокоенность использованием биометрических технологий органами государственной власти и частными структурами.
Государства и коммерческие компании все чаще применяют биометрические технологии для анализа поведения, внешности и самовыражения людей в общественной и частной сферах. Биометрические технологии могут использоваться для пограничного контроля и для разблокировки смартфонов, и, очевидно, что такие технологии становятся все более общепринятыми.
В этой связи вызывает обеспокоенность то, что при их внедрении права человека фактически не были учтены, хотя такие гарантии должны были лечь в основу разработки и использования биометрических технологий.
Некорректное использование и явное злоупотребление биометрическими технологиями приводит к профилированию и категоризации людей на основе возраста, гендерной принадлежности и цвета кожи. Другими словами, по своей сути использование биометрических технологий может быть дискриминационным и способствовать сохранению неблагоприятного положения маргинализированных групп.
Сходным образом такие технологии могут использоваться для наблюдения за действиями, контактами, самочувствием людей и даже для прогнозирования их вероятного поведения в будущем, активно вмешиваясь в частную жизнь.
В результате использование данных технологий нарушает права на неприкосновенность частной жизни, защиту персональных данных и человеческого достоинства, свободу от дискриминации, право на самоопределение и право на доступ к эффективным средствам правовой защиты.
АРТИКЛЬ 19 призывает к введению моратория на разработку и внедрение всех видов биометрических технологий до тех пор, пока не будут обеспечены гарантии соблюдения прав человека.
Мы также призываем к полному запрету массовой слежки с использованием биометрических технологий в общественных местах, к полному запрету на технологии распознавания эмоций и к обеспечению лучших гарантий прав человека при проектировании, разработке и использовании биометрических технологии.
Необходим запрет на применение всех биометрических технологий до обеспечения гарантий соблюдения прав человека.
Биометрические технологии: вопросы и ответы
Биометрические технологии используются для сбора и анализа персональных данных, дающих возможность однозначным образом идентифицировать человека. В число таких данных входят ДНК, отпечатки пальцев, голосовой отпечаток и особенности сердцебиения.
Распознавание лиц является одной из наиболее известных биометрических технологий.
Разработка и внедрение биометрических технологий стремительно активизируются в силу увеличивающейся доступности больших наборов данных, меньших затрат и более совершенного машинного обучения. Пандемия COVID-19 еще более ускорила их внедрение благодаря тенденции все более полагаться на технологические решения в борьбе с ней.
Правительственные органы и частные компании, как правило, оправдывают использование биометрических технологий, предлагая два возможных объяснения:
Первое связано с защитой государственной безопасности, мерами по борьбе с терроризмом и преступностью, а также обеспечением общественного порядка.
Второе – с возможностью использования технологий в сфере услуг общего пользования, таких как «умные города» или системы общественного транспорта.
На данный момент не подтверждены заявления о том, что биометрические технологии способны повысить общественную безопасность, ограничить преступность, сократить расходы и обеспечить большие удобства.
Более того, эти заявления не принимают в расчет риски, связанные с правами человека. Людей нельзя вынуждать отказываться от гарантий неприкосновенности частной жизни в обмен на обещания повысить общественную безопасность и предоставить дополнительные удобства.
Сходным образом при внедрении биометрических систем государства не должны игнорировать свои обязанности по обеспечению прав человека, а также принципов легитимности, необходимости и соразмерности.
Государственные и частные структуры регулярно собирают большие объемы конфиденциальных личных данных с использованием биометрических технологий, например, отпечатки пальцев, сканирование сетчатки, информацию о расовом или этническом происхождении, гендерной принадлежности и т.д.
Поскольку такие данные содержат личную информацию о человеке, требуются дополнительные гарантии и уровни защиты для обеспечения безопасности как самих данных, так и общественности в целом.
Однако государственные органы и частные компании, как правило, хранят данные в огромных базах зачастую намного дольше, чем необходимо, что создает серьезные проблемы для обеспечения неприкосновенности частной жизни.
Это связано с тем, что государственные и частные структуры могут легко использовать собранные данные в целях отличных от первоначально заявленных, или в отношении которых не было получено соответствующее разрешение у субъекта данных. Это создает проблему, связанную с расширением сферы применения собранных данных, а также делает собранные данные уязвимыми для утечек и злоупотреблений.
В правовом отношении даже при получении согласия на использование биометрических данных у их субъектов в одном конкретном случае, такое согласие не распространяется на любое другое использование собранных данных, которое впоследствии будет незаконным.
Более того, отсутствуют достаточные и соответствующие современным вызовам правовые рамки для регулирования биометрических технологий.
Государства и частные компании не проводят оценки рисков и меры воздействия технологий, и зачастую игнорируют принципы необходимости и соразмерности, на которых базируется обеспечение права на свободу выражения мнений и неприкосновенности частной жизни. Для выполнения этих требований, технология должна быть единственным способом достижения предполагаемой легитимной цели, и являться наименее агрессивным путем ее достижения, что зачастую не соответствует действительности. В результате биометрические технологии используются некорректным образом или ими напрямую злоупотребляют, закрепляя дискриминацию и предубеждения.
Обеспокоенность АРТИКЛЬ 19 связана с тремя ключевыми проблемами:
1. Массовая слежка с использованием биометрических технологий негативно отражается на реализации свободы выражения мнений.
Массовая слежка – это неизбирательная слежка за людьми, например, использование камер с распознаванием лиц в метро, торговых центрах и на улицах.
Если технологии распознавания лиц используются в общественных местах, это мешает сохранять анонимность и анонимно взаимодействовать в таких пространствах.
Подтверждено, что это воздействует на поведение, например, сдерживая участие в общественных собраниях и публичное выражение идей или религиозных убеждений.
2. Негативное воздействие сильнее затрагивает журналистов, активистов, политическую оппозицию и меньшинства.
Использование таких технологий может оказывать особо негативное влияние на журналистов, защитников прав человека, представителей меньшинств, подвергающихся риску дискриминации.
Технологии могут использоваться для целенаправленного мониторинга определенных категорий людей, слежки за их поведеним и профилирования на основе особых характеристик.
Все это может оказывать негативное воздействие, препятствуя свободному и безопасному выполнению журналистами своих профессиональных обязанностей, мешая активистам и оппозиционерам организовывать протесты или участвовать в них.
3. Обстановка секретности вокруг внедрения биометрических технологий ограничивает возможность общественности проверять то, как именно они применяются.
Люди имеют право знать, какая информация о них собирается и как она используется. Однако в настоящий момент отсутствуют доступные способы узнать, кто и зачем разрабатывает такие технологии.
Партнерства между государственными органами и частными компаниями и правительственные контракты часто не публикуются. Сходным образом запросы на доступ к информации об использовании данных технологий правительственными органами часто не удовлетворяются. Соответственно, для получения доступа к такой информации необходимо обращение в суд, что зачастую занимает длительное время и требует значительных финансовых затрат.
Такая тактика нарушает право журналистов, активистов и ученых на информацию и лишает их возможности внимательно изучать использование данных технологий и информировать об этом общественность.
Пример: Распознавание лиц
Технология распознавания лиц включает в себя обработку цифровых изображений лиц с целью их идентификации, сверки личности с уже собранными данными или для оценки таких характеристик, как возраст, расовая и гендерная принадлежность, и т.д.
Способность данной технологии корректно проводить такую оценку не подтверждена, однако, вне зависимости от этого, применение данной технологии вызывает обеспокоенность с точки зрения прав человека.
Почему распознавание лиц должно вызывать нашу обеспокоенность?
Распознавание лиц часто используется без информирования или согласия пользователей. Данные о внедрении и достоверности результатов применения данной технологии фактически недоступны, что открывает возможность для их некорректного использования и злоупотребления личными данными. Данная технология может оказывать серьезное негативное воздействие на реализацию права на свободу выражения мнений и других прав, таких как:
Право на анонимность:
Люди имеют право на сохранение анонимности в общественных местах и онлайн. Неизбирательное применение распознавания лиц в общественных пространствах, например, с использованием камер видеонаблюдения или полицейских нагрудных видеорегистраторов, представляет собой нарушение данного права и может препятствовать свободному общению и самовыражению в общественных пространствах.
Право на протест:
Если распознавание лиц используется в ходе протестов, то эта технология может оказывать негативное воздействие на желание участвовать в протестах, поскольку она создает возможность преследования их участников.
Свобода вероисповедания:
В дополнение к риску профилирования и категоризации распознавание лиц и сходные технологии могут ущемлять свободу вероисповедания тех, чьи религиозные убеждения требуют ношения закрывающей лицо одежды или головных уборов.
Право не подвергаться дискриминации:
Распознавание лиц может выделять защищаемые международным правом характеристики, такие как расовая, религиозная, гендерная принадлежность и др., создавая возможность дискриминации на их основании.
АРТИКЛЬ 19 считает, что правительства и компании при проектировании, разработке и применении биометрических технологий должны использовать подход, основанный на гарантиях соблюдения и защиты прав человека.
Рекомендации
До тех пор, пока не обеспечены надлежащие гарантии соблюдения и защиты прав человека, необходим мораторий на разработку и внедрение биометрических технологий государственными органами и частными компаниями.
Мы призываем принять следующие меры:
Государства должны запретить использование биометрических технологий в целях неизбирательной обработки биометрических данных в общественных и общедоступных пространствах онлайн и офлайн. Государства также должны прекратить всякое финансирование программ и систем обработки биометрических данных, которые могут способствовать осуществлению массовой слежки в общественных пространствах.
Технологии распознавания эмоций по своей сути являются глубоко ущербными и основываются на дискриминационных методах, оспариваемых исследователями в области эмоциональных вычислений и психологии. В силу своих внутренних характеристик, данные технологии не могут пройти строго сформулированный тест на необходимость, соразмерность, законность и легитимность.
Государства должны принять международные нормы, запрещающие подготовку концепций, проектирование, разработку, внедрение, продажу, экспорт и импорт таких технологий, признавая таким образом их фундаментальную несовместимость с соблюдением и реализацией прав человека.
Государственные и частные структуры должны производить надлежащую оценку легитимности, необходимости и соразмерности использования биометрических технологий для заявленной цели в каждом отдельном случае. Государства должны гарантировать, что ни государственные органы, ни частные компании не используют данные технологии против тех лиц и групп, которые играют важную роль в защите демократических ценностей, в том числе против журналистов и активистов.
Для правомерного использования биометрических технологий, соответствующего тесту на необходимость и соразмерность, государства должны создать адекватную законодательную базу, регулирующую разработку и внедрение таких технологий.
Данная законодательная база, по меньшей мере, должна включить в себя правила, обеспечивающие адекватную защиту личных данных, требования к качеству данных, включая тесты на точность и отсутствие расовой дискриминации; обязательства производить оценку таких технологий относительно их возможного воздействия на права человека и защиту персональных данных; обязательства со стороны разработчиков и пользователей по предупреждению и минимизации рисков; имеющие обязательную силу правила использования данных технологий правоохранительными органами; а также конкретные положения для предотвращения использования биометрических технологий с двойной целью или не в соответствии с заявленной целью.
Поскольку биометрические технологии затрагивают все более значительное число важных общественных процессов и демократических ценностей, их проектирование, внедрение и разработка должны производиться после открытого общественного обсуждения с участием экспертов и гражданского общества.
Государства должны оповещать о любом реализуемом и запланированном использовании и развертывании биометрических технологий. Также необходимо предусмотреть механизмы обеспечения прозрачности закупок таких технологий и обеспечить право на доступ к информации, включая усилия по своевременной публикации данных о деятельности, связанной с биометрическими технологиями.
Государственные и частные структуры должны регулярно публиковать оценки воздействия таких технологий на права человека и на обеспечение защиты персональных данных, а также доклады об оценке рисков, совместно с описанием мер, предпринимаемых для предупреждения или снижения таких рисков и защиты прав человека.
Законодательная база для разработки и внедрения биометрических технологий должна предусматривать четкие структуры подотчетности и меры независимого контроля.
Законодательное регулирование должно быть выстроено таким образом, чтобы участие частного сектора экономики в исследованиях и разработке, выводе на рынок, продаже, передаче и техническом обслуживании биометрических технологий используемых для осуществления слежки зависело от комплексной проверки таких компаний на соблюдение норм в сфере прав человека, включая соблюдение прав человека в их предыдущей деятельности.
Законодательная база также должна обеспечить доступ к средствам правовой защиты для тех, чьи права нарушены при использовании биометрических технологий.
Компании, занимающиеся проектированием, разработкой, продажей, внедрением и развертыванием биометрических технологий должны:
- Обеспечить соблюдение и защиту стандартов в сфере прав человека путем применения человеко-ориентированного подхода и проведения оценки воздействия технологий на права и свободы человека.
- Учредить процедуры адекватной и регулярной оценки рисков для обнаружения угроз создаваемых использованием биометрических технологий для прав и свобод человека, в особенности, для права на неприкосновенность частной жизни и свободы выражения мнений.
- Предусмотреть эффективные средства правовой защиты в случае нарушения прав человека.
«Вместо того, чтобы поставить технологии на службу человеку или искать решения для существующих проблем, стремление разрабатывать технологические инструменты и продукты сами по себе, исключительно ради самой такой разработки – в корне ущербно. Если мы не ставим права и свободы людей в центр всего, мы не задумываемся о создаваемых технологиями рисках, равно как и о вреде, который они могут нанести».]
Необходим запрет на применение всех биометрических технологий до обеспечения гарантий соблюдения прав человека.
В Европейском Союзе мы принимаем участие в кампании «Reclaim your Face» с целью запрета массовой слежки в общественных местах с использованием биометрических технологий