Президент компании Microsoft Брэд Смит в своем блоге предостерег о возможном злоупотреблении технологиями распознавания лиц.

Президент Microsoft Брэд Смит признает пользу использования технологии распознавания лиц полицией в поиске пропавших детей и поимке преступников. Но без регулирования, добавляет он, «использование технологии распознавания лиц может привести к массовому контролю в беспрецедентных масштабах». Он утверждает, что еще не поздно принять меры предосторожности в отношении этой технологии. «Мы должны позаботиться о том, чтобы 2024 год не выглядел как страница из романа “1984”», - написал он, ссылаясь на антиутопический роман Джорджа Оруэлла.

Технология, которая для идентификации лиц использует видеокамеры наблюдения и передовые системы машинного обучения, становится все более распространенной. Распознавание лиц становится все более точным и используется в качестве системы безопасности в школах и магазинах. Смит изложил рекомендации Microsoft в отношении государственного регулирования использования технологий. Компания предлагает ввести закон, согласно которому люди должны обязательно быть проинформированы о том, что в том или ином общественном месте ведется видеонаблюдение и используется технология распознавания лиц.

Microsoft также рекомендует ввести в действие законы, в соответствии с которыми полученные с помощью систем с искусственным интеллектом данные не могут автоматически быть использованы в качестве оснований для принятия решений в суде. По словам Смита, это поможет сократить количество случаев дискриминации и предвзятого отношения, особенно когда это связано с использованием технологии правоохранительными органами.

Исследования показали, что некоторые системы распознавания лиц допускают больше ошибок при идентификации женщин и цветных людей, чем белых мужчин. Microsoft и другие компании пообещали исправить эту проблему, и Microsoft отмечает, что ее собственная система Face API стала более точно идентифицировать людей.

В своем блоге Смит также порекомендовал технологическим компаниям опубликовать документы, в которых четко объясняются возможности и ограничения их технологий. Кроме того он призывает разработчиков разрешить сторонним группам тестировать их системы самостоятельно.

Смит также рассказал о мерах, которые Microsoft будет внедрять в компании в начале следующего года. Например, клиентам будет запрещено использовать технологию в целях дискриминации. Также компания не допустит использования своей технологии в ситуациях, посягающих на демократические свободы людей.

Организации, занимающиеся защитой гражданских прав, признали, что компания Microsoft добилась большего успеха, чем другие компании, в решении вопроса о необходимости разработки нормативных актов. «К сожалению, предлагаемых мер защиты недостаточно», - сказал Шанкар Нараян, который руководит проектами в Американском союзе гражданских свобод. - «Действия Microsoft не предотвратят антиутопию «1984», они ускорят ее наступление», - сказал он.

Нараян призвал ввести мораторий на продажу технологий распознавания лиц правительствам и правоохранительным органам. Он сказал, что технология может использоваться для дискриминации групп людей.

Смит признал, что рекомендации Microsoft по регулированию являются первым шагом к решению сложной проблемы. Microsoft стремится выделиться среди многих других технологических компаний, позиционируя себя как поборник прав на неприкосновенность частной жизни.

По словам Майкла Познера, директора Центра бизнеса и прав человека Университета Нью-Йорка, некоторые идеи компании Microsoft будет сложно реализовать, но «в целом, она движется в правильном направлении».