В Китае двух человек обвиняют в обмане системы распознавания лиц с целью наживы
Двое граждан Китая обвинены прокуратурой в мошеннических действиях с использованием технологии «дипфейк», работающей на базе искусственного интеллекта. С помощью умной программы дуэтом Ву и Чжоу были похищены средства на общую сумму около 500 млн юаней (примерно 76 млн долларов США).
Идентификация личности с помощью технологии распознавания лиц в Китае используется очень широко, являясь частью программ мобильных платежей, оплаты поездок и оплаты товаров в розничных магазинах. Организация системы видеонаблюдения для обеспечения общественной безопасности Китая и оказание государственных услуг также не обходятся без данной технологии на базе AI. Одновременно с этим увеличились и риски различного рода подделок и проблема кибербезопасности стала второй по уровню угроз проблемой для Китая.
Обвиняемые проводили свою деятельность, обманывая систему распознавания лиц Государственной налоговой службы, выставляя счета-фактуры от имени представителей подставных компаний. Использовали при этом злоумышленники купленные на черном рынке изображения высокого разрешения различных людей, которые они преобразовывали в видеофайлы с помощью специального приложения для создания видео – программа заставляла статичные изображения лиц открывать рот, кивать и совершать другие движения.
По материалам следствия, обвиняемые использовали специально переделанный мобильный телефон, который работал следующим образом – когда запускалась система распознавания лиц, фронтальная камера не включалась, а вместо этот программа телефона передавала системе заранее записанное видео, что заставляло систему думать, что перед камерой находится живой человек, подтверждая сертификацию.
Эксперты признают, что проблема реальна и очень велика, поскольку стоимость создания дипфейка достаточно низкая – к скачиванию доступно несколько соответствующих приложений, а специально перестроенный телефон продается примерно за 1650 юаней (около 250 долларов). Помимо этого, в сети Интернет можно найти специальные хакерские сервисы для взлома системы распознавания лиц по цене от 30 до 250 юаней (от 4,5 до 40 долларов). Все это обостряет проблему, делая Китай одним из негативных лидеров по защите биометрических данных.
Ситуация вынудила власти Китая принять ограничительные меры по использованию мобильных приложений для идентификации, для чего был издан нормативный акт, именуемый «Новые правила о необходимой личной информации», которое вступит в силу с 1 мая 2021 года. Помимо этого, правительство страны разработало проект закона о защите личной информации, где содержатся механизмы защиты от дипфейков. В частности, за утечку личных данных виновные заплатят штраф в размере до 50 миллионов юаней или 5 процентов от годового дохода компании, виновной в утечке.