Светлана Сергеева 
Дипфейк - поддельное видео или аудиозапись, предназначенная для сходства с реальным человеком. Однако исследователи предупреждают, что люди не могут обнаружить более четверти образцов речи, созданных искусственным интеллектом. Именно поэтому растет опасение, что эту технологию могут использовать преступники и мошенники, чтобы выманить у людей деньги.
Люди не очень хорошо распознают дипфейки
Для ранней поддельной речи, возможно, требовались тысячи образцов голоса человека, чтобы создать оригинальное аудио. Сейчас новейшие алгоритмы могут воспроизвести голос человека, используя лишь трехсекундный фрагмент его разговора.
Команда лондонских исследователей использовала алгоритм для создания 50 образцов дипфейков и воспроизвела их для 529 участников. Последние были способны идентифицировать фальшивую язык только около 73% случаев. Результаты лишь немного улучшились после того, как люди прошли обучение, как распознавать аспекты дипфейков.
Автор исследования Кимберли Мэй говорит, что это лишь подтверждает предыдущие выводы о неспособности человека надежно выявлять фальшивую речь, независимо от того, проходил ли он обучение по распознаванию искусственного содержимого. Она также отмечает, что в эксперименте использовались относительно старые алгоритмы.
Поэтому возникает вопрос, не будут ли люди еще менее способны выявлять дипфейки, созданные более сложными технологиями сейчас и в будущем. Например, компания Apple недавно анонсировала программное обеспечение для iPhone и sPad, которое позволяет пользователю создавать копию своего голоса в течение 15 минут записи.
Между пользой и рисками
Как отмечает издание Daily MailЗадокументированные случаи использования дипфейков преступниками включают один инцидент 2019 г. Тогда генеральный директор британской энергетической компании был убежден перевести немалую сумму денег фальшивому поставщику с помощью дипфейковой записи голоса своего босса.
Однако вместе с ростом страхов перед технологией, это также может быть полезным. Например, для тех, чья речь может быть ограничена, или тех, кто может потерять голос из-за болезни.
Старший автор исследования, профессор Льюис Гриффин говорит, что из-за усложнения технологии ИИ и открытого доступа ко многим этим инструментам человечество находится на пороге многочисленных преимуществ и рисков. Поэтому конечно, было бы разумно, чтобы правительства и организации разрабатывали стратегии борьбы со злоупотреблением этими инструментами.
Как распознать дипфейк?
Технология дипфейков, являющаяся формой ИИ, была разработана в 2014 г. Система изучает целевого человека на фотографиях и видео, позволяя захватывать различные ракурсы и имитировать его поведение и речь. Однако есть определенные черты отличия настоящего и фальшивого.
Неестественное движение глаз
Трудно воспроизвести моргание так, что это выглядело естественно. Также сложно воспроизвести движения глаз реального человека. Поэтому неестественные движения или их отсутствие являются серьезным предупреждением о дипфейке.
Неестественная мимика
Когда на лице что-то выглядит не так в мимике, то это может свидетельствовать о его изменении, что происходит путем наложения одного изображения на другое.
Неудобное расположение черт лица
Если чье-то лицо указывает в одну сторону, а нос - в другую, следует скептически относиться к подлинности видео.
Отсутствие эмоций
Если на чьем-то лице, кажется, нет эмоций, которые должны соответствовать тому, что они якобы говорят, то это "морфинг лица" или сшивание изображений.
Неуклюжее тело или поза и неестественные движения
Поскольку технология дипфейков обычно фокусируется на чертах лица, то проще всего заметить, что форма тела человека выглядит неестественно, или положение головы и тела является несогласованным. Также если движения резкие и разрозненные от одного кадра к другому, то следует подозревать дипфейк.
Неестественный окрас, волосы и зубы
Ненормальный тон кожи, обесцвечивание, странное освещение и неправильные тени - все это признаки дипфейка. Фальшивые изображения не смогут создать индивидуальные волосы (вьющиеся или разлетающиеся). Также алгоритмы не могут сгенерировать отдельные зубы, поэтому отсутствие контуров отдельных зубов может быть признаком дипфейка.
Размытость или смещение
Если края изображений размыты или визуальные элементы не выровнены (например, где чье-то лицо и шея соприкасаются с телом), то можно понимать, что это - дипфейк.
Непостоянный шум или звук
Плохая синхронизация губ, роботизированное звучание голосов, странное произношение слов, цифровой фоновый шум или даже отсутствие звука - все это может быть признаками дипфейка.
Неестественность изображения при замедлении
Если на экране, большем чем на смартфоне, замедлить воспроизведение видео или увеличить его масштаб и рассмотреть ближе, то можно увидеть дипфейк. Например, увеличение губ поможет увидеть, действительно ли они говорят.
Обратный поиск изображений
Благодаря этому можно обнаружить подобные видео в интернете, что поможет определить, было ли изображение, аудио или видео каким-либо образом изменено. Эта технология не является общедоступной, однако инвестиции в этот инструмент могут быть полезными.
Фото: unsplash.com, pixabay.com
