YouTube ищет лица пользователей в поддельных ИИ-роликах. Инструмент находит видео, где могла использоваться внешность конкретного человека, чтобы тот мог изучить публикацию и при необходимости подать жалобу.
YouTube ищет лицо пользователя в поддельных ИИ-роликах
YouTube открывает доступ к инструменту обнаружения синтетических видео с лицом пользователя для более широкой аудитории. Совпадение лишь указывает на материал, который стоит проверить, но не доказывает автоматически, что ролик поддельный или нарушает правила платформы.
Поддельное видео может быть целиком создано нейросетью, включая лицо и речь, либо смонтировано с заменой внешности реального человека. Для части таких материалов используют генеративно-состязательные сети, причём объектами подмены становятся как знаменитости, так и обычные пользователи. Иногда дипфейки выглядят настолько правдоподобно, что зрители считают их настоящими записями.
Зачем платформе понадобилась новая проверка дипфейков
Дипфейк — созданный нейросетью контент, имитирующий внешность или голос другого человека. При замене лица внешность одного участника накладывают на внешность другого, и в итоге человек выглядит участником событий, которых на самом деле не происходило.
Технологию используют в кино и рекламе, однако она подходит и для обмана. Дипфейк-аватары позволяют злоумышленникам выдавать себя за других людей, а искусственно созданная речь делает выдуманное сообщение убедительнее. Известный пример — опубликованный на YouTube ролик, имитирующий речь бывшего президента США Барака Обамы.
Опасность связана не только с заранее смонтированными роликами: синтез изображения и речи способен осложнить проверку личности человека и событий в кадре. Инструмент YouTube помогает пользователю быстрее обнаружить видео, где могла быть использована его внешность, а затем оценить материал с учётом контекста и правил платформы.
Как зрителю отличить поддельное видео от настоящего
Сначала присмотритесь к лицу. Освещение кожи порой не соответствует окружающей обстановке, а её оттенок — цвету шеи или рук. После этого сравните мимику, направление взгляда, тени и движения губ: если сразу несколько деталей не согласуются друг с другом, подозрения становятся весомее.
Затем послушайте голос. Поддельную речь создают с помощью синтеза, используя записи настоящего человека. Поэтому даже знакомый тембр ещё не подтверждает подлинность: его нужно сравнить с артикуляцией и тем, что происходит в кадре.
Проверяя видео на YouTube, не стоит смотреть только на изображение. Обратите внимание на источник публикации и доступные метаданные, после чего сравните их с визуальными и звуковыми признаками. Отдельный странный блик, сбой мимики или неестественная интонация сами по себе не доказывают подделку; убедительной может быть лишь совокупность несоответствий.
Чем поиск лица отличается от маркировки ИИ-контента
Поиск лица определяет, могло ли в ролике появиться изображение, похожее на конкретного пользователя, а маркировка указывает на возможное использование генеративной нейросети. Речь идёт о разных уровнях проверки. Метка объясняет способ создания материала, тогда как найденное совпадение обращает внимание на вероятную подмену внешности.
Водяной знак или цифровая подпись дополняют проверку, но не могут её заменить. Даже если метка есть, зрителю стоит внимательно изучить изображение. Заметным признаком бывает неестественная симметрия. Настоящие человеческие лица не обладают идеальной симметрией, а сгенерированные порой выглядят слишком ровными и получают почти «пластиковый» вид.
Для медиаграмотности в 21 веке это различие имеет значение. Маркировка помогает разобраться в происхождении ролика, однако не определяет, чья именно внешность показана и насколько точно она воспроизведена. Поиск совпадений по лицу выявляет возможное использование внешности конкретного пользователя, а визуальные признаки, водяной знак и цифровая подпись дают дополнительные уровни проверки.
Что изменится для авторов и зрителей YouTube
Авторам материалов, в которых используется чужая внешность, нужно учитывать: такие ролики способен обнаружить человек, чьё лицо появилось в видео. После поступления жалобы спорный материал придётся отдельно оценивать, принимая во внимание контекст публикации и правила платформы.
У пользователей появится ещё один способ находить потенциально опасные видео со своей внешностью. Но результат такого поиска нельзя считать окончательным решением о наличии нарушения. Обнаруженный ролик не удаляется автоматически, поэтому важно по-прежнему изучать контекст публикации и не принимать само совпадение за доказательство обмана.
Для авторов это обернётся дополнительным вниманием к материалам с чужой внешностью, даже когда видео создавалось без намерения обмануть аудиторию. Обнаружив подозрительную публикацию, пользователь сможет изучить её содержание, а после решить, нужно ли подавать жалобу или относиться к ролику осторожнее.
Будет ли YouTube удалять найденные дипфейки
Ожидать автоматического удаления каждого подозрительного ролика не следует. Срабатывание инструмента указывает на материал, который требует внимания, но ещё не доказывает нарушение и не определяет окончательную меру. Пользователю предстоит изучить найденное видео и, если потребуется, отправить жалобу на проверку.
Затем обнаруженный материал можно сравнить с правилами платформы и представленными доказательствами. Из-за этого два внешне схожих случая способны завершиться по-разному: один ролик останется доступным, другой удалят после проверки. Итог зависит от оценки конкретного материала, а алгоритм только помогает обнаружить контент, заслуживающий внимания.