Мошенники используют нейросети для создания дипфейков с сообщениями от родственников

Не так давно распознать фейковое фото или видео было сравнительно просто: внимание сразу цепляли неестественные позы, лишние пальцы, странные выражения лиц и размытые фоны. Люди в интернете высмеивали нейронные картинки, говоря, что они никогда не смогут стать похожими на настоящие фото. Нужно учитывать разнообразие деталей: человеческую анатомию, неодинаковые предметы окружения, качество съемки… И вот мы здесь, когда сделать селфи через ИИ проще, чем открыть фронтальную камеру. Реалистичнее стали не только изображения, но и ИИ-видео и голосовые модели. Мошенники используют нейросети для создания фото, видео и голосовых сообщений, которые якобы присылают родственники или знакомые. Для таких обманок придумали отдельный термин — дипфейк. Дипфейком называют реалистичный поддельный или измененный с помощью ИИ контент. Распознать такой контент стало сложнее, но некоторые признаки все еще могут помочь. Рассказываем, на что обращать внимание, чтобы распознать фальшивку, и как себя от нее защитить. Как понять, что фото — фейк Лишние пальцы уже не считаются надежным признаком: современные модели научились значительно лучше работать с человеческой анатомией. Но полностью визуальные маркеры никуда не исчезли — если приглядеться к деталям, обманку все еще можно распознать. Внимание стоит обратить на кожу и волосы. На сгенерированном фото они иногда выглядят слишком однородно или, наоборот, неестественно детализированными: отдельные пряди могут сливаться друг с другом, а мелкие детали лица, например родинки, — теряться. С освещением и тенями тоже бывают проблемы: источник света может не соответствовать теням на предметах, а отражения в очках, окнах и зеркалах — показывать несуществующий или не совпадающий с остальным кадром фон. Если на фото есть текст (надписи на одежде, вывески магазинов, баннеры, плакаты и прочее), стоит присмотреться, насколько он выглядит естественно и соответствует ли существующим буквам и словам. Часто нейросеть не замечает такие мелочи и искажает надписи, превращая буквы в странные фигуры. Разбираемся с фейковыми видео Видео, как и фото, становятся реалистичнее, поэтому распознать дипфейк по одному замыленному кадру уже нельзя. Банк России, например, советует обращать внимание на дефекты изображения и звука, неестественную мимику и монотонную речь. В совокупности все это может стать поводом проверить видео дополнительно Если видео вызывает сомнения, можно несколько раз посмотреть на лицо и послушать речь. Обращать внимание стоит на эмоции, соответствие движения губ с речью и характерную манеру произношения человека. Если он внезапно использует непривычные слова, интонации или речевые обороты, это повод насторожиться. При этом есть принципиальная разница между обычным роликом из интернета и видео, которое прислал знакомый. Если ролик появился в соцсетях и рассказывает о каком-то важном событии, имеет смысл искать первоисточник и подтверждение в независимых источниках. Если же знакомый внезапно прислал видео и просит перевести деньги, проверять нужно уже не ролик, а сам факт просьбы. Например, перезвоните знакомому, его жене и родственникам. Если связаться не получается, можно задать ему в переписке личный вопрос, ответ на который знает только он и который нельзя было бы выяснить из чатов. Можно ли распознать фейк по голосовому сообщению С голосовыми сообщениями ситуация сложнее, ведь здесь нет фона, деталей, теней и света, по которым можно было бы распознать подделку. На манеру речи можно обратить внимание, но полагаться только на слух не стоит. Особенно если родной голос сообщает о возникшей проблеме — например, ДТП, болезни, увольнении — и далее просит о помощи деньгами. Лучше всего удостовериться по звонку. Например, если мама прислала голосовое «срочно переведи мне 50 тысяч», можно не продолжать переписку, а просто позвонить ей по номеру, который вы уже знаете. Если она не берет трубку, свяжитесь с другим родственником. Цель не в том, чтобы определить, насколько хорошо нейросеть скопировала голос, а в том, чтобы убедиться, действительно ли маме нужны деньги. Если дипфейк появился в новостях Допустим, в интернете всплыло видео известного человека, чиновника или руководителя компании с важным заявлением. Или фотография события, которого раньше никто не видел. В этом случае нужно проверить, появлялась ли похожая информация где-нибудь еще. Если человек действительно сделал публичное заявление, оно, как правило, появляется на его официальных ресурсах, а о событии сообщают другие независимые источники. Особенно осторожно стоит относиться к роликам, после которых предлагают перейти по ссылке, вложить деньги, скачать приложение или передать персональные данные. Банк России предупреждает, что мошенники используют дипфейки, чтобы войти в доверие и, в частности, убедить человека расстаться с деньгами. Главное — не паниковать Самое важное: если увиденное фото, видео или новость вызывает резкие эмоции — испуг или тревогу, — остановитесь и не спешите действовать. Мошенникам как раз выгодно, чтобы времени успокоиться не осталось. В панике человек чаще принимает решения не раздумывая — в том числе финансовые, чем мошенникам проще воспользоваться. Особенно легко поддаться панике, когда речь идет о близком человеке.