Фотографии людей из Instagram* начали без спроса пропускать через ИИ. Чем это опасно

В июле Instagram* объявил о запуске Muse Image — это ИИ-модель для генерации изображений. Ее можно использовать, чтобы превращать чужие фотографии во что-то другое — и для этого не нужно согласие от автора фото.

Собрали главное о новой функции (и о том, почему она вызывает споры).

Компания сообщила, что Muse Image может «интерпретировать сложные запросы, использовать фотографии в качестве входных данных и позволять пользователям редактировать сгенерированные изображения с помощью эскизов или описаний». На базе ИИ будут работать более 30 новых эффектов для функции Stories.

«Базовое» использование модели бесплатно для пользователей. Однако за деньги будут доступны некие дополнительные возможности.

«Компания также анонсировала предварительную версию Muse Video, своей модели генерации видео», — пишет Reuters.

Фактически, теперь каждый пользователь Instagram* может пропускать через ИИ любые фотографии — в том числе чужие. Их владельцы даже не получат уведомлений о том, что с их изображениями что-то сделали.

Это открывает огромные возможности для создания дипфейков. Любой может вбить в Instagram* ник человека — и сгенерировать его изображение в комнатах и ситуациях, в которых он никогда не был.

В настройках можно отключить новую ИИ-функцию. Однако это не удалит изображений, которые кто-то уже мог успеть сгенерировать. Настройка доступна только внутри мобильного приложения.

* экстремистская организация, деятельность запрещена на территории РФ

Ранее мы рассказывали о том, как мошенники обманывают российских туристов — там в ход тоже идут дипфейки и творения ИИ.

Прочитайте также, до чего бум ИИ доведет бизнес и человечество. Этот прогноз экспертов понравится не всем.