Sensity, стартап из Амстердама, который занимается кибербезопасностью, провел расследование о чат-боте, который раздевает девушек по фото. Фальшивые изображения более 100 тысяч обнаженных женщин (в том числе девушек моложе 18 лет) были созданы по фотографиям в соцсетях при помощи технологии deepfake и опубликованы в интернете. Естественно, без их ведома и согласия. Это вызвало опасения новой волны дипфейков, которые могут быть использованы для преследования или шантажа.
Пользователи бота могут анонимно отправить фотографию одетой женщины и получить версию со снятой одеждой. Технология ИИ, обученная на больших базах данных реальных обнаженных фотографий, может генерировать подделки с максимальной точностью, подбирая тон кожи и заменяя одежду на оголенную грудь или гениталии. Лица женщин остаются четкими, и к изображениям не прилагается никаких ярлыков, что они фальшивые. На некоторых оригинальных снимках изображены девушки моложе 18 лет. По мнению экспертов, появление такого чат-бота сигнализирует о том, в каких грязных целях используется технология - от подделки изображений знаменитостей и известных фигур до ничего не подозревающих женщин: «Дело в том, что теперь каждый из нас, просто имея учетную запись в социальных сетях и публикуя фотографии себя и своей жизни публично, находится под угрозой»
Сервис также собирает все недавно созданные поддельные обнаженные натуры в фотогалереи, которые обновляются ежедневно; более 25 000 аккаунтов уже подписались на ежедневные обновления.
Согласно внутренним опросам, самая большая база пользователей бота находится в России, хотя есть участники из США, Европы, Азии и Южной Америки. Новые пользователи могут запросить некоторые из своих первых снимков бесплатно, потом им предлагается заплатить за дальнейшее использование. То есть они еще на этом и зарабатывают! Опция стоит 100 российских рублей или $1,29 за 100 снимков. Юзеры premium могут запросить создание поддельных обнаженных фотографий без водяного знака и скрытие их от публичного канала.
Администратор чат-бота, с которым The Washington Post побеседовал в Telegram, отказался назвать свое имя, но защитил инструмент как безвредную форму сексуального вуайеризма, и заявил, что его операторы не несут ответственности за женщин, на которых нацелена его пользовательская база. Правила бота гласят, что он не позволяет раздевать несовершеннолетних девочек. Но в общедоступных коллекциях сервиса представлены девочки-подростки, в том числе популярная блогерша из TikTok, которой исполнилось 16 лет. По мнению администратора, система была разработана только для того, чтобы удовлетворить фантазии пользователей, и что каждый, кто увидит изображения, поймет, что это подделки:
«Вы сильно преувеличиваете реальность. Сервис не получил ни одной жалобы от девушки за весь период нашей работы. Для работы с нейросетью нужна фотография в купальнике или с минимальным количеством одежды. Девушка, которая выкладывает фотографию в купальнике в Интернет на всеобщее обозрение — с какой целью она это делает? 90% этих девушек выкладывают такие фотографии для того, чтобы привлечь к себе внимание, акцентируя внимание на сексуальности»
А вы что думаете по этому поводу?