Когда мы думаем о дипфейках, мы склонны представлять подделки с участием людей. Однако технологии коснулись и других, казалось бы, не совсем совместимых с дипфейками сфер - это дипфейки городских пейзажей и сельской местности.
В частности, географы обеспокоены распространением поддельных спутниковых снимков, созданных искусственным интеллектом. Такие картинки могут вводить в заблуждение самыми разными способами. Они могут быть использованы для создания мистификаций о лесных пожарах или наводнениях или для дискредитации историй, основанных на реальных спутниковых снимках. Geographic deepfakes может даже стать проблемой национальной безопасности, поскольку геополитические противники могут использовать поддельные спутниковые снимки, чтобы ввести врагов в заблуждение.
Именно об этой перспективе американские военные предупреждали в 2019 году. Тодд Майерс, аналитик Национального агентства геопространственной разведки, представил сценарий, в котором программное обеспечение военного планирования обманывается поддельными данными, которые показывают мост в неправильном месте.
Первый шаг к решению этих проблем заключается в том, чтобы люди в первую очередь осознали, что есть проблема, считает Бо Чжао, доцент географии в Вашингтонском университете. Чжао и его коллеги недавно опубликовали статью на тему deep fake geography, которая включает в себя их собственные эксперименты по генерации и обнаружению этих изображений. Бо Чжао и его коллеги из Вашингтонского университета смогли создать свои собственные спутниковые снимки, созданные ИИ.
Цель состояла в том, чтобы демистифицировать функцию абсолютной надежности спутниковых изображений и повысить осведомленность общественности о потенциальном влиянии дипфейков в географии. По словам Чжао, хотя дипфейки широко обсуждаются в других областях, его статья, вероятно, первая затронула эту тему в географии.
Чжао и его коллеги считают, что на самом деле история дипфейков в географии насчитывает тысячелетия. Люди подделывали карты с начала их существования - от мифологических географических карт, разработанных древними цивилизациями, до современных пропагандистских карт, распространяемых во время войны.
Конечно, легче создавать поддельные спутниковые изображения, чем дипфейки с людьми. Более низкие разрешения могут быть столь же убедительными, а спутниковые изображения - настолько же правдоподобными. Это может быть связано с тем, что мы знаем о происхождении этих изображений. Поскольку большинство спутниковых изображений генерируются профессионалами или правительствами, общественность обычно предпочитает считать их подлинными.
В рамках своего исследования Чжао и его коллеги создали программное обеспечение для генерации спутниковых изображений deepfake, используя тот же базовый метод искусственного интеллекта, который используется в таких известных программах, как
ThisPersonDoesNotExist.com. Затем они создали программное обеспечение для обнаружения, которое смогло определить подделки на основе таких характеристик, как текстура, контраст и цвет. Но, как уже много лет предупреждают эксперты относительно дипфейков с людьми, любой инструмент обнаружения нуждается в постоянных обновлениях, чтобы идти в ногу с улучшениями в генерации подделок.
/ по материалам The Verge /