Adobe использует искусственный интеллект для определения поддельных фотографий
25.06.2018
Программы компании Adobe уже много лет используют для создания поддельных фотографий, однако теперь компания решила разработать программное обеспечение, которое должно помочь бороться с засильем обмана в сети и средствах массовой информации: новый алгоритм искусственного интеллекта помогает определить, какие манипуляции были проведены с изображением. Кроме использования Photoshop для благих целей, “некоторые люди используют этот мощный инструмент для “исправления” фотографий, чтобы вводить в заблуждение”, - сообщает Adobe в своем блоге.
“В дополнение к созданию новых возможностей для новых цифровых медиа, Adobe исследует границы того, как люди используют новые технологии, такие как искусственный интеллект, для того, чтобы повысить доверие и аутентичность в цифровых медиа”.
Исследователь Adobe, Влад Морариру, работает над проблемой определения манипуляций с изображением в рамках финансируемой правительством США программы DARPA Media Forensics.
Уже существует ряд инструментов, которые могут помочь идентифицировать манипуляции с фотографиями - метаданные и программы, которые исследуют особенности фотографий (шум, края, освещение и т.п.), но технологии искусственного интеллекта могут помочь перейти на совершенно иной уровень. ИИ может сделать процесс определения поддельных фотографий проще, надежнее и информативнее.
В исследовании под названием “Изучение богатых функций определения манипуляций в изображениях” Морариу описывает, как Adobe использует ИИ для этой цели.
Команда сфокусировалась на трех основных техниках манипуляции: комбинирование частей двух фотографий, копирование/клонирование и перемещение частей одной фотографии и удаление частей фотографии.
“Каждая из этих техник оставляет определенные артефакты, такие как края с сильным контрастом, сознательно сглаженные области или различные паттерны шума. Использование десятков тысяч примеров известных изображений с манипуляциями помогло успешно натренировать нейронную сеть глубокого обучения для распознавания манипуляций”, - сообщает Морариу.
ИИ помогает определить, как и в каком месте была произведена манипуляция в течение нескольких секунд.
Слева направо - исходное изображение, изображение с манипуляцией, карта шума, достоверные данные, результат проверки
Однако эти технологии скорее должны дополнить, а не вытеснить традиционные средства проверки на подлинность в мире фотожурналистики.
“Агенство Associated Press и другие новостные организации опубликовали методические рекомендации по подходящему цифровому редактированию фотографий для средств массовой информации. Я считаю, что одной из важных ролей, которую сможет сыграть Adobe - это разработка технологии, которая поможет осуществлять мониторинг и проверку аутентичности как часть этого процесса,” - сообщает директор Adobe Research, Джон Брандт.
“Важно разрабатывать технологии ответственно, ведь в конечном счете эти технологии создаются для службы обществу. Поэтому мы все разделяем ответственность по устранению потенциальных негативных влияний новых технологий путем внесения изменений в наши социальные институты и соглашения”.
