Adobe использует ИИ для определения отфотошопленных изображений

Эксперты со всего мира обеспокоены, что развитие ИИ-инструментов позволит делать фальшивые изображения и видео еще качественнее, проще и быстрее. Особенно это опасно с учетом тенденции в социальных медиа реагировать на шокирующий контент, молниеносно распространяя его без проверки. Некоторые инструменты "подделки" создаются компанией Adobe для помощи в обработке изображений, а так как один инструмент можно использовать разными способами, то компания также работает над системой на основе машинного обучения, которая будет способна автоматически определять изображения на фальсификацию.

Adobe представила новые достижения на конференции CVPR, позволяющие выполнять следственную работу при помощи ИИ — быстрее и эффективнее, чем человек. Хотя само исследование не представляет из себя прорыв в области определения подделок, а инструменты не доступны в виде продукта, приятно видеть, что Adobe принимает меры, для борьбы с фальшивками, которые могут использоваться во вред.

Разработка находится на ранней стадии исследований, но компания намерена создать технологию мониторинга и верификации аутентичности цифровых медиа. Что именно это значит — не ясно.

Пока что машинное обучение позволяет определять три самых распространенных способа манипуляции изображением: соединение двух изображений в одном; клонирование объектов; удаление объектов. Для обнаружения фальшивок ИИ был обучен при помощи множества отредактированных фотографий, что позволило выделить распространенные ошибки, которые указывают на манипуляцию. 

К сожалению даже эти разработки пока не способны выявлять самый опасный вид фальшивок — deepfakes, новый вид видео-роликов, создаваемый ИИ.