В то время, когда вы можете попросить ИИ изменить существующую фотографию практически любым способом или даже попросить его создать полностью искусственное изображение, можем ли мы когда-нибудь снова доверять фотографиям?

Apple работает над решением этой проблемы двумя способами, и многие из нас надеются, что она также присоединится к новому стандарту подлинности контента…

Это не новая проблема

Можем ли мы доверять правдивости фотографии, конечно, не новая проблема. Фотограф всегда мог повлиять на наш взгляд на реальность, просто выбирая, что включить в кадр, а что исключить.

Выбор линзы может по-разному искажать один и тот же вид, например, заставляя предметы казаться ближе или дальше. Регулировка экспозиции может сделать объекты темнее или светлее. Выбор пленки или фильтра может повлиять на восприятие цвета. Длительную выдержку можно использовать, чтобы убрать любые следы людей, идущих по сцене. И так далее.

Потом была темная комната. Такие вещи, как маскирование, выжигание и уклонение, могут кардинально изменить внешний вид сцены. Обычное программное обеспечение для редактирования фотографий просто расширяет диапазон возможных настроек.

Редактирование и создание фотографий с помощью ИИ — это лишь последний из множества способов использования фотографий, чтобы влиять на нас или даже напрямую обманывать нас.

Но ИИ делает это более серьезной проблемой

Раньше редактирование фотографий требовало, по крайней мере, определенных навыков, поэтому создание убедительно обманчивого изображения было не под силу никому.

Теперь любой может сделать это за считанные секунды. Фальшивое изображение выше, конечно, намеренно непротиворечиво, но с таким же успехом оно могло быть чем-то, что показывает кого-то или что-то в очень нелестном свете. Весь процесс загрузки эталонной фотографии в Photoshop, создания текстовой подсказки и ожидания результата занял около 30 секунд.

Когда любой может сделать это за считанные секунды, а результаты становятся все более реалистичными, это потенциально создает огромные проблемы на будущее.

Apple решает эту проблему двумя способами

С (постепенным) запуском Apple Intelligence компания потенциально может усугубить проблему, передав инструменты создания изображений AI в руки миллионов людей. Но компания осознает опасность и принимает две меры предосторожности.

Во-первых, Image Playground, позволяющая владельцам iPhone создавать полностью воображаемые изображения из текстовых описаний, намеренно исключает фотореалистичные результаты.

Image Playground поддерживает три стиля: анимация, иллюстрация, эскиз. […] Примечательно, что все изображения, демонстрируемые для Image Playground, анимированы или иным образом нереалистичны по стилю. Очевидно, что Apple не хочет предоставлять инструменты для создания реалистичных поддельных фотографий.

Во-вторых, когда вы используете инструменты искусственного интеллекта для манипулирования реальными фотографиями, Apple отмечает этот факт. Об этом говорил Крейг Федериги в своей книге. WSJ интервью.

Фотография имеет богатую историю и то, как люди рассматривают фотографический контент как нечто, на что они могут положиться, как показатель реальности. Наши продукты, наши телефоны, используются очень часто, и для нас важно, чтобы мы помогали предоставлять точную информацию, а не фантазии.

Мы позаботимся о том, чтобы даже если вы удалили небольшую деталь фотографии [like a water bottle] мы обновляем метаданные фотографии, чтобы кто-то мог вернуться и проверить, была ли это измененная фотография.

Инициатива по обеспечению подлинности контента

Пока что Apple идет своим путем в обновлении метаданных, но основной подход поддерживается многими компаниями и новостными организациями через так называемую Инициативу по обеспечению подлинности контента (CAI).

Идея состоит в том, чтобы гарантировать, что любые творения и изменения ИИ отражаются в метаданных изображения стандартным способом, который можно обнаружить и пометить.

Учетные данные контента помогают записывать и отображать наиболее важные сведения о фрагменте контента на каждом этапе его жизненного цикла.

Создание: покажите поддержку ИИ-инструментов, программного обеспечения, цифровых камер и прочего.
устройства, используемые при создании контента.

Редактирование и генеративный ИИ: можно записать любые изменения — обрезку, добавление и удаление, модификации ИИ и многое другое.

Публикация: потребители могут легко получить доступ к созданию учетных данных контента.
и редактировать историю.

В число сторонников CAI входят Adobe, ABC News, Associated Press, BBC, Canon, Leica, Microsoft, Nikon, The New York Times, Nvidia, Qualcomm, Reuters и Wall Street Journal.

Стандарт имеет открытый исходный код, что означает, что его может принять каждый, поэтому у него хорошие шансы стать отраслевым стандартом. Очевидно, было бы полезно, если бы Apple обеспечила соответствие своих собственных изменений метаданных этому стандарту.

Изображение: создание искусственного интеллекта в Photoshop на основе фотографии Vision Pro и текстовой подсказки.