DeepMind тестирует лейбл контента с использованием искусственного интеллекта на фоне опасений дезинформации

DeepMind, лондонская компания в области искусственного интеллекта, принадлежащая Google, тестирует инструмент цифровых водяных знаков, который может обнаруживать и маркировать искусственно созданный контент.

Инструмент под названием SynthID встраивает метку в отдельные пиксели изображения. Люди не смогут увидеть этот знак, но компьютеры смогут его обнаружить и определить, что он создан искусственным интеллектом.

SynthID, который на данный момент проходит внутренние испытания собственной модели генерации изображений Google, представляет собой попытку DeepMind бороться с дезинформацией из контента ИИ, что является ключевой проблемой с развитием технологии.

Однако DeepMind предупредила, что ее система водяных знаков не является «защищенной от экстремальных манипуляций с изображениями».

Хотя инструменты генеративного искусственного интеллекта, способные создавать реалистичные изображения, были общедоступны лишь в течение короткого времени, уже появились мистификации, начиная от безобидных шуток и заканчивая политической пропагандой.

Ранее в этом году изображение Папы Франциска в дизайнерской куртке-пуховике стало вирусным, прежде чем люди поняли, что оно было создано искусственным интеллектом. Примерно в то же время в социальных сетях распространились фотографии, изображающие вымышленный арест Дональда Трампа, обманув многих людей, прежде чем их объявили фейковыми.

Дезинформация с помощью искусственного интеллекта становится все более серьезной проблемой по мере того, как Великобритания и США приближаются к крупным выборам.

В этом месяце дебаты вокруг фейковых изображений, влияющих на политику в Великобритании, еще больше обострились, когда член парламента от Лейбористской партии поделился фотографией премьер-министра Риши Сунака, наливающей пинту пива рядом с неодобрительно настроенной женщиной. Позже выяснилось, что он был изменен, чтобы изобразить Сунака в плохом свете.

Хотя отредактированное изображение еще не покончило с искусственным интеллектом, оно вызвало агрессивную реакцию: технический секретарь Мишель Донелан написала в Твиттере свое неодобрение.

«В эпоху дипфейков и цифровых искажений еще важнее иметь надежные источники информации, которым можно доверять. Ни один избранный член парламента не должен вводить общественность в заблуждение фейковыми изображениями», — сказал Донелан. «Это довольно отчаянный шаг со стороны Лейбористской партии».

Обнаружение поддельных изображений, созданных ИИ, скорее всего, будет обсуждаться на предстоящем саммите по безопасности ИИ, который соберет международных лидеров и экспертов для изучения глобального подхода к регулированию этой технологии.

Читать далее:Регулирование ИИ — «большая проблема для политиков», говорит депутат от либеральной демократической партии