Автор: Турадж Эбрахими (Touradj Ebrahimi),
Эксперт по искусственному интеллекту, профессор EPFL и лидер в области стандартизации
LinkedIn
Доверие к цифровому контенту — это не только технологическая проблема, но и риск для общества. Согласно отчету Всемирного экономического форума (ВЭФ) «Глобальные риски 2025», дезинформация и искаженная информация занимают первое место в рейтинге краткосрочных глобальных рисков, опережая даже конфликты и экологические кризисы. Подобные риски могут подорвать доверие к институтам, дестабилизировать общества и сорвать сотрудничество в решении неотложных глобальных проблем.
Именно поэтому технические решения, основанные на надежных международных стандартах, важны как никогда.
На этой неделе, когда эксперты по искусственному интеллекту со всего мира собираются на саммите «ИИ во благо» в Женеве, Швейцария, речь идет уже не только о возможностях искусственного интеллекта. Речь идет о доверии.
Мы живем в эпоху, когда видео, аудио и изображения могут быть сфабрикованы с поразительной реалистичностью. Дипфейки и синтетический контент, созданный с помощью ИИ, вышли за рамки текста и теперь неотличимы от действительности. Данная революция открывает невероятные возможности, но также сопряжена с серьезными рисками.
Проблема с доверием: не все так однозначно
Как понять, чему верить? Доверие — это не просто «да» или «нет». Это вероятностная величина — вопрос степени и контекста. Новостной ролик может быть подлинным в одном смысле, но измененным в другом. Голосовая запись может быть настоящей, но вырванной из контекста. Это означает, что любое решение по проверке подлинности должно учитывать сложность, нюансы и возможность ошибки.
Опасность не является чисто теоретической. Мы уже видели, как дипфейки и манипуляции в СМИ подрывают социальную репутацию, провоцируют насилие и угрожают достоверности журналистики. Дипфейки — поддельные видео и изображения, созданные с помощью искусственного интеллекта — связаны с кампаниями дезинформации, мошенничеством и подрывом общественного доверия. Их сложность превосходит многие методы обнаружения, заставляя экспертов ломать голову в поисках ответов.
По мере того как дипфейки становятся все более убедительными, задача отличения реальности от вымысла становится все более актуальной. Без четких инструментов аутентификации информационная экосистема становится уязвимой для манипуляций, что приводит к путанице, расколу и причинению вреда.
Позвольте представить Вам JPEG Trust, новый международный стандарт, направленный на восстановление доверия к цифровым изображениям и видеозаписям путем встраивания проверяемых «индикаторов доверия» непосредственно в сами медиа.
Стандарты как дорожная карта для достижения доверия
JPEG Trust предлагает многообещающее решение: безопасный, стандартизированный способ маркировки медиафайлов информацией об их происхождении, подлинности и любых изменениях, которым они подверглись. С помощью таких криптографически защищенных «меток» зрители могут проверить, является ли контент подлинным или был изменен, и насколько ему можно доверять.
Недавно опубликованный стандарт, разработанный ИСО и МЭК, закладывает прочную основу, а его отличительной чертой является широкая открытая структура. Он был разработан на основе глобального консенсуса, призванного обеспечить согласованность и совместимость между устройствами, платформами и странами.
JPEG Trust вводит не только новые технические требования, но и новую философию контекстуального доверия. Он определяет «профили доверия», позволяющие разным пользователям — журналистам, регулирующим органам или обычным зрителям — присваивать собственный вес показателям подлинности. Доверие становится многоуровневым, а не бинарным.
На практике это означает, что вы можете увидеть в Интернете видео, сопровождаемое криптографическими печатями, подтверждающими, что оно было снято проверенной камерой, не было изменено и прошло несколько независимых проверок подлинности с помощью искусственного интеллекта. На основе своего «профиля доверия» вы решаете, насколько доверять данному контенту.
Почему коммерческие решения не работают
В цифровую эпоху мы не можем полагаться на закрытые коммерческие системы для обеспечения достоверности информации. Проблема доверия слишком актуальна и глобальна, чтобы ее можно было решить с помощью разобщенных решений от разных компаний. Вместо этого нам нужны согласованные международные стандарты, такие как JPEG Trust, разработанные в рамках инклюзивного сотрудничества.
Одним из наиболее значимых событий саммита «ИИ во благо» 2025 года станет запуск проекта «Картографирование стандартов аутентичности ИИ и мультимедиа» (AI & Multimedia Authenticity Standards, AMAS). В данном всеобъемлющем обзоре представлено более 30 международных инициатив по стандартизации, посвященных проблемам синтетических медиа и дипфейков, что дает более четкое представление о том, где уже предпринимаются глобальные действия и где по-прежнему требуется более высокая степень согласованности.
Данная работа, разработанная в рамках сотрудничества AMAS между ИСО, МЭК и МСЭ, представляет собой основополагающий шаг на пути к гармонизации глобальных усилий и сокращению дублирования в одной из наиболее актуальных областей управления ИИ — подлинности мультимедиа.
За три десятилетия работы над стандартами — от создания JPEG до текущей работы над JPEG Trust — я на собственном опыте убедился, как международное сотрудничество может заложить основу для взаимодействия, масштабируемости и глобального доверия. Карта AMAS основана на использовании данного принципа. Она позволяет политикам, технологам и лидерам отрасли увидеть, где их усилия пересекаются и где они должны взаимодействовать для достижения эффективности.
Поэтому для меня большая честь и удовольствие выступить модератором диалога между лидерами в области разработки стандартов, регулирования, науки и промышленности на саммите «ИИ во благо».
Доверие ждать не может
Восстановление доверия в эпоху искусственного интеллекта не может быть достигнуто только с помощью технических решений. Для этого необходимо сотрудничество, выходящее за рамки границ, секторов и дисциплин, – глобальная инфраструктура, основанная на общих ценностях, таких как прозрачность, подотчетность и справедливость.
В центре всех подобных усилий находятся международные органы по стандартизации ИСО, МЭК и МСЭ, где эксперты в области искусственного интеллекта, мультимедиа и цифрового доверия совместно разрабатывают правила для взаимодействия в быстро меняющейся среде.
В рамках сотрудничества AMAS они начали кропотливую работу по согласованию многочисленных разрозненных усилий. Правительства, компании и исследователи объединяются, чтобы создать общий язык подлинности — способ отличить реальное от поддельного.
Именно это делает саммит «ИИ во благо» чем-то большим, чем просто демонстрацией инноваций. По сути, это площадка для создания архитектуры доверия в эпоху ИИ. Здесь, среди обещаний генеративных моделей и автономных систем, мы также решаем, какое будущее мы хотим построить.
И в кого мы можем верить.