¿Cómo podemos fiarnos de lo que vemos en la era de la IA?

El desafío de la confianza: una cuestión con muchos grises

¿Cómo saber en qué debemos creer? La confianza no es una simple cuestión de sí o no. Es probabilística, una cuestión de grado y contexto. Una noticia puede ser auténtica en un sentido, pero alterada en otro. Una grabación de voz puede ser real, pero sacada de contexto. Significa que toda solución que pretenda verificar la autenticidad debe tomar en cuenta la complejidad, los matices y la posibilidad de error.

El peligro no es teórico. Ya vimos cómo los deepfakes y los medios manipulados socavan la reputación social, incitan a la violencia y amenazan la credibilidad del periodismo. Los deepfakes, videos e imágenes manipulados creados con inteligencia artificial, han estado relacionados con campañas de desinformación, fraude y la erosión de la confianza pública. Su sofisticación está superando a muchos métodos de detección, lo que obliga a los expertos a buscar respuestas a toda prisa.

A medida que los deepfakes se vuelven cada vez más convincentes, el desafío de distinguir la realidad de la ficción cobra cada vez más urgencia. Sin unas herramientas claras para la autenticación, el ecosistema de la información se vuelve vulnerable a la manipulación, lo que provoca confusión, división y daño.

Aquí es donde entra en juego JPEG Trust, una nueva Norma Internacional cuyo objetivo es restaurar la confianza en las imágenes y los videos digitales mediante la incorporación de «indicadores de confianza» verificables directamente en los propios medios.

Las normas como hoja de ruta hacia la confianza

JPEG Trust ofrece una solución prometedora: una forma segura y normalizada de etiquetar los archivos multimedia con información sobre su origen, autenticidad y cualquier cambio que haya sufrido. Estas «etiquetas» selladas criptográficamente permiten a los usuarios verificar si el contenido es auténtico o ha sido alterado, y en qué medida se puede confiar en él.

Esta norma recientemente publicada, desarrollada por ISO e IEC, sienta unas bases sólidas y se diferencia por su marco amplio y abierto. Se ha desarrollado mediante un consenso global diseñado para garantizar la coherencia e interoperabilidad entre dispositivos, plataformas y fronteras.

JPEG Trust introduce no solo un nuevo requisito técnico, sino también una nueva filosofía de confianza contextual. Define «perfiles de confianza», que permiten a diferentes usuarios (periodistas, reguladores o espectadores corrientes) asignar su propia ponderación a unos indicadores de autenticidad. La confianza se convierte en algo estratificado, no binario.

En la práctica, significa que podríamos ver un video en línea acompañado de sellos criptográficos que indican que procede de una cámara verificada, que no ha sido modificado y que ha superado varios controles independientes de autenticidad de IA. En función de un «perfil de confianza» propio, decidimos cuánta confianza depositamos en ese contenido.

Por qué las soluciones privadas se quedan cortas

No podemos confiar en sistemas cerrados y privados para salvaguardar la verdad en la era digital. El desafío de la confianza es demasiado urgente, y demasiado global, como para conformarnos con soluciones fragmentadas. En su lugar, necesitamos Normas Internacionales armonizadas, como JPEG Trust, desarrolladas mediante una colaboración inclusiva.

Uno de los hitos más significativos de la Cumbre AI for Good 2025 es el lanzamiento del mapeo AI & Multimedia Authenticity Standards (AMAS). Esta panorámica completa recoge más de 30 iniciativas de normalización internacional centradas en los desafíos de los medios sintéticos y los deepfakes, y ofrece una imagen más clara de dónde se están tomando medidas a escala mundial y dónde es necesario mejorar la coordinación.

Este conjunto de trabajos, desarrollado en el marco de la colaboración AMAS entre ISO, IEC y UIT, representa un paso fundamental hacia la armonización de los esfuerzos mundiales y la reducción de la duplicidad en uno de los ámbitos más urgentes de la gobernanza de la IA: la autenticidad multimedia.

En mis tres décadas de trabajo en el ámbito de las normas, desde la creación de JPEG hasta mi labor actual en JPEG Trust, he sido testigo de primera mano de cómo la cooperación internacional puede sentar las bases para la interoperabilidad, la escalabilidad y la confianza mundial. El mapeo AMAS se basa en ese principio. Permite a los responsables políticos, tecnólogos y líderes del sector ver dónde convergen los esfuerzos y dónde deben coordinarse para ser eficaces.

Por eso es para mí un placer y un privilegio moderar un diálogo entre líderes en el desarrollo de normas, la regulación, el mundo académico y la industria en la Cumbre AI for Good.

La confianza no admite esperas

Para restaurar la confianza en la era de la inteligencia artificial no bastarán solo soluciones técnicas. Se requiere una cooperación que trascienda fronteras, sectores y disciplinas, una infraestructura mundial basada en valores compartidos como la transparencia, la responsabilidad y la equidad.

En el centro de este esfuerzo se encuentran los organismos internacionales de normalización ISO, IEC y UIT, donde expertos en inteligencia artificial, contenido multimedia y confianza digital se reúnen para definir las reglas de actuación en un panorama altamente cambiante.

A través de la colaboración AMAS, estas organizaciones han iniciado la ardua tarea de armonizar esfuerzos fragmentados. Gobiernos, compañías e investigadores se están uniendo para crear un lenguaje común para la autenticidad, una forma de distinguir lo que es real de lo que ha sido alterado.

Todo esto hace de la Cumbre AI for Good mucho más que un mero escaparate de la innovación. Es, en efecto, un escenario para la arquitectura de la confianza en la era de la IA. Aquí, en medio de las promesas de los modelos generativos y los sistemas autónomos, también estamos decidiendo qué tipo de futuro queremos construir.

Y en quién podemos creer.