Inicio Ética y Sociedad Meta combatirá falsificaciones de IA sin detectar todas

Meta combatirá falsificaciones de IA sin detectar todas

9
0

Reconocimiento y Etiquetado de Contenidos AI

, como coloso de la esfera tecnológica, se ha comprometido durante el último ciclo anual a impulsar con esmero la implementación de la inteligencia artificial generativa. El día de hoy, asume la responsabilidad de enfrentar los peligros inherentes a la tecnología, revelando una política ampliada: ahora adjuntará etiquetas de advertencia a las imágenes generadas por IA en , y , indicando su naturaleza artificial.

Descripción de imágenes generadas por IA

Brechas en la Protección

A pesar de tales medidas, se reconoce que una porción considerable del contenido sintético no será abarcado por la política recién instaurada. Se abren así fisuras por donde los actores maliciosos podrían infiltrarse. Sam Gregory, director del programa Witness, advierte que, si bien estamos ante un avance, también frente a retos considerables.

Brechas en la política de IA

Watermarks: Un Intento de Verificación

Meta, por su parte, ya marca las creaciones de su propia herramienta de IA generativa con el sello «Imaginado con IA», buscando el «watermark» digital que sus algoritmos entrelazan en las creaciones. Próximamente, extenderá este método a las imágenes de IA creadas con herramientas externas que implementen watermarks en su tecnología.

Watermarks en imágenes de IA

La Utopía de la Marca de Agua

La política aspira a menguar el riesgo del esparcimiento de informaciones erróneas o tergiversadas mediante imágenes de IA. Aunque Meta colabora con la tecnología de divulgación que , , , Adobe, Midjourney y Shutterstock están desarrollando, su despliegue aún no es amplio. Además, existen herramientas que generan imágenes IA sin watermarks, cada vez más accesibles y modificables.

Tecnologías de divulgación

Resguardo y Fragilidades

Incluso con un respaldo masivo a la marca de agua, su eficacia es dudosa. No hay estándar universalmente desplegado, aunque iniciativas como la Coalición para la Procedencia y Autenticidad de Contenidos (C2PA) han comenzado a alinear los esfuerzos. Sin embargo, las técnicas hasta ahora desarrolladas no son invulnerables.

Eficacia de la marca de agua y estándares

El Espejismo de las Acciones Malintencionadas

Quienes deseen usar la IA con fines maliciosos podrían evadir las marcas de agua. Hany Farid, experto de la UC Berkeley, insta a las empresas a prepararse para tácticas que subviertan los métodos de identificación de contenido genuino. Quizás sea necesaria la combinación de múltiples formas de identificación, como la marca de agua y la tecnología basada en hash.

Acciones maliciosas y estrategias de identificación

Esperando Señales Inéditas

Meta reconoce que, aunque la industria empieza a sembrar señales en generadores de imágenes, aún no lo hace en la misma medida con herramientas audiovisuales. Por ahora, se ha implementado una funcionalidad que permite a usuarios revelar contenido de IA para su etiquetado.

Senales de herramientas audiovisuales

Más Allá de la Gen AI

Las estrategias de Meta podrían identificar mejor el contenido falso, pero no toda manipulada proviene de la IA. Un fallo reciente de la Junta de Supervisión de Meta reafirmó que la edición de un del Presidente no incumplía las políticas corrientes, pero instó a revisar las normativas para incluir más que solo aquello generado por IA.

Media manipulada y políticas de Meta

Preguntas Frecuentes

¿Qué significa que una imagen esté «Imaginada con IA»?

Significa que la imagen fue creada utilizando herramientas de inteligencia artificial generativa. Meta etiqueta estas imágenes para informar a los usuarios de sus orígenes.

¿Qué es un «watermark» digital?

Es una marca de agua que se incorpora en una imagen para demostrar su autenticidad o su origen. En el contexto de IA, se utiliza para identificar que una imagen ha sido generada por un algoritmo específico.

¿Están todas las imágenes generadas por IA etiquetadas en Meta?

No, actualmente solo se etiquetan las imágenes que provienen de herramientas que incorporan watermarks. Muchas imágenes de IA que carecen de watermarks pasarán sin ser etiquetadas.

¿Qué puede hacer un usuario si encuentra una imagen generada por IA sin etiqueta?

Los usuarios pueden reportar contenido que sospechan es generado por IA. Meta está trabajando para mejorar sus políticas y tecnología para identificar y etiquetar este tipo de contenido.