Inicio Compañías Deepfakes de Audio: La Nueva Herramienta en Desinformación Electoral

Deepfakes de Audio: La Nueva Herramienta en Desinformación Electoral

16
0

Las Implicaciones de los Audio Deepfakes

Audio , esa tecnología emergente de la información bélica, despierta en el horizonte un miedo atávico al descontrol. Este año, marcado por elecciones cruciales alrededor del globo, se ha presenciado cómo estas herramientas impulsadas por inteligencia artificial proliferan con inusitada rapidez en el ciberespacio.

Audio deepfakes en elecciones

Abordando la Suplantación Vocal

En un lunes recargado de implicaciones políticas, la oficina del fiscal general de New Hampshire se manifestó investigando un acto de posible supresión de votantes. Quejas emergieron sobre llamadas automatizadas que utilizaban una voz «artificialmente generada» en la semejanza de Joe , presidente de EE.UU., desalentando la participación en la primaria presidencial del estado.

Supresión de votantes

La Difusión de Voces Falsificadas

Investigadores apuntan sus focos hacia la difusión de grabaciones vocales realistas pero falsificadas. Estos clips imitan a políticos y líderes, y ya han marcado su presencia este año en territorios tan diversos como Reino Unido, India, Nigeria, Sudán, Etiopía y Eslovaquia. Estas voces ficticias, que buscan tejer influencia política y electoral, se valen del anonimato cibernético para extender sus tentáculos.

Imitación de líderes

La Popularización del Engaño Sonoro

Expertos argumentan que los audio deepfakes se han convertido en formas populares de desinformación. La culpa recae en parte en esos AI tools baratos y efectivos que nacen de como ElevenLabs, Resemble AI, Respeecher y Replica Studios. Estas herramientas transforman lo sintético en natural gracias a sus habilidades en inflexiones, entonaciones y emociones.

Herramientas de IA

La Vulnerabilidad del Audio

Henry Ajder, especialista en AI y deepfakes, asesor de Adobe, y EY, nos advierte sobre la falta de conciencia en cuanto a la manipulación de material de audio. Este vacío de conocimiento nos coloca en una posición vulnerabilidad notable frente a actores malintencionados.

Conciencia sobre deepfakes

La Contienda Contra la Desinformación

NewsGuard, una entidad que valora la calidad y credibilidad de sitios de noticias, recientemente descubrió una red de cuentas en que, posando como medios legítimos, diseminaban teorías conspirativas y desinformación política por medio de voces generadas por IA.

Red de cuentas en TikTok

Prevención y Detección

Empresas como ElevenLabs, ya conscientes de los usos indebidos, han creado herramientas de detección para identificar grabaciones producidas por sus sistemas. Del mismo modo, Resemble explora la marca de agua inaudible para contenidos generados por IA.

Prevención de abuso de IA

Protecciones Políticas Ante el Caos Electoral

El año electoral en Nigeria y Eslovaquia demostró la capacidad de los audio deepfakes para desatar el caos en un contexto democrático. Grupos y expertos políticos claman ahora por la implementación de protecciones robustas para anticiparse al flagelo que ya se deja sentir en el escenario político.

Caos electoral

El Futuro de la Detección Tecnológica

Con la aparición de deepfakes de audio, un mercado dedicado a la detección asistida por tecnología surge con la promesa de restablecer la línea entre lo genuino y lo falso. Herramientas como las de buscan patrones y anomalías sonoras para determinar la autenticidad de las grabaciones.

Detección de deepfakes

Plataformas en Busca de Soluciones

Plataformas en línea, como Meta y TikTok, invierten en capacidades de detección y etiquetado para frenar el flujo de contenido engañoso. La lucha contra los deepfakes continúa en todos los frentes virtuales en pos de la integridad informativa.

Plataformas combatiendo deepfakes

Preguntas Frecuentes (FAQ)

¿Qué son los audio deepfakes y por qué son problemáticos?

Audio deepfakes son grabaciones manipuladas con IA que imitan la voz de alguien real. Su problema radica en cómo pueden ser usados para desinformar y manipular la opinión pública, especialmente durante elecciones.

¿Cómo detectan las empresas el audio falso?

Empresas han desarrollado herramientas específicas que buscan inconsistencias en patrones sonoros, frecuencias y amplitudes. Algunas incluso marcan los audios generados con IA con marcas de agua inaudibles.

¿Qué medidas se están tomando para combatir los deepfakes en plataformas como TikTok y Meta?

Estas plataformas están invirtiendo en mejorar sus tecnologías de detección y etiquetado para identificar contenido falso. También incorporan políticas que piden a los usuarios reportar abusos de estas herramientas.

¿Son efectivas las herramientas de detección de audio deepfake?

Las herramientas de detección pueden ser muy efectivas, con algunas alcanzando una precisión de alrededor del 90%. Sin embargo, la tecnología de está en constante evolución y las herramientas de detección deben mantenerse al día.