Inicio Ética y Sociedad Robocall de Biden falso creado por IA ElevenLabs

Robocall de Biden falso creado por IA ElevenLabs

7
0

Robollamadas con Inteligencia Artificial

La semana pasada, electores en New Hampshire experimentaron una situación fuera de lo común: recibieron llamadas automáticas, conocidas como robollamadas, que emulaban la voz del Presidente . Estas llamadas les instaban a abstenerse de votar en las elecciones primarias del estado. El misterio prevalece sobre quién está detrás de dicho intento de manipulación; sin embargo, expertos en audio digital consultados por WIRED aventuran que el origen probable es la tecnología de una empresa emergente especializada en clonación de voces llamada ElevenLabs.

robollamada

El Ascenso de ElevenLabs

ElevenLabs, en el ojo del huracán por este incidente, no es una empresa ordinaria. Recientemente catapultada al estrellato empresarial con el codiciado estatus de «unicornio», recaudó $80 millones en una valoración de $1.1 mil millones durante su última ronda de financiación. Con el respaldo de Andreessen Horowitz, una firma de capital riesgo de renombre, ElevenLabs ofrece su herramienta AI a diversos usuarios, desde creadores de audiolibros hasta desarrolladores de videojuegos. Aunque su política de seguridad sugiere obtener permiso antes de replicar una voz, admite la clonación sin permiso para algunos usos no comerciales, como el discurso político que contribuye a debates públicos. A pesar de las solicitudes de comentario, ElevenLabs guardó silencio.

ElevenLabs

Pindrop: Tras las Huellas del Audio Sintético

De manera intrigante, Pindrop, una compañía enfocada en la seguridad que desarrolla herramientas para identificar audio sintético, asegura tras analizar la llamada en cuestión que la tecnología de ElevenLabs estaba involucrada, o al menos un sistema con componentes similares. La metodología de Pindrop es meticulosa y se basa en comparar patrones en la grabación con más de 120 motores de síntesis de voz distintos. Los resultados sorprendieron a su CEO, Vijay Balasubramaniyan, quien confirma una coincidencia del 99% con ElevenLabs.

Pindrop

Análisis Forense Digital y la Inevitable Conclusion

Hany Farid, un especialista respetado en el campo de la forense digital de la UC Berkeley, mantuvo su escepticismo inicial frente a la afirmación de que la robollamada provenía de ElevenLabs. No obstante, tras un análisis independiente, su equipo llegó a la misma conclusión que Pindrop. Según Farid, la muestra obtenida apunta con alta confianza a que fue generada por AI y con posibilidades significativas de haber utilizado la tecnología de ElevenLabs.

Análisis Forense

Usos Políticos de la Voz Sintética – No es la Primera Vez

No es la primera vez que se sospecha del uso de herramientas de ElevenLabs para propaganda política. En septiembre pasado, una firma que sigue la desinformación en línea, NewsGuard, identificó cuentas de que compartían teorías conspirativas con voces generadas por AI, incluyendo una de Barack Obama, como usuarias de la tecnología de ElevenLabs. La empresa respondió a los señalamientos de The New York Times, afirmando que aún cuando la mayoría de sus usuarios crean contenido valioso e innovador, existen casos de mal uso, para los cuales han estado desarrollando y lanzando salvaguardas para mitigarlos.

Propaganda Política

Preguntas Frecuentes

¿Qué es una robollamada y cómo funciona?

Una robollamada es una llamada telefónica automatizada que utiliza un sistema computarizado para entregar un mensaje pregrabado. Generalmente, son utilizadas masivamente para comunicaciones de marketing o información pública.

¿Es legal usar la tecnología de clonación de voz para fines políticos?

Depende de las leyes locales y nacionales. En teoría, el uso de la clonación de voz para fines políticos puede ser aceptable si no viola las leyes de privacidad, no incurre en difamación o no representa un intento de manipulación electoral.

¿Cómo puedo protegerme de ser engañado por llamadas con voz clonada?

Es importante verificar la fuente de cualquier llamada sospechosa y no actuar sobre la información proporcionada sin confirmar su autenticidad. Además, las empresas desarrollan herramientas de detección para identificar grabaciones generadas por AI.

¿Cuál es la postura de ElevenLabs frente al uso indebido de su tecnología?

ElevenLabs reconoce la posibilidad de mal uso y afirma estar trabajando en crear salvaguardas para prevenirlo. La empresa promueve un uso responsable de su tecnología y cuenta con una política de seguridad que insta a obtener permiso antes de clonar voces.

¿Podemos esperar más robollamadas con voz clonada en el futuro?

Con el avance de la tecnología de clonación de voz y AI, es probable que las robollamadas con voces clonadas se conviertan en una táctica más común. Por ello, la sociedad debe prepararse y educarse sobre cómo identificar y manejar estos casos.