Intervención de AI Now ante el gobierno local de Nueva York

Aashna Agarwal, asociada de programa de la organización AI Now, testificó el lunes 5 de octubre de 2026 ante el Pleno del Ayuntamiento de Nueva York. Durante esta audiencia, Agarwal centró su exposición en los riesgos concretos que conlleva la aceleración del despliegue de la inteligencia artificial y cómo la velocidad de implementación puede comprometer la seguridad de la ciudadanía.

La comparecencia se enmarca en un esfuerzo coordinado de AI Now por influir en la legislación local y nacional. Agarwal detalló que existen tres vías específicas en las que los intereses de capital de las compañías desarrolladoras de IA entran en conflicto directo con la protección de la población. Según la experta, la prioridad de maximizar el retorno económico y el crecimiento acelerado de estas empresas choca con la necesidad de implementar salvaguardas rigurosas antes de lanzar productos al mercado.

Para mitigar estos riesgos, Agarwal solicitó formalmente que el Ayuntamiento de Nueva York utilice su capacidad legislativa y su influencia para proteger a los residentes. Una de sus demandas principales es la creación de fricciones deliberadas en la integración de la IA dentro de dominios sociales sensibles. Con esto se busca evitar que la tecnología se implemente de forma automática en sectores críticos donde un error pueda tener consecuencias graves para los derechos civiles o el bienestar público.

Acciones propuestas para la protección ciudadana

Además de frenar la velocidad de adopción en sectores sensibles, la representante de AI Now instó a las autoridades a establecer mecanismos de reparación y resarcimiento. Agarwal subrayó que ya existen daños tangibles causados por la inteligencia artificial en Nueva York y que es imperativo que los ciudadanos afectados tengan vías legales y administrativas para obtener compensaciones y soluciones efectivas.

Otro punto crítico de su testimonio fue la advertencia sobre la concentración de poder en el sector tecnológico. Agarwal señaló que la tendencia actual hacia el monopolio crea puntos únicos de fallo. En términos técnicos, un punto único de fallo ocurre cuando un sistema depende de un solo componente o proveedor; si este falla, todo el ecosistema colapsa. En el contexto de la IA, esto significa que si una infraestructura centralizada que sostiene servicios públicos falla o es vulnerada, la seguridad y la resiliencia de toda la infraestructura de la ciudad se verían comprometidas.

El contexto de la lucha contra el monopolio tecnológico

La comparecencia de Agarwal es la continuación de una línea de acción iniciada semanas antes por la propia organización. El jueves 17 de septiembre de 2026, Amba Kak, codirectora ejecutiva de AI Now, testificó ante el Monopoly Busters Caucus en una audiencia titulada «AI Crossroads: Stopping Big Tech’s Race to Monopolize AI through Surveillance on Big Tech».

En aquella sesión, Kak analizó la carrera de las grandes tecnológicas por monopolizar la IA a través de la vigilancia. Advirtió que la visión de la industria tiende a centralizar el poder en un grupo reducido de actores privados, lo que podría consolidar una economía de vigilancia donde los datos personales se conviertan en la moneda de cambio para el control tecnológico. Kak instó a los legisladores a no dejarse llevar por las narrativas alarmistas sobre amenazas existenciales a largo plazo, que a menudo utilizan las propias empresas para desviar la atención de los riesgos inmediatos y tangibles.

Recomendaciones legislativas contra la centralización del poder

Amba Kak propuso tres directrices claras para los representantes legislativos. En primer lugar, sugirió atacar las causas raíz del problema en lugar de limitarse a gestionar los síntomas. Esto implica cuestionar la estructura de propiedad y el acceso a los datos, más que intentar corregir sesgos algorítmicos una vez que el sistema ya está desplegado.

En segundo lugar, Kak alertó sobre el riesgo de que las propias empresas tecnológicas coopten el espacio de las soluciones. Esto sucede cuando las entidades reguladas son las mismas que diseñan las normativas o proporcionan la tecnología para supervisar el cumplimiento de la ley, creando un conflicto de intereses donde la regulación se vuelve superficial o favorable a la industria.

Finalmente, la codirectora de AI Now pidió poner fin al excepcionalismo de la IA. Este concepto se refiere a la creencia de que la inteligencia artificial es una tecnología tan disruptiva y diferente a cualquier otra que requiere leyes especiales o que las leyes existentes no se le pueden aplicar. Kak defendió que se deben aplicar estrictamente las leyes ya vigentes sobre privacidad, competencia y derechos civiles, sin conceder privilegios regulatorios a las empresas de IA.

Incertidumbres y consecuencias para el sector

Aunque las comparecencias de Agarwal y Kak han puesto sobre la mesa riesgos operativos y estructurales, aún no se conocen las conclusiones finales de estas audiencias ni si el Ayuntamiento de Nueva York implementará medidas legislativas concretas basadas en estas recomendaciones. No se han detallado los plazos para posibles nuevas normativas locales ni los mecanismos exactos de supervisión que se pretenden instaurar.

Para las empresas de IA, estas presiones legislativas podrían traducirse en un aumento de la fiscalización sobre sus procesos de despliegue y una mayor responsabilidad legal por los daños causados. Si el Ayuntamiento de Nueva York decide implementar la fricción en dominios sociales sensibles, las tecnológicas podrían enfrentar retrasos en la homologación de sus productos para el sector público.

Para los desarrolladores y usuarios, el enfoque de AI Now sugiere un cambio hacia la transparencia y la rendición de cuentas. La transición de un modelo de crecimiento acelerado a uno basado en la seguridad pública implicaría que el desarrollo de modelos de IA debería pasar por auditorías más estrictas y procesos de validación externos antes de su integración en la infraestructura urbana y social de la ciudad.