Inicio Compañías La importancia de la responsabilidad en tiempos modernos

La importancia de la responsabilidad en tiempos modernos

7
0

Experimento Mental: La Fuga de Responsabilidad

Imagínate esta escena, o, si eres víctima de la constante mala suerte cuando viajas, rememórala. Tu vuelo está sobrevendido y, para liberar espacio, algunos pasajeros son retirados del avión. Aquellos con menos millas acumuladas son los primeros en ser invitados a salir. Puedes expresar tu descontento, claro, pero la persona aplicando esta norma no la ha creado —y tampoco tiene la capacidad de modificarla. Aunque tengas el número de celular de la directora ejecutiva de la aerolínea, no es su culpa: es la política de la compañía. Dan Davies utiliza este escenario en su libro lleno de perspicacia, La Máquina de la Impunidad, para ilustrar lo que él llama «el sumidero de responsabilidad», un concepto que abarca reglamentos, procedimientos y, en ocasiones, instituciones enteras en la vida moderna que han eliminado la responsabilidad individual en la toma de decisiones. La azafata que te acompaña a la salida del avión no es responsable, ni tampoco lo es su superior. Después de todo, aceptaste esta posibilidad al comprar tu billete.

Experimentando la política de vuelos

La Inteligencia Artificial y la Transparencia

Si bien «el sumidero de responsabilidad» es un término reciente, hay expertos que discuten sobre problemas similares. Investigadores de FAT ML (justicia, rendición de cuentas y transparencia en el aprendizaje automático) hablan de la responsabilidad (tener una idea clara de a quién dirigirse cuando un algoritmo produce una decisión inesperada) y de la explicabilidad (esa persona debe poder explicar por qué se tomó la decisión, usando un lenguaje accesible). Otros están preocupados porque el aprendizaje automático crea un «vacío de responsabilidad», donde los que toman las decisiones humanas ya no tienen que justificar, o incluso comprender, las decisiones que se están implementando.

Inteligencia Artificial en la vida cotidiana

Cuando el Sistema Falla

Consideremos un ejemplo más grave del «sumidero de responsabilidad»: el escándalo de Windrush. Miles de británicos nacidos en las Indias Occidentales sufrieron maltratos, perdiendo empleos y hogares, con algunos deportados erróneamente del Reino Unido. ¿Quién tiene la culpa? ¿Los diseñadores de la política de ambiente hostil, que trasladó las fronteras de los controles migratorios a cada empleador, propietario y servicio público? ¿Los burócratas que destruyeron las tarjetas de aterrizaje que podrían haber servido como identificación alternativa? ¿Las sucesivas administraciones que limitaron el derecho de los ciudadanos del imperio británico a moverse libremente? La única persona que renunció por la injusticia fue Amber Rudd, cuya principal falta fue estar en el cargo de secretaria del Interior cuando la noticia estalló, y no tanto implementar las políticas cuestionadas. Ella regresó pronto a una alta posición después de una breve ausencia, dirigiendo otro importante departamento. Un «sumidero de responsabilidad» parecido está ahora imponiéndose en el esquema de compensación de Windrush, plagado de retrasos.

Windrush y sus secuelas

Los Beneficios de la Impersonalidad

No todos los «sumideros de responsabilidad» son perjudiciales. El proceso de contratación que permite que mi amigo ejecutivo descarte la solicitud de mi sobrino incompetente sin ofenderme es también un caso de estos. Las reglas claras establecidas en reglamentos, procedimientos y algoritmos pueden generar injusticias notables. Pero, al menos, estas son medibles y detectables, a diferencia de los juicios apresurados que todos hacemos a diario. Las pautas de sentencia para casos criminales intentan eliminar los prejuicios personales y las injusticias arbitrarias del proceso judicial, aunque también pueden introducir injusticias arbitrarias propias. Los «sumideros de responsabilidad» son una consecuencia de vivir en una sociedad más compleja, y el despliegue de la toma de decisiones algorítmica en la política pública generará muchos más.

Decisiones y tecnología

El Debate sobre la Justicia Algorítmica

Un juez, cuya autonomía está considerablemente restringida por las pautas de sentencia y límites obligatorios, puede seguir siendo el decisor final, aunque esté asistido por modelos algorítmicos. ¿Pero a quién culpamos si esos sistemas fallan o se inclinan excesivamente en una dirección u otra? Un buen ejemplo de los beneficios y dificultades es el uso del de reconocimiento facial. Aunque esta tecnología ahora casi siempre supera al juicio humano, todavía es más probable que identifique erróneamente a personas con tonos de piel más oscuros y a mujeres. ¿Quién tiene la culpa si esto lleva a un error judicial? ¿Quién debe asegurar que el software mejore mañana? Sin embargo, una persona regular, no limitada por un reglamento, también cometerá muchos errores. Y, personalmente, prefiero someterme a las injusticias ocasionales de un reglamento —que en la práctica es todo lo que es un algoritmo— antes que a la toma de decisiones humanas sin restricciones. Para los líderes, ya sean de empresas o estados, explicar lo que ha ido mal en la toma de decisiones asistida por máquinas significará poder hablar con fluidez sobre qué son los «sumideros de responsabilidad», por qué los tenemos y si deberíamos eliminarlos.

Software de reconocimiento facial

FAQ – Preguntas Frecuentes

¿Qué es un «sumidero de responsabilidad»?
Es un concepto que refiere a procedimientos, políticas y, en algunos casos, instituciones que eliminan la responsabilidad individual en el proceso de toma de decisiones.

¿Cuál es el problema con el aprendizaje automático y la responsabilidad?
Crea un «vacío de responsabilidad» donde los tomadores de decisiones humanos ya no tienen que justificar o entender las decisiones que implementan.

¿Qué es el escándalo de Windrush?
Un evento donde muchos británicos originarios de las Indias Occidentales sufrieron maltratos y algunos fueron deportados injustamente del Reino Unido.

¿Son todos los «sumideros de responsabilidad» negativos?
No. Algunos, como en los procesos de contratación, pueden evitar situaciones incómodas y proporcionar una estructura de decisión objetiva.

¿Qué papel juegan las regulaciones y las directrices en la toma de decisiones?
Intentan eliminar prejuicios y arbitrariedades, aunque pueden introducir injusticias por sí mismas.