Cuando los algoritmos mandan

Hace poco releía, en un libro de Giuliano da Empoli, la historia reciente del alcalde francés bautizado por la prensa como el “anti Waze”. Se trata de Michel Bisson, intendente de Lieusaint (“lugar sagrado” en español), una ciudad residencial, apacible y familiar, ubicada en el segundo anillo de circunvalación del Gran París. La calma de los habitantes se quebró de golpe en 2024. De un día para el otro, el algoritmo de la aplicación de tránsito Waze comenzó a desviar hacia las calles internas de Lieusaint a miles de automovilistas que viajaban hacia o desde París. Lo que antes era una zona tranquila se transformó en un corredor atestado: autos atravesando zonas escolares, plazas, hospitales y pasajes residenciales, congestionando todo a su paso.

Bisson, que no es un tecnófobo sino más bien un entusiasta de la innovación, intentó primero “ganarle” al algoritmo: cambió sentidos de calles, modificó semáforos, consultó cartógrafos locales porque ni Waze ni su controlante, Google, tienen equipos dedicados a la cartografía del área. Nada funcionó. Cuando convocó a la prensa logró repercusión internacional, pero no una solución. Recién entonces ejecutivos de la aplicación aceptaron escucharlo. Aun así, el problema persiste hoy en día.

Este episodio no es ajeno a lo que vivimos en Argentina. Por ejemplo, algo similar ocurre ahora en la ciudad de Córdoba con Uber. Esa plataforma operó durante años sin autorización municipal hasta que la presión social, sumada a un fallo judicial, obligó al Concejo Deliberante a regularla. Aun aprobada la normativa, la empresa todavía no inició el trámite de registración exigido. Es un patrón que se repite: primero llegan las plataformas, después se da la adopción masiva y recién al final, si se puede, aparece el Estado intentando ordenar el descalabro, aprobando lo que impuso la empresa extranjera.

“primero llegan las plataformas, después se da la adopción masiva y recién al final, si se puede, aparece el Estado intentando ordenar el descalabro”

Si seguimos en esta lógica, no sería extraño que mañana una empresa como Google o Apple decidiera cargar en nuestra billetera digital datos que hoy son potestad exclusiva del Estado: la identidad, la licencia de conducir, la cédula de un vehículo, el carnet de vacunación. Tiene la información, los recursos tecnológicos y la capacidad de integración para hacerlo. Y si no ponemos límites claros, nada impediría que ese tipo de funciones públicas terminen privatizadas de hecho por simple inercia tecnológica, sin que medie una decisión democrática.

No suena a ciencia ficción. Ya existen gobiernos locales que experimentan, aunque sea simbólicamente, con “secretarios” digitales basados en inteligencia artificial. También observamos cómo decenas de empresas basadas en algoritmos compiten, sin admitirlo, contra servicios estatales esenciales o directamente los reemplazan a su conveniencia.

Yo mismo soy un usuario intensivo de estas herramientas: uso Waze, Google, hago trámites por WhatsApp. La tecnología mejora mi vida. Pero también soy consciente de algo fundamental: a mis funcionarios municipales, provinciales o nacionales los elijo yo. Los puedo controlar, cuestionar o incluso sacar si lo hacen mal. No tengo esa posibilidad con una gigantesca multinacional que no abre oficinas en mi país y ni siquiera ofrece un 0800 para reclamos.

“No tengo esa posibilidad con una gigantesca multinacional que no abre oficinas en mi país y ni siquiera ofrece un 0800 para reclamos.”

Hay que decidir si preferimos una democracia imperfecta antes que una tecnocracia algorítmica sin rostro. Los algoritmos no fueron diseñados para garantizar derechos, sino para maximizar eficiencia o ganancias a cualquier costo. Y cuando fallan —como cualquier usuario de ChatGPT sabe que fallan— no existe un mecanismo institucional para exigir reparación. Imaginen por un segundo a una IA que, en lugar de equivocarse en una respuesta trivial, deja sin cobertura de PAMI a un jubilado enfermo, habilita la liberación errónea de un preso o sincroniza mal los semáforos de una avenida entera.

La tecnología no es el enemigo. El enemigo es la idea peligrosa de que, por ser más rápida y cómoda, puede reemplazar sin controles a la política democrática. Mientras los algoritmos avancen sin rendir cuentas, los Estados retrocederán. Y cuando eso ocurra, no será una falla del software: será una renuncia colectiva de la ciudadanía a gobernarse a sí misma.

La pregunta ya no es si las plataformas pueden administrar aspectos centrales de nuestra vida pública: ya demostraron que pueden. La pregunta, urgente y política, es si estamos dispuestos a cederles ese poder sin control democrático y aceptar que el rumbo de nuestra vida cotidiana quede en manos de algoritmos que nadie eligió y que nadie puede frenar.

Frente a este escenario, la política no tiene que competir contra la tecnología, sino recuperar su capacidad para orientarla. Esto implica fijar reglas claras para las plataformas, exigir transparencia sobre cómo funcionan sus algoritmos, establecer auditorías independientes, resguardar la soberanía sobre los datos públicos y crear mecanismos de apelación cuando una decisión automatizada afecta derechos. Pero también supone fortalecer al Estado: equipos técnicos propios, estándares de interoperabilidad y una visión estratégica que no delegue en empresas privadas las funciones que hacen a la vida democrática.

“Gobernar en la era digital es, sobre todo, evitar que el poder algorítmico se ejerza sin responsabilidad pública.”

La tecnología puede ayudar a mejorar la gestión; lo que no puede es reemplazar la legitimidad que solo otorgan las instituciones elegidas por la ciudadanía.