El algoritmo también decide quién se conecta

Cada vez que una persona interactúa con la inteligencia artificial (IA) para resolver una consulta, presentar un reclamo o contratar un servicio, es probable que un algoritmo participe en la decisión. Y, la mayoría de veces, sin que el usuario sepa cómo funciona.

La presencia creciente de sistemas de IA en actividades cotidianas está trasladando a los algoritmos decisiones que antes dependían exclusivamente de la intervención humana. En sectores esenciales como las telecomunicaciones, esta transformación abre importantes oportunidades de eficiencia, pero también plantea interrogantes sobre transparencia, supervisión y protección de los derechos de los usuarios.

El problema no es la inteligencia artificial en sí misma. El verdadero desafío está en la falta de transparencia sobre cómo operan estos sistemas automatizados y bajo qué criterios toman decisiones que afectan directamente a los usuarios.

El Reglamento Europeo de Inteligencia Artificial (AI Act), aprobado en 2024, ya advertía sobre ello al señalar que el acceso a servicios esenciales, como las telecomunicaciones, requiere especial atención cuando intervienen sistemas de IA.

Uno de los espacios donde esta problemática ya se hace visible es la atención al usuario. Muchas empresas operadoras utilizan sistemas predictivos para resolver reclamos vinculados a facturación, averías o solicitudes de compensación. La promesa es eficiencia y rapidez. Sin embargo, surge una pregunta inevitable: ¿qué ocurre cuando el sistema rechaza automáticamente un reclamo sin explicar las razones detrás de la decisión?

Si el usuario desconoce los criterios aplicados por el algoritmo, o si ni siquiera la propia empresa puede explicarlos adecuadamente, su capacidad de cuestionar esa decisión se reduce considerablemente.

Otro frente especialmente delicado es el uso de inteligencia artificial para evaluar riesgo crediticio antes de aprobar un servicio postpago o financiar un equipo. Los algoritmos pueden aprender sesgos históricos o incorporar patrones discriminatorios derivados de sus modelos de entrenamiento. Variables como ubicación geográfica, hábitos de consumo o determinados perfiles demográficos podrían terminar funcionando como mecanismos indirectos de exclusión.

No es casual que el AI Act considere de “alto riesgo” este tipo de sistemas cuando son utilizados para decidir el acceso a servicios esenciales.

Pero quizás el ámbito más invisible sea el relacionado con la gestión de redes y calidad del servicio. Hoy la IA ya permite optimizar el tráfico de datos en tiempo real y distribuir recursos de manera más eficiente.

El problema aparece cuando esos criterios dejan de ser exclusivamente técnicos y pasan a responder a variables comerciales o predictivas desconocidas para el usuario.

No creo que la solución pase por frenar el avance tecnológico. La inteligencia artificial puede mejorar significativamente la eficiencia del sector y ampliar el acceso a servicios públicos. Pero precisamente por ello necesitamos exigir mayor transparencia algorítmica.

Las empresas operadoras deben poder explicar cómo funcionan los sistemas que utilizan para adoptar decisiones relevantes. Y el regulador —en el caso del Perú, OSIPTEL— debe contar con herramientas suficientes para fiscalizar que esas decisiones respondan a criterios objetivos y no discriminatorios.

Porque en un servicio tan esencial como las telecomunicaciones, la eficiencia no puede construirse sacrificando transparencia.