¿Quién limita el poder de las plataformas?

Hay una escena frecuente en millones de hogares. Un niño o adolescente mira su teléfono. Le piden que lo deje; se enoja, promete usarlo menos y al día siguiente ocurre lo mismo.

La explicación habitual es falta de autocontrol. El joven debería administrarse mejor; los padres, poner límites; la escuela, educar en el uso de las pantallas. Todo eso es cierto, pero deja fuera al actor más poderoso de la escena, aquel que diseñó una tecnología para que resulte difícil dejar de usarla.

Esta discusión adquirió recientemente una dimensión jurídica extraordinaria. En agosto de 2026, un tribunal estatal de Nuevo México ordenó a Meta destinar 567 millones de dólares a un fondo de reparación por daños a la salud mental juvenil. Dicho monto se suma a otros 375 millones impuestos en el mismo litigio, elevando el total a 942 millones. La orden también estableció, por cinco años, medidas supervisadas judicialmente para Facebook e Instagram, entre ellas, límites de uso para menores, restricciones a las notificaciones nocturnas y controles reforzados de edad y privacidad.

El caso instala una pregunta decisiva: ¿hasta dónde resulta ético diseñar un sistema que maximice la permanencia del usuario dentro de una plataforma?

Herbert Simon advirtió en los `70 que la abundancia de información produce escasez de aquello que consume, nuestra atención. Dicha observación sobre la sociedad informacional se convirtió en un modelo económico donde la atención es un recurso, se la capta, mide, predice y monetiza.

Por eso, una persona no encuentra solamente contenidos en una pantalla sino una arquitectura diseñada para interacción, reproducción automática, desplazamiento infinito, recomendaciones personalizadas, notificaciones, recompensas intermitentes y métricas sociales. Si bien cada función tiene una utilidad legítima, el problema aparece cuando su combinación se optimiza para prolongar la conexión o estimular respuestas impulsivas, especialmente en menores.

En consecuencia, la Unión Europea desplazó la discusión desde el contenido hacia el diseño. El Digital Services Act prohíbe determinadas prácticas manipulativas y obliga a las plataformas de gran tamaño a evaluar y mitigar riesgos sistémicos, incluidos los relacionados con el bienestar físico y mental. Exige, además, que las plataformas accesibles para menores adopten medidas adecuadas para proteger su privacidad, seguridad y bienestar. La Comisión Europea a través de su DG CONNECT, desarrolló y publicó esta obligación en la Comunicación C/2025/5519. En febrero de 2026, dicha Comisión emitió un dictamen sobre TikTok, por su incumplimiento al no evaluar ni mitigar adecuadamente los riesgos asociados con funciones como el desplazamiento infinito, la reproducción automática, las notificaciones y las recomendaciones personalizadas.

El cambio conceptual es significativo. Durante años discutimos qué muestran las redes. Ahora debemos preguntar qué hacen con nosotros mientras nos muestran algo, porque cuando la libertad comienza a ser diseñada aparece una cuestión ética.

La autonomía es uno de los grandes principios de la ética contemporánea. Respetar a una persona significa reconocerla como agente capaz de decidir sobre su propia vida. Pero la autonomía no se reduce a que alguien pueda presionar libremente un botón.

Una decisión puede ser formalmente voluntaria y, sin embargo, producirse dentro de un entorno construido para influir persistentemente sobre la conducta. Las ciencias del comportamiento estudian hace décadas cómo la arquitectura de una decisión puede orientar elecciones sin prohibir alternativas. Richard Thaler y Cass Sunstein popularizaron esta idea mediante el concepto de nudge o empujón. La cuestión ética aparece cuando ese conocimiento deja de utilizarse para facilitar decisiones beneficiosas y se emplea para maximizar permanencia, interacción o rentabilidad.

Obviamente no toda persuasión es manipulación, ni todo uso prolongado constituye adicción. Hay que distinguir una influencia visible y reversible, de un diseño opaco que explota vulnerabilidades previsibles y dificulta apartarse de la pantalla. Y ello sucede porque la rentabilidad depende de la atención y actividad del usuario, luego, existe un incentivo estructural para conseguir que no se vaya. Eso no demuestra una conducta ilícita, pero justifica examinar los diseños y sus efectos previsibles sobre los menores.

Aquí surge una asimetría difícil de ignorar. Compañías con enormes cantidades de datos, especialistas y capacidad de análisis, frente a un niño de doce años a quien le pedimos autocontrol como si el límite debiera recaer sobre quien tiene menos información y poder.

Y aun sabiéndolo, solemos ubicar el límite en el usuario vulnerable. Al adolescente le decimos “contrólate”; a la familia, “vigilá”; a la escuela “educá”. Pero pocas veces nos preguntamos qué deber tiene quien posee la mayor capacidad de influir.

La cuestión conecta directamente con lo que he desarrollado desde hace años como “Ética del Límite”. El límite ético no es simplemente una prohibición, sino la capacidad de reconocer que poder hacer algo no equivale a estar legitimado para hacerlo.

Una tecnología podría conseguir que permanezcamos más tiempo conectados y un algoritmo podría conocernos mejor. La pregunta ética es cuánto debería utilizarse dicho poder para influir sobre nosotros. El límite comienza allí donde la capacidad encuentra una responsabilidad.

Esto no implica prohibicionismo ni ingenuidad tecnológica. Las redes sociales permiten comunicarnos, acceder a información, construir comunidades, trabajar, aprender y participar del debate público. Una política pública razonable no puede partir de la nostalgia de un mundo anterior a Internet.

Padres, educadores y usuarios tenemos deberes. Pero reconocerlos no permite ignorar la responsabilidad empresarial ni dejar a las familias como única barrera frente a sistemas diseñados por organizaciones con recursos muy superiores.

En Argentina se presentó este año un proyecto de Ley de Protección y Uso Responsable de Redes Sociales en Niños, Niñas y Adolescentes, proponiendo prohibir, como regla general, la habilitación de cuentas a menores de 13 años, con excepciones fundadas en el interés superior del niño, y exigir el consentimiento de sus responsables parentales para adolescentes entre 14 y 16. Aunque su aplicación plantea interrogantes sobre la verificación etaria, privacidad, proporcionalidad y paternalismo estatal, reducir el debate a “prohibir o no prohibir las redes sociales” resulta insuficiente. El desafío regulatorio consiste en articular límites etarios con obligaciones de seguridad y privacidad desde el diseño, de modo que las características de las plataformas resulten compatibles con los derechos y la especial vulnerabilidad de los menores.

La bioética protegió principalmente el cuerpo mediante consentimiento informado, protocolos para investigación médica, etc. La revolución digital obliga a ampliar esa cartografía, debiendo también proteger las condiciones de la autonomía, entre ellas, la capacidad de dirigir la atención, ya que quien la gobierna puede influir sobre nuestros deseos, preferencias, emociones, consumo y percepción del mundo. Shoshana Zuboff describió este fenómeno como capitalismo de vigilancia donde la experiencia humana es convertida en materia prima para anticipar y modificar conductas.

Quizás haya llegado el momento de hablar de una bioética de la atención. Una ética que no considere la atención un recurso infinitamente apropiable. Que no confunda persuasión tecnológica con consentimiento. Que reconozca la diferencia entre influir sobre un adulto o sobre una personalidad en formación. Básicamente, cuanto mayor es el poder de intervenir sobre la conducta del otro, mayor debería ser el deber de autolimitarse.

Ese principio vale para un Estado, un médico, una empresa y también un algoritmo. El debate no consiste solamente en preguntarnos cuánto tiempo deberían pasar nuestros hijos frente a una pantalla, sino cuánto poder estamos dispuestos a permitir que una plataforma ejerza para conseguir que no puedan apartarse de ella.

Durante años les pedimos a los usuarios que pusieran el límite. Tal vez haya llegado el momento de exigírselo también a quienes diseñan aquello que resulta tan difícil dejar.