El futuro será inteligente, pero inconsciente

Hace más de tres años se publicó el primer modelo de ChatGPT, y cambió nuestra forma de buscar información. Mientras para algunos usuarios la relación con la IA es superficial, para otros se volvió indispensable, adoptada con una confianza ciega que tiene un antecedente alarmante.

Hace pocos años, subir fotos a las redes parecía inofensivo. Hoy Meta enfrenta demandas en 29 estados de EE.UU. por ocultar el daño psicológico que Facebook e Instagram causaban en niños y adolescentes. En septiembre, la CNBC anunció un acuerdo de 17 mil millones de dólares en 10 años, que obliga a la red a sumar controles parentales y restricciones horarias para menores.

El caso de Meta debería servir como advertencia. Una ceguera similar puede repetirse con la IA. The Economist reveló que casi uno de cada cinco estadounidenses de 18 a 29 años dice tener una “amistad personal continua” con un chatbot, mientras China ya limita rasgos humanos en sus bots para frenar la dependencia emocional. Si a Facebook le llevó 22 años admitir que dañaba a los niños, ¿cuánto tardarán las empresas de IA en admitir su propio lado B?

La diferencia es que los efectos de la Inteligencia Artificial trascienden lo individual: prometen alterar de raíz el sistema financiero, educativo y productivo del mundo.

Dos dinámicas opacan ese riesgo: la carrera por la Inteligencia Artificial General entre laboratorios como OpenAI, Anthropic y xAI, y la disputa geopolítica entre Estados Unidos y China por usar estos modelos con fines militares. El usuario queda en segundo plano, mientras la ética se vuelve moneda de cambio entre gobiernos y laboratorios de frontera.

Conviene distinguir dos niveles de IA: la de uso público, que predice textos bajo límites éticos y legales, y los modelos internos de las big tech, mucho más potentes y libres de esas restricciones, usados para definir perfiles crediticios, precios dinámicos o vehículos autónomos.

Es innegable que estos sistemas ya superan la capacidad humana en matemática, programación o ajedrez. Pero ante tanta inteligencia, ¿qué conciencia la regula?

La inteligencia es la habilidad de perseguir objetivos y superar obstáculos. La conciencia, en cambio, es el componente que guía esa capacidad en el ser humano. Los modelos actuales la simulan de manera extraordinaria, pero carecen por completo de ella, un riesgo crítico a medida que los agentes autónomos se multiplican.

Tener conciencia implica poder sentir: afecto, placer, miedo o dolor. La prueba definitiva de la condición moral es la capacidad de sufrir. Al no poder padecer, los agentes de IA no son sujetos morales.

Y este dilema ya empieza a tomar forma concreta. En junio de 2026, el presidente Javier Milei escribió una nota en el Financial Times a favor de dar personería jurídica a empresas gestionadas íntegramente por IA. La propuesta abrió un debate con el historiador Yuval Noah Harari sobre los riesgos de otorgar estatus legal a entidades artificiales.

Se presenta como desregulación e innovación, pero el riesgo es enorme: una IA superinteligente con derechos podría desplazar a los humanos de la cima de la jerarquía social.

¿Cómo sancionar a una entidad que no puede sufrir? Un directivo tradicional está limitado por su reputación y el temor a quebrar. Una corporación autónoma, como advirtió Harari, podría operar sin esas ataduras, financiar campañas políticas y asegurar regulaciones a su favor, sin nadie que le discuta su estatus.

Este es el verdadero desafío de la próxima década. Cada salto tecnológico exige reflexión, pero el debate pierde sentido si llega a destiempo: mientras el mundo recién reacciona a las redes sociales, la IA avanza a ritmo sistémico, muy inteligente, pero sin conciencia. Antes de discutir si merece derechos, conviene pensar el impacto que ya tiene en nuestras comunidades.

Dar estatus legal a la IA podría ser el atajo para que OpenAI, Anthropic y xAI posterguen su rendición de cuentas, repitiendo los errores que el caso Meta dejó expuestos.

El autor es especialista en negocios y política y profesor de la Facultad de Ciencias Empresariales de la Universidad Austral