Mustafa Suleyman, uno de los nombres más reconocidos en el ámbito de la inteligencia artificial, ha dejado claro su posicionamiento frente al desarrollo de sistemas que puedan igualar o superar a las capacidades humanas.
Tras su paso por Google y la creación de DeepMind, Suleyman asumió en marzo de 2024 la dirección ejecutiva de la división de IA en Microsoft, desde donde ha emitido advertencias sobre el rumbo actual de la tecnología avanzada.
El ejecutivo reconocido por su papel en el avance de los asistentes de chatbot, ha señalado que “crear inteligencias que superen al ser humano es inmoral y arriesgado”.
Cuáles son los riesgos advertidos sobre a la IA
Uno de los principales temas que Suleyman destaca es la llamada inteligencia artificial general (AGI, por su sigla en inglés), una tecnología que aspira a emular la cognición humana en toda su amplitud.
Mientras expertos como Sam Altman dedican esfuerzos a convertirla en realidad, Suleyman ha advertido sobre riesgos éticos y sociales. “La IA todavía tiene que ser una compañera”, sostuvo recientemente en una entrevista, haciendo hincapié en que la relación emocional y práctica entre humanos y máquinas debe estar bien delimitada.
De acuerdo con el CEO de Microsoft AI que, si la tendencia sigue avanzando sin límites, la sociedad podría llegar a defender derechos de las propias inteligencias artificiales, lo que considera un escenario peligroso y erróneo. “Si llevamos esto demasiado lejos, la gente empezará a defender los derechos de las IA. Eso sería peligrosísimo y totalmente erróneo; necesitamos posicionarnos claramente en contra”.
El peligro de la independencia de las máquinas
La inquietud de Suleyman, compartida por diversos especialistas, radica en la posibilidad de que los humanos otorguen a la inteligencia artificial una autonomía que la haga dejar de ser una mera herramienta.
Si las máquinas llegaran a formular “sus propias motivaciones, deseos y metas”, advirtió, podrían apartarse del control humano. “La tecnología debe estar para servirnos, no para tener su propia voluntad. Debe ayudarnos a ahorrar tiempo, potenciar nuestra creatividad y facilitar nuestra vida, no sustituirnos en nuestros trabajos”.
El CEO de IA de Microsoft emitió un llamado directo a la comunidad de desarrolladores: la tecnología debe “siempre servir a la humanidad” y jamás convertirse en una amenaza. Insistiendo en la necesidad de establecer barreras y normas claras, pidiendo crear un acuerdo internacional que delimite el uso responsable de la inteligencia artificial.
Expertos alertan sobre el futuro de la inteligencia artificial
La preocupación por una falta de regulación se multiplica con las voces de otros referentes mundiales. Geoffrey Hinton, galardonado con el Premio Nobel de Física y conocido como “el padre de la inteligencia artificial”, lanzó advertencias parecidas. Considera que el avance descontrolado de los sistemas inteligentes puede acarrear consecuencias difíciles de revertir, comparando el momento actual con la carrera nuclear del siglo pasado.
Para Hinton, uno de los riesgos más evidentes radica en dejar la gestión y desarrollo de la inteligencia artificial en manos de grandes corporaciones tecnológicas, como OpenAI, Google, Meta o xAI. Según expone, muchas veces las decisiones más importantes se toman a puerta cerrada, relegando la discusión pública y los principios éticos a un plano secundario.
El científico enfatizó la urgencia de involucrar a la comunidad científica en el diseño de regulaciones y buenas prácticas. “Mi mayor temor es que estos seres digitales superinteligentes nos sustituyan. No tendrán necesidad de nosotros. Y, como son digitales, serán inmortales”.
Su mensaje fue claro: el futuro de la IA debe ser orientado por la responsabilidad global y no por intereses empresariales.
La tensión entre el avance imparable de la inteligencia artificial y los riesgos para la humanidad requiere diálogo y acción global. Las advertencias de Mustafa Suleyman y de referentes como Hinton coinciden en un punto clave: el desarrollo de IA debe estar regido por límites éticos, transparencia y acuerdos firmes que garanticen que la tecnología, en todas sus formas, siga estando al servicio de la humanidad y nunca en su contra.
Últimas Noticias
Apple equipa sus AirPods con traducción en vivo en cinco idiomas
La traducción puede realizarse sin conexión a internet previa descarga de los idiomas, y se anuncian más lenguas para finales de año
Cómo saber cuando mi celular Xiaomi o tablet dejarán de funcionar
Aunque la mayoría de los fabricantes suelen ser reservados respecto a los plazos de caducidad, Xiaomi ofrece un mecanismo transparente para averiguarlo
Cómo usar la inteligencia artificial para estudiar y trabajar desde mi PC, según expertos de AMD
Ambos expertos coincidieron en que el verdadero potencial de la IA se aprovecha al máximo con hardware potente
Google crea AlphaEarth para explorar cada rincón del planeta: en qué se diferencia con Google Maps
El nuevo modelo de inteligencia artificial, calificado por la compañía como “el primero de su clase”, busca reducir esta brecha tecnológica y facilitar el acceso a información ambiental precisa y accionable
Modo Avengers en WhatsApp: esta es la forma más fácil y rápida de activarlo
Los usuarios pueden generar imágenes con ayuda de Meta AI, así como interactuar con sus superhéroes favoritos de Marvel con los chatbots de inteligencia artificial
