(Bloomberg) -- Expertos en inteligencia artificial y líderes de la industria —incluidos Elon Musk, Stuart Russell, profesor de informática de University of California Berkeley, y el cofundador de Apple Inc. Steve Wozniak— piden a los desarrolladores que pausen el entrenamiento de modelos poderosos de IA.
Más de 1.100 personas del sector firmaron una petición solicitando una pausa de seis meses en los entrenamientos de sistemas de inteligencia artificial más potentes que la última iteración de ChatGPT de OpenAI, para permitir el desarrollo de protocolos de seguridad compartidos.
“En los últimos meses, los laboratorios de IA han estado en una carrera descontrolada para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede entender, predecir o controlar de manera confiable”, dice una carta abierta publicada en el sitio web de Future of Life Institute. “Los sistemas de inteligencia artificial potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
El llamado se produce después del lanzamiento de una serie de proyectos de IA en los últimos meses que realizan tareas humanas de manera convincente, como escribir correos electrónicos y crear arte. OpenAI, respaldada por Microsoft Corp., hizo el lanzamiento de GPT-4 este mes, una importante actualización de su chatbot impulsado por IA, capaz de contar chistes y aprobar exámenes.
Google, de Alphabet Inc., y Microsoft figuran entre las empresas que utilizan inteligencia artificial para mejorar sus motores de búsqueda, mientras que Morgan Stanley ha estado utilizando GPT-4 para crear un chatbot para sus asesores de patrimonio.
Los desarrolladores deberían trabajar con los legisladores para crear nuevos sistemas de gobierno de IA y órganos de supervisión, según la carta. Hace un llamado a los Gobiernos para que intervengan en el desarrollo de sistemas de IA si los principales actores no aceptan de manera inminente una pausa pública y verificable.
“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas poderosos y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, indica.
Yoshua Bengio, fundador y director científico del instituto canadiense de investigación de IA Mila, firmó la petición, según un comunicado del instituto. Emad Mostaque, fundador y director ejecutivo de Stability AI, también dijo que la firmó.
“Hemos visto las asombrosas capacidades de GPT-4 y otros modelos masivos. Quienes los crean han dicho que podrían ser una amenaza existencial para la sociedad e incluso para la humanidad, sin un plan para mitigar totalmente estos riesgos”, dijo Mostaque. “Es hora de dejar de lado las prioridades comerciales y hacer una pausa por el bien de todos para evaluar en lugar de correr hacia un futuro incierto”.
Future of Life Institute es una organización sin ánimo de lucro que busca mitigar los riesgos asociados con tecnologías poderosas y su mayor contribuyente es Musk Foundation.
Nota Original:Musk, Tech Leaders Urge Halt to Training Powerful AI Systems (3)
--Con la colaboración de Ed Ludlow, Dina Bass, Mark Bergen y Dana Hull.
More stories like this are available on bloomberg.com
©2023 Bloomberg L.P.
Últimas Noticias
Novartis se posiciona como la farmacéutica con mejor reputación en el ránking Merco Salud 2025
La última edición del reconocido estudio recoge la evaluación de más de 60.000 expertos sanitarios y destaca la mejora de posiciones entre los principales laboratorios, con Grifols logrando el mayor avance en la lista respecto al año anterior
Los usuarios de las gafas Ray-Ban Meta y Oakle Meta ya pueden usar comandos en español para Spotify y Apple Music
Ahora es posible controlar la reproducción de música y gestionar listas en varios servicios streaming mediante instrucciones en español, francés, alemán, italiano y portugués, gracias a la reciente actualización lanzada para los dispositivos inteligentes de Meta en múltiples países
OnePlus Pad Go 2, una tableta para el entretenimiento y la productividad con IA, funciones multidispositivo y 5G
Impulsada por OxygenOS y equipada con tecnología avanzada de inteligencia artificial, conectividad 5G, batería de alta duración y amplias funciones de productividad, la reciente propuesta de OnePlus busca captar a quienes priorizan rapidez, seguridad y flexibilidad en dispositivos móviles
Gran autonomía y seguimiento avanzado de la salud con el reloj OnePlus Watch Lite
Diseñado para máxima ligereza y compatibilidad, el nuevo dispositivo incluye pantalla de alta luminosidad, carga rápida, más de 100 modos de entrenamiento y herramientas precisas para registrar indicadores vitales, bienestar emocional y niveles de actividad física según detalles del fabricante
OnePlus 15R llega con Snapdragon 8 Gen 5, batería de 7.400 mAh y capacidades para impulsar los juegos móviles
Equipado con el último procesador de Qualcomm, nueva pantalla AMOLED y carga ultrarrápida, el modelo ha sido diseñado para optimizar el rendimiento en sesiones intensas, ofrecer innovación en fotografía y responder a las demandas de usuarios exigentes
