Un grupo de científicos pioneros de la inteligencia artificial (IA) lanzó una advertencia global sobre los potenciales riesgos catastróficos que el rápido desarrollo de esta tecnología podría acarrear. En su declaración más reciente, llaman a la creación de una autoridad internacional que supervise y regule la IA, destacando la necesidad urgente de actuar ante posibles desenlaces peligrosos.
La reunión de científicos de múltiples naciones, entre ellas Estados Unidos, China, Canadá y Singapur, tuvo lugar en septiembre en Venecia, Italia como parte del tercer encuentro de los Diálogos Internacionales sobre la Seguridad de la IA, organizados por el Safe AI Forum.
Según informó The New York Times, este foro es un proyecto de Far.AI, un grupo de investigación sin fines de lucro con sede en Estados Unidos.
Gillian Hadfield, académica legal y profesora de ciencia computacional y gobierno en la Universidad Johns Hopkins, expresó su inquietud sobre la capacidad actual de las naciones para manejar una posible catástrofe. La declaración fue firmada también por varios laureados con el Premio Turing, como Yoshua Bengio, Andrew Yao y Geoffrey Hinton.
Las preocupaciones de estos científicos se centran en la posibilidad de que la tecnología que ayudaron a desarrollar supere las capacidades humanas, lo que podría resultar en “pérdida de control humano o uso malicioso de estos sistemas de inteligencia artificial, conduciendo a resultados catastróficos para toda la humanidad”, informó The New York Times.
En el encuentro en Venecia también participaron destacados representantes de instituciones de investigación en IA de China, algunas financiadas por el estado y que asesoran al gobierno. La ex presidenta de Irlanda, Mary Robinson, y Fu Ying, ex funcionaria del Ministerio de Relaciones Exteriores de China, también brindaron su apoyo al esfuerzo.
Haciendo referencia a eventos históricos, Bengio comparó la situación con los diálogos entre científicos estadounidenses y soviéticos durante la Guerra Fría, que ayudaron a evitar una catástrofe nuclear. Él mencionó en una entrevista con The New York Times que “en ambos casos, los científicos sintieron la obligación de cerrar la caja de Pandora abierta por su investigación”.
El creciente descontento entre Estados Unidos y China en su competencia tecnológica complica aún más la cooperación. “Ambos países desconfían enormemente de las intenciones del otro”, dijo Matt Sheehan, becario en la Fundación Carnegie para la Paz Internacional, citado por The New York Times. “Están preocupados de que si frenan debido a preocupaciones de seguridad, eso permitirá que el otro avance rápidamente”, agregó.
The Times también destacó que en los últimos meses han surgido potentes tecnologías de IA en China, a la par de las estadounidenses. Mientras tanto, ambos gobiernos han dado pasos significativos en torno a la regulación.
En julio, un cónclave del Partido Comunista Chino propuso un sistema para regular la seguridad de la IA, y recientemente un grupo influyente de normas técnicas en China publicó un marco de seguridad para dicha tecnología.
En Estados Unidos, el año pasado el presidente Joe Biden firmó una orden ejecutiva que obliga a las empresas a informar al gobierno federal sobre los riesgos potenciales que sus sistemas de IA pudieran suponer, como la creación de armas de destrucción masiva o su posible uso por parte de terroristas.
Durante una reunión, Biden y el líder chino Xi Jinping acordaron que sus funcionarios discutirían la seguridad de la IA, con la primera reunión teniendo lugar en Ginebra.
Últimas Noticias
Tres destinos en Nueva York donde la nieve se convierte en aventura
Las localidades cercanas a la ciudad cuentan con actividades invernales y entornos naturales que permiten alejarse de la rutina, brindando espacios aptos para familias y visitantes interesados en la fotografía de paisajes
Chicago presenta plan millonario para reconvertir el Soldier Field sin los Bears
Un proyecto de USD 630 millones busca transformar el estadio en un centro de espectáculos masivos, mientras la franquicia negocia su salida y la ciudad intenta mantener la relevancia del recinto
El FBI alerta sobre estafas con deepfakes que suplantan a líderes religiosos en Florida
La proliferación de videos manipulados con inteligencia artificial ha provocado que fieles sean engañados por perfiles falsos de pastores, desencadenando advertencias de autoridades y expertos en ciberseguridad en el estado
La primavera llega a Nueva York: la fecha clave para ver la ciudad florecer
La transición estacional ocurrirá cuando el Sol cruce el ecuador terrestre, ocasionando jornadas de igual duración diurna y nocturna, lo que influirá en los patrones climáticos y el ciclo natural en diversas regiones del país
Un juez federal declara en desacato al gobierno de Estados Unidos por traslado indebido de migrante mexicano
Una sentencia en Minnesota responsabiliza al Departamento de Seguridad Nacional y a ICE por desobedecer una orden judicial y trasladar a Fernando Gutiérrez Torres fuera del estado, intensificando el escrutinio sobre las prácticas migratorias federales
