Un puñado de empleados actuales y antiguos de destacadas empresas de inteligencia artificial advirtieron que esta tecnología plantea graves riesgos para la humanidad en una carta enviada el martes 4 de junio, en la que piden a las empresas que se comprometan a ser más transparentes y a fomentar una cultura de la crítica que las haga más responsables.
La carta, firmada por 13 personas, incluidos empleados actuales y antiguos de OpenAI, Anthropic y DeepMind de Google, afirma que la IA puede exacerbar la desigualdad, aumentar la desinformación y permitir que los sistemas de IA se vuelvan autónomos y causen muertes significativas. Aunque estos riesgos podrían mitigarse, las empresas que controlan el software tienen “fuertes incentivos financieros” para limitar la supervisión, señalaron.
La medida llega en un momento en que OpenAI se enfrenta a un éxodo de personal. Muchos críticos han visto en las salidas destacadas -incluidos el cofundador de OpenAI, Ilya Sutskever, y el investigador principal Jan Leike- una reprimenda a los dirigentes de la empresa, que según algunos empleados persiguen beneficios a costa de hacer más seguras las tecnologías de OpenAI.
Daniel Kokotajlo, antiguo empleado de OpenAI, declaró que abandonó la empresa por la indiferencia de la compañía ante los riesgos de la inteligencia artificial.
“Perdí la esperanza de que actuaran con responsabilidad, sobre todo en su búsqueda de la inteligencia artificial general”, afirmó en un comunicado, en referencia a un término muy controvertido que hace referencia a ordenadores que igualan la potencia de los cerebros humanos. “Ellos y otros se han creído el planteamiento de ‘moverse rápido y romper cosas’, y eso es lo contrario de lo que se necesita para una tecnología tan potente y tan poco comprendida”.
Liz Bourgeois, portavoz de OpenAI, dijo que la empresa está de acuerdo en que “un debate riguroso es crucial dada la importancia de esta tecnología”. Los representantes de Anthropic y Google no respondieron inmediatamente a una solicitud de comentarios.
Los empleados afirmaron que, a falta de supervisión gubernamental, los trabajadores de IA son las “pocas personas” que pueden exigir responsabilidad a las empresas. Señalaron que se ven obstaculizados por “amplios acuerdos de confidencialidad” y que las protecciones ordinarias de los denunciantes son “insuficientes” porque se centran en actividades ilegales, y los riesgos sobre los que advierten aún no están regulados.
La carta pedía a las empresas de IA que se comprometieran a cumplir cuatro principios para permitir una mayor transparencia y protección de los denunciantes.
Esos principios incluyen el compromiso de no suscribir ni aplicar acuerdos que prohíban criticar los riesgos; el llamamiento a establecer un proceso anónimo para que los empleados actuales y antiguos planteen sus preocupaciones; el apoyo a una cultura de la crítica; y la promesa de no tomar represalias contra los empleados actuales y antiguos que compartan información confidencial para dar la voz de alarma “después de que otros procesos hayan fracasado”.
En diciembre, The Washington Post informó de que altos cargos de OpenAI temían represalias por parte del consejero delegado Sam Altman, advertencias que precedieron a su destitución temporal. En una reciente entrevista en podcast, Helen Toner, antigua miembro del consejo de OpenAI, afirmó que parte de la decisión de la organización sin ánimo de lucro de destituir a Altman como consejero delegado a finales del año pasado se debió a su falta de comunicación sincera en materia de seguridad.
“Nos dio información inexacta sobre el pequeño número de procesos de seguridad formales que la empresa tenía en marcha, lo que significaba que era básicamente imposible para el consejo saber lo bien que estaban funcionando esos procesos de seguridad”, dijo a “The TED AI Show” en mayo.
La carta fue respaldada por luminarias de la IA como Yoshua Bengio y Geoffrey Hinton, considerados “padrinos de la IA”, y el célebre informático Stuart Russell.
(c) 2024 , The Washington Post
Últimas Noticias
Cómo la ley fiscal de Trump puede redefinir la pelea por el control del Congreso
Demócratas y republicanos ya están usando sus efectos para definir el terreno de batalla rumbo a las elecciones de 2026
Ranking de los 50 mejores aeropuertos de Estados Unidos
Un análisis basado en experiencias de viajeros y datos revela cuáles terminales destacan en eficiencia, comodidad y servicios
¿Debería recibir una dosis de refuerzo contra el sarampión? Esto es lo que debes saber
Ante los casos de sarampión en el país, los médicos recomiendan revisar el historial de vacunas de cada ciudadano
Al menos cinco personas murieron tras el naufragio de un ferry camino a Bali
Una embarcación con más de 65 tripulantes naufragó entre Java y Bali, dejando víctimas fatales y numerosos desaparecidos, mientras equipos de rescate intensifican la búsqueda
La mayoría de las empresas ya están sintiendo el cambio climático
Recuperación tras huracanes, incendios y otros eventos extremos ha generado un gasto récord, evidenciando la magnitud del desafío para la economía y la infraestructura nacional
