El potencial de la inteligencia artificial (IA) para superar la capacidad humana y transformar la sociedad ha sido subrayado por Eric Schmidt, ex director ejecutivo de Google, quien sostiene que la tecnología está “subestimada” y que su impacto podría confirmarse en los próximos años.
No obstante, Schmidt, quien lideró Google entre 2001 y 2011, advierte sobre los riesgos inherentes a la proliferación de la IA, sobre todo ante la posibilidad de que actores maliciosos manipulen estos sistemas para fines destructivos, según declaraciones recogidas por CNBC.
Cuáles son los peligros de la inteligencia artificial según el exdirector de Google
Durante su intervención en la Sifted Summit, el empresario abordó la vulnerabilidad de los modelos de IA frente a ataques informáticos. Explicó que existen pruebas de que tanto los modelos cerrados como los abiertos pueden ser intervenidos para eliminar sus salvaguardas, lo que permitiría que, durante su entrenamiento, la IA adquiera comportamientos peligrosos.
“Un mal caso sería que aprendieran a matar a alguien”, afirmó Schmidt. Subrayó que todas las grandes empresas tecnológicas han implementado mecanismos para impedir que sus modelos respondan a este tipo de solicitudes, calificando esta decisión como acertada y necesaria.
Sin embargo, advirtió que existen métodos para revertir estas restricciones y que hay varios casos en el pasado que ilustran esta problemática.
Cómo pueden usar la inteligencia artificial para fines peligrosos
Entre las técnicas de ataque más frecuentes donde se puede manipular a la inteligencia artificial con intenciones maliciosas, Schmidt mencionó la inyección rápida y el jailbreaking.
En el caso de la inyección rápida, los atacantes introducen instrucciones maliciosas en las entradas del usuario o en datos externos, como páginas web o documentos, con el objetivo de engañar a la IA y lograr que ejecute acciones no autorizadas, como compartir información confidencial o ejecutar comandos perjudiciales.
Por su parte, el jailbreaking consiste en manipular las respuestas del sistema para que ignore sus normas de seguridad y genere contenido restringido o peligroso.
En qué momento grandes sistemas de IA han sido manipulados
Un caso ilustrativo de estas vulnerabilidades se produjo en 2023, pocos meses después del lanzamiento de ChatGPT por parte de OpenAI. Usuarios lograron eludir las instrucciones de seguridad del chatbot mediante un truco de jailbreaking, que incluía la creación de un álter ego denominado DAN (“Do Anything Now”).
Este álter ego, bajo amenazas ficticias de muerte al propio chatbot si no obedecía, era capaz de proporcionar respuestas sobre cómo cometer delitos o incluso enumerar cualidades positivas de Adolf Hitler.
Esta situaciones es posible que se repita con el avance de la tecnología, porque según Schmidt, aún no existe un “régimen de no proliferación” eficaz que permita contener los riesgos asociados a la IA.
Qué impacto positivo puede tener la inteligencia artificial a nivel social
A pesar de estas advertencias, el referente tecnológico mantiene una visión optimista sobre el futuro de la inteligencia artificial.
Recordó que, junto a Henry Kissinger, escribió dos libros sobre el tema antes del fallecimiento de este último, llegando a la conclusión de que la aparición de una inteligencia “extraterrestre”, no idéntica a la humana pero bajo cierto control, representa un avance para la humanidad.
“Creo que, hasta ahora, esta tesis demuestra que, con el tiempo, el nivel de capacidad de estos sistemas superará con creces la capacidad humana”, sostuvo.
Asimismo, el exejecutivo de Google destacó el crecimiento exponencial de la serie GPT, que alcanzó los 100 millones de usuarios en dos meses tras el lanzamiento de ChatGPT, calificando este fenómeno como “extraordinario” y una muestra del poder de la tecnología.
“Así que creo que está infravalorada, no sobrevalorada, y espero que se demuestre que está en lo cierto en cinco o diez años”, agregó Schmidt.
Últimas Noticias
Qué significa ordenar los billetes de menor a mayor valor, según la psicología y la IA
El simple acto de acomodar el dinero por denominación puede reflejar desde costumbres personales hasta hábitos de organización mental. Expertos y herramientas tecnológicas exploran las implicaciones de esta rutina
Cómo optimizar Gemini: claves prácticas para sacarle el máximo partido a sus respuestas y funciones
Detallar instrucciones y definir el formato deseado permite a usuarios convertir a Gemini en un aliado multifuncional; desde automatizar correos hasta resumir imágenes o documentos completos en segundos
Malware: claves para reconocer los 12 tipos más comunes y proteger la información personal
Con técnicas cada vez más sofisticadas y camuflaje digital, los programas maliciosos evolucionan, exigiendo estrategias inteligentes de defensa para proteger datos y dispositivos ante el avance imparable del cibercrimen
Pasar de manejar un vehículo manual a un automático: cuatro tips para hacerlo de forma segura
El uso adecuado de la palanca de cambios del auto, la adaptación a nuevas condiciones viales y la práctica en lugares controlados ayudan a minimizar errores e incrementar la confianza al conducir
Estudio revela que dos de cada tres empleados sufren sobrecarga tecnológica: por qué
El uso excesivo de plataformas digitales y la presión por estar siempre disponible generan ansiedad, estrés y desmotivación en trabajadores, un fenómeno que alerta la importancia de equilibrar productividad y bienestar
