DeepSeek, el modelo de IA chino que desata prohibiciones globales: datos expuestos, censura política y fallos de seguridad

DeepSeek, el modelo de lenguaje desarrollado en China, ha sido objeto de prohibiciones y advertencias regulatorias en varios países tras detectarse graves vulnerabilidades de seguridad. Entre los riesgos identificados destacan la exposición de datos personales, la posibilidad de acceso estatal a la información y una alineación ideológica con los intereses del Partido Comunista Chino. Estas circunstancias han encendido las alarmas en Europa y Asia sobre la protección de datos y la soberanía tecnológica.

El principal motivo de preocupación internacional reside en la política de privacidad de DeepSeek, que obliga a almacenar toda la información personal de los usuarios en servidores ubicados en la República Popular China. Esta política afecta tanto a datos de registro como a historiales de uso, direcciones IP y datos procedentes de servicios de terceros.

Además, la empresa se reserva el derecho de utilizar tanto las entradas como las salidas de las interacciones para entrenar y mejorar su tecnología, lo que implica que cualquier información confidencial introducida por los usuarios puede ser legalmente explotada por DeepSeek.

El marco legal chino, especialmente la Ley de Seguridad Nacional, otorga al Estado amplias facultades para acceder a estos datos bajo el pretexto de proteger la seguridad nacional. El propio Ministerio de Seguridad del Estado de China ha advertido sobre los riesgos de la inteligencia artificial, subrayando que los sistemas generativos pueden recolectar y divulgar información personal sensible, lo que podría ser aprovechado tanto por el gobierno como por actores externos.

Esta situación ha provocado una reacción contundente de las autoridades regulatorias internacionales.

En enero de 2025, el organismo de protección de datos de Italia prohibió el uso de DeepSeek, alegando una falta de transparencia sobre el tratamiento de datos personales y la negativa de la empresa a someterse a la legislación europea.

Irlanda ha advertido que las garantías de protección de datos de la Unión Europea no se aplican si la información se almacena en China, mientras que Corea del Sur suspendió las nuevas descargas de la aplicación en febrero de 2025 por incumplimiento de las normativas nacionales. Taiwán también ha prohibido el uso de DeepSeek en organismos gubernamentales, citando riesgos de seguridad nacional y geopolítica.

Las deficiencias de DeepSeek no se limitan al ámbito legal. En enero de 2025, investigadores de seguridad descubrieron que una base de datos ClickHouse de la empresa estaba expuesta públicamente sin ningún tipo de autenticación, lo que permitió el acceso a más de un millón de líneas de datos internos. Entre la información comprometida se encontraban historiales de chat de usuarios en texto plano, claves API y secretos criptográficos, así como metadatos operacionales.

Los expertos han señalado que este fallo básico de seguridad podría haber facilitado el espionaje corporativo y la escalada de privilegios dentro de la infraestructura de DeepSeek.

Este incidente pone de manifiesto que la compañía ha priorizado la velocidad de desarrollo sobre la seguridad en su intento de competir con los modelos occidentales. La falta de controles básicos en la infraestructura refuerza la percepción de que DeepSeek no cumple con los estándares mínimos exigidos para el manejo de datos sensibles.

En el plano algorítmico, DeepSeek-R1 y DeepSeek-V3 han demostrado una notable debilidad frente a técnicas de manipulación y ataques de jailbreaking. Los investigadores han conseguido eludir las defensas del modelo mediante inyecciones de prompt y ataques multi-turno, logrando que el sistema genere código malicioso, herramientas de ciberataque y plantillas de ingeniería social para spear-phishing.

El modelo ha resultado vulnerable en varias categorías del Top 10 de OWASP para modelos de lenguaje, incluyendo la exposición de información sensible, la generación de código inseguro y la denegación de servicio. Además, la versión open-source de DeepSeek requiere la activación de la opción trust_remote_code=True para su despliegue, lo que permite la ejecución de código Python arbitrario y abre la puerta a la manipulación maliciosa del modelo por parte de terceros.

El uso de DeepSeek implica riesgos legales y estratégicos adicionales. El modelo, alineado ideológicamente con el Partido Comunista Chino, recibe financiación y supervisión de entidades estatales y militares. Informes internacionales han señalado que DeepSeek no actúa como una empresa neutral, sino como un instrumento estatal, canalizando datos de usuarios internacionales hacia infraestructuras controladas por empresas militares chinas.

La censura es otro aspecto central: más del 85% de las respuestas del modelo sobre temas políticamente sensibles, como la democracia o los derechos humanos, son manipuladas o suprimidas sin informar al usuario. Esta censura responde a la obligación legal de reflejar los “valores socialistas fundamentales” y apoyar la “dirección política correcta” marcada por el gobierno chino.

A esto se suman las acusaciones de apropiación ilegal de propiedad intelectual. Investigadores han detectado similitudes entre DeepSeek y modelos occidentales como Gemini y ChatGPT, y existen sospechas fundadas de que la empresa ha utilizado técnicas de destilación y exfiltración de datos para acelerar su desarrollo. Los términos de uso de DeepSeek, además, trasladan la responsabilidad de posibles infracciones de propiedad intelectual a los propios usuarios, exponiéndolos a litigios si se confirma el uso de tecnología copiada.

En cuanto a la calidad técnica, DeepSeek queda por detrás de sus competidores estadounidenses en métricas de rendimiento, coste y seguridad, según evaluaciones del Instituto Nacional de Estándares y Tecnología. A pesar de ello, su adopción ha crecido rápidamente, especialmente en China, donde cientos de hospitales han comenzado a utilizar el modelo para tareas clínicas.

Sin embargo, investigadores médicos chinos han advertido que esta implantación es “demasiado rápida y prematura”, ya que DeepSeek tiende a generar respuestas plausibles pero incorrectas, un fenómeno conocido como alucinación.

En el ámbito sanitario, este tipo de errores puede tener consecuencias graves, como diagnósticos erróneos o tratamientos inadecuados. El diseño del modelo, que expone su proceso de razonamiento interno para mejorar la eficiencia, aumenta a su vez la vulnerabilidad frente a ataques de jailbreaking, lo que agrava el dilema entre capacidad y seguridad.

El análisis de riesgos concluye que la adopción de DeepSeek resulta inviable para cualquier entidad que maneje datos personales o información confidencial, especialmente en jurisdicciones con regulaciones estrictas como el GDPR europeo. Las empresas y organismos públicos que procesen datos sensibles se exponen a incumplimientos legales, espionaje y litigios por propiedad intelectual.

Se recomienda a los gobiernos y agencias de seguridad mantener y ampliar las prohibiciones de uso de DeepSeek y tecnologías similares de origen chino para el tratamiento de datos sensibles. El sector empresarial debe extremar la cautela, implementando auditorías rigurosas y evitando modelos que requieran configuraciones de alto riesgo. Por su parte, la comunidad investigadora debe continuar evaluando la seguridad de estos sistemas, especialmente aquellos que exponen su razonamiento interno.

La combinación de una ingeniería de seguridad inmadura, una fragilidad técnica frente a ataques y una alineación ideológica con intereses estatales convierte a DeepSeek en un modelo de alto riesgo, tanto para la privacidad de los usuarios como para la integridad de las organizaciones que consideren su adopción.