Microsoft prohíbe el uso de Claude Fable a sus empleados

Microsoft bloqueó de forma temporal Claude Fable 5 para sus empleados en la versión interna de GitHub Copilot por dudas sobre la retención de datos que exige el nuevo modelo de Anthropic, una decisión sensible para una compañía que maneja información confidencial de clientes y cuya parte legal cuestiona cómo se tratarían esos contenidos.

La desactivación del modelo en el selector interno de GitHub Copilot fue informada por Tom Warren en The Verge a partir de fuentes cercanas a la empresa. Según The Verge, el resto de los modelos de Claude siguen disponibles bajo la política de Retención Cero de Datos.

El cambio adquiere más peso porque Fable 5 fue lanzado este miércoles como el primer modelo de clase Mythos disponible para el público general. Anthropic explica en su web que conserva los prompts y las respuestas durante 30 días, y que ese plazo puede ampliarse hasta dos años si detecta una violación de su política de uso.

La preocupación de Microsoft se concentra en el nuevo esquema aplicado por Anthropic a ese modelo. El departamento legal de la tecnológica ve con recelo el tratamiento de los datos, en especial por la posibilidad de que los empleados compartan información reservada mientras interactúan con una IA de esa categoría.

Qué restricciones de seguridad integra Claude Fable 5

Anthropic sostiene que Claude Fable 5 y Claude Mythos 5 comparten el mismo modelo base, pero que Fable 5 incorpora restricciones de seguridad para permitir su uso general.

Se debe considerar que las salvaguardas comerciales de Fable 5 no están aplicadas en Claude Mythos 5. Según Anthropic, ese otro modelo solo está disponible para un grupo muy limitado de organizaciones que están probando sus capacidades en áreas como la ciberseguridad.

Según la compañía, esas medidas buscan detectar patrones de uso indebido en un sistema de clase Mythos. La empresa detalla que esos controles requieren conservar temporalmente instrucciones y resultados.

La compañía aclara que detectar amenazas como el jailbreaking de tipo “Best-of-N”, que consiste en enviar cientos de variaciones leves de un mismo prompt para intentar eludir barreras, exige “retener temporalmente las instrucciones y los resultados para que puedan ser analizados en conjunto, en lugar de uno a la vez”.

La novedad afectó sobre todo a las cuentas empresariales que operaban con Retención Cero de Datos y a quienes acceden a través de plataformas en la nube como AWS Bedrock, Google Cloud o Microsoft Foundry. Para los usuarios de los planes gratuitos, Pro y Max, los datos ya se almacenaban antes y continúan almacenándose ahora.

Cuáles son las prestaciones de Claude Fable 5, el nuevo modelo de Anthropic

El lanzamiento de Fable 5 estuvo acompañado por cifras que lo ubican entre los sistemas más potentes de su segmento. En evaluaciones de terceros, se posiciona como el modelo más avanzado del mercado en ingeniería de software, análisis financiero complejo, visión computacional e investigación científica.

La empresa Stripe, que tuvo acceso anticipado, informó que el modelo comprimió meses de trabajo en días. En una base de código Ruby de 50 millones de líneas, completó en un día una migración que, según el texto, habría requerido a un grupo completo más de dos meses de trabajo manual.

Asimismo, la plataforma de análisis Hex informó que Fable 5 fue el primero en superar el 90% en su benchmark central de tareas analíticas complejas. Ese resultado representó, según el texto fuente, un salto de 10 puntos frente a Opus 4.8.

En investigación científica, Anthropic afirma que con Mythos 5 sus expertos internos en diseño de proteínas aceleraron aspectos del desarrollo de fármacos aproximadamente 10 veces.

El modelo ejecutó de forma autónoma tareas que normalmente realiza un científico: elección de sitios de unión, selección y ejecución de herramientas de diseño, y recuperación ante errores.