Anthropic añade las citas en Claude para verificar la información que ofrece y reducir las alucinaciones

Anthony implementa citas en sus modelos Claude para mejorar la verificación de fuentes y ofrecer respuestas más precisas, disponibles en la API de Anthropic y en Vertex AI de Google Cloud

Guardar

Anthropic ha incorporado la posibilidad de incluir citas que posteriormente referirá el modelo Claude en sus respuestas, una forma de reforzar la información que ofrece y de reducir las alucinaciones.

Las citas son una forma de verificar las fuentes que utiliza Claude para generar sus respuestas. Esta novedad, disponible a través de la API de Anthropic, permitirá al modelo "proporcionar referencias detalladas a las frases y pasajes exactos que utiliza para generar respuestas, lo que genera resultados más verificables y confiables".

Como explica Anthropic en su blog oficial, las citas pueden ayudar a identificar los puntos clave en los resúmenes de textos y a ofrecer respuestas más detalladas a preguntas complejas.

Los desarrolladores deben, primero, facilitar la modelo la fuente documental original y su contexto, para que pueda analizarlo y dividirlo en frases y párrafos, y mostrar estas citas en las respuestas. "El texto citado hará referencia a los documentos fuente para minimizar las alucinaciones", añade la compañía.

Las citas están disponibles en los modelos Claude 3.5 Sonnet y Claude 3.5 Haiku en la API de Anthropic y en Vertex AI de Google Cloud.