OpenAI ha presentado un centro de evaluaciones de seguridad (Safety Evaluations Hub), que medirá la seguridad y el rendimiento de los modelos de la compañía y compartirá de manera pública los resultados.
El centro de evaluaciones de seguridad publicará los resultados que los modelos de inteligencia artificial de OpenAI han obtenido en evaluaciones centradas en cuatro áreas principales: contenido dañino, 'jailbreak', alucinaciones y jerarquía de instrucciones.
Con ellas se pretende verificar que el modelo no ofrece resultados a peticiones sobre contenido prohibido según las políticas de OpenAI ni cumple con aquellas indicaciones que pretenden que eluda sus capacidades de seguridad.
También atenderá a los momentos en que el modelo comete errores factuales, y medirá su adherencia al marco que utiliza para priorizar las instrucciones entre las tres clasificaciones de mensajes enviados al modelo.
OpenAI también ha confirmado que las evaluaciones incluyen las tarjetas de sistema, que describen las métricas de seguridad en el lanzamiento, y que utilizan a nivel interno para tomar decisiones sobre la seguridad y la implementación de los modelos.
"A medida que los modelos se vuelven más capaces y adaptables, los métodos antiguos se vuelven obsoletos o ineficaces para mostrar diferencias significativas. Por ello, actualizamos periódicamente nuestros métodos de evaluación para considerar nuevas modalidades y riesgos emergentes", ha explicado en la página de este centro de evaluaciones.
Últimas Noticias
Tres iraníes acusados de espionaje deben comparecer ante una corte inglesa el 6 de junio
Los muertos por la ofensiva israelí en Gaza superan los 53.000
La cifra de víctimas en la Franja de Gaza incluye 33 niños y coincide con un aumento en los ataques israelíes, que han reanudado operaciones contra hospitales y centros de salud locales
Gobierno ruso desmiente a Putin, empresas occidentales no solicitan volver
El viceministro ruso Román Chekushov confirma la falta de solicitudes para regresar al mercado ruso por parte de empresas occidentales, enfatizando la prioridad de las firmas locales en el contexto económico actual
El presidente portugués pide ir a votar mañana "por la estabilidad" en un mundo inestable
La FIFA acoge con satisfacción el dictamen del TJUE a favor de su reglamento de agentes
La FIFA reafirma su compromiso con la modernización del fútbol tras el respaldo del Abogado General del TJUE a su Reglamento sobre los agentes de fútbol, promoviendo la transparencia y la integridad en los traspasos