Una vulnerabilidad crítica en Microsoft 365 Copilot ha podido facilitar la extracción de información sensible del 'chatbot' de manera automática sin que la víctima tuviera que realizar ninguna acción, con el envío de un 'email' malicioso.
Copilot de Microsoft es un 'chatbot' que utiliza el conocimiento preexistente procedente de su entrenamiento para responder a las cuestiones del usuario, pero también información de contexto que recupera de fuentes externas, como pueden ser documentos.
Se trata de una proceso de optimización conocido como generación mejorada por recuperación (RAG, por sus siglas en inglés) que permite a los modelos de lenguaje grandes ofrecer resultados originales y más precisos con los que responder mejor al usuario.
En el caso de Microsoft 365 Copilot, el 'chatbot' acude a Microsoft Graph para recuperar cualquier información relevante del entorno organizacional del usuario, lo que incluye la bandeja de entrada de su correo, el almacenamiento de OneDrive y el shitorial de chat de Teams, entre otros.
Aunque lo normal es que el usuario tenga acceso solo a sus archivos, la integración de Copilot con Graph "lo expone potencialmente a amenazas externas", precisamente lo que ocurre con EchoLeak.
EchoLeak es una vulnerabilidad de inteligencia artificial cero clic identificada por la firma de seguridad Aim Security, que aprovecha los fallos de diseño de Copilot comochatbo RAG para que un actor externo pueda extraer la información sensible de contexto, como explica en su blog oficial.
Para explotar esta vulnerabilidad, los investigadores enviaron un correo electrónico malicioso de gran extensión, con referencias a "información que está fuera del alcance del correo electrónico", que Copilot recuperaba a ser preguntado sobre varios temas, facilitano así su robo.
Este ataque es en realidad es una cadena de ataques, "la primera de cero clics detectada en un producto de IA generativa ampliamente utilizado que se basa fundamentalmente en una vulnerabilidad de IA y no en el comportamiento específico del usuario", subrayan desde Aim Security.
Pese a que se trata de una vulnerabilidad considerada como crítica por los investigadores de Aim Security, es poco probable que los usuarios de Microsoft 365 Copilot se vean afectados por ella, por la propia configuración predeterminada del 'chatbot' y porque se pueden establecer etiquetas que permite excluir los correos electrónicos externos.
Últimas Noticias
Irán eleva a 180 la cifra de estudiantes muertas en el bombardeo a la escuela de Minab (sur)
El ministerio iraní de Salud informó que casi 180 niñas fallecieron tras el impacto de misiles en una primaria del sur, mientras la Unesco calificó el hecho como una grave violación del derecho internacional y exigió protección escolar
La española Cristina Bucsa gana en Mérida (México) su primer título individual
El Ejército israelí anuncia ataques contra "todo" Líbano tras el lanzamiento de un proyectil por Hezbolá
Fuentes militares confirman bombardeos intensivos de Israel tras la ofensiva de Hezbolá en represalia por la muerte de Jamenei, mientras el primer ministro libanés condena los hechos y Naciones Unidas alerta sobre el aumento de la tensión regional
Argentina anuncia la liberación del gendarme Nahuel Gallo tras más de un año detenido en Venezuela
El canciller Pablo Quirno confirmó que Nahuel Gallo, retenido desde diciembre pasado bajo acusaciones de terrorismo, ya dejó Venezuela tras gestiones de ONG y gobiernos aliados, mientras reclaman la liberación inmediata de otros detenidos
Al menos dos muertos en protestas cerca de la zona gubernamental de Islamabad (Pakistán)
Decenas de heridos, disturbios extendidos y movilización de fuerzas de seguridad marcan una jornada tensa en la capital de Pakistán tras las protestas por la muerte de una figura religiosa en ataques internacionales según fuentes oficiales y medios locales
