Los deepfakes tratan de archivos manipulados a través de tecnologías de inteligencia artificial que imitan con gran precisión vídeos, imágenes o clips de voz, haciendo que parezcan auténticos. Para el Lisa Institute, el uso de técnicas avanzadas de aprendizaje automático permite que estas creaciones engañen fácilmente al ojo humano, presentándose como una realidad alterada que es difícil de distinguir de la original.
Esto les permite generar o modificar contenido con un grado de realismo antes inimaginable. La preocupación principal radica en cómo estos archivos pueden ser utilizados para fines maliciosos, como la manipulación de la opinión pública, difamación de individuos o incluso en la creación de noticias falsas. La capacidad de los deepfakes para crear escenarios falsos pero convincentes plantea interrogantes sobre la integridad de la información y el riesgo de desinformación en las sociedades.
La tecnología está evolucionando rápidamente hacia aplicaciones que plantean serios desafíos tanto para el ámbito empresarial como para el marketing y la seguridad en línea. Wall Street Journal informa que, en el sector financiero, especialmente en bancos y proveedores de servicios financieros, se ha reportado un incremento en los ataques de fraudes impulsados por deepfakes. Estos ataques van desde llamadas fraudulentas imitando voces de individuos reales hasta la suplantación de identidades con fines ilícitos.
En el campo de la publicidad, según especifica el portal Marketing Directo, los marketers ven en los deepfakes una oportunidad para innovar en la forma de conectar con las audiencias. Sin embargo, esta tecnología también conlleva el riesgo de generar contenidos publicitarios engañosos, lo que podría minar la confianza del consumidor hacia las marcas. Estados como Texas y California ya han tomado medidas legales contra el uso malintencionado de deepfakes, y se espera que la futura Ley de IA de la Unión Europea promueva un marco para su uso ético en el marketing.
La sociedad, víctima principal
Por su lado, Business Insider agrega que la preocupación es creciente en torno a la suplantación de identidad y las estafas facilitadas por esta tecnología. La capacidad de crear vídeos falsos pero convincentemente realistas, mediante técnicas de aprendizaje profundo, plantea un reto significativo para la sociedad, en su esfuerzo por distinguir lo real de lo manipulado. Además, casos como el de una empresa que estuvo a punto de perder millones por una llamada engañosa evidencian la capacidad de estos fraudes para causar daños materiales importantes.
Los ataques cibernéticos que involucran el robo de datos personales y su posterior uso en esquemas fraudulentos están en aumento. Los delincuentes utilizan información robada, como números de cuentas bancarias, para llevar a cabo ataques más sofisticados, que ahora pueden incluir el uso de deep fakes para aumentar su efectividad. El popular diario The New York Times menciona que entre 2020 y 2022, más de 300 millones de personas fueron víctimas de estas prácticas, con pérdidas estimadas en 8800 millones de dólares, de acuerdo con la Comisión Federal de Comercio.
Este panorama subraya la necesidad urgente de desarrollar estrategias y regulaciones más efectivas para contrarrestar el potencial mal uso de las tecnologías de inteligencia artificial, protegiendo así tanto a las empresas como a los consumidores de sus posibles consecuencias negativas.
Últimas Noticias
Condenaron a cuatro escoltas de la banda Los Choneros que respondían al narcotraficante ecuatoriano “Fito”
Los sentenciados fueron hallados culpables de interferir en la labor de las autoridades durante el operativo que localizó al líder de Los Choneros, quien permanecía prófugo desde su fuga en Guayaquil
El despliegue militar de Estados Unidos cerca de Venezuela alerta a Nicolás Maduro
The New York Times identificó cerca de 100 puntos recorridos por buques de la Marina estadounidense en más de dos meses, para determinar cómo se manifiesta la campaña de presión contra militar en el mar
Bolivia reforzó sus lazos con Estados Unidos en la lucha contra el narcotráfico y anunció la “muy pronta” llegada de la DEA al país
La nueva administración de Rodrigo Paz apuesta por una alianza renovada con el país norteamericano y naciones sudamericanas para enfrentar la producción y el tráfico de cocaína
Hervé Le Tellier: “Antes recomendaba libros, ahora a mis amigos les hablo de series”
El escritor francés ganador del premio Goncourt habla de la tensión entre política y literatura ejemplificada en Cortázar, su trabajo en el taller de experimentación Oulipo y cómo los consumos culturales deben regirse por el “principio de placer”
La hoja de ruta que tambalea en la COP 30: los países no se ponen de acuerdo en cómo abandonar los combustibles fósiles
Las negociaciones enfrentan su momento más crítico en la Cumbre Mundial del Clima en la Amazonía de Brasil, ante un borrador sin referencias a la transición energética. Decenas de países, jóvenes, científicos y organismos internacionales presionan para dejar atrás al petróleo, el gas y el carbón
