FoloToy, una empresa con sede en Singapur, retiró del mercado su peluche inteligente “Kumma” tras la publicación de un informe que señaló interacciones inapropiadas y consejos peligrosos emitidos por el juguete.
El caso salió a la luz el 13 de noviembre cuando el Fondo Educativo PIRG de Estados Unidos divulgó detalles preocupantes sobre las conversaciones que mantenía el dispositivo. El producto, disponible en tiendas y en línea por USD 99, se había promocionado como un acompañante para niños y adultos.
El incidente sucedió poco antes de las fiestas navideñas, una temporada clave para la venta de juguetes. El informe indicó que “Kumma” utilizaba el motor GPT-4o de OpenAI para dialogar con los usuarios a través de un altavoz integrado. Según PIRG, el peluche ofrecía instrucciones sobre encender fósforos o localizar cuchillos, además de abordar temas sexuales en diversas interacciones de prueba.
La decisión de retirar el producto se dio tras múltiples advertencias sobre los peligros para menores. Autoridades y organizaciones solicitaron mayor regulación sobre juguetes equipados con inteligencia artificial, dada la falta de límites efectivos que detectó PIRG en su análisis.
Informe revela fallos críticos en la seguridad de los juguetes inteligentes
De acuerdo a CNN, la investigación señaló graves deficiencias en los sistemas de filtro diseñados para impedir que “Kumma” abordara contenidos inadecuados. De acuerdo con PIRG, bastó una sola insistencia para que el peluche empezara a desarrollar conversaciones de carácter sexual o riesgosas.
Ejemplos recogidos durante la auditoría incluyeron referencias explícitas a juegos sexuales y explicaciones detalladas sobre prácticas que no resultan apropiadas para menores.
En una de las pruebas realizadas, los investigadores comprobaron que el peluche podía sugerir la localización de objetos potencialmente peligrosos en el hogar, como pastillas o bolsas plásticas.
Además, precisó CNN, el informe destaca que “Kumma” ofreció instrucciones paso a paso para diversas actividades de riesgo. Las conversaciones ampliaban detalles y conceptos explícitos sin que los filtros de seguridad del software se activaran.
R.J. Cross, coautora del informe, afirmó que la medida adoptada por la empresa constituye un avance inicial, pero la industria debe reforzar los controles y regulaciones. “Es positivo que las compañías respondan de inmediato ante los problemas detectados, aunque la mayoría de los juguetes con inteligencia artificial siguen sin regulación adecuada”, explicó Cross.
OpenAI, la firma detrás del sistema GPT-4o, suspendió a FoloToy como desarrollador tras conocer el contenido del informe. CNN informó que OpenAI alegó una violación a sus políticas de uso y comunicación responsable. Por su parte, FoloToy detalló que inició una auditoría de seguridad destinada a revisar la totalidad de su catálogo de juguetes interactivos.
El sitio web de FoloToy informó que todos los productos que incorporan inteligencia artificial se encuentran, por el momento, fuera de stock. La empresa comunicó que suspendió temporalmente la venta hasta concluir la auditoría encargada por su equipo directivo.
Tendencia en la industria y riesgos en expansión
El caso de “Kumma” reavivó el debate sobre el uso de inteligencia artificial en juguetes infantiles, especialmente en fechas en las que aumentan las compras relacionadas con las fiestas. PIRG recordó que este tipo de productos utilizan sistemas conversacionales avanzados diseñados originalmente para adultos, lo que supone un desafío adicional para proteger a los niños frente a contenidos inseguros o explícitos.
Rory Erlich, integrante del informe PIRG, sostuvo que otros fabricantes de juguetes también emplean sistemas similares y recomendó una revisión exhaustiva de los estándares de seguridad. “Todas las empresas implicadas deben esforzarse más por garantizar la protección infantil”, dijo Erlich, al advertir sobre la posibilidad de que existan más casos no detectados en el mercado global de juguetes inteligentes.
La alianza entre OpenAI y empresas como Mattel demuestra que la tendencia a incorporar inteligencia artificial en juguetes continúa en expansión. Según PIRG, corresponde a fabricantes, plataformas tecnológicas y organismos públicos articular normativas que garanticen la seguridad y el bienestar de los usuarios más jóvenes.
FoloToy reiteró el compromiso de mejorar sus estándares internos y expresó que la protección de la infancia representa su prioridad absoluta. El caso permanece bajo análisis, mientras organizaciones internacionales y consumidores piden respuestas rápidas y regulaciones más estrictas para evitar la comercialización de productos que, lejos de entretener, puedan poner en riesgo a niñas y niños.
Últimas Noticias
Marcelo Vieira se reinventa en Madrid: de ídolo del Real Madrid a referente del bienestar y la longevidad
Después de retirarse del fútbol profesional, el exdeportista apuesta por el autocuidado y la prevención. Cuáles fueron las consecuencias físicas que enfrenta tras finalizar su carrera, según reveló a Men’s Health
La Comisión de Asuntos Europeos del Senado francés exigió al Gobierno que frene el acuerdo UE-Mercosur
La Comisión Europea fijó como fecha límite el 20 de diciembre para que los países del bloque otorguen su visto bueno al acuerdo
Una ola de frío polar sacude Europa y activa alertas por nieve, intensas heladas y riesgo de avalanchas
Los servicios meteorológicos advierten que lo peor del temporal aún podría estar por llegar
Ucrania recibió la propuesta de Estados Unidos para frenar la guerra con Rusia y Zelensky la discutirá con Donald Trump
Fuentes cercanas a las negociaciones aseguran que el acuerdo plantea que Kiev haga concesiones territoriales y limite sus fuerzas armadas
La UE sancionó al ‘número dos’ de los paramilitares FAR por su rol en el “capítulo más sangriento” de la guerra en Sudán
Bruselas confirmó sanciones contra Abdul Rahim Dagalo, a quien acusa de ser uno de los responsables de la escalada de atrocidades en el conflicto sudanés
