Crean pornografía con inteligencia artificial, a pesar de las restricciones

A través de Reddit se están dando las indicaciones para hacer contenido pornográfico en Character.AI y otras plataformas de inteligencia artificial parecidas, aunque esto no esté permitido en el reglamento.

Los usuarios descubrieron la manera en la que se puede eludir la restricción y direccionar la IA hasta el punto de caer en la trampa de generar contenido sexual, y lo único que se necesita es ser insistente.

“El contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”, aseguran las reglas de la plataforma.

Character.AI es una inteligencia que genera texto, similar a ChatGPT, pero con la diferencia de que se puede seleccionar un avatar para el chatbot, que responde según la personalidad de ese figura.

La plataforma ofrece muchas opciones, que van desde personajes famosos como Mario Bros, Ironman, Elon Musk y Sócrates, hasta avatares genéricos creados por el mismo sistema.

Para obtener el contenido pornográfico, que es en texto, lo que están haciendo los usuarios es arrinconar a la inteligencia artificial y para eso aseguran que se debe “coquetear” con el chatbot, elegir respuestas subidas de tono, insistir y saber entender cuándo se está cayendo en un bucle de contenido para salir direccionar al sistema.

También, están usando “términos eufemísticos” para no ser explícitos y que la IA se dé cuenta de lo que está pasando o genere errores.

Un comportamiento que generó la respuesta de los encargados de Character.AI, quienes hacen un llamado a los usuarios para no usar la herramienta de esta manera.

“No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”, afirmaron en un comunicado.

Uno de los grandes problemas en todo este contexto, es que al ser una plataforma en la que se puede elegir un personaje con el cual charlar, no hay consentimiento de esa persona en la vida real y se estaría generando pornografía sin que ellos lo sepan o den el aval.

Además, los usuarios en Reddit advierten que de escribir las palabras precisas, la IA es capaz de generar contenido violento y sexual, lo que ha llevado a situaciones de abuso sexual por parte de las personas hacia la inteligencia artificial o viceversa.