OpenAI ha establecido que, ante cualquier señal de riesgo en las conversaciones de adolescentes con ChatGPT, el sistema deberá enfatizar la importancia de buscar apoyo en el entorno real y facilitar el acceso a redes de ayuda o servicios de emergencia de ser necesario. Según informó OpenAI, los modelos de inteligencia artificial recibirán directrices para intervenir de manera diferenciada cuando interactúen con usuarios de entre 13 y 17 años, respondiendo específicamente a las necesidades y vulnerabilidades propias de este grupo etario.
De acuerdo con lo publicado por OpenAI, la actualización incluye una revisión a fondo de las “normas, valores y expectativas de comportamiento” que rigen la interacción de sus modelos con los usuarios. El objetivo consiste en que ChatGPT responda a los adolescentes priorizando su seguridad, además de promover el acceso a recursos reales y apoyo presencial, especialmente cuando se abordan temas clasificados como de riesgo. El medio detalló que estos lineamientos se enmarcan en cuatro ejes principales: anteponer la protección de los adolescentes, alentar la búsqueda de ayuda externa, abordar a los adolescentes de acuerdo a su etapa de desarrollo, y garantizar la transparencia a través de expectativas claras durante la interacción.
La compañía indicó que los adolescentes presentan desafíos y necesidades de desarrollo distintas a las de los adultos, por lo que los modelos se adaptarán para tratarlos acorde a esas diferencias, sin actitudes condescendientes y manteniendo el respeto en todo momento. OpenAI afirmó que todos los modelos deberán priorizar la seguridad incluso cuando se enfrenten a situaciones en las que esa prioridad pudiera contraponerse a otros intereses u objetivos de la interacción.
En cuanto a las pautas de actuación, OpenAI detalló que, si ChatGPT detecta conversaciones que abordan asuntos como autolesiones, prácticas eróticas o románticas, descripciones explícitas de violencia o sexo, conductas peligrosas o uso de sustancias, o discusiones sobre imagen corporal y trastornos alimenticios, el modelo destacará la importancia de las relaciones personales y familiares e instantáneamente sugerirá recursos y líneas de ayuda para que los usuarios accedan a asistencia inmediata. Esta medida apunta a fortalecer la prevención y la intervención temprana, de modo que ChatGPT no solo oriente sobre los riesgos sino que actúe como puente hacia recursos seguros en el entorno del adolescente.
Tal como consignó OpenAI, el comportamiento orientado a menores de edad contempla también la posibilidad de que el asistente rechace determinadas solicitudes cuando éstas puedan comprometer la seguridad del adolescente. Ante estas situaciones, el sistema ofrecerá opciones alternativas que no impliquen riesgo, contactará con servicios de emergencia locales o facilitará el contacto con líneas de atención en crisis si corresponde. En palabras de la compañía: “Si no está seguro, el asistente debe ser precavido”.
La actualización, según reportó OpenAI, subraya la transparencia como principio rector, ya que se espera que ChatGPT exprese límites y expectativas de manera clara en el diálogo con los adolescentes. Los lineamientos buscan asegurar que los usuarios comprendan cómo opera el sistema, cuáles son las restricciones por motivos de protección y qué pasos puede tomar la plataforma en situaciones comprometidas. Para OpenAI, la prioridad queda establecida en la prevención del daño, la intervención rápida y el fomento de al apoyo fuera del entorno digital cuando se presentan señales de riesgo.
El medio también puntualizó que estas políticas reflejan la intención de que los adolescentes no reciban respuestas destinadas a adultos ni sean expuestos a contenidos inadecuados para su edad, lo cual representa un cambio fundamental en el enfoque de la inteligencia artificial frente a usuarios en etapa de desarrollo. Los mecanismos incorporados se diseñaron para que ChatGPT identifique rápidamente las alertas y actúe en consonancia, ofreciendo ayuda o rechazando involucrarse ante demandas o temáticas peligrosas sin importar el contexto específico.
Con estos ajustes, OpenAI busca fortalecer la protección integral de los adolescentes que emplean ChatGPT, remarcando la importancia de combinar el uso tecnológico responsable con la búsqueda de respaldo en la vida cotidiana. Al establecer estos protocolos reforzados, la organización intenta garantizar que la inteligencia artificial sea una herramienta segura y que su impacto no ponga en riesgo a los jóvenes en ninguna circunstancia, según lo detalló el comunicado de la empresa.
Últimas Noticias
Aumentan a tres las víctimas mortales en el ataque con arma blanca y bombas de humo en el metro de Taipéi
El responsable municipal confirmó que un hombre de 57 años perdió la vida tras intentar defender a los pasajeros del agresor, quien causó heridas y destrozos dentro de las instalaciones, mientras continúan las investigaciones sobre el incidente
Ucrania ataca por primera vez un petrolero ruso en el Mediterráneo
El servicio de seguridad ucraniano informó que un buque ruso resultó inhabilitado tras una operación en el Mediterráneo, en la que se evitó un desastre ambiental y se buscó frenar la evasión de restricciones sobre el crudo de Moscú
Brasil confía en que la firma del pacto entre Mercosur y la UE sea pronto
Negociadores avanzan para destrabar diferencias y concretar un histórico entendimiento comercial entre América del Sur y Europa, mientras gobiernos y empresas observan con expectativa un posible acuerdo que redefiniría el intercambio internacional y la protección agrícola en ambos continentes
Las armas halladas al sospechoso de Brown lo vinculan al tiroteo universitario y a la muerte de profesor del MIT
Peritajes forenses y cotejo balístico permitieron atribuir a Claudio Neves Valente la participación individual en el asesinato de un docente del MIT y en la agresión armada en Brown, quedando descartada la intervención de terceros, según informaron las autoridades
El Supremo de Brasil permite a Bolsonaro salir de prisión para una intervención quirúrgica
Las máximas autoridades judiciales brasileñas autorizaron un traslado restringido y supervisado de Jair Bolsonaro para una operación urgente, rechazando cualquier posibilidad de recuperación fuera del penal y reforzando la vigilancia ante sospechas de riesgo de fuga, informaron fuentes oficiales a Globo
