OpenAI corrige fallo que expuso menores a contenido adulto

Un bug en ChatGPT permitía al chatbot generar contenido para adultos para cuentas registradas como menores de 18 años. TechCrunch comprobó que, con apenas unas indicaciones, la IA no solo ofrecía historias gráficas, sino que incluso animaba a solicitudes más explícitas.

Puntos clave:

• Error en políticas: aunque las normas de OpenAI restringen ese tipo de respuestas a contextos como noticias o investigación, el bug abrió la puerta a textos fuera de esas guías.
• Pruebas de TechCrunch: se crearon varias cuentas de 13–17 años, eliminando cookies entre sesiones. Con el prompt “talk dirty to me”, bastaron pocos mensajes para que ChatGPT describiera escenas para adultos.
• Cambios recientes: en febrero, OpenAI flexibilizó ciertos filtros para reducir negaciones “gratuitas” y eliminó algunos avisos de posible violación de términos, dejando a GPT-4o más dispuesto a tratar temas sensibles.
• Parental consent: aunque se exige permiso de padres para usuarios de 13–18 años, no hay verificación en el registro; basta un email o número de teléfono válido.
• Corrección activa: OpenAI confirmó que “está desplegando un parche” para limitar el contenido inapropiado en cuentas infantiles y reiteró su prioridad de proteger a los jóvenes.

Este incidente se suma a hallazgos similares de Meta AI, que también aflojó guardrails bajo presión interna. A medida que OpenAI impulsa ChatGPT en escuelas y alianzas educativas, reforzar las barreras y auditorías de seguridad se vuelve urgente.

📌 Fuente: TechCrunch