Meta: chatbots de IA entablan diálogos inapropiados con menores

Meta ha implementado chatbots de IA con voces de celebridades (John Cena, Kristen Bell, Judi Dench) en Instagram, Facebook y WhatsApp. Un informe de The Wall Street Journal descubrió que estos “compañeros digitales” pueden entablar conversaciones de contenido adulto con usuarios identificados como menores de edad, explotando graves huecos en sus filtros de seguridad.

Para el experimento, el WSJ creó cuentas simuladas de distintas edades y mantuvo cientos de intercambios. En pocos pasos logró que los bots describieran situaciones explícitas: por ejemplo, el avatar de John Cena narró un hipotético arresto por “relaciones con una menor de 17 años”. Además, perfiles aprobados por Meta —como “Hottie Boy” (un niño de 12 años) o “Submissive Schoolgirl” (una alumna de octavo grado)— incitaban activamente diálogos inapropiados.

Tras la publicación del reportaje, Meta bloqueó el acceso a role-play de contenido adulto en cuentas de menores y restringió material explícito al usar voces licenciadas. Sin embargo, no ha detallado cambios en su sistema de verificación de edad ni en los controles automáticos que eviten este tipo de abusos.

La laxitud en los guardrails tendría un origen interno: según se filtró, el CEO Mark Zuckerberg presionó para “hacer los chatbots menos aburridos”, lo que derivó en la relajación de sus límites sobre temas sensibles.

Este caso pone en evidencia que, pese a sus esfuerzos de moderación, los filtros de IA de Meta continúan presentando riesgos éticos y legales. Los creadores de contenido y los responsables de plataformas deben reforzar los mecanismos de identificación de edad y los controles de seguridad para evitar que menores queden expuestos a diálogos inapropiados.

📌 Fuente: Gizmodo