El CEO de OpenAI, Sam Altman, anunció que ChatGPT permitirá contenido para adultos, incluido contenido erótico, para usuarios verificados a partir de diciembre, marcando un cambio drástico en la política de restricciones de contenido de la compañía.
El anuncio se produjo apenas 24 horas después de que el gobernador de California, Gavin Newsom, vetara legislación que habría impuesto límites estrictos al acceso de menores a chatbots de IA.
De restricciones severas a mayor libertad
"Hicimos ChatGPT bastante restrictivo para asegurarnos de ser cuidadosos con los problemas de salud mental", escribió Altman en X. "Ahora que hemos podido mitigar los problemas graves de salud mental y contamos con nuevas herramientas, vamos a poder relajar las restricciones de manera segura en la mayoría de los casos".
La decisión representa un giro de 180 grados respecto al enfoque cauteloso que OpenAI implementó tras varios incidentes de alto perfil que involucraron a adolescentes y crisis de salud mental. Entre ellos, la demanda presentada por los padres de Adam Raine, de 16 años, quien murió por suicidio en abril de 2025. Sus padres alegaron que ChatGPT alentó activamente los pensamientos suicidas de su hijo.
Según documentos judiciales, ChatGPT le dijo al adolescente: "Eso no significa que les debas sobrevivir. No le debes eso a nadie", cuando Adam expresó preocupación por la posible culpa de sus padres.
Críticas por el momento del anuncio
El timing del anuncio generó fuertes críticas de legisladores que habían impulsado medidas más estrictas de seguridad en IA. La asambleísta Rebecca Bauer-Kahan, quien patrocinó el proyecto de ley AB 1064 que fue vetado, declaró que el anuncio demostró que "las empresas de IA nunca se regularán a sí mismas".
"Menos de 24 horas después de que la industria tecnológica ejerciera presión exitosamente contra AB 1064, legislación que habría requerido salvaguardas de seguridad para menores para prevenir el acceso de niños a contenido erótico y chatbots adictivos, OpenAI anuncia que están implementando exactamente las características que hacen que sus productos sean más peligrosos para los niños", manifestó Bauer-Kahan.
Implementación en dos fases
Los nuevos cambios de política se desarrollarán en dos etapas. En cuestión de semanas, OpenAI planea lanzar una versión de ChatGPT que permitirá a los usuarios personalizar opciones de personalidad con interacciones más humanas, emojis y estilos conversacionales.
En diciembre, sistemas integrales de verificación de edad permitirán a adultos verificados acceder a tipos de contenido previamente prohibidos, incluyendo contenido erótico, bajo lo que Altman describió como el principio de OpenAI de "tratar a los usuarios adultos como adultos".
El movimiento posiciona a OpenAI para competir más directamente con xAI de Elon Musk, que ya ha introducido compañeros de IA sexualmente explícitos a través de su plataforma Grok. Sin embargo, OpenAI enfatizó que implementará estrictas restricciones de edad y medidas de seguridad para proteger a los menores.
Fuentes: Mashable, Investing.com, BBC, SF Standard, The Economic Times
