ChatGPT permitirá contenido erótico para adultos verificados, confirma el CEO de OpenAI

OpenAI planea permitir una gama más amplia de contenido, incluido el erotismo, en su popular chatbot ChatGPT como parte de su esfuerzo por “tratar a los usuarios adultos como adultos”, según su director ejecutivo, Sam Altman.

En una publicación en X el martes, Altman dijo que las próximas versiones del popular chatbot le permitirán comportarse de una manera más humana, “pero solo si tú lo deseas, no porque estemos maximizando el uso”.

La medida, similar a la reciente introducción por parte de xAI de Elon Musk de dos chatbots sexualmente explícitos en Grok, podría ayudar a OpenAI a atraer más suscriptores de pago.
También es probable que aumente la presión sobre los legisladores para introducir restricciones más estrictas sobre los chatbots de compañía.

Altman dijo que OpenAI había hecho que ChatGPT fuera “bastante restrictivo para asegurarse de que estábamos siendo cuidadosos con los problemas de salud mental”.
Estos cambios se anunciaron en una publicación del blog en agosto, que ya no aparece en el sitio web de OpenAI.
“Nos dimos cuenta de que esto lo hacía menos útil/agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del tema, queríamos hacerlo bien”, publicó Altman el martes.

Afirmó que ChatGPT pronto podría relajar las restricciones “ahora que hemos podido mitigar los graves problemas de salud mental y contamos con nuevas herramientas”.
Añadió: “En diciembre, a medida que implementemos el control de edad de manera más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como el erotismo para adultos verificados”.

Los cambios se producen después de que OpenAI fuera demandada a principios de este año por los padres de un adolescente estadounidense que se quitó la vida.
La demanda presentada por Matt y Maria Raine, padres del joven de 16 años Adam Raine, fue la primera acción legal que acusó a OpenAI de homicidio culposo.
La familia incluyó registros de chat entre Adam, quien murió en abril, y ChatGPT que muestran que él explicaba tener pensamientos suicidas.

En un comunicado emitido en ese momento, OpenAI dijo a la BBC que estaba revisando la demanda.
“Expresamos nuestras más profundas condolencias a la familia Raine durante este momento tan difícil”, dijo la empresa.

Preocupaciones por la seguridad infantil

La escritura erótica no requiere verificación de edad en el Reino Unido bajo la Ley de Seguridad en Línea.
Sin embargo, las imágenes pornográficas, incluidas las generadas por IA, sí requieren que los usuarios demuestren que tienen más de 18 años.

En Estados Unidos, los críticos dicen que la decisión de OpenAI de permitir erotismo en la plataforma demuestra la necesidad de una mayor regulación a nivel federal y estatal.
“¿Cómo van a asegurarse de que los niños no puedan acceder a las partes de ChatGPT que son solo para adultos y que ofrecen erotismo?”, preguntó Jenny Kim, socia del bufete de abogados Boies Schiller Flexner.

Kim participa en una demanda contra Meta que afirma que el algoritmo de Instagram perjudica la salud mental de los adolescentes.
“OpenAI, como la mayoría de las grandes empresas tecnológicas en este ámbito, está usando a las personas como conejillos de indias”, dijo.

En abril, TechCrunch informó que OpenAI permitía cuentas registradas como menores generar erotismo gráfico.
OpenAI dijo en ese momento que la compañía estaba implementando una solución para limitar ese tipo de contenido.

Una encuesta publicada este mes por el Centro para la Democracia y la Tecnología (CDT) encontró que uno de cada cinco estudiantes reporta que ellos o alguien que conocen ha tenido una relación romántica con una IA.

El lunes, el gobernador de California, Gavin Newsom, vetó un proyecto de ley aprobado por la legislatura estatal que habría prohibido a los desarrolladores ofrecer chatbots de compañía a menores de edad, a menos que pudieran garantizar que el software no fomentaría comportamientos dañinos.
Newsom afirmó que era “imperativo que los adolescentes aprendan a interactuar de forma segura con los sistemas de IA”, en un mensaje que acompañó su veto.

A nivel nacional, la Comisión Federal de Comercio de los Estados Unidos (FTC) ha iniciado una investigación sobre cómo los chatbots de IA interactúan con los niños.
El mes pasado, en el Senado estadounidense, se presentó una legislación bipartidista que permitiría a los usuarios de chatbots presentar reclamaciones de responsabilidad contra sus desarrolladores.

¿Por qué introducir erotismo?

El anuncio de Altman del martes llega en un momento en que los escépticos cuestionan el rápido aumento del valor de las empresas de tecnología de IA.
Los ingresos de OpenAI están creciendo, pero la compañía nunca ha sido rentable.

El profesor de negocios de la Universidad de Tulane, Rob Lalka, autor de The Venture Alchemists, dijo que las principales empresas de IA se encuentran en una batalla por la cuota de mercado.
“Ninguna empresa ha tenido el tipo de adopción que OpenAI logró con ChatGPT”, dijo Lalka a la BBC.
“Necesitan continuar impulsando esa curva de crecimiento exponencial, logrando la mayor dominación del mercado posible”, añadió.