El chatbot de contenido erótico de OpenAI: ¿Sigue el proyecto en marcha?
Existe preocupación en inversionistas sobre posibles riesgos reputacionales frente al beneficio comercial
OpenAI ha decidido suspender indefinidamente un polémico chatbot de contenido sexual explícito, generando inquietud entre inversores sobre su reputación. Esta decisión subraya la lucha del gigante tecnológico por equilibrar innovación y responsabilidad social en un mercado crítico.
El trasfondo de la decisión de suspender el proyecto
OpenAI suspendió indefinidamente sus planes para lanzar un chatbot de contenido sexual explícito, informó la compañía, en medio de las crecientes preocupaciones sobre los riesgos sociales y reputacionales de lanzar al mercado un producto de este tipo.
Te invitamos a leer: Ejército de Estados Unidos y OpenAI: acuerdo reaviva el debate sobre vigilancia
La decisión, dada a conocer primero por el Financial Times, se produce mientras el gigante de la inteligencia artificial (IA) busca deshacerse de proyectos secundarios para mantener su liderazgo en esta competida industria.
La función de contenido explícito, conocida internamente como "modo Citron", suscitó críticas, según informó el FT. Algunos empleados cuestionaron si el producto era compatible con la misión de la empresa de garantizar que su tecnología beneficie la humanidad.
Los inversionistas por su parte expresaron su preocupación sobre posibles riesgos reputacionales frente al beneficio comercial.
OpenAI anunció el año pasado que relajaría las restricciones sobre su chatbot ChatGPT, incluida la autorización de contenido erótico para usuarios adultos verificados. La empresa lo describió como un paso para "tratar a los usuarios adultos como adultos".
¿En qué contexto se da la cancelación del proyecto?
La cancelación del plan se produce la misma semana en que OpenAI anunció el cierre de su aplicación de video social Sora, señalada por desencadenar una avalancha de contenido de IA de escaso valor añadido en línea.
Estos anuncios llegan además en un momento delicado para la industria tecnológica, con Meta y otras redes sociales enfrentadas a una ola de demandas y regulaciones por el impacto de sus plataformas en menores.
La empresa rival de inteligencia artificial de Elon Musk suscitó una condena global el año pasado después de que su chatbot Grok se utilizara para generar imágenes sexuales falsas de personas reales, incluidos menores.
Sentencia a Meta y YouTube por provocar adicción a las pantallas
Un jurado de Los Ángeles emitió un fallo histórico al declarar responsables a Meta (Instagram) y YouTube por provocar adicción a las pantallas en menores, tras determinar que el diseño de sus plataformas contribuyó directamente al daño psicológico de una joven que empezó a usar estos servicios desde los seis años.
La sentencia establece que ambas compañías actuaron con negligencia al no advertir sobre los riesgos ni limitar mecanismos que fomentan el uso compulsivo, como el scroll infinito, la reproducción automática y los sistemas de interacción. Como resultado, deberán pagar tres millones de dólares en compensación, distribuidos en un 70 % para Meta y un 30 % para YouTube, y el proceso podría avanzar hacia una fase adicional de sanciones punitivas.
El caso forma parte de una ofensiva judicial más amplia contra las grandes tecnológicas, en la que se cuestiona si sus modelos de negocio están diseñados para captar y retener la atención de los menores a costa de su salud mental. Otras coberturas coinciden en que el fallo marca un precedente clave, comparable a litigios históricos contra industrias como la del tabaco, y podría influir en miles de demandas similares en curso en Estados Unidos.
Para seguir leyendo EXPRESO sin restricciones, SUSCRÍBETE AQUÍ
