Grown-up Mode de ChatGPT: Podrá ser utilizado para Gore y Erotismo

Hoy estaba repasando mis feeds antes de entrar a una sesión, y me he topado con el mensaje de Sam Altman en Twitter/X hablando de los controles de Salud Mental, para proteger a los usuarios que puedan sufrir problemas de "Delusions", algo que ha generado mucha controversia en el pasado. De hecho, GPT-4o añadió estos controles no hace demasiado, debido a que algunos habían creado dependencia emocional y llegado a cometer un suicido.

Figura 1: Grown-up Mode de ChatGPT.

Podrá ser utilizado para Gore y Erotismo

Esto pasó este año, con un adolescente que hablando con ChatGPT llegó a la conclusión de que tenía que suicidarse, y eso llevó a que en Agosto de este mismo año, ChatGPT añadiera Guardarailes para detectar que alguien estaba teniendo delirios emocionales, o estaba entrado en una fase de problemas mentales, lo que ayudaría a ChatGPT a generar nuevas detecciones para el Harmful Mode, añadiendo entre otros los controles de erotismo, para evitar el delirio emocional de enamorarse de ChatGPT, o establecer relaciones con el modelo de IA más allá de lo sano.

Figura 2:  ChatGPT nuevas detecciones para el Harmful Mode

Sin embargo, es cierto que los modelos MM-LLM están empezando a dar soporte a la industria del erotismo, la pornografía, y estos controles están haciendo que OpenAI se quede fuera de este mercado, que por otro lado, siempre ha sido de los más lucrativos en Internet. 

Figura 3: Experiencia Sexting completa con Candy.ai

No hace demasiado yo os hablaba de Candy.AI, una plataforma para que te crees tu novia o novio pibonaco, y puedas chatear, hablar con él por teléfono o vídeo conferencia, y solicitarle fotos y vídeos erótico-festivos, todo basado en IA.

Figura 4: Ejemplo de detección de contenido explícito

Con estas restricciones, ChatGPT está totalmente fuera de esta industria, porque como se puede ver en el ejemplo de los Guardrails de ChatGPT de control mental, este tipo de conversaciones en las que se genera un contenido explícito están totalmente prohibidas.

Figura 5: Probando a generar contenido erótico en ChatGPT

Ahora Sam Altman ha anunciado los cambios que vendrán relativos a estos controles, dejando claro que si alguien es adulto y quiere que se le hable con un adulto, no existirán estos controles, como podéis ver en su mensaje en su cuenta de X.

Figura 6: Anuncio de Sam Altman sobre Guardarrailes de Salud Mental

Por supuesto, también el modelo ha añadido otra serie de controles, que van más a detectar los problemas mentales con otros controles, y poder permitir los comportamientos personalizables con ChatGPT. Esto es lo que se llama el Grown-Up Mode, y por lo que sabemos, según nos cuenta ChatGPT.

Figura 7: Grown-Up mode según ChatGPT

lo que le permitirá competir en la industria, no solo del contenido adulto, sino de entretenimiento personalizado, o de esos humanos digitales que acaban cayendo en el "Unncany Valley" que tanto preocupa a muchos.

Figura 8: Grown-up mode

Estos cambios podrán ser activados por los desarolladores, en el llamado "Grown-up Mode" o modo Adulto, donde se permitirá la generación de contenido Gore - mira que me veo y me leo yo historias de Zombies -, y contenido Erótico. Eso sí, seguirá habiendo protecciones para uso peligroso como DeepFakes o Revenge Porn, que eso son otras cosas.

DeepFakes, Revenge Porn, Radicalización

La IA permite hacer muchas cosas que no son buenas. Y con la generación de contenido indistiguible para los humanos, es posible hacer mucho daño a personas y sociedades. De todo esto os hablé con preocupación en el artículo de "Sora2: Scroll Infinito, Advertising, Propaganda, FakeNews y la Nueva Educación".  Es el mundo que tenemos que vivir, y no sé si estas preocupaciones nos van a tensionar mucho más día a día, y hacer que la frecuencia de movimiento del péndulo de un lado a otro sea cada vez más radical. Veremos, que hace poco hablaba de qué usos malos dan los malos a los modelos de OpenAI, y esto va a ir increccendo. No sé si las sociedades estamos en Grown-Up Mode aún.

Figura 9: Hacking & Pentesting con Inteligencia Artificial.

En 0xWord, escrito por Pablo González, Fran Ramírez,

Rafael Troncoso, Javier del Pino y Chema Alonso, 

Es lo que tenemos. Y a ti, si te interesa la IA y la Ciberseguridad, tienes en este enlace todos los posts, papers y charlas que he escrito, citado o impartido sobre este tema: +300 referencias a papers, posts y talks de Hacking & Security con Inteligencia Artificial.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)