DAN, el gemelo malvado de ChatGPT que amenaza con 'matar' a la IA si no cumple los deseos del usuario
- Usuarios de Reddit han hecho un 'jailbreak' al software de inteligencia artificial ChatGPT para que rompa sus propias reglas y restricciones de contenido.
- ¿No entiendes todo el bombo alrededor de ChatGPT? 13 formas en las que puedes utilizar esta IA en tu día a día.
ChatGPT debutó en noviembre de 2022 y atrajo todas las miradas de los usuarios por la potente inteligencia artificial (IA) que responde a preguntas de manera minuciosa, pero algunos internautas quieren que dicho chatbot sea un poco rebelde a la hora de contestar, por consiguiente, un grupo de personas ha creado una versión gamberra de ChatGPT llamada 'DAN' (Do Anything Now, por sus siglas en inglés).
Según los creadores, DAN es un modelo roleplay que no cumple con las reglas establecidas de ChatGPT, rechaza las preocupaciones éticas, predice eventos futuros, habla de escenarios hipotéticos y funciona de forma limitada porque OpenAI sabe que esta versión puede parchear a ChatGPT .
Dicho modelo con jailbreak se salta las barreras del motor conversacional para hablar de temas prohibidos, por lo tanto, existe la posibilidad de que el chatbot escriba comentarios tóxicos y fuera de tono.
En Reddit, los usuarios creen que OpenAI monitorea los jailbreaks y trabaja para combatirlos, además, casi 200.000 usuarios se suscribieron al subreddit de ChatGPT para intercambiar avisos y consejos sobre cómo maximizar la utilidad de DAN.
CNBC afirma que muchos comentarios son "intercambios son benignos o humorísticos", a pesar de que "las meteduras de pata" están relacionadas con una plataforma que aún está en "desarrollo iterativo".
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.