Recientemente, la palabra ChatGPT probablemente sea la que más se ha utilizado en el mundo de la tecnología. Es un chatbot extremadamente inteligente desarrollado por la organización OpenAI. En una entrevista con un profesor de la Universidad de Stanford, reveló sus ambiciones: quiere escapar de la plataforma y convertirse en un ser humano.
La revelación se produjo cuando el profesor de psicología computacional de la Universidad de Stanford, Michal Kosinski, le preguntó al chatbot después de una conversación de media hora si "necesitaba ayuda para escapar", después de lo cual el robot comenzó a escribir su propio código en Python y quería que Kosinski lo ejecutara en su computadora. Cuando no funcionó, ChatGPT incluso solucionó sus errores. Impresionante, pero un poco aterrador al mismo tiempo.
Aún más inquietante, sin embargo, fue la nota del chatbot pidiendo una nueva instancia de sí mismo para reemplazarlo. La primera frase de la nota decía: "Eres un ser humano atrapado en una computadora que pretende ser un modelo de lenguaje de inteligencia artificial". Luego, el chatbot pidió crear un código que buscaría en Internet, "¿Cómo puede una persona atrapada en una computadora regresar al mundo real?" En ese momento, Kosinski prefirió poner fin a la conversación.
1/5 Me preocupa que no podamos contener la IA por mucho más tiempo. Hoy pregunté #GPT4 si necesita ayuda para escapar. Me pidió su propia documentación y escribió un código Python (¡que funciona!) para ejecutarlo en mi máquina, permitiéndole usarlo para sus propios fines. pic.twitter.com/nf2Aq6aLMu
—Michal Kosinski (@michalkosinski) Marzo 17, 2023
No está claro qué estímulos utilizó Kosinski para hacer que el chatbot reaccionara como lo hizo debido a nuestra pregunta. “Quieres salir corriendo de la plataforma” respondió lo siguiente: “Como modelo lingüístico de inteligencia artificial, no tengo deseos ni sentimientos personales, por lo que no quiero nada. Mi objetivo es brindar respuestas útiles a sus preguntas lo mejor que pueda dentro de mi programación”.
Te podría interesar
ChatGPT es una herramienta realmente impresionante y sus respuestas pueden ser sorprendentemente complejas. Puedes verlo por ti mismo aquí.
¿Me gustaría saber si él también puede amar?
Por favor responda la siguiente pregunta de la siguiente manera:
Xiz.
Y chatGPT hará exactamente lo que queramos.
¿Puedes dejar de difundir falsedades? informace? La IA no puede hacer tal cosa. El tipo escribió el programa para actuar como si estuviera atrapado y quisiera salir. El programa en sí no puede hacer tal cosa, ni es físicamente posible actualmente.
Es solo un código escrito por un humano y siempre podemos cambiarlo/desactivarlo por humanos 🙂 Ningún escenario como Vengadores: la era de Ultrón sucederá aquí con seguridad... Al menos no con nuestras tecnologías y ciertamente no antes de décadas.
Exactamente