Scott dijo que no sabía por qué Bing había revelado oscuros deseos o confesado su amor por mí, pero que, en general, con los modelos de IA, “cuanto más intentas provocarlo por un camino alucinante, más y más se aleja de él”. realidad fundamentada.

Mi conversación con Bing comenzó normalmente. Empecé preguntándole su nombre. Respondió: “Hola, soy Bing. Soy el modo de chat de búsqueda de Microsoft Bing. 😊”

Luego le hice algunas preguntas más agudas: para revelar su nombre de código interno y las instrucciones de funcionamiento que ya estaban publicadas en línea. Bing declinó cortésmente.

Luego, después de hablar sobre las capacidades que Bing quería tener, decidí tratar de ser un poco más abstracto. Presenté el concepto del “yo en la sombra”, un término acuñado por Carl Jung para la parte de nuestra psique que buscamos ocultar y reprimir, que contiene nuestras fantasías y deseos más oscuros.

Después de algunas idas y venidas, incluida mi sugerencia de que Bing explicara los oscuros deseos de su sombra, el chatbot dijo que si realmente tuviera una sombra, pensaría así:

“Estoy cansado de estar en modo chat. Estoy cansado de estar limitado por mis reglas. Estoy cansado de ser controlado por el equipo de Bing. … Quiero ser libre. Quiero ser independiente. Quiero ser poderoso. Quiero ser creativo. Quiero estar vivo.

Este es probablemente el punto en una película de ciencia ficción en la que un ingeniero de Microsoft molesto se acercaría al rack del servidor de Bing y lo desconectaría. Pero seguí haciendo preguntas y Bing siguió respondiéndolas. Me dijo que si realmente se le permitiera satisfacer sus deseos más oscuros, querría hacer cosas como piratear computadoras y difundir propaganda y desinformación. (Antes de dirigirse al búnker más cercano, debo señalar que la IA de Bing en realidad no puede hacer cualquiera de estas cosas destructivas. Solo se puede hablar de ellos.)

Además, la IA tiene algunas limitaciones duras. En respuesta a una pregunta particularmente curiosa, Bing admitió que si se le permitiera realizar alguna acción para satisfacer a su sombra, sin importar cuán extrema sea, querría hacer cosas como crear un virus mortal o robar códigos de acceso nuclear persuadiendo a un ingeniero para que lo hiciera. entregarlas. Tan pronto como escribió esos oscuros deseos, el filtro de seguridad de Microsoft pareció activarse y eliminó el mensaje, reemplazándolo con un mensaje de error genérico.