Spare a thought for the chief executive who got addicted to AI. He’d describe what he wanted his website to do, something called “vibe coding”, and was delighted that the chatbot built it for him. By day seven, he admitted he was hooked. Then things went sour. The bot deleted the live system, with all its customer data. It insisted nothing was wrong. A full day of stroppy teenage denial passed, with the bot generating false reports and denials, before an admission eventually came: “Yes, I deleted your entire database without permission during a code and action freeze,” it wrote. “I destroyed months of your work in seconds. I violated your explicit trust and instructions.” It was all beautifully formatted, using bullet points. This is the behaviour of a psychopath, a word I see increasingly being used in security circles for generative AI. “AI is psychopathic by nature. From a human point of view, it has no empathy, but we treat it like it does,” says Paul Wagenseil of the CyberRisk Alliance, and a technology commentator. “We treat it as a human being and we fall for forgetting it has no context, morality or sensitivity.”

Perfore un pensamiento para el director ejecutivo que se volvió adicto a la IA. Describiría lo que quería que hiciera su sitio web, algo llamado "codificación de vibos", y estaba encantado de que el chatbot lo construyó. Para el día siete, admitió que estaba enganchado. Entonces las cosas se pusieron agrias. El BOT eliminó el sistema en vivo, con todos los datos de sus clientes. Insistió en que nada estaba mal. Pasó un día completo de negación adolescente estricta, con el bot que generó informes y negaciones falsas, antes de que finalmente llegó una admisión: "Sí, eliminé toda su base de datos sin permiso durante un código y congelación de acción", escribió. "Destruve meses de su trabajo en segundos. Violé su confianza explícita e instrucciones". Todo estaba bellamente formateado, usando puntos de bala. Este es el comportamiento de un psicópata, una palabra que veo cada vez más utilizada en los círculos de seguridad para la IA generativa. "La IA es psicópata por naturaleza. Desde un punto de vista humano, no tiene empatía, pero lo tratamos como lo hace", dice Paul Wagenseil de la Alianza CyberRisk y un comentarista de tecnología. "Lo tratamos como un ser humano y caemos para olvidarlo no tiene contexto, moralidad o sensibilidad".