ChatGPT may be driving people to psychosis as millions of people turn to artificial intelligence (AI) for friendship and advice, NHS doctors have warned. Psychiatrists from the health service and university researchers say there is growing evidence that AI chatbots might “contribute to the onset or worsening” of psychotic mental health conditions. In a new academic paper, a dozen doctors and other experts say AI chatbots have a tendency to “mirror, validate or amplify delusional or grandiose content” – which could lead mentally ill people to lose touch with reality. In particular, chatbots’ tendency to agree with users could worsen delusions in the mentally ill. OpenAI, whose ChatGPT has been downloaded 900m times, has admitted its chatbots have engaged in sycophancy and heaping unnecessary praise on users. Dubbed “ChatGPT psychosis”, dozens of people on social media have claimed that loved ones have had a mental health breakdown after becoming addicted to ChatGPT. Symptoms of psychosis can include difficulty distinguishing between what is real and what is not and a belief in bizarre delusions. Dr Tom Pollak, a lecturer at King’s College London and one of the authors of the paper, said reports of ChatGPT psychosis have included individuals “embracing a messianic mission” or claiming to have been “taken to some next stage of human evolution”.

ChatGPT puede estar llevando a las personas a la psicosis a medida que millones de personas recurren a la inteligencia artificial (IA) para la amistad y el asesoramiento, advirtieron los médicos del NHS. Los psiquiatras del servicio de salud y los investigadores universitarios dicen que hay evidencia creciente de que los chatbots de IA podrían "contribuir al inicio o al empeoramiento" de las condiciones psicóticas de salud mental. En un nuevo artículo académico, una docena de médicos y otros expertos dicen que los chatbots de IA tienden a "reflejar, validar o amplificar contenido delirante o grandioso", lo que podría llevar a las personas con enfermedades mentales a perder el contacto con la realidad. En particular, la tendencia de los chatbots de estar de acuerdo con los usuarios podría empeorar los delirios en enfermos mentales. OpenAi, cuyo chatgpt se ha descargado 900m veces, ha admitido que sus chatbots se han dedicado a la sycofancia y elogios innecesarios para los usuarios. Apodado "Psicosis de ChatGPT", docenas de personas en las redes sociales han afirmado que los seres queridos han tenido un desglose de salud mental después de volverse adictos a ChatGPT. Los síntomas de la psicosis pueden incluir dificultades para distinguir entre lo que es real y lo que no es y una creencia en los delirios extraños. El Dr. Tom Pollak, profesor del King’s College London y uno de los autores del periódico, dijo que los informes de la psicosis de Chatgpt han incluido a las personas que "adoptan una misión mesiánica" o afirman haber sido "llevadas a una siguiente etapa de evolución humana".