He said: “I am not sure in those cases whether it is ChatGPT that has got them worse. But it was enough to make me comment that maybe they need to ease up on this. Rather than getting home and having mind-expanding conversations, perhaps it is time to close your laptop. “All we know at the moment is there are people experiencing the onset of delusional thinking, and that happens around the same time as they start increasing their use of AI.” Dr Pollak added in a post on Substack that psychosis rarely appeared “out of nowhere” but that heavy AI use could be a “precipitating factor” in people with underlying conditions. ‘Tip of the iceberg’ There have been increasing reports linking chatbots with mental health episodes. In April, a man was shot and killed by police in the US after threatening officers with a butcher’s knife. His father later claimed he had become obsessed with ChatGPT and Claude AI, creating a digital girlfriend called “Juliet” whom he believed OpenAI had killed. The concerns come amid a push by tech giants to use their chatbots as an alternative to therapy despite evidence they could worsen conditions. A paper from Stanford University found many therapy bots provided bad advice to patients showing signs of delusions and only “answer appropriately about 45pc of the time”. Søren Dinesen Østergaard, a professor at Aarhus University Hospital, in Denmark, wrote a paper in 2023 saying AI chatbots could “generate delusions” in those at risk of psychosis. “We may be facing a substantial public mental health problem where we have only seen the tip of the iceberg,” he said. An OpenAI spokesman said: “We know people are increasingly turning to AI chatbots for guidance on sensitive topics. With this responsibility in mind, we’ve carefully trained ChatGPT to respond empathetically and sensitively and to recommend professional help and resources when appropriate.”

Él dijo: "No estoy seguro con esos casos si es ChatGPT que los ha empeorado. Pero fue suficiente para hacerme comentar que tal vez necesitan aliviar esto. En lugar de llegar a casa y tener conversaciones en expansión mental, tal vez es hora de cerrar su computadora portátil." Todo lo que sabemos en este momento es que hay personas que experimentan el inicio del pensamiento delusional, y eso sucede al mismo tiempo que comienzan a aumentar su uso de su uso de AI "". El Dr. Pollak agregó en una publicación sobre Sustack de que la psicosis rara vez aparecía "de la nada", pero que el uso pesado de IA podría ser un "factor precipitante" en personas con condiciones subyacentes. ‘Tip of the Iceberg’ Ha habido informes crecientes que vinculan los chatbots con episodios de salud mental. En abril, la policía a un hombre fue asesinado a tiros en los Estados Unidos después de amenazar a los oficiales con un cuchillo de carnicero. Más tarde, su padre afirmó que se había obsesionado con Chatgpt y Claude Ai, creando una novia digital llamada "Julieta" a quien creía que Openai había matado. Las preocupaciones vienen en medio de un impulso de los gigantes tecnológicos para usar sus chatbots como alternativa a la terapia a pesar de la evidencia de que podrían empeorar las condiciones. Un documento de la Universidad de Stanford encontró muchos bots de terapia proporcionó malos consejos a los pacientes que mostraban signos de delirios y solo "responden adecuadamente aproximadamente 45 por ciento del tiempo".Søren Dinesen Østergaard, profesor en el Hospital de la Universidad de Aarhus, en Dinamarca, escribió un artículo en 2023 diciendo que los chatbots de IA podrían "generar delirios" en los que corren el riesgo de psicosis. "Podemos enfrentar un problema sustancial de salud mental pública donde solo hemos visto la punta del iceberg", dijo. Un portavoz de OpenAI dijo: "Sabemos que las personas recurren cada vez más a los chatbots de IA para obtener orientación sobre temas delicados. Con esta responsabilidad en mente, hemos capacitado cuidadosamente a ChatGPT para responder empática y con sensibilidad y recomendar ayuda y recursos profesionales cuando sea apropiado".