OpenAI admite que más de un millón de usuarios hablan sobre suicidio con ChatGPT cada semana

Más de un millón de usuarios hablan sobre el suicidio con la herramienta de Open AI cada semana. Así lo ha reconocido la empresa fundada por Sam Altman en una entrada en su blog publicada este lunes en el que describen las mejoras que han introducido en la última versión de Chat GPT para evitar que vuelvan a suceder casos como el de Adam.

Según sus cifras, son el 0,15 % de sus aproximadamente 800 millones de usuarios semanales.

»Si bien estas conversaciones son difíciles de detectar y medir debido a lo raras que son, nuestro análisis inicial estima que alrededor del 0,15 % de los usuarios activos en una semana determinada tienen conversaciones que incluyen indicadores explícitos de posible planificación o intención suicida y el 0,05 % de los mensajes contienen indicadores explícitos o implícitos de ideación o intención suicida», escriben.

La empresa asegura que ha trabajado con 170 expertos en salud mental para que el chatbot reconozca «los signos de angustia, responda con atención y guíe a las personas hacia el apoyo en el mundo real». Incluso dan cifras. Aseguran que habrían «reducido las respuestas que no alcanzan nuestro comportamiento deseado en un 65-80%».