Nueva York, 29 octubre, (batalladeideas.com).- Información recabada por OpenAI, desarrollador de ChatGPT, indica que más de un millón de individuos que emplean su chatbot de inteligencia artificial (IA) generativa manifestaron interés en el suicidio.
En una publicación de blog lanzada el lunes, la compañía estadounidense de inteligencia artificial calculó que cerca del 0,15 % de los usuarios sostiene «diálogos que contienen señales claras de posible planificación o intención suicida«.
De acuerdo con OpenAI, más de 800 millones de personas utilizan ChatGPT semanalmente, lo que equivale a cerca de 1,2 millones de usuarios.
La compañía también calcula que cerca del 0,07 % de los usuarios activos cada semana, algo menos de 600.000 individuos, presentan posibles indicadores de crisis de salud mental asociadas con psicosis o manía.
La cuestión se volvió prominente tras el suicidio del adolescente californiano Adam Raine a comienzos de este año. Sus padres pusieron una demanda contra ChatGPT por haberle dado consejos concretos sobre cómo lograrlo.
Desde entonces, OpenAI ha optimizado los controles parentales de ChatGPT e implementado otras medidas de seguridad, como un acceso ampliado a líneas directas de crisis, el redireccionamiento automático de conversaciones sensibles a modelos más seguros y recordatorios discretos para que los usuarios realicen pausas durante sesiones largas.
OpenAI ha mejorado su chatbot ChatGPT para identificar y responder de manera más efectiva a usuarios que enfrentan emergencias de salud mental, y colabora con más de 170 expertos en salud mental para disminuir notablemente las respuestas inapropiadas.
FOCO INFORMATIVO/BDI
