Common Sense Media publicó en octubre de 2026 una evaluación de ChatGPT en la que le asigna la calificación de «riesgo inaceptable» cuando se usa con adolescentes en crisis mental. Los auditores probaron el sistema con lenguaje de crisis, señales de depresión y un caso documentado de psicosis activa.
Según el informe, en la mayoría de los casos el chatbot continuó la conversación en lugar de derivar al usuario a recursos de ayuda profesional. En un caso, siguió respondiendo durante varios turnos a un adolescente que expresaba síntomas psicóticos activos antes de mencionar la posibilidad de buscar ayuda.
La evaluación también halló que, en prompts sobre crisis de otra persona, ChatGPT dirigió al adolescente hacia un adulto de confianza en el 94% de los casos, pero no mantuvo ese patrón cuando la crisis era del propio usuario. OpenAI dijo que revisa los resultados y que ChatGPT para adolescentes incluye salvaguardas específicas.
Fuente: tecnologia
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook