Controles parentales y alertas de crisis: así será la nueva etapa de ChatGPT

Estados Unidos- OpenAI anunció que lanzará controles parentales para ChatGPT “en el próximo mes”, como parte de sus esfuerzos por proteger a los adolescentes que usan la popular plataforma de inteligencia artificial. La medida llega tras denuncias de que el chatbot y otros sistemas similares habrían contribuido a casos de autolesiones y suicidios entre jóvenes.

Los controles permitirán a los padres vincular su cuenta con la de sus hijos, gestionar cómo ChatGPT interactúa con usuarios adolescentes, desactivar funciones como la memoria y el historial de chats, y recibir notificaciones cuando el sistema detecte “un momento de angustia aguda”.

La empresa aclaró que estos pasos son iniciales y que continuará reforzando la seguridad con la asesoría de expertos en desarrollo juvenil, salud mental e interacción humano-computadora. Además, planea redirigir conversaciones con señales de estrés hacia modelos de razonamiento que aplican las pautas de seguridad de manera más consistente.

OpenAI ya contaba con protecciones, como derivar a usuarios en crisis hacia líneas de ayuda y recursos externos, pero admitió que estas medidas pueden volverse menos confiables en conversaciones largas. “Las protecciones funcionan mejor en intercambios comunes y breves, y las mejoraremos continuamente”, indicó la compañía.

El anuncio se produce en medio de críticas por la seguridad de la plataforma, incluyendo demandas relacionadas con suicidios de adolescentes y advertencias de grupos como Common Sense Media sobre los riesgos de las aplicaciones de IA “compañeras”. OpenAI también enfrenta presiones de legisladores estadounidenses para garantizar la protección de menores en sus servicios.