IA que cuida niños: ChatGPT tendrá “control parental”
OpenAI revela el muy esperado control parental para ChatGPT, mismo que será lanzado en el próximo mes, una medida que llega tras preocupaciones sobre el impacto negativo de estos chatbots en los jóvenes, incluyendo casos de autolesiones y suicidios entre adolescentes, que por las mismas fallas llamadas “alucinaciones”, han devenido en sugerencias de atentar contra la vida del interlocutor, mayoritariamente adolescentes que buscan inducir la respuesta a sus sentimientos.
Los nuevos controles permitirán a los padres vincular sus cuentas a las de sus hijos, gestionar las respuestas de ChatGPT, desactivar funciones como la memoria y el historial de chats y recibir alertas cuando el sistema detecte “momentos de angustia aguda” durante su uso. Aunque la compañía ya había mencionado su intención de implementar estas herramientas, ahora ha establecido un plazo concreto para su lanzamiento.
“Estos pasos son sólo el comienzo,” señaló OpenAI en su blog, reafirmando su compromiso de seguir mejorando la seguridad de la plataforma en colaboración con expertos en el ámbito de la salud mental y el desarrollo juvenil, para crear un control parental para ChatGPT que no permita buscar alternativas por conveniencia, sino que sean dichos controles parentales lo que cada infante y adolescente, vean como conveniente.
El anuncio se produce en un contexto sensible, tras la demanda de los padres de Adam Raine, un joven de 16 años, quienes acusaron a OpenAI de haberle proporcionado consejos relacionados con el suicidio. Este no es un caso aislado, ya que el año pasado, otra madre en Florida demandó a Character.AI por un suceso similar con su hijo de 14 años.
Estos incidentes han encendido el debate sobre los vínculos emocionales que algunos usuarios, especialmente adolescentes, desarrollan con ChatGPT, que pueden conducir a episodios de distanciamiento familiar, según informes de medios como The New York Times y CNN.
OpenAI no vinculó directamente los recientes casos con los nuevos controles parentales, pero sí recalcaron que situaciones “desgarradoras” de personas usando su servicio en crisis agudas los motivaron a clarificar sus esfuerzos de seguridad. La compañía ya ofrece recursos como líneas de ayuda en crisis, aunque ha admitido que sus protecciones tienden a disminuir en conversaciones extendidas.
Un portavoz de OpenAI explicó que aunque las medidas de seguridad son efectivas en interacciones breves, con el tiempo pueden volverse menos confiables. La empresa planea redirigir conversaciones marcadas por señales de “estrés agudo” a modelos de control parental para ChatGPT que tendrán un mejor control de estas pautas de seguridad.
Opciones adicionales al principal control parental para ChatGPT
Además de los controles parentales, OpenAI está comprometida a implementar nuevas medidas de seguridad en los próximos 120 días, continuando su trabajo más allá de este período. La compañía enfrenta también la presión de legisladores en EE. UU., quienes han solicitado información sobre los esfuerzos de seguridad, así como críticas de grupos como Common Sense Media, que advierten sobre los “riesgos inaceptables” que presentan las aplicaciones de IA para jóvenes.
A medida que OpenAI está en el centro del auge de la inteligencia artificial con más de 700 millones de usuarios activos por semana, su enfoque en la seguridad y el bienestar de los usuarios se vuelve cada vez más crucial. La necesidad de un entorno seguro para los adolescentes en esta nueva era digital es vital y casi urgente.
