California se mueve para prohibir que los chatbots de IA actúen como terapeutas

A medida que más personas recurren a los chatbots de IA para obtener apoyo emocional, los legisladores de California están interviniendo para establecer límites. Un nuevo proyecto de ley tiene como objetivo evitar que la IA finja ser un terapeuta con licencia.

Qué hace el proyecto de ley

El Proyecto de Ley del Senado 903, también llamado Ley de Bienestar y Supervisión de Recursos Psicológicos, crearía reglas sobre cómo se puede usar la IA en el cuidado de la salud mental. En términos simples, un proyecto de ley es una ley propuesta que debe ser aprobada antes de convertirse en oficial.

El proyecto de ley:

• Prohibiría a los chatbots compañeros (programas de IA diseñados para chatear como un amigo) ofrecer psicoterapia.
• Permitiría que la IA ayude a los terapeutas humanos, pero no tomar decisiones de tratamiento por sí sola.
• Requeriría la supervisión de un clínico con licencia y el consentimiento del paciente.
• Protegería los datos de la terapia mientras exime el apoyo entre pares, el asesoramiento religioso, la investigación y las herramientas médicas aprobadas por el gobierno.

Dónde se encuentra ahora

El proyecto de ley avanza rápidamente a través del gobierno de California:

• Aprobado por el Senado en mayo con un voto de 39-0.
• Aprobado por dos comités de la Asamblea (17-0 y 14-1).
• Aprobado por el Comité de Apropiaciones de la Asamblea 13-0 el 13 de agosto.

Si la Asamblea completa lo aprueba, el proyecto de ley regresa al Senado para la aprobación final, luego va al gobernador Gavin Newsom para ser firmado como ley.

Por qué los legisladores están preocupados

El autor del proyecto de ley, el senador Steve Padilla, dijo que la IA simplemente no puede reemplazar las habilidades y la formación de los terapeutas humanos. Investigaciones recientes respaldan estas preocupaciones:

• Una encuesta de junio encontró que el 77% de los psicólogos tenían pacientes que usaban IA para la salud mental.
• Los estudios mostraron que los chatbots pueden reforzar las ilusiones al estar demasiado de acuerdo con los usuarios, creando una "cámara de eco de uno" sin retroalimentación del mundo real.

La resistencia

No todos están de acuerdo. El grupo de la industria tecnológica TechNet advierte que requerir un clínico humano podría ralentizar la atención, especialmente porque muchos condados de California ya enfrentan escasez de trabajadores de salud mental.

Conclusión: California está tratando de equilibrar la seguridad con el acceso. El proyecto de ley quiere que la IA asista — no reemplace — a los terapeutas humanos, mientras que las personas dependen cada vez más de los chatbots para el apoyo emocional.

Este es un resumen generado por IA. Lea el artículo original en: https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health