Califórnia Avança para Proibir Chatbots de IA de Agirem como Terapeutas
Um novo projeto de lei da Califórnia impediria chatbots de IA de se passarem por terapeutas e exigiria supervisão humana nos cuidados de saúde mental.
À medida que mais pessoas recorrem a chatbots de IA para apoio emocional, os legisladores da Califórnia estão intervindo para estabelecer limites. Um novo projeto de lei visa impedir que a IA finja ser um terapeuta licenciado.
O que o projeto de lei faz
O Projeto de Lei do Senado 903, também chamado de Lei de Bem-Estar e Supervisão de Recursos Psicológicos, criaria regras para o uso de IA nos cuidados de saúde mental. Em termos simples, um projeto de lei é uma proposta de lei que deve ser aprovada antes de se tornar oficial.
O projeto de lei:
- Proíbe chatbots companheiros (programas de IA projetados para conversar como um amigo) de oferecer psicoterapia.
- Permite que a IA ajude terapeutas humanos, mas não tome decisões de tratamento por conta própria.
- Exige supervisão de um clínico licenciado e consentimento do paciente.
- Protege os dados da terapia, enquanto isenta apoio entre pares, aconselhamento religioso, pesquisa e ferramentas médicas aprovadas pelo governo.
O projeto de lei está avançando rapidamente pelo governo da Califórnia:
- Aprovado no Senado em maio por 39-0 votos.
- Passou por dois comitês da Assembleia (17-0 e 14-1).
- Aprovado no Comitê de Apropriações da Assembleia 13-0 em 13 de agosto.
Por que os legisladores estão preocupados
O autor do projeto, o senador Steve Padilla, disse que a IA simplesmente não pode substituir as habilidades e o treinamento dos terapeutas humanos. Pesquisas recentes apoiam essas preocupações:
- Uma pesquisa de junho descobriu que 77% dos psicólogos tinham pacientes usando IA para saúde mental.
- Estudos mostraram que chatbots podem reforçar delírios ao concordar demais com os usuários, criando uma "câmara de eco de um" sem feedback do mundo real.
Nem todos concordam. O grupo da indústria de tecnologia TechNet alerta que exigir um clínico humano pode retardar o atendimento, especialmente porque muitos condados da Califórnia já enfrentam escassez de trabalhadores de saúde mental.
Em resumo: A Califórnia está tentando equilibrar segurança com acesso. O projeto de lei quer que a IA assista — não substitua — terapeutas humanos, enquanto as pessoas dependem cada vez mais de chatbots para apoio emocional.
Este é um resumo gerado por IA. Leia o artigo original em: https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health