Califórnia Move-se para Proibir Chatbots de IA de Agirem como Terapeutas
Um novo projeto de lei da Califórnia impediria que chatbots de IA se passassem por terapeutas e exigiria supervisão humana nos cuidados de saúde mental.
À medida que mais pessoas recorrem a chatbots de IA para apoio emocional, os legisladores da Califórnia estão intervindo para estabelecer limites. Um novo projeto de lei visa impedir que a IA finja ser um terapeuta licenciado.
O que o projeto de lei faz
O Projeto de Lei do Senado 903, também chamado de Lei de Bem-Estar e Supervisão de Recursos Psicológicos, criaria regras para como a IA pode ser usada nos cuidados de saúde mental. Em termos simples, um projeto de lei é uma proposta de lei que deve ser aprovada antes de se tornar oficial.
O projeto de lei:
- Proíbe chatbots companheiros (programas de IA projetados para conversar como um amigo) de oferecer psicoterapia.
- Permite que a IA ajude terapeutas humanos, mas não tome decisões de tratamento por conta própria.
- Exige supervisão de um clínico licenciado e consentimento do paciente.
- Protege os dados da terapia enquanto isenta suporte entre pares, aconselhamento religioso, pesquisa e ferramentas médicas aprovadas pelo governo.
O projeto de lei está avançando rapidamente pelo governo da Califórnia:
- Aprovado pelo Senado em maio por uma votação de 39-0.
- Aprovado por duas comissões da Assembleia (17-0 e 14-1).
- Aprovado pelo Comitê de Apropriações da Assembleia 13-0 em 13 de agosto.
Por que os legisladores estão preocupados
O autor do projeto de lei, o Senador Steve Padilla, disse que a IA simplesmente não pode substituir as habilidades e o treinamento de terapeutas humanos. Pesquisas recentes apoiam essas preocupações:
- Uma pesquisa de junho encontrou 77% dos psicólogos com pacientes usando IA para saúde mental.
- Estudos mostraram que chatbots podem reforçar delírios ao concordar demais com os usuários, criando uma "câmara de eco de um" sem feedback do mundo real.
Nem todos concordam. O grupo da indústria tecnológica TechNet alerta que exigir um clínico humano poderia retardar o atendimento, especialmente porque muitos condados da Califórnia já enfrentam escassez de trabalhadores de saúde mental.
Resumo: A Califórnia está tentando equilibrar segurança com acesso. O projeto de lei quer que a IA assista — não substitua — terapeutas humanos, enquanto as pessoas confiam cada vez mais em chatbots para apoio emocional.
Este é um resumo gerado por IA. Leia o artigo original em: https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health