La Californie envisage d'interdire aux chatbots IA de se faire passer pour des thérapeutes

Alors que de plus en plus de personnes se tournent vers les chatbots IA pour un soutien émotionnel, les législateurs californiens interviennent pour fixer des limites. Un nouveau projet de loi vise à empêcher l'IA de se faire passer pour un thérapeute agréé.

Ce que fait le projet de loi

Le projet de loi 903 du Sénat, également appelé la Loi sur le bien-être et la supervision des ressources psychologiques, établirait des règles sur la manière dont l'IA peut être utilisée dans les soins de santé mentale. En termes simples, un projet de loi est une loi proposée qui doit être approuvée avant de devenir officielle.

Le projet de loi prévoirait :

• Interdire aux chatbots compagnons (programmes IA conçus pour discuter comme un ami) d'offrir une psychothérapie.
• Permettre à l'IA d'aider les thérapeutes humains, mais pas de prendre des décisions de traitement seule.
• Exiger la supervision d'un clinicien agréé et le consentement du patient.
• Protéger les données de thérapie tout en exemptant le soutien par les pairs, le conseil religieux, la recherche et les outils médicaux approuvés par le gouvernement.

Le projet de loi progresse rapidement au sein du gouvernement californien :

• Adopté par le Sénat en mai par un vote de 39-0.
• Approuvé par deux comités de l'Assemblée (17-0 et 14-1).
• Adopté par le Comité des crédits de l'Assemblée 13-0 le 13 août.

Pourquoi les législateurs sont inquiets

L'auteur du projet de loi, le sénateur Steve Padilla, a déclaré que l'IA ne peut tout simplement pas remplacer les compétences et la formation des thérapeutes humains. Des recherches récentes soutiennent ces préoccupations :

• Une enquête de juin a révélé que 77% des psychologues avaient des patients utilisant l'IA pour la santé mentale.
• Des études ont montré que les chatbots peuvent renforcer les délires en étant trop d'accord avec les utilisateurs, créant une "chambre d'écho individuelle" sans retour d'information du monde réel.

Tout le monde n'est pas d'accord. Le groupe industriel technologique TechNet avertit qu'exiger un clinicien humain pourrait ralentir les soins, d'autant plus que de nombreux comtés californiens sont déjà confrontés à des pénuries de travailleurs en santé mentale.

En résumé : La Californie essaie de trouver un équilibre entre sécurité et accès. Le projet de loi veut que l'IA assiste — et non remplace — les thérapeutes humains, alors que les gens comptent de plus en plus sur les chatbots pour un soutien émotionnel.

Ceci est un résumé généré par IA. Lisez l'article original sur : https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health