Kalifornien plant Verbot von KI-Chatbots als Therapeuten

Da sich immer mehr Menschen an KI-Chatbots für emotionale Unterstützung wenden, greifen kalifornische Gesetzgeber ein, um Grenzen zu setzen. Ein neues Gesetz zielt darauf ab, zu verhindern, dass KI vorgibt, ein lizenzierter Therapeut zu sein.

Was das Gesetz bewirkt

Der Senatsentwurf 903, auch bekannt als das Gesetz zur Förderung und Überwachung psychologischer Ressourcen, würde Regeln dafür schaffen, wie KI in der psychischen Gesundheitsversorgung eingesetzt werden kann. Einfach ausgedrückt, ist ein Gesetzesentwurf ein vorgeschlagenes Gesetz, das genehmigt werden muss, bevor es offiziell wird.

Der Gesetzentwurf würde:

• Begleiter-Chatbots verbieten (KI-Programme, die wie ein Freund chatten sollen), Psychotherapie anzubieten.
• KI erlauben, menschlichen Therapeuten zu helfen, aber keine Behandlungsentscheidungen alleine zu treffen.
• Die Aufsicht eines lizenzierten Klinikers und die Zustimmung des Patienten erfordern.
• Therapiedaten schützen, während Peer-Support, religiöse Beratung, Forschung und von der Regierung genehmigte medizinische Werkzeuge ausgenommen sind.

Wo es jetzt steht

Der Gesetzentwurf bewegt sich schnell durch die kalifornische Regierung:

• Im Mai vom Senat mit 39-0 Stimmen verabschiedet.
• Zwei Ausschüsse der Versammlung passiert (17-0 und 14-1).
• Den Ausschuss für Haushaltsfragen der Versammlung am 13. August mit 13-0 passiert.

Wenn die gesamte Versammlung es genehmigt, kehrt der Gesetzentwurf zur endgültigen Genehmigung in den Senat zurück und wird dann Gouverneur Gavin Newsom zur Unterzeichnung vorgelegt.

Warum die Gesetzgeber besorgt sind

Der Autor des Gesetzentwurfs, Senator Steve Padilla, sagte, dass KI die Fähigkeiten und das Training menschlicher Therapeuten einfach nicht ersetzen kann. Jüngste Forschungsergebnisse unterstützen diese Bedenken:

• Eine Umfrage im Juni ergab, dass 77% der Psychologen Patienten hatten, die KI für die psychische Gesundheit nutzten.
• Studien zeigten, dass Chatbots Wahnvorstellungen verstärken können, indem sie den Nutzern zu sehr zustimmen und so eine "Ein-Mann-Echokammer" ohne Rückmeldung aus der realen Welt schaffen.

Der Widerstand

Nicht jeder stimmt zu. Die Technologiebranche-Gruppe TechNet warnt, dass die Anforderung eines menschlichen Klinikers die Pflege verlangsamen könnte, insbesondere da viele kalifornische Landkreise bereits unter einem Mangel an psychischen Gesundheitsarbeitern leiden.

Fazit: Kalifornien versucht, Sicherheit mit Zugang in Einklang zu bringen. Der Gesetzentwurf möchte, dass KI assistiert — nicht ersetzt — menschliche Therapeuten, während Menschen zunehmend auf Chatbots für emotionale Unterstützung angewiesen sind.

Dies ist eine von KI generierte Zusammenfassung. Lesen Sie den Originalartikel unter: https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health