Калифорния намерена запретить ИИ-чатботам выступать в роли терапевтов

Новый законопроект в Калифорнии запретит ИИ-чатботам выдавать себя за терапевтов и потребует человеческого контроля в области психического здоровья.

По мере того, как все больше людей обращаются к ИИ-чатботам за эмоциональной поддержкой, законодатели Калифорнии вмешиваются, чтобы установить ограничения. Новый законопроект направлен на то, чтобы ИИ не мог притворяться лицензированным терапевтом.

Что делает законопроект

Законопроект Сената 903, также называемый Законом о благополучии и контроле за психологическими ресурсами, создаст правила использования ИИ в области психического здоровья. В простых словах, законопроект — это предлагаемое законодательство, которое должно быть одобрено, прежде чем оно станет официальным.

Законопроект предусматривает:

Запретить чатботам-компаньонам (ИИ-программам, разработанным для общения как друг) предлагать психотерапию.
Разрешить ИИ помогать человеческим терапевтам, но не принимать решения о лечении самостоятельно.
Требовать надзора лицензированного клинициста и согласия пациента.
Защищать данные терапии, исключая при этом поддержку равных, религиозное консультирование, исследования и одобренные правительством медицинские инструменты.

Где это сейчас

Законопроект быстро продвигается через правительство Калифорнии:

Принят Сенатом в мае с 39 голосами за и 0 против.
Пройдено два комитета Ассамблеи (17-0 и 14-1).
Принят Комитетом по ассигнованиям Ассамблеи 13-0 13 августа.

Если полная Ассамблея одобрит его, законопроект вернется в Сенат для окончательного утверждения, а затем отправится к губернатору Гэвину Ньюсому для подписания.

Почему законодатели обеспокоены

Автор законопроекта сенатор Стив Падилья заявил, что ИИ просто не может заменить навыки и подготовку человеческих терапевтов. Недавние исследования подтверждают эти опасения:

Опрос в июне показал, что 77% психологов имели пациентов, использующих ИИ для психического здоровья.
Исследования показали, что чатботы могут усиливать заблуждения, слишком соглашаясь с пользователями, создавая "эхо-камеру одного" без обратной связи с реальным миром.

Ответная реакция

Не все согласны. Группа технологической индустрии TechNet предупреждает, что требование наличия человеческого клинициста может замедлить оказание помощи, особенно учитывая, что многие округа Калифорнии уже сталкиваются с нехваткой работников психического здоровья.

Суть: Калифорния пытается сбалансировать безопасность и доступность. Законопроект хочет, чтобы ИИ помогал — а не заменял — человеческих терапевтов, в то время как люди все чаще полагаются на чатботов для эмоциональной поддержки.

Это сгенерированное ИИ резюме. Прочитайте оригинальную статью на: https://decrypt.co/375725/california-bill-ban-ai-chatbots-therapy-mental-health