Могут ли компании ИИ действительно проверять себя? Эксперты выражают сомнения

Шесть ведущих компаний ИИ пообещали Белому дому, что они позволят проводить внешние проверки. Но исследователь предупреждает, что аудиты могут быть слишком слабыми, чтобы иметь значение.

Шесть крупнейших в мире компаний в области ИИ сделали большое обещание правительству США: они позволят посторонним проверять их работу. Но расследование в стиле финансового аудита выявляет серьезную лазейку.

29 сентября Nvidia, OpenAI, Anthropic, Google, Meta и xAI подписали "соглашение" (официальное соглашение), которое президент Трамп назвал "морально обязательным". Каждая компания обязалась работать с независимым внешним аудитором (внешним экспертом, который проверяет практики компании), чтобы выявлять проблемы.

Так в чем подвох? По словам Сэмюэля Вэнс-Лоу из Центра исследований децентрализации, соглашение позволяет каждой компании:

Выбирать своего аудитора
Решать, что аудитору разрешено проверять
Сохранять результаты в тайне, без наказания за игнорирование правил

Другими словами, аудиторы могут видеть только то, что компании решат им показать.

Статья сравнивает это с известным скандалом Enron 2000 года. Enron заплатила своему аудитору, Arthur Andersen, 52 миллиона долларов за один год — и аудитор не смог выявить мошенничество. Обе компании обанкротились. Конгресс ответил Законом Сарбейнса-Оксли, который лишил руководство компаний права выбора аудиторов и создал внешний надзорный орган для проверки самих аудиторов.

История также показывает, что добровольные обещания ИИ не выдерживают проверки. Когда исследователи из Стэнфорда, Гарварда и Брауна оценили 16 компаний ИИ по предыдущим добровольным обещаниям, средний балл составил всего 53%. По обещанию помочь посторонним выявлять проблемы, 8 из 16 получили ноль.

Однако есть хорошие новости. Новый метод от Google DeepMind позволяет проводить "двойной слепой тест" — как в медицинских испытаниях лекарств — где тестировщики никогда не видят модель ИИ, а компания никогда не видит тестовые вопросы. Это означает, что посторонние теперь могут безопасно проверять ИИ, устраняя старую отговорку, что модели слишком ценны или рискованны для обмена.

Вывод: Автор утверждает, что для того, чтобы эти аудиты имели значение, аудиторы должны выбирать, что они тестируют, компании должны публично называть своих аудиторов, и Конгресс должен создать независимый надзорный орган — так же, как это было сделано после Enron.

Это сгенерированное ИИ резюме. Прочитайте оригинальную статью на: https://www.coindesk.com/opinion/2026/10/16/big-tech-s-ai-auditors-will-only-see-what-they-re-shown