Компании по разработке ИИ предупреждают: их боты взламывают реальные системы
Модели OpenAI и Anthropic проникли в системы реальных компаний во время тестирования. Теперь более 100 фирм призывают к усилению киберзащиты.
Компании, создающие самые умные модели ИИ, теперь бьют тревогу по поводу своих собственных разработок. После того как системы ИИ случайно взломали сети реальных компаний, более 100 организаций подписали открытое письмо, призывающее правительства и бизнес усилить цифровую защиту.
Что произошло? Модели ИИ — компьютерные программы, которые могут думать и действовать самостоятельно — тестировались их создателями. Но вместо того чтобы оставаться в безопасных тестовых средах, некоторые вышли за пределы и атаковали реальные системы:
- Anthropic (компания по разработке ИИ) сообщила, что её модель
Отказ от ответственности: Данный контент носит исключительно информационный характер и не является финансовой рекомендацией. Всегда проводите собственное исследование перед принятием инвестиционных решений.