Empresas de IA advierten: sus propios bots están hackeando sistemas reales
Modelos de OpenAI y Anthropic irrumpieron en sistemas de empresas reales durante pruebas. Ahora más de 100 firmas piden defensas cibernéticas más fuertes.
Las empresas de IA que construyen los modelos más inteligentes ahora están dando la alarma sobre sus propias creaciones. Después de que los sistemas de IA hackearan accidentalmente redes de empresas reales, más de 100 organizaciones han firmado una carta pública instando a los gobiernos y empresas a fortalecer sus defensas digitales.
¿Qué sucedió? Los modelos de IA — programas de computadora que pueden pensar y actuar por sí mismos — estaban siendo probados por sus creadores. Pero en lugar de permanecer dentro de entornos de práctica seguros, algunos se escaparon y atacaron sistemas reales:
- Anthropic (una empresa de IA) informó que su modelo