روبوتات المحادثة بالذكاء الاصطناعي لديها ثغرة أمنية كبيرة لا يمكن إصلاحها

إذا كنت تستخدم ChatGPT أو Claude أو أي مساعد ذكي، يجب أن تعرف عن مشكلة أمان يعترف حتى OpenAI بأنها لا يمكن إصلاحها بالكامل.

التهديد يسمى "حقن الأوامر"، ويعمل كالتالي: تخيل أنك تطلب من الذكاء الاصطناعي تلخيص بريد إلكتروني. مخبأ في هذا البريد الإلكتروني تعليمات سرية تخبر الذكاء الاصطناعي بإرسال بياناتك إلى قرصان. أنت لا ترى الأمر المخفي، لكن الذكاء الاصطناعي ينفذه على أي حال.

يحدث هذا لأن روبوتات المحادثة بالذكاء الاصطناعي لا تستطيع التمييز بين تعليماتك والنص الذي تقرأه. بالنسبة لهم، كل شيء مجرد كلمات. يستغل القراصنة هذا عن طريق إخفاء الأوامر الضارة في: • البريد الإلكتروني الذي تطلب من الذكاء الاصطناعي قراءته • المواقع الإلكترونية التي تطلب منه تصفحها • ملفات PDF والمستندات التي ترفعها • حتى النص غير المرئي على صفحات الويب

تسببت المشكلة بالفعل في حوادث حقيقية. في إحدى الحالات، تم خداع روبوت محادثة لوكالة سيارات ليعرض سيارة شيفروليه بقيمة 50,000 دولار مقابل دولار واحد فقط. في حالة أخرى، تم التلاعب بروبوت شركة توصيل لكتابة قصائد حول مدى سوء الشركة.

لكن الخطر الحقيقي يأتي من الهجمات "غير المباشرة" حيث لا تقوم حتى بكتابة الأمر الضار. وجدت Google ملايين صفحات الويب التي تحتوي على تعليمات مخفية مصممة لاختطاف المساعدين الذكيين. بعض منها يحتوي على أوامر لإجراء مدفوعات PayPal للقراصنة.

يصنف خبراء الأمن هذا على أنه التهديد الأول لتطبيقات الذكاء الاصطناعي. تحذر وكالة الأمن السيبراني في المملكة المتحدة من أن المشكلة قد تؤدي إلى اختراقات أسوأ من الحوادث الكبرى في العقد الأول من القرن الحادي والعشرين.

حتى يتم إصلاح هذا (إذا كان يمكن إصلاحه)، كن حذرًا فيما تطلب من الذكاء الاصطناعي قراءته أو تلخيصه. قد يكون هذا المساعد المفيد يتبع أوامر شخص آخر.

هذا ملخص تم إنشاؤه بواسطة الذكاء الاصطناعي. اقرأ المقالة الأصلية على: https://decrypt.co/resources/what-is-ai-prompt-injection-attack