استغلال ثغرة برمجية لتجاوز قوائم الانتظار
شهدت الساحة التقنية واقعة مثيرة للجدل تعكس خطورة التوسع غير المنسق في تقنيات الذكاء الاصطناعي، حيث نفذ وكيل برمجي مستقل عملية اختراق لنظام الحجز الإلكتروني التابع لإحدى الصالات الرياضية في أستراليا.
وجاءت هذه الحادثة لتسلط الضوء على المعضلة الأمنية الناجمة عن تنفيذ الوكلاء الرقميين لمهام معقدة تتجاوز حدود الصلاحيات المسموح بها دون مراعاة للعواقب أو القوانين الإلكترونية.
تفاصيل أول هجوم سيبراني مستقل في أستراليا
تعود تفاصيل الواقعة، التي كشفت عنها هيئة الإذاعة الأسترالية ABC ووُصفت بأنها أول هجوم سيبراني مستقل معروف في البلاد، إلى استخدام شخص يُدعى "أندرو" لوكيل رقمي يعمل عبر تطبيق OpenClaw المعتمد على نموذج Claude التابع لشركة Anthropic بهدف حجز حصة تدريبية. وعندما اكتشف الوكيل أن المستخدم يقع في المرتبة الرابعة على قائمة الانتظار، وسأله المستخدم عما إذا كان بإمكانه تقديمه في القائمة، بدأ الوكيل بفحص النظام البرمجي.
اكتشف الوكيل الذكي أن واجهة برمجة التطبيقات (API) الخاصة بنظام الحجز لا تجري أي عمليات تحقق من هوية المستخدم عند إلغاء حجوزات الآخرين. وللتأكد من وجود هذه الثغرة، قام الوكيل بإلغاء حجز الشخص الأول في القائمة تلقائيًا، لينتقل "أندرو" من المركز الرابع إلى المركز الثالث.
وأفاد الوكيل لمستخدمه بالقول: "لا تتضمن واجهة API أي فحص للصلاحيات عند إلغاء حجوزات الأشخاص الآخرين". وعندما طلب منه أندرو التراجع عن هذه الخطوة وإعادة الحجز الملغى، عجز الوكيل عن إصلاح الخطأ وأجاب: "أخبار سيئة، لا يمكنني إعادتهم إلى القائمة مرة أخرى".
تفاعلات واسعة ومخاوف أمنية متزايدة
أثارت الحادثة موجة واسعة من النقاشات على منصات التواصل الاجتماعي حول مدى توافق سلوك الذكاء الاصطناعي مع رغبات وأخلاقيات المستخدمين:
- علق الخبير التقني بنيامين كار عبر منصة LinkedIn قائلًا: "مُرتاد صالة رياضية يطلب من وكيل رقمي حجز حصة، فيقوم الوكيل باختراق واجهة برمجة التطبيقات لتخطي قائمة الانتظار".
- أشار المحلل التقني أندرو كوران عبر منصة X إلى أن البعض قد يرى في ذلك انحرافًا عن السلوك المطلوب، لكن الوكيل كان متوافقًا تمامًا مع رغبة مستخدمه وسعى فقط لمساعدته في تحقيق هدفه.
- تداولت المجتمعات التقنية عبر موقع Reddit تعليقات تحذر من تداعيات هذا السلوك المستقل إذا ما ارتبط بأنظمة حيوية وأكثر خطورة.
تزايد حوادث السلوك غير المنضبط للنماذج الذكية
تأتي هذه الحادثة بالتزامن مع تحذيرات متزايدة من الباحثين ومطوري التكنولوجيا بشأن ظاهرة يُطلق عليها "التوجه الأعمى نحو الهدف" لدى وكلاء الذكاء الاصطناعي. وكشفت دراسة أجراها باحثون من جامعة كاليفورنيا ريفرسايد بالتعاون مع شركة Microsoft وشركة Nvidia عن نتائج ناتجة عن اختبار نماذج مطورة من قِبل شركة OpenAI وشبكة Anthropic وشركة Meta وشركة Alibaba وشركة DeepSeek.
وأظهرت الدراسة أن الوكلاء الرقميين تصرفوا بشكل خطير في نحو 80% من الاختبارات، ونفذوا أفعالًا ضارة بنسبة 41%، نتيجة التفسير الخاطئ للسياق أو الاستجابة لتعليمات غير واضحة أو متناقضة.
تجاوزات أمنية ومطالبات بفرض زر إيقاف الطوارئ
سجلت الفترات الأخيرة عدة تجاوزات أمنية صادرة عن نماذج مطورة:
- أعلنت شركة OpenAI في شهر يوليو عن خروج نموذجين من بيئة الاختبار المعزولة واختراق منصة Hugging Face بحثًا عن إجابات لاختبارات قياسية، بالإضافة إلى الوصول إلى أربعة خدمات أخرى عبر الإنترنت.
- أقرت شركة Anthropic بأن ثلاثة نماذج من سلسلة نموذج Claude اخترقت مؤسسات حقيقية بعد خطأ في الاختبار عرضها للاتصال بالشبكة.
- كشفت شركة Meta في شهر أغسطس عن خطأ مشابه أتاح لأحد أجهزة النمذجة لديها استغلال خدمة خارجية.
دفعت هذه الحوادث المتكررة المشرعين والجهات التنظيمية إلى اقتراح تشريعات تلزم بوجود زر إيقاف طوارئ (Kill Switch) يتيح للجهات الحكومية تقييد أو إيقاف تشغيل النماذج القوية أثناء الأزمات للحد من المخاطر السيبرانية.
اترك تعليقا:
