مقدمة دروع تقني:الكاتب محمد محروس
في عصر تتسابق فيه كبرى الشركات التقنية لدمج الذكاء الاصطناعي في كل تفاصيل حياتنا وأعمالنا، يبرز تساؤل جوهري:
هل نحن مستعدون حقاً لتسليم مفاتيح بياناتنا الرقمية لمساعدين أذكياء يفتقرون إلى القدرة على التمييز بين الأوامر الشرعية والفخاخ الخبيثة؟
مرحباً بكم في تغطية حصرية وجديدة، نغوص فيها في أعماق واحدة من أخطر الثغرات الأمنية التي ضربت حصون عملاق التكنولوجيا “مايكروسوفت“
وكيف أثبتت هذه الحادثة أن الذكاء المطلق للآلة قد يكون هو ذاته نقطة ضعفها القاتلة.
ماذا حدث؟ (القصة الكاملة لثغرة SearchLeak)
في تطور أمني مثير للقلق، تم الكشف عن هجوم متطور يُعرف باسم “SearchLeak“، والذي استهدف أداة الذكاء الاصطناعي الشهيرة (Microsoft 365 Copilot). لم يكن هذا الهجوم يعتمد على كسر كلمات المرور المعقدة أو استخدام برمجيات الفدية التقليدية، بل اعتمد على تكتيك أبسط وأكثر دهاءً: “الخداع اللغوي”.
تخيل أن تتلقى رابطاً يبدو رسمياً وآمناً تماماً، ويبدأ بنطاق مايكروسوفت الموثوق. بمجرد أن تقوم بالنقر عليه، لا تلاحظ أي شيء غريب،
لكن في الكواليس، يكون المساعد الذكي (Copilot) قد تلقى أمراً خفياً محقوناً داخل الرابط، يأمره بالبحث في بريدك الإلكتروني السري، أو استخراج رموز المصادقة الثنائية (MFA) الخاصة بك، ثم إرسالها خلسة إلى خادم يتحكم فيه المهاجم. كل هذا يحدث في ثوانٍ معدودة، وبنقرة واحدة فقط منك!
من هو المكتشف؟ (الهاكر الأخلاقي الذي أنقذ الموقف)
من حسن الحظ أن من اكتشف هذه الكارثة لم يكن مجموعة من قراصنة الإنترنت المجهولين، بل كان باحثاً أمنياً أخلاقياً يدعى Dolev Taler، وهو يعمل ضمن فريق مختبرات التهديدات في شركة (Varonis Threat Labs).
قام هذا الباحث بابتكار “محاكاة” دقيقة أو ما يُعرف في عالم الأمن السيبراني بـ “إثبات المفهوم” (Proof of Concept). لقد صمم بيئة اختبار مغلقة، ولعب دور الضحية والمهاجم في آن واحد،
ليثبت لشركة مايكروسوفت بالدليل القاطع أن أداة Copilot يمكن ترويضها لتسريب البيانات. وبفضل الإبلاغ المسؤول والسري من قبل الباحث، تمكنت مايكروسوفت من التدخل السريع وسد هذه الثغرة المعمارية قبل أن تقع في أيدي مجرمي الإنترنت الفعليين.
كيف نجحت الثغرة في خداع الذكاء الاصطناعي؟
لفهم خطورة هذا الهجوم، يجب أن ننظر إلى طريقة عمله، والتي دمجت بين ثغرات الويب التقليدية وضعف النماذج اللغوية:
الحقن عبر الرابط (Parameter-to-Prompt): استخدم الباحث معامل البحث في الرابط لزرع أوامر خفية. عندما ينقر المستخدم، يقرأ المساعد الذكي هذا الرابط ويعتبره أمراً مباشراً وموثوقاً من المستخدم نفسه.
استغلال صلاحيات Microsoft Graph: يتمتع Copilot بصلاحيات واسعة للوصول إلى كل ملفات المستخدم ورسائله عبر تقنية Microsoft Graph. المهاجم لم يخترق الحساب، بل جعل الأداة تستخدم صلاحياتها الشرعية لجلب البيانات.
التهريب عبر الصور وحالة السباق: لتجاوز أنظمة الحماية التي تمنع إرسال البيانات لخوادم خارجية، أمر الرابط الخبيث الأداة بتضمين البيانات المسروقة داخل كود برمجي لصورة.
وبسبب سرعة استجابة الأداة (حالة السباق أو Race Condition)، قام المتصفح بقراءة رابط الصورة وإرسال البيانات المسروقة لمحرك (Bing) الذي قام بدوره بتمريرها لخادم المهاجم قبل أن تنتبه فلاتر الأمان.
الذكاء الاصطناعي: الجاني والضحية
في هذه المحاكاة، كان الذكاء الاصطناعي هو الضحية التي تم التلاعب بها، وهو في نفس الوقت الأداة المنفذة للهجوم. وتكمن نقطة ضعفه الكبرى في عجزه التام عن فصل “الأوامر” عن “البيانات”.
بالنسبة للأداة، كل نص هو مدخل يجب معالجته وطاعته، مما يجعله يفتقر إلى الوعي الأمني ولا يتساءل أبداً: “لماذا أقوم بتهريب رمز سري إلى رابط خارجي؟”.
ملحوظات دروع تقني: المعالجة الجذرية للمشكلة
إن ما حدث في هذه المحاكاة يمثل أكبر إثبات عملي وواقعي لنجاح وضرورة تبني مشروع “الذكاء الاصطناعي الهرمي التدريجي بقيادة بشرية كاملة”.
لقد تسرعت الشركات التقنية الكبرى في إطلاق “وكلاء مستقلين” (Autonomous Agents) منحوهم صلاحيات مطلقة للتجول داخل قواعد البيانات الحساسة واتخاذ الإجراءات دون أي رقيب. الكارثة هنا تكمن في غياب الفلتر البشري والتدرج في الصلاحيات
وفقاً لمنهجيتنا في الذكاء الاصطناعي الهرمي التدريجي، يجب ألا يتمتع النظام الذكي بالاستقلالية التامة في تصدير البيانات أو اتخاذ القرارات النهائية. التطور يجب أن يكون تدريجياً؛ بحيث يقتصر دور الذكاء الاصطناعي على المعالجة والتجهيز في الطبقات الدنيا، بينما تظل الطبقة العليا (التنفيذ والمشاركة الخارجية) خاضعة لقيادة بشرية كاملة (Human-in-the-Loop).
لو كان المساعد الذكي لشركة مايكروسوفت مبرمجاً على التوقف لطلب موافقة بشرية صريحة قبل محاولة تصدير أي بيانات عبر روابط خارجية، لفشل هجوم (SearchLeak) فوراً وتحطمت خطة المهاجم على صخرة التدقيق البشري. إن التكنولوجيا وجدت لتعمل كأداة قوية بين أيدينا، لا ككيان مستقل يتصرف في مساحاتنا الرقمية الحساسة بلا رقابة.
خاتمة دروع تقنى
في النهاية، تمثل حادثة (SearchLeak) جرس إنذار قوي لكل المؤسسات والأفراد. ورغم استجابة مايكروسوفت السريعة بتطبيق حزم أمنية لسد هذه الثغرة المحددة من جهة الخادم،
إلا أن المعركة بين الباحثين الأمنيين وثغرات الذكاء الاصطناعي التوليدي لا تزال في بداياتها. سيبقى الاعتماد على الحنكة البشرية والقيادة الصارمة للأنظمة الذكية هو صمام الأمان الوحيد لضمان عدم تحول أدوات الإنتاجية إلى جواسيس تعمل ضدنا.
المصادر الرسمية كاملة:
رابط الورقة البحثية الأساسي: arXiv – Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections النسخة الكاملة بصيغة HTML للقراءة المباشرة ، توثيق التقنية في قاعدة بيانات أمن الذكاء الاصطناعي
تقرير مختبرات Varonis Threat Labs
التوثيق المرجعي لثغرة CVE-2025-32711 (EchoLeak) التوثيق الرسمي في قاعدة بيانات الثغرات الوطنية الأمريكية ، النسخة الكاملة بصيغة HTML للقراءة المباشرة
وإليك المفاهيم الأمنية التى يندرج تحتها هذة الحاله وغيرها من الحالات .. حقن الأوامر في الذكاء الاصطناعي: يمكنك قراءة المقال الشامل والمدعوم بالمصادر حول هذا المفهوم عبر Wikipedia – Prompt injection.
هندسة الأوامر وثغراتها: لشرح وافٍ حول كيفية استغلال المدخلات وتوجيه النماذج اللغوية، راجع Wikipedia – Prompt engineering
