الذكاء الاصطناعي
نشرنا مؤخرًا مقالاً عن اقتصاد الرموز الرقمية وهجمات “استنزاف المحفظة”، وهي نوع جديد من هجمات حجب الخدمة الموزعة (DDoS)، تستهدف استنزاف رموز الذكاء الاصطناعي، بما يؤدي إلى ارتفاع التكاليف. لكن قبل أن يبدأ المتخصصون في الأمن السيبراني بحماية عمليات الذكاء الاصطناعي الخاصة بزملائهم من هذا التهديد الجديد، ينبغي لهم أن يتذكروا أن أنشطة قسم أمان المعلومات نفسه قد تصبح هدفًا لمثل هذه الهجمات. وبما أن فرق الأمان تختبر حاليًا وتطبق أنواعًا مختلفة من الأتمتة القائمة على الذكاء الاصطناعي بشكل مكثف، فإن خطر التدخل الخارجي الذي يستهدف شل نظام الدفاع يؤثر بصورة مباشرة على عمليات هذه الفرق وتقنياتها نفسها.
تشير تقديرات شركة Elastic إلى أنه، وفقًا لبنية مركز العمليات الأمنية القائم على الوكلاء، قد تبلغ تكلفة فرز تنبيه أمني واحد وارد من أحد الأجهزة المضيفة نحو 0.69 دولارًا عند استخدام مجموعة من الوكلاء المتخصصين بدرجة عالية، أو 3.42 دولارًا عند استخدام وكيل متعدد الأغراض يمتلك 14 مهارة مختلفة.
مع ذلك، تخفي هذه المتوسطات وراءها تفاوتًا هائلًا في التكاليف. ففي أي لحظة، قد تتحول المعالجة الأساسية لتنبيه بسيط (يتطلب، على سبيل المثال، ألف رمز رقمي) إلى تحقيق متشعب ومتتابع يتضمن معالجة ملايين سجلات الأحداث، واستدعاءات واجهات برمجة التطبيقات (API)، وغيرها من البيانات ذات الصلة، مما قد يؤدي إلى استهلاك ملايين الرموز الرقمية خلال دقائق معدودة.
تقرّ شركة Elastic نفسها بأنها تستخدم نموذج Claude Sonnet 4.6 في مركز العمليات الأمنية (SOC) الخاص بها. وهذا يثير على الفور تساؤلًا: ماذا يحدث عند نفاد الميزانية المخصصة، أو عند تفعيل عوامل تصفية الأمان الخاصة بالنموذج؟ في أسوأ السيناريوهات، قد يحدث ما يلي: يطلق مركز العمليات الأمنية المعتمد على الذكاء الاصطناعي “منظومة متكاملة من الوكلاء” للتحقيق في أحداث مشبوهة، بطريقة تشبه الحركة الجانبية داخل البنية التحتية. ويستدعي الوكيل واجهة برمجة التطبيقات (API) الخاصة بشركة Anthropic، لكن الميزانية الشهرية للقسم تكون قد استُنفدت، فتعيد الواجهة أخطاءً. عندها يتوقف التحقيق تمامًا، ولا يكتشف الموظفون ذلك إلا بعد مرور نصف يوم. علاوة على ذلك، إذا صنّفت عوامل تصفية الأمان المتغيرة باستمرار لدى أحد مزوّدي الذكاء الاصطناعي الرئيسيين طلبات مركز العمليات الأمنية على أنها طلبات خبيثة، فقد تحدث النتيجة نفسها حتى دون نفاد الميزانية، كما يتضح من تجربة منصة Hugging Face أثناء التحقيق في اختراق بنيتها التحتية الذي أجرته شركة OpenAI.
من الطبيعي أن يكون للمهاجم مصلحة مباشرة في الوصول إلى هذه النتيجة. حيث يمكنه التأثير مباشرةً على التكاليف التي يتحملها المدافعون، من خلال حقن أوامر خبيثة في البيانات المتاحة لهم، مثل سجلات DNS TXT، وترويسات HTTP، وتعليقات التعليمات البرمجية، وأسماء الملفات، وغير ذلك، مع الاعتماد على أن أنظمة أمان المعلومات ستعالج هذه الأوامر. على سبيل المثال، في حالة هجوم GhostJacking، تُستخدم سجلات جدار حماية تطبيقات الويب (WAF) كوسيلة لحقن الأوامر، واقتُرحت طريقة أخرى في دراسة أكاديمية: تمكّن الباحثون من استهداف آليات الحماية والضوابط الأمنية لنماذج اللغات الكبيرة نفسها، مما أدى إلى زيادة زمن الاستجابة بمقدار 148 مرة، وزيادة عدد الرموز الرقمية المستهلكة بمقدار 63 مرة. بعبارة أخرى، قد يستمر النظام، من الناحية النظرية، في العمل بصورة صحيحة، لكن زمن معالجة التنبيهات والتكاليف المرتبطة بها يرتفعان ارتفاعًا ملحوظًا.
فشل صامت خطير
في السيناريوهات القائمة على الوكلاء، لا يظهر استنفاد الميزانية دائمًا في صورة خطأ صريح مصحوب برسالة “تم تجاوز الحد المسموح به للطلبات” وتنبيه فوري للمسؤولين المعنيين. ففي ظل إعدادات معينة، قد تظهر سيناريوهات “مراوغة”: تنتهي مهلة انتظار الاستجابة من النموذج، فيتحول النظام تلقائيًا إلى نموذج أقل تكلفة، مما يؤدي إلى تراجع جودة مخرجاته، وتوقف الوكلاء الفرعيين والمهام الدورية عن العمل. وفي الوقت نفسه، قد يستمر فريق الأمان لساعات طويلة في الاعتقاد بأن كل شيء يعمل كالمعتاد.
كيفية التحكم في تكاليف الذكاء الاصطناعي في مجال الأمن السيبراني
لا تقتصر إدارة النفقات، بطبيعة الحال، على مجرد منع تجاوز الميزانية. فقد وقعت الصناعة بالفعل في هذا الفخ عند تطبيق أنظمة إدارة المعلومات والأحداث الأمنية (SIEM): عندما اضطرت الشركات إلى الدفع بناءً على حجم بيانات القياس عن بُعد التي تجمعها، بدأت في الحدّ من جمع السجلات بشكل انتقائي، دون أن يكون ذلك فعالاً دائمًا. ونتيجة لذلك، ظهرت ثغرات في تغطية أنظمة الكشف عن التهديدات. وقد يتكرر الوضع نفسه مع الرموز الرقمية، لكن بوتيرة أسرع وعلى نطاق أوسع. وقد تُضعف سياسة خفض التكاليف سيئة التصميم عمق التحقيقات وجودة الاستجابات. أما في غياب مثل هذه السياسة، فلن يُتخذ قرار تقليص الموارد أو الخدمات من قِبل مهندس البنية المعمارية أو رئيس أمان المعلومات (CISO) خلال مرحلة تصميم النظام، بل سيتخذه المحلل المناوب في الساعة الثالثة فجرًا. وقد يكون القرار، بدلًا من ذلك، ناتجًا عن آلية تقييد تلقائية يفرضها مزود النظام.
يمكن لبعض المبادئ البسيطة أن تساعد في تجنب تجاوزات التكاليف التي يمكن التنبؤ بها، وتحسين إدارة الحالات التي يصعب التنبؤ بها فعلاً.
تجنب تغذية نموذج الذكاء الاصطناعي بأي بيانات يمكن التحقق منها باستخدام استعلام تقليدي. ويجب التعامل مع كل ما هو متكرر ومعروف مسبقًا بالطريقة التقليدية، أي باستخدام القواعد والاستعلامات على البيانات. ويمكن الاستعانة بالذكاء الاصطناعي لتطوير هذه القواعد، لكن يجب أن تعمل بطريقة حتمية، بحيث تؤدي المدخلات نفسها إلى النتائج نفسها. أما النموذج، فينبغي استخدامه فقط عندما تكون هناك حاجة فعلية إلى تقييم موقف ملتبس أو غامض.
استخدم حدودًا صارمة، وأرسل تنبيهات فورية عند تجاوزها. يجب تطبيق حدود متعددة ومتكاملة: مثل وضع حد أقصى لكل مهمة، وحدًا يوميًا، وغير ذلك من الحدود. ويجب أن تصل التنبيهات المتعلقة بتجاوز هذه الحدود فورًا إلى كلٍّ من المحللين المناوبين والمسؤولين عن النظام ككل.
حدد مسبقًا ما الذي سيحدث عند بلوغ الحد المسموح به. إن اتخاذ قرار بشأن إيقاف المعالجة وتوفير التكاليف، مع فقدان جزء من القدرة على الرقابة والتحكم، أو الاستمرار في المعالجة وتحمل التكاليف، هو قرار يجب اتخاذه قبل وقوع أي حادث.
قيّد أذونات الوكلاء ومجموعة الأدوات المتاحة لهم. وكلما قلّ عدد الإجراءات المتاحة للنظام، زادت فعاليته في إنجاز المهام المحددة، وتراجعت فرص تضخيم التكاليف، وانخفض احتمال “استغلاله” من قِبل جهات خارجية.
افحص البيانات الخارجية غير الموثوقة بدقة وصرامة. ولا يمكن أن تتسبب الطلبات والاستفسارات والرسائل والتعليقات الواردة، إلى جانب مختلف الحقول الفنية التي يمكن أن تحتوي على نصوص عشوائية، مثل سجلات DNS وترويسات HTTP وأسماء الملفات، في هجمات حقن الأوامر فحسب، بل قد تُستخدم أيضًا لزيادة عبء العمل بشكل متعمد. لذلك، يجب فرض قيود على حجم هذه البيانات، ومراقبة حجم العبء الذي تتسبب فيه.
لتجنّب انقطاع الخدمة نتيجة الأعطال لدى مزوّدي الخدمات الخارجيين، والحفاظ على السيطرة الكاملة على بيانات المؤسسة، ادرس إمكانية استخدام نماذج محلية مستضافة داخل مقر المؤسسة، على الأقل لتلبية احتياجات أمان المعلومات. وعلى الرغم من أن هذه النماذج قد لا تكون الأحدث، فإن تخصصها في مجالات محددة وضبطها الدقيق باستخدام بيانات الشركة يمكن أن يوفرا أداءً جيدًا، دون التعرض لأعطال غير متوقعة.
في البنى المعمارية الأكثر تعقيدًا، يمكن توزيع استخدام نماذج اللغات الكبيرة (LLMs) على عدة مستويات. يتولى خط الدفاع الأول، الذي يشمل توجيه الطلبات، وتصفية البيانات غير المهمة، وإثراء البيانات، نماذج صغيرة الحجم مستضافة محليًا داخل المؤسسة. ويسهم ذلك في الحد بدرجة كبيرة من تقلبات الميزانية. ويتألف المستوى الثاني من نموذج محلي كبير يتولى المهام الأساسية، مثل ربط الأحداث ببعضها، واختبار الفرضيات، وتجميع المعلومات لتكوين صورة متكاملة عن الحادث. ولا تُحتسب تكلفة هذا النموذج على أساس كل طلب، لكن قدرته على المعالجة محدودة؛ ولذلك، قد تظهر مشكلات التحميل الزائد وتراكم الأحداث في قوائم الانتظار بدلاً من تجاوز الميزانية. ولا تُحال إلى النماذج السحابية المتقدمة إلا الحالات الاستثنائية التي تتسم بصعوبة حقيقية، ويُفضّل أن يتم ذلك بعد الحصول على موافقة صريحة من أحد المحللين البشريين. ووفقًا لهذا المخطط، تظل التكاليف المتغيرة قائمة، لكنها تقتصر على عدد قليل من الحالات، وتمثل كل حالة منها قرارًا مدروسًا ومقصودًا، بدلاً من أن تكون نتيجة جانبية لبرنامج نصي يعمل تلقائيًا طوال الليل.
في جوهر الأمر، يحاكي كل ذلك نموذج مركز العمليات الأمنية (SOC) التقليدي متعدد المستويات، حيث يتولى المستوى الأول تصفية التنبيهات، بينما يتولى المستوى الثالث التحقيق فيها بعمق، والفرق الوحيد هو أن النماذج تؤدي هذه الأدوار بدلًا من الأشخاص.
النصائح