الذكاء الاصطناعي
في حين تعكف العديد من الشركات على إدخال أدوات الذكاء الاصطناعي بشكل مدروس لتعزيز الجودة والكفاءة، فإن أدوات الذكاء الاصطناعي غير المصرح بها تظهر في بيئات العمل المؤسسية بمعدلات أسرع. ويقوم مطورو البرمجيات بدمج ميزات الذكاء الاصطناعي مباشرة في المنتجات التي تستخدمها الشركات بالفعل (مثل Microsoft Copilot وGoogle Gemini)، في الوقت الذي يبادر فيه الموظفون من تلقاء أنفسهم بتثبيت أدوات أخرى بشكل خفي. ونتيجة لذلك، تواجه الشركات قناة غير خاضعة للإدارة لتسريب البيانات، حيث ينسخ الموظفون معلومات من الأنظمة المؤسسية ويلصقونها في برامج الدردشة الآلية للذكاء الاصطناعي، مما يؤدي إلى إرسال هذه البيانات ليس فقط إلى مزود البرمجيات كخدمة (SaaS)، بل مباشرة إلى المطورين المسؤولين عن نموذج الذكاء الاصطناعي الأساسي. وتختلف المخاطر وإستراتيجيات الحد منها بناءً على نوع نظام الذكاء الاصطناعي المستخدم. ونفند هذا الموضوع المتشعب، مع التركيز بشكل مكثف على أدوات رصد وحظر الذكاء الاصطناعي على مستويين منفصلين.
أنواع أنظمة الذكاء الاصطناعي غير المصرح بها
تتطلب إدارة وحظر استخدام الذكاء الاصطناعي منهجية عمل مختلفة بناءً على نوع النظام المعني. ولذلك، من الضروري تصنيف الذكاء الاصطناعي إلى أربع فئات رئيسية:
- ميزات الذكاء الاصطناعي المدمجة في المنصات الأساسية. فكر في Microsoft Copilot وGoogle Gemini وApple Intelligence، إلى جانب ميزات الذكاء الاصطناعي المدمجة مباشرة في مستعرضات الإنترنت. وتكمن الصعوبة في هذه الميزات في أنها جزء لا يتجزأ من الأدوات اليومية الضرورية، ومتاحة فورًا لكل مستخدم (حيث تظهر أحيانًا بشكل إلحاحي)، والأهم من ذلك أن الشركات المطورة تحاول تفعيلها تلقائيًا بشكل افتراضي.
- المساعدات الذكية المدمجة في تطبيقات العمل. تشمل هذه الفئة أدوات مثل Slack AI وZoom AI Companion وNotion AI ومساعد Rovo من Jira وما شابهها. وتتميز هذه الأدوات بأنها ترتبط بتطبيق واحد محدد ولا يمكن فصلها عنه بأي حال من الأحوال.
- روبوتات المحادثة المستقلة والمستندة إلى الويب والتطبيقات. تشمل هذه الفئة ChatGPT وClaude وPerplexity وCharacter AI، بالإضافة إلى بيئات التشغيل المحلية مثل LM Studio، وإضافات المستعرض، والمتصفحات القائمة على الوكلاء الأذكياء مثل Comet. وعادةً ما يتبنى الموظفون التطبيقات والخدمات المدرجة تحت هذه الفئة من تلقاء أنفسهم دون الحصول على إذن مسبق، مما يجعلها نموذجًا كلاسيكيًا للذكاء الاصطناعي غير المصرح به.
- الوكلاء متعددو الوظائف المدمجون في بيئة التشغيل المحلية. تضم هذه المجموعة أدوات مثل OpenClaw وNanoClaw وNemoClaw وغيرها. وتُشكل هذه الأدوات التهديد الأكبر لأنها تأتي بصلاحيات وصول واسعة بشكل افتراضي، وتعالج البيانات غير الموثوقة من شبكة الإنترنت المفتوحة بشكل نشط.
كيفية التعامل مع أنظمة الذكاء الاصطناعي غير المرغوب فيها
يتعين على كل شركة، بناءً على قطاع عملها، وشغفها بالابتكار، ومدى تحملها للمخاطر، أن تضع حدودًا واضحة تفصل بين حالات الاستخدام الموصى بها، وتلك المعتمدة بناءً على دراسة كل حالة على حدة، وحالات الاستخدام المحظورة تمامًا لمنتجات ذكاء اصطناعي معينة. وتحكم القطاعات الخاضعة للتنظيم والرقابة، مثل الرعاية الصحية، قواعدٌ خاصة، بينما تعمل شركات البيع بالتجزئة وفقًا لمنهجية مختلفة تمامًا. وفي كلتا الحالتين، يجب تعديل سياسات الشركة وتدقيقها بعناية بعد تحليل أدوات الذكاء الاصطناعي التي تسللت بالفعل إلى داخل المؤسسة. ولهذا السبب، تأتي الاستعانة بأدوات أمان المعلومات وتسجيل الأحداث الحالية لإجراء مسح شامل للبنية التحتية للمؤسسة في مقدمة أولويات العمل.
بناءً على الإستراتيجية المعتمدة، يمكن تصنيف أنظمة الذكاء الاصطناعي التي تم رصدها إلى:
- معطلة أو مقيدة باستخدام إعدادات سياسة الشركة المدمجة داخل الأدوات نفسها
- محظورة حظرًا صارمًا على مستوى الأجهزة الطرفية أو الشبكة لإنشاء شبكة أمان ضد محاولات الالتفاف على السياسات أو أخطاء التكوين
- تم نقلها إلى الوصول المُدار، حيث لا يتم حظر الأداة بالكامل، بل يتم توجيه حركتها عبر بوابة مؤسسية مخصصة للتحقق من صلاحيات الوصول ومراقبة أنماط الاستخدام
اكتشاف أنظمة الذكاء الاصطناعي
يتطلب رصد الذكاء الاصطناعي نهجًا متعدد الطبقات، حيث تكمل طرق الاكتشاف المختلفة بعضها البعض، وتحقق أفضل النتائج في مواجهة أنواع محددة من الذكاء الاصطناعي.
| التكنولوجيا | ما الذي يمكنها اكتشافه |
| DNS | أي أداة ذكاء اصطناعي ذات مجال محدد |
| بوابة الويب أو NGFW | أي أداة ذكاء اصطناعي ذات بصمة رقمية مميزة لطلبات الاستدعاء والاستجابة (مثل مسارات نهايات واجهة برمجة التطبيقات API، والمجالات، والمؤشرات الأخرى). ويمكن لعوامل تصفية الويب فحص محتوى حركة المرور، كما تحتوي العديد من البوابات/جدران حماية الجيل القادم (NGFW) حاليًا على فئة مخصصة لرصد وحظر الذكاء الاصطناعي التوليدي. |
| EPP/EDR | نماذج اللغات الكبيرة المستضافة محليًا (التي تعمل عبر Ollama وLM Studio والبيئات المماثلة)، والتطبيقات المكتبية الأصيلة لبرنامجي ChatGPT أو Claude، والمستعرضات القائمة على الوكلاء الأذكياء، ووكلاء الذكاء الاصطناعي مفتوحي المصدر. ويُعد وجود برمجيات مثل Node.js أو Python أو Git أو Docker أو أدوات الحاويات الأخرى على أجهزة الموظفين غير التقنيين بمثابة مؤشر خطر غير مباشر ولكنه قوي. |
| التحكم في التطبيقات | على غرار أنظمة EPP/EDR، يتيح هذا النهج حظر التطبيقات غير المرغوب فيها فورًا ومنذ البداية. |
| التحكم في المستعرض | إضافات المستعرض المخصصة للذكاء الاصطناعي وزيارات مواقع الإنترنت المرتبطة به. وتُعد هذه الطريقة حلاً منقذًا في حال عدم قدرة بوابة الويب المؤسسية على فحص حركة المرور المشفرة. |
| إدارة الحالة الأمنية للبرمجيات كخدمة (SSPM) / حوكمة الهوية | صلاحيات وأذونات بروتوكول OAuth التي تطلبها تطبيقات وخدمات الذكاء الاصطناعي، بالإضافة إلى أي عمليات تكامل مع برامج الطرف الثالث التي ترتبط بمراكز الإنتاجية الأساسية للمؤسسة (مثل Microsoft 365 وGoogle Workspace وغيرها) |
بطبيعة الحال، تتيح كافة هذه الأدوات تقريبًا ما هو أكثر من مجرد اكتشاف الذكاء الاصطناعي؛ إذ تمنحك القدرة على حظره تمامًا، أو على أقل تقدير، دق ناقوس الخطر للفريق المسؤول.
مراقبة بروتوكول OAuth
تكتسب حلول الذكاء الاصطناعي المكتبية الشائعة — لا سيما المساعدون الرقميون للاجتماعات، ووكلاء أتمتة البريد الإلكتروني والتقويم، وما شابه ذلك — القدرة على الوصول إلى بيانات المؤسسة عبر طلب صلاحيات OAuth مباشرة من منصات الاتصال، أو مسارات عمل المستندات، أو منصات مؤتمرات الفيديو. وإذا كان المستخدم يمتلك الضوء الأخضر لمنح هذه الأذونات لتطبيقات الطرف الثالث، فإن تسريبات البيانات الناتجة عن ذلك تتجاوز تمامًا المحيط الأمني للمؤسسة. ونتيجة لذلك، لن تتمكن أدوات مثل EDR وجدران حماية الجيل القادم (NGFW) من رصد أي شيء عندما تقوم أداة مثل Read.ai بسحب تسجيلات كل اجتماع يُعقد على منصة Microsoft Teams، على سبيل المثال.
تتمثل الخطوة الأكثر حسمًا — وغالباً الأفضل — في منع المستخدمين العاديين من منح موافقات وأذونات OAuth منذ البداية. وإليك كيفية التعامل مع الإجراءات الفنية المتقدمة لتنفيذ ذلك (علماً بأنك ستحتاج إلى صلاحيات مسؤول عام، أو مسؤول تطبيقات، أو ما يعادلها من أذونات):
Microsoft 365 / Entra ID
في مركز إدارة Microsoft Entra، انتقل إلى Identity > Applications > Enterprise apps > Consent and permissions > User consent settings. ويمكن هناك تعطيل خيار User consent for applications (تحقق من الدليل الكامل من Microsoft).
Google Workspace
في وحدة تحكم مسؤول Google، انتقل إلى Security > Access and data control > API controls. تحت Manage App Access، يمكن ضبط مستوى الثقة لجميع التطبيقات على: Trusted أو Limited أو Specific Google data أو Blocked. ومع ذلك، فإن الميزة الحاسمّة هنا تكمن في القسم الفرعي، الذي يحدد الإجراء المتبع عندما يحاول المستخدم ربط تطبيق غير معروف. ولسد هذه الثغرة تمامًا، حدد خيار Don’t allow users to access any third-party apps.
يتيح قسم فرعي منفصل، هو Google، ضبط آلية تفاعل تطبيقات الطرف الثالث بدقة مع خدمات Google Workspace وGoogle Cloud. ويسمح هذا الإجراء بقطع صلاحيات الوصول لكل منتج من منتجات Google على حدة (لمزيد من التفاصيل، يرجى مراجعة دليل Google الرسمي).
Salesforce
في Setup، استخدم مربع Quick Find للبحث عن التطبيقات المتصلة، ثم حدد Manage Connected Apps من النتائج. وعلى الرغم من إمكانية ضبط الإعدادات لكل تطبيق خارجي على حدة، فإن جميع المستخدمين يمتلكون صلاحية الموافقة على طلبات الوصول بشكل افتراضي. لا يوجد هنا مفتاح حظر شامل؛ وبدلاً من ذلك، تتيح منصة Salesforce اختيار خيار Admin approved users are pre-authorized (لمزيد من التفاصيل، يُرجى مراجعة دليل Salesforce الكامل حول هذا الشأن).
Slack
من قائمة إعدادات Admin، انتقل إلى Apps and workflows -> App Management Settings. وقم بتعديل إعداد Require approved apps عن طريق تحديد Only allow pre-approved apps. وبمجرد تأمين هذا الضبط، تحقق جيدًا من عدم تسلل أي أدوات ذكاء اصطناعي غير مصرح بها إلى قائمة التطبيقات المعتمدة.
النصائح