الذكاء الاصطناعي
تتصدّر Kaspersky منذ ما يقرب من عقدين من الزمن، طليعة الشركات التي تدمج الذكاء الاصطناعي، لا سيما التعلّم الآلي، في منتجاتها وخدماتها. وتشكل خبرتنا العميقة وتجربتنا في تطبيق هذه التقنيات على الأمن الإلكتروني، إلى جانب مجموعات البيانات الفريدة والأساليب الفعالة والبنية التحتية المتقدمة لتدريب النماذج، حجر الأساس لنهجنا في حل تحديات التعلم الآلي المعقدة. ويجمع مركز أبحاث Kaspersky لتكنولوجيا الذكاء الاصطناعي بين علماء البيانات ومهندسي التعلم الآلي وخبراء التهديدات ومتخصصي البنية التحتية لمعالجة المهام الأكثر تحديًا في تقاطع الذكاء الاصطناعي / التعلم الآلي والأمن الإلكتروني. ولا يشمل ذلك تطوير التقنيات التطبيقية فحسب، بل يشمل أيضًا البحث في أمن خوارزميات الذكاء الاصطناعي، بما في ذلك استخدام الأساليب الواعدة مثل التعلم الآلي العصبي والوعي بمخاطر الذكاء الاصطناعي وغير ذلك الكثير.
تقنياتنا ومنتجاتنا
طورنا في Kaspersky مجموعة واسعة من تقنيات اكتشاف التهديدات المدعومة بالذكاء الاصطناعي / التعلم الآلي التي نستخدمها في المقام الأول لتحديد البرامج الضارة. وتشمل هذه التقنيات خوارزمية الشبكة العصبية العميقة لاكتشاف الملفات القابلة للتنفيذ الضارة استنادًا إلى الميزات الثابتة، وتقنية التعلم الآلي لشجرة القرار لإنشاء قواعد الاكتشاف تلقائيًا التي تعمل على أجهزة المستخدم، والشبكات العصبية لاكتشاف السلوك الضار للبرامج أثناء التنفيذ. ونستخدم أيضًا نظامًا لتحديد الموارد الضارة عبر الإنترنت استنادًا إلى القياس عن بعد مجهول الهوية الذي يتم استلامه من الحلول المُثبتة على أجهزة العملاء وغيرها من المصادر. يمكنك قراءة المزيد عنها في الورقة الفنية بعنوان Machine Learning for Malware Detection (التعلم الآلي لاكتشاف البرامج الضارة). وهناك نماذج أخرى – مثل نموذج التعلم الآلي لاكتشاف مواقع الويب المزيفة ونموذج DeepQuarantine لعزل رسائل البريد الإلكتروني العشوائية المشتبه بها – تعمل لحماية المستخدمين من تهديدات التصيد والبريد العشوائي. وتتيح البنية التحتية السحابية لشبكة KSN تطورات الذكاء الاصطناعي الخاصة بنا بشكل فوري تقريبًا للمستخدمين من المنزل والمؤسسات.
استرشادًا بوعد الذكاء الاصطناعي التوليدي، لا سيما نماذج اللغة الكبيرة (LLM)، قمنا ببناء بنية تحتية لاستكشاف قدراته ووضع نماذج أولية سريعة لحلول جديدة. وهذه البنية التحتية، التي تنشر أدوات إدارة التعلم الآلي على غرار ChatGPT، ليست متاحة فقط للموظفين في جميع الأقسام لأداء المهام اليومية، لكنها أيضًا بمثابة أساس لحلول جديدة. على سبيل المثال، ستتضمن بوابة Kaspersky Threat Intelligence Portal قريبًا قدرة جديدة للذكاء الاصطناعي مفتوح المصدر (OSINT) تعتمد على نموذج اللغة الكبير التي ستقدم ملخصات تقارير التهديدات بسرعة لمؤشرات الاختراق المحددة.
لتعزيز أمن البنى التحتية لعملائنا، نعمل بنشاط على تطوير تقنيات الذكاء الاصطناعي المصممة خصيصاً لمنتجاتنا وخدماتنا المؤسسية الرائدة. ويساعد محلل الذكاء الاصطناعي في Kaspersky Managed Detection and Response منذ عدة سنوات في تقليل عبء العمل على فرق مركز عمليات الأمن من خلال تصفية النتائج الإيجابية الكاذبة تلقائيًا. وفي العام الماضي وحده، تمكنت هذه التقنية من إغلاق أكثر من 100 ألف تنبيه دون تدخل بشري. ويتيح هذا لخبراء مركز عمليات الأمن الاستجابة للتهديدات الحقيقية بشكل أسرع وتخصيص المزيد من الوقت للتحقيق في الحالات المعقدة والبحث بشكل استباقي عن التهديدات. ويستخدم أحد حلولنا الأخرى – تسجيل مخاطر المضيف المستند إلى الذكاء الاصطناعي في Kaspersky SIEM (منصة Kaspersky Unified Monitoring and Analysis) وKaspersky XDR – خوارزميات التعلم الآلي للبحث عن سلوك المضيف المشبوه دون الحاجة إلى نقل البيانات خارج الشركة.
من بين المجالات الرئيسية الأخرى التي تعمل Kaspersky على تطويرها استخدام الذكاء الاصطناعي / التعلم الآلي في البيئات الصناعية. ويتضمن ذلك Kaspersky MLAD (التعلم الآلي لاكتشاف الحالات غير الطبيعية) – وهو حل برمجي للتحليلات التنبؤية يتعرف تلقائيًا على العلامات المبكرة (المخفية) على وجود عطل وشيك في المعدات أو تعطل العمليات أو خطأ بشري أو هجوم إلكتروني في إشارات القياس عن بُعد. ومن خلال التدريب المستمر للشبكة العصبية، يحلل التعلم الآلي لاكتشاف الحالات غير الطبيعية (MLAD) تدفق الأحداث “الذرية” من الكائن، ويرتبها في شكل أنماط ويحدد السلوك غير الطبيعي. ومن بين مشاريعنا الأخرى Kaspersky Neuromorphic Platform (KNP) – وهو مشروع بحثي ومنصة برمجية لحلول الذكاء الاصطناعي قائمة على الشبكات العصبية المتصاعدة وAltAI، وهو معالج عصبي موفر للطاقة طورته شركة Motive Neuromorphic Technologies (Motive NT) الروسية بالتعاون مع Kaspersky.
يتطلب التبني الواسع النطاق لتقنيات الذكاء الاصطناعي التحكم الأمني، ولهذا السبب أسسنا كذلك فريق أمان الذكاء الاصطناعي. وتقدم مجموعة من الخدمات التي تهدف إلى ضمان الحماية الموثوقة لأنظمة الذكاء الاصطناعي وإحباط التهديدات المحتملة للبيانات وعمليات الأعمال والبنية التحتية للذكاء الاصطناعي.
موظفونا
في الماضي، كانت المهام المعتمدة على التعلم الآلي تُنفذ بواسطة الأقسام التي تشارك بشكل مباشر في اكتشاف التهديدات المحددة. ورغم ذلك، مع العدد المتزايد من المهام والأهمية المتزايدة لتقنيات التعلم الآلي، قررنا نقل خبرتنا في الأنظمة القائمة على الذكاء الاصطناعي إلى مركز أبحاث Kaspersky لتكنولوجيا الذكاء الاصطناعي. وأدى ذلك إلى إنشاء ثلاث فرق رئيسية تعمل على تعزيز استخدام الذكاء الاصطناعي في Kaspersky:
- تطور مجموعة تحليل طرق الاكتشاف خوارزميات التعلم الآلي لاكتشاف البرامج الضارة بالتعاون مع فريق البحث والتحليل العالمي (GReAT) ومركز أبحاث التهديدات. وتساهم أنظمة الذكاء الاصطناعي الخاصة بهم لاكتشاف البرامج الضارة الثابتة والمعتمدة على السلوك بشكل مباشر في أمان مستخدمينا.
- يتخصص قسم أبحاث التكنولوجيا، التابع لإدارة تقنيات المستقبل، في: البحث في تقنيات الذكاء الاصطناعي الواعدة؛ وتطوير Kaspersky MLAD وKNP؛ وتطوير معالج AltAI العصبي من الجيل التالي بالتعاون مع Motive NT؛ وتوفير خدمات AIST لأمان الذكاء الاصطناعي.
- يتولى فريق MLTech مسؤولية تطوير البنية التحتية لتعلم الآلة للشركات لتدريب نماذج تعلم الآلة، وإنشاء نماذج اكتشاف تهديدات المحتوى (التصيد الاحتيالي والبريد العشوائي)، وتنفيذ تقنيات الذكاء الاصطناعي، بما في ذلك القائمة على نماذج اللغة الكبيرة (LLM)، في خدماتنا وحلولنا المتقدمة للشركات، مثل MDR وKaspersky XDR.
هذا لا يعني أن خبرتنا في مجال الذكاء الاصطناعي تقتصر على الفرق المذكورة أعلاه. ويعد مجال الذكاء الاصطناعي حاليًا معقدًا ومتعدد الأوجه لدرجة أنه من المستحيل تركيز كل المعرفة في عدد قليل من المجموعات البحثية. وتقدم فرق أخرى كذلك مساهمات كبيرة في عمل المركز، وتطبق التعلم الآلي في العديد من المهام: تقنيات الرؤية الآلية في فريق Antidrone؛ والبحث في مساعدي كتابة التعليمات البرمجية بالذكاء الاصطناعي في أقسام CoreTech وKasperskyOS؛ وأبحاث التهديد المستمر المتقدم في فريق البحث والتحليل العالمي؛ ودراسة تشريعات الذكاء الاصطناعي في فريق العلاقات الحكومية.
أبحاثنا وبراءات اختراعاتنا
يتجلى تفرد تقنيات الذكاء الاصطناعي لدينا في العشرات من براءات الاختراع التي حصلنا عليها في جميع أنحاء العالم. أولاً وقبل كل شيء، هذه براءات اختراع لتقنيات الاكتشاف، مثل اكتشاف البرامج الضارة بناءً على سجلات سلوك البرامج واكتشاف الخوادم الضارة في القياس عن بعد ومواقع الويب المزيفة ووالبريد العشوائي بمساعدة التعلم الآلي. لكن مجموعة منتجات Kaspersky تغطي نطاقًا أوسع بكثير من المهام: تقنيات تحسين مجموعات البيانات للتعلم الآلي وواكتشاف الشذوذ وحتى البحث عن جهات الاتصال المشبوهة لدى الأطفال في أنظمة الرقابة الأسرية. وبطبيعة الحال، نعمل بنشاط على تسجيل براءات اختراع لتقنيات الذكاء الاصطناعي الخاصة بنا للأنظمة الصناعية وأساليب الشبكات العصبية الفريدة لمعالجة تدفقات الأحداث.
بالإضافة إلى ذلك، تشارك Kaspersky خبرتها في مجال الذكاء الاصطناعي بشكل نشط مع المجتمع. ويتم نشر بعض الدراسات، مثل تلك التي تتناول خوارزميات التعلم الآلي الرتيبة أو تطبيق الشبكات العصبية لاكتشاف البريد العشوائي كأوراق أكاديمية في مؤتمرات التعلم الآلي الرائدة. ويتم نشر البعض الآخر على البوابات المتخصصة وفي مؤتمرات أمان المعلومات. على سبيل المثال، نشر أبحاث حول أمان خوارزميات الذكاء الاصطناعي الخاصة بنا، خاصة الهجمات على خوارزميات اكتشاف البريد العشوائي واكتشاف البرامج الضارة. وندرس تطبيق الشبكات العصبية لتحليل السلاسل الزمنية ونستكشف استخدام الشبكات العصبية في المهام ذات الصلة بالصناعة. وتعد منصة Kaspersky Neuromorphic Platform (KNP) برنامجًا مفتوح المصدر سيكون متاحًا للاستخدام والتطوير من قبل مجتمع التعلم الآلي بأكمله.
يحتل موضوع تطوير الذكاء الاصطناعي وتطبيقه بشكل آمن أهمية أساسية بالنسبة لنا، حيث يتعين علينا أن نكون قادرين على الثقة في خوارزمياتنا وأن نكون على ثقة من موثوقيتها. وتشمل المواضيع الأخرى التي نغطيها مشاركتنا في تحديات الأمن الإلكتروني التي تحاكي الهجمات على أنظمة التعلم الآلي واستخدام التقنيات المتقدمة مثل نماذج اللغة الكبيرة (LLMs) لاكتشاف التهديدات في سجلات النظام وروابط التصيد الاحتيالي. ونتحدث أيضًا عن التهديدات التي تواجه الذكاء الاصطناعي التوليدي، بما في ذلك من وجهة نظر الخصوصية، والهجمات على أنظمة مختلفة تعتمد على نموذج اللغة الكبير (LLM)، واستخدام الذكاء الاصطناعي من قبل المهاجمين، وتطبيق تقنياتنا في مراكز العمليات الأمنية. وفي بعض الأحيان نفتح الباب ونكشف عن أعمالنا الداخلية، ونتحدث عن عملية تدريب نماذجنا وحتى التعقيدات المرتبطة بتقييم جودتها.
رفع الوعي
أخيرًا، تتمثل الوظيفة الأكثر أهمية لمركز Kaspersky لأبحاث تكنولوجيا الذكاء الاصطناعي في رفع مستوى الوعي بين عملائنا وعامة الناس حول إيجابيات وسلبيات تقنيات الذكاء الاصطناعي والتهديدات التي تشكلها. ويوضح خبراء المركز مخاطر مقاطع الفيديو المزيفة. ونتحدث عن النقاط الدقيقة لاستخدام الذكاء الاصطناعي (على سبيل المثال، كيف يؤثر ChatGPT على عملية توظيف المطورين) ونشارك تجاربنا من خلال الندوات عبر الإنترنت والمناقشات المستديرة.
ينظم فريق أبحاث تكنولوجيا FT مؤتمرات حول تقنيات التشكيل العصبي مع مسار منفصل مخصص لقضايا أمان الذكاء الاصطناعي، بما في ذلك الأنظمة القائمة على نهج التشكيل العصبي. وبالتعاون مع شريكنا، معهد برمجة النظام التابع للأكاديمية الروسية للعلوم (ISP RAS)، نجري أبحاثًا في مختلف متجهات الهجوم على الشبكات العصبية في مجالات الرؤية الحاسوبية، ونموذج اللغة الكبير، والسلاسل الزمنية، وطرق حمايتها. وكجزء من الشراكة الصناعية بين Kaspersky وISP RAS، يختبر الفريق عينات من أطر عمل التعلم الآلي الموثوقة.
نشارك أيضًا في تطوير الدورات التعليمية، بما في ذلك وحدة حول استخدام الذكاء الاصطناعي في مجال الأمن الإلكتروني في جامعة باومان التقنية الحكومية في موسكو. وهناك مثال آخر هو وحدتنا حول الاستخدام الآمن للذكاء الاصطناعي في Kaspersky ASAP، حلنا لرفع مستوى وعي الموظفين بالتهديدات الإلكترونية. أخيرًا، نساهم في إنشاء مجموعة من المعايير الدولية لاستخدام الذكاء الاصطناعي. في عام 2023، قدمنا المبادئ الأولى للاستخدام الأخلاقي لأنظمة الذكاء الاصطناعي في مجال الأمن الإلكتروني في منتدى حوكمة الإنترنت.
باختصار، تتمثل المهام الرئيسية لمركز Kaspersky لأبحاث تكنولوجيا الذكاء الاصطناعي في تطوير تقنيات الذكاء الاصطناعي، وتطبيقها الآمن في مجال الأمن الإلكتروني، ومراقبة التهديدات للاستخدام غير السليم أو الضار للذكاء الاصطناعي، والتنبؤ بالاتجاهات. وتخدم كل هذه المهام غرضًا واحدًا: ضمان أعلى مستوى من الأمان لعملائنا.
النصائح