تعلم الآلة
على الرغم من أن مبادئ تعلم الآلة قد وضعت منذ حوالي نصف قرن، إلا أنها لم تجد تطبيقًا واسع النطاق في الممارسة إلا مؤخرًا. مع نمو قوة الحوسبة، تعلمت أجهزة الكمبيوتر أولًا تمييز الأجسام في الصور ولعب Go بشكل أفضل من البشر، ثم رسم الصور بناء على أوصاف النص والحفاظ على تقديم دردشة متماسكة. في 2021–2022، أصبحت الاختراقات العلمية في متناول الجميع. على سبيل المثال، يمكنك الاشتراك في MidJourney وعلى سبيل المثال، توضيح كتبك على الفور. وفتح OpenAI أخيرًا نموذج لغة GPT -3 الكبير (المحول التوليدي المدرب مسبقًا 3) لعامة الناس من خلال ChatGPT. روبوت الدردشة متاح على chat.openai.com، حيث يمكنك أن ترى بنفسك كيف يحافظ على تقديم محادثة متماسكة، ويشرح المفاهيم العلمية المعقدة أفضل من العديد من المعلمين، ويترجم النصوص بشكل فني بين اللغات، وغير ذلك الكثير.
Image generated by Midjourney to the request “A gnome with a magnifying glass is lost among data storage servers”
إذا قمنا بتجريد ChatGPT وصولاً إلى الأساسيات المجردة، يتم تدريب نموذج اللغات على مجموعة ضخمة من النصوص عبر الإنترنت، والتي “يتذكر” منها الكلمات، والجمل، والفقرات التي يتم تجميعها بشكل متكرر وكيفية ترابطها. بمساعدة العديد من الحيل التقنية وجولات إضافية من التدريب مع البشر، تم تحسين النموذج خصيصًا لإجراء حوار. لأنه “على الإنترنت يمكنك العثور على كل شيء على الإطلاق”، فإن النموذج قادر بشكل طبيعي على دعم حوار حول جميع الموضوعات تقريبًا: بدءًا من الموضة وتاريخ الفن إلى البرمجة وفيزياء الكم.
يجد العلماء، والصحفيون، والمتحمسون العاديون المزيد من التطبيقات لـ ChatGPT. يحتوي موقع Awesome ChatGPT prompts على قائمة من المطالبات (عبارات لبدء محادثة مع روبوت الدردشة)، والتي تسمح بـ “تبديل” ChatGPT بحيث تستجيب بأسلوب غاندالف أو بعض الشخصيات الأدبية الأخرى، وكتابة التعليمات البرمجية Python، وإنشاء خطابات الأعمال والسير الذاتية، وحتى تقليد محطة Linux. ومع ذلك، فإن ChatGPT لا يزال مجرد نموذج لغوي، لذلك كل ما سبق ليس أكثر من مجموعات مشتركة وتجميعات منسقة من الكلمات — لن تجد أي سبب أو منطق بها. في بعض الأحيان، يتحدث ChatGPT عن هراء مقنع (مثل العديد من البشر)، على سبيل المثال، من خلال الإشارة إلى دراسات علمية غير موجودة. لذا تعامل دائمًا مع محتوى ChatGPT بحذر. وعلى الرغم من ذلك، فإن روبوت الدردشة حتى في شكله الحالي، مفيد في العديد من العمليات والمجالات العملية. فيما يلي بعض الأمثلة في مجال الأمن السيبراني.
إنشاء برامج ضارة
في منتديات المخترقين السرية، يبلغ مجرمو الأمن السيبراني المبتدئون عن كيفية استخدامهم لـ ChatGPT لإنشاء أحصنة طروادة جديدة. بإمكان روبوت الدردشة على كتابة التعليمات البرمجية، لذلك إذا وصفت بإيجاز الوظيفة المطلوبة (“حفظ جميع كلمات المرور في الملف X وإرسالها عبر HTTP POST إلى الخادم Y”)، فيمكنك الحصول على infostealer بسيط دون أن يكون لديك أي من مهارات البرمجة على الإطلاق. وعلى الرغم من ذلك، فإن مستخدمي السهم المستقيم ليس لديهم ما يخافون منه. إذا تم استخدام التعليمات البرمجية المكتوبة م كم قبل روبوت الدردشة بالفعل، فستكتشف الحلول الأمنية وتحييدها بسرعة وكفاءة مثل جميع البرامج الضارة السابقة التي أنشأها البشر. بالإضافة إلى ذلك، إذا لم يتم التحقق من هذه التعليمات البرمجية من قبل مبرمج من ذوي الخبرة، فإن من المرجح أن تحتوي البرامج الضارة على أخطاء خفية وعيوب منطقية من شأنها أن تجعلها أقل فاعلية.
على الأقل في الوقت الحالي، لا يمكن لروبوتات الدردشة أن تتنافس إلا مع كتاب الفيروسات المبتدئين.
تحليل البرامج الضارة
عندما يدرس محللو InfoSec التطبيقات المشبوهة الجديدة، فإنهم يعكسون هندسة التعليمات البرمجية الزائفة أو التعليمات البرمجية للألة، في محاولة لمعرفة كيفية عملها. على الرغم من أن هذه المهمة لا يمكن تعيينها بالكامل إلى ChatGPT، إلا أن روبوت الدردشة قادر بالفعل على شرح ما يفعله جزء معين من التعليمات البرمجية بسرعة. قام زميلنا إيفان كوياتكوفسكي بتطوير مكون إضافي لـ IDA Pro يقوم بذلك بالضبط. نموذج اللغة تحت غطاء محرك السيارة ليس حقا ChatGPT – بل نظيره، davinci-003 – ولكن هذا فرق فني بحت. في بعض الأحيان لا يعمل المكون الإضافي، أو يخرج المهملات، ولكن بالنسبة للحالات التي يقوم فيها تلقائيًا بتعيين أسماء مشروعة للوظائف ويحدد خوارزميات التشفير في الكود ومعلماتها، فإن الأمر يستحق وجوده في حقيبة الأدوات الخاصة بك. يأتي في ظروف SOC الخاصة به، حيث يتعين على المحللين المحملين بعمل فوق طاقتهم بشكل دائم تخصيص الحد الأدنى من الوقت لكل حادث، لذلك فإن أي أداة لتسريع العملية مرحب بها.
Plugin output
البحث عن نقاط الضعف
وهناك اختلاف في النهج المذكور أعلاه هو البحث الآلي عن التعليمات البرمجية الضعيفة. يقوم ربوت الدردشة “بقراءة” التعليمات البرمجية الزائفة للتطبيق الذي تم فك تشفيره ويحدد الأماكن التي قد تحتوي على نقاط ضعف. علاوة على ذلك، يوفر روبوت الدردشة التعليمات البرمجية Python المصممة لاستغلال نقاط ضعف التعليمات البرمجية POC. من المؤكد أن روبوت الدردشة يمكن أن يرتكب جميع أنواع الأخطاء، في كل من البحث عن نقاط الضعف وكتابة التعليمات البرمجية POC، ولكن في شكله الحالي فإن الأداة مفيدة لكل من المهاجمين والمدافعين.
الاستشارات الأمنية
لأن ChatGPT يعرف ما يقوله الناس عن الأمن السيبراني عبر الإنترنت، فإن نصيحته حول هذا الموضوع تبدو مقنعة. ولكن، كما هو الحال مع أي نصيحة مقدمة من ربوت دردشة، لا تعرف أبدًا من أين جاءت بالضبط، لذلك من كل 10 نصائح رائعة قد يكون هناك واحدة عديمة القيمة. ومع ذلك، فإن النصائح الموجودة في لقطة الشاشة أدناه على سبيل المثال كلها سليمة:
ChatGPT-generated tips
التصيد الاحتيالي وBEC
تُعد النصوص المقنعة نقطة قوية في GPT -3 وChatGPT، لذا فمن المحتمل أن تكون الهجمات المؤتمتة للتصيد الاحتيالي الموجّه باستخدام روبوتات الدردشة تحدث بالفعل. تكمن المشكلة الرئيسية في رسائل البريد الإلكتروني للتصيد الاحتيالي الجماعي في أنها لا تبدو صحيحة، مع وجود الكثير من النصوص العامة التي لا تتحدث مباشرة إلى المستلم. أما بالنسبة للتصيد الاحتيالي الموجّه، عندما يكتب مجرم الأمن السيبراني بريدًا إلكترونيًا مباشرًة إلى ضحية واحدة، يكون ذلك مكلفًا للغاية؛ لذلك، يتم استخدامه فقط في الهجمات المستهدفة. تم تعيين ChatGPT لتغيير ميزان القوى بشكل جذري، لأنه يسمح للمهاجمين بإنشاء رسائل بريد إلكتروني مقنعة وشخصية على نطاق صناعي. وعلى الرغم من ذلك، لكي يحتوي البريد الإلكتروني على جميع المكونات الضرورية، يجب إعطاء روبوت الدردشة تعليمات مفصلة للغاية.
Example of a ChatGPT-generated e-mail
لكن هجمات التصيد الاحتيالي الكبرى تتكون عادة من سلسلة من رسائل البريد الإلكتروني، يكتسب كل منها تدريجيًا المزيد من ثقة الضحية. لذلك بالنسبة رسائل البريد الإلكتروني الثانية والثالثة، والتاسعة، ستوفر ChatGPT الكثير من الوقت لمجرمي الأمن السيبراني. نظرًا لأن روبوت الدردشة يتذكر سياق المحادثة، يمكن صياغة رسائل البريد الإلكتروني اللاحقة بشكل جميل من موجه قصير وبسيط للغاية.
Generated e-mail continuing the attack
علاوة على ذلك، يمكن بسهولة تغذية استجابة الضحية في النموذج، مما ينتج عنه متابعة مقنعة في ثوانٍ.
من بين الأدوات التي يمكن للمهاجمين استخدامها هي المراسلات المنمقة. بالنظر إلى عينة صغيرة فقط من نمط معين، يمكن لروبوت الدردشة تطبيقه بسهولة في رسائل أخرى. وهذا يجعل من الممكن إنشاء رسائل بريد إلكتروني مزيفة مقنعة ظاهريًا من موظف إلى آخر.
لسوء الحظ، هذا يعني أن عدد هجمات التصيد الاحتيالي الناجحة ستزداد. وسيصبح روبوت الدردشة مقنعًا بالقدر نفسه الموجود في البريد الإلكتروني، والشبكات الاجتماعية، والمراسلين.
كيفية المقاومة؟ يعمل خبراء تحليل المحتوى بنشاط على تطوير أدوات تكشف عن نصوص روبوت الدردشة. سيكشف الوقت مدى فاعلية عوامل التصفية هذه. ولكن في الوقت الحالي، يمكننا فقط التوصية بنصيحتين قياسيتين (اليقظة و التدريب على التوعية بالأمن السيبراني)، بالإضافة إلى واحدة جديدة. تعلم كيفية اكتشاف النصوص التي يتم إنشاؤها بواسطة الروبوت. لا يمكن التعرف على الخصائص الرياضية بالعين، لكن المراوغات الأسلوبية الصغيرة والتناقضات الصغيرة لا تزال تبتعد عن الروبوتات. تحقق من هذه اللعبة لمعرفة ما إذا كان بإمكانك اكتشاف الفرق بين النص البشري والنص المكتوب آليًا.
النصائح