مهاجمو نماذج اللغات الكبيرة وكيفية التصدي لهم
تشهد الآونة الأخيرة محاولات للاستيلاء على موارد الذكاء الاصطناعي بمستويات غير مسبوقة وضمن نطاق واسع. كيف تُستهدف البنية التحتية للذكاء الاصطناعي؟ وما التدابير الدفاعية التي ينبغي عليك تطبيقها؟
مقالات
تشهد الآونة الأخيرة محاولات للاستيلاء على موارد الذكاء الاصطناعي بمستويات غير مسبوقة وضمن نطاق واسع. كيف تُستهدف البنية التحتية للذكاء الاصطناعي؟ وما التدابير الدفاعية التي ينبغي عليك تطبيقها؟
نستعرض في هذا المقال كيف يساهم تطبيق Be My Eyes في دعم المكفوفين وضعاف البصر، ونتحقق من مدى فاعليته الواقعية في رصد التهديدات الإلكترونية، بالإضافة إلى مشاركة نصائح أمان جوهرية لتعزيز سلامة مجتمع ضعاف البصر.
كيفية إدارة الثغرات الأمنية عند تطوير أو استخدام البرمجيات مفتوحة المصدر.
كيف يؤدي ازدهار الذكاء الاصطناعي والاعتماد المتزايد على المكونات مفتوحة المصدر إلى تراكم الديون الأمنية للشركات – وما الذي يمكنك فعله حقُا لمواجهة ذلك.
بدأ مجرمو الإنترنت الآن بنشر تطبيقات ويب تم إنشاؤها عبر Bubble، وهي منصة لبناء التطبيقات مدعومة بالذكاء الاصطناعي، بهدف صيد بيانات الاعتماد الخاصة بالشركات.
نستعرض بالتفصيل كيف يمكن أن تصبح هلوسات مساعد الذكاء الاصطناعي قاتلة ، ونشرح المبادئ الأساسية التي يجب عليك اتباعها لتجنب الوقوع ضحية عرضية للتقدم.
هل سئمت من هلوسات نتائج البحث الذكية، ولا تملك أدنى فكرة كيف ظهر تطبيق Copilot فجأة على الكمبيوتر الخاص بك؟ فيما يلي دليل لإيقاف تشغيل ميزات الذكاء الاصطناعي المتطفلة في الخدمات الشائعة.
تروج جهات التهديد لصفحات تحتوي على تعليمات خبيثة لتثبيت وكلاء ذكاء اصطناعي مخصصين لأتمتة سير العمل.
ما الذي يجب على فرق الأمان في الشركات فعله تجاه وكيل الذكاء الاصطناعي المنتشر على نطاق واسع.
اكتشاف الهجمات المرتبطة بالحسابات المخترقة باستخدام الذكاء الاصطناعي وتحديثات أخرى في Kaspersky SIEM.
اكتشف الباحثون أن صياغة المطالبات في قالب شعري يمكن أن تضعف بشكل كبير من فعالية حواجز الحماية الأمنية في النماذج اللغوية.
أبرز 10 مخاطر لنشر وكلاء الذكاء الاصطناعي المستقلين، وتوصياتنا للحد منها.
تنشر موجة جديدة من هجمات ClickFix، التي توزع برنامج سرقة معلومات يستهدف نظام macOS، أدلة مستخدم خبيثة على موقع ويب ChatGPT الرسمي، وذلك عن طريق استغلال ميزة مشاركة الدردشات الخاصة بروبوت الدردشة.
يسمح هجوم Whisper Leak لمنفذه بتخمين موضوع محادثتك مع مساعد يعمل بالذكاء الاصطناعي – دون الحاجة إلى فك تشفير حركة البيانات. ونستعرض كيف يمكن تحقيق ذلك، وما الذي يمكنك فعله لحماية محادثاتك مع الذكاء الاصطناعي.
ثمانية قرارات رقمية للعام الجديد لا غنى عن الالتزام بها.
كيف يستخدم المهاجمون مواقع الويب المزيفة المُولّدة بالذكاء الاصطناعي لتوزيع نسخ مصابة بفيروس حصان طروادة من أداة الوصول عن بُعد المشروعة Syncro (RAT).
كيف يمكن للملحقات الضارة أن تنتحل الأشرطة الجانبية للذكاء الاصطناعي في مستعرضي Comet وAtlas، واعتراض استعلامات المستخدمين، والتلاعب باستجابات النموذج.
سننطلق في رحلة للصيد للبحث عن الصفقات بطريقة جديدة: مسلحين بالذكاء الاصطناعي. اقرأ هذه المقالة للحصول على أمثلة لمطالبات فعالة.
كيف تُغير التعليمات البرمجية التي يتم توليدها بواسطة الذكاء الاصطناعي الأمن الإلكتروني – وما الذي ينبغي أن يتوقعه المطورون و”المبرمجون بالإحساس”.
منح الذكاء الاصطناعي المحتالين مجموعة جديدة من الأدوات المتقدمة للخداع؛ بدءًا من توليد مقاطع التزييف العميق، وصولاً إلى إنشاء مواقع ويب للتصيد الاحتيالي أو حملات بريد احتيالي بشكل فوري. لنناقش أحدث توجهات الذكاء الاصطناعي في هجمات التصيد الاحتيالي وعمليات الاحتيال، وكيف يمكننا أن نبقى في مأمن منها.
نظرة عن كثب على الهجمات التي تستهدف نماذج اللغات الكبيرة (LLMs): من ChatGPT وClaude إلى Copilot وغيرها من برامج المساعدة المدعومة بالذكاء الاصطناعي التي تدعم التطبيقات الشائعة.