لقد تجاوز الحد الذي يمكن أن يحققه الذكاء الاصطناعي، المعروف باسم الذكاء الاصطناعي الحدودي، عتبة أخرى. يستطيع الذكاء الاصطناعي الآن تخطيط وتنفيذ العمليات السيبرانية المعقدة بأقل قدر من التوجيه وبسرعات تتجاوز بكثير القدرة البشرية.
وهذا، على الأقل، هو دليل على اختبار مستقل لـ Claude Mythos Preview، النموذج الأحدث والأكثر تقدما لعائلة كلود لأنظمة الذكاء الاصطناعي، الذي طورته شركة التكنولوجيا الأمريكية Anthropic. مثل ChatGPT، يمكنها فهم وإنشاء نص يشبه الإنسان، وتحليل المعلومات، وحل المشكلات المعقدة.
القطاع المالي يشعر بالقلق. وهي تعتمد على أنظمة رقمية مترابطة للغاية والتي تعتبر أهدافًا جذابة بشكل خاص للهجمات الإلكترونية المتطورة. وقد يؤدي الاختراق الناجح إلى تعطيل المدفوعات وتجميد الوصول إلى الأموال وتقويض ثقة الجمهور في النظام المصرفي.
تستعد البنوك الكبرى في المملكة المتحدة والولايات المتحدة لتجارب خاضعة للرقابة بموجب ضمانات صارمة. سيتم منحهم وصولاً آمنًا ومراقبًا إلى نموذج Mythos Preview في بيئات معزولة، لتقييم قدرتهم على اكتشاف نقاط الضعف في أنظمتهم وتقليل أي مخاطر سوء الاستخدام. إنه يشبه إلى حد ما الفيروسات الخطيرة التي يتم فحصها في مختبرات أمنية مشددة.
قام معهد سلامة الذكاء الاصطناعي في المملكة المتحدة، وهو منظمة بحثية تابعة لوزارة العلوم والابتكار والتكنولوجيا التابعة للحكومة، باختبار Mythos Preview على معيار متطلب يُعرف باسم The Last Ones. كما يوحي الاسم، تم تصميم هذه السلسلة من التحديات لتكون العقبة الأخيرة التي يجب على أنظمة الذكاء الاصطناعي التغلب عليها قبل اعتبارها قادرة على أتمتة الهجمات الإلكترونية المعقدة في العالم الحقيقي بشكل كامل، من البداية إلى النهاية.
في اختبار خاضع للرقابة، اكتشف Mythos Preview بشكل مستقل الآلاف من نقاط الضعف “اليوم صفر” (عيوب غير معروفة حتى لمطوري البرامج أنفسهم) عبر جميع أنظمة التشغيل الرئيسية ومتصفحات الويب الشائعة. وقد ظل بعضها دون أن يتم اكتشافه لمدة تصل إلى 27 عامًا، على الرغم من أن البرنامج قد تمت مراجعته بعناية ملايين المرات.
فيديو: تلفزيون بلومبرج.
في ظل ظروف خاضعة للرقابة، يحتاج المشغل البشري المدرب عادةً إلى حوالي 20 ساعة لإكمال التمرين. في عشر جولات مستقلة، حققت Mythos نجاحًا كاملاً ثلاث مرات، مما يجعل هذه المعاينة أول نموذج ذكاء اصطناعي يحل سلسلة الهجوم الشاملة بأكملها.
تظهر النتائج تسلسلًا مستقلاً حقيقيًا للإجراءات المتسلسلة المعقدة. ولذلك تمثل Mythos Preview قفزة هائلة في قدرة الذكاء الاصطناعي على العمل كعامل مستقل حقًا، حيث يقوم بتخطيط وتنفيذ مهام معقدة ومتعددة الخطوات على مدى فترات طويلة من الزمن مع الحد الأدنى من التدخل البشري.
لكن أهمية هذا التقدم التكنولوجي تذهب إلى ما هو أبعد من الهجمات السيبرانية. ويمكن أن تسمح نفس القدرة قريبًا للذكاء الاصطناعي بإدارة تطوير البرمجيات أو البحث العلمي أو سلاسل التوريد أو العمليات المالية بشكل مستقل. تمثل Mythos Preview تحولًا من مساعد قوي إلى مشغل مستقل حقًا، مع آثار واسعة النطاق عبر العديد من الصناعات.
معضلة الاستخدام المزدوج
وبدلاً من نشره علنًا، قامت شركة Anthropic حتى الآن بتقييد الوصول من خلال مشروع Glasswing، وهي مبادرة تمنح شركات التكنولوجيا المختارة ومقدمي البنية التحتية الحيوية، بما في ذلك Apple وGoogle وMicrosoft وCisco وAmazon، إمكانية التحكم في الوصول إلى النموذج.
تتمثل فكرة Anthropic المعلنة في “حماية البرامج الأكثر أهمية في العالم” من خلال تحديد وتصحيح نقاط الضعف الأمنية في أنظمة التشغيل والمتصفحات والمكتبات الهامة التي تدعم جميع الأنظمة الرقمية الحديثة تقريبًا، قبل أن يتم استغلالها. بعد ذلك فقط سوف ترى Mythos انتشارًا أوسع كنظام ذكاء اصطناعي للأغراض العامة.
إدارة الثغرات التقليدية هي عملية تحديد وتقييم وإصلاح نقاط الضعف في البرامج والأنظمة قبل أن يتمكن المهاجمون من استغلالها، وهي مهمة بطيئة وشاقة يؤديها الخبراء. يمكن للأساطير أن تغير هذه العملية بشكل كبير، إيجابيًا وسلبيًا.
ويؤدي ظهورها إلى خلق معضلة كلاسيكية مزدوجة الاستخدام: فنفس التقدم الذي يعزز الدفاع السيبراني يمكن أن يؤدي أيضاً إلى خفض الحاجز أمام العمليات الهجومية.
تدعي أنثروبيك أن كلود ميثوس يمكنه “حماية البرامج الأكثر أهمية في العالم”. مونديسيما/علمي
على الجانب الإيجابي، يمكن أن يسمح للمدافعين باكتشاف وإصلاح الآلاف من نقاط الضعف غير المعروفة سابقًا بسرعة وحجم غير مسبوقين، مما قد يجعل البرامج المهمة أكثر أمانًا ويقلل من فرص الهجمات.
تنجح العديد من الجرائم الإلكترونية الحالية، مثل برامج الفدية، من خلال استغلال نقاط الضعف المعروفة أو التي يمكن اكتشافها بسهولة في الأنظمة غير المصححة. ويمكن تقليل هذه المخاطر بشكل كبير إذا تم استخدام نماذج فئة Mythos على نطاق واسع لاكتشاف الثغرات الدفاعية.
ومع ذلك، فإن هجمات برامج الفدية الأكثر تعقيدًا أو المستهدفة (خاصة تلك التي تستخدم بيانات الاعتماد المسروقة أو الهندسة الاجتماعية أو الحسابات المخترقة بالفعل) تكون أقل عرضة للتأثر، لأنها غالبًا ما تتجنب ثغرات البرامج التقليدية تمامًا.
على الجانب السلبي، يمكن لنفس القدرات أن تخفض بشكل كبير الحاجز أمام الجهات الخبيثة، مما يسمح لها بالعثور على نقاط الضعف وتسلسلها بشكل أسرع بكثير من الفرق البشرية. وهذا من شأنه أن يؤدي إلى تسريع الهجمات الإلكترونية المتطورة إذا انتشرت التكنولوجيا خارج البيئات الخاضعة للرقابة.
لا يوجد دليل عام على أن Mythos Preview قد وصل إلى الجماعات الإجرامية أو الدول القومية المعادية… حتى الآن. لكن تاريخ تكنولوجيا الأمن السيبراني يشير إلى أن الجهات الفاعلة ذات الموارد الجيدة، سواء كانت مدعومة من الدولة أو إجرامية، قد تطور أنظمة مماثلة أو تحصل على وصول غير مباشر في المستقبل القريب.
مستقبل الأمن السيبراني
على المدى القصير، من المرجح أن تقوم الحكومات بمراجعة بروتوكولات الأمن السيبراني وأطر الاستجابة للحوادث لتضمين المسح الإلزامي للثغرات الأمنية بمساعدة الذكاء الاصطناعي. وهذا يتطلب من المؤسسات إجراء فحص مستمر لأنظمتها باستخدام الذكاء الاصطناعي، بدلاً من الاعتماد على عمليات الفحص البشري العرضية.
في حين أن هذا يمكن أن يؤدي إلى تحسين الأمان بشكل كبير من خلال اكتشاف العيوب بسرعة أكبر، فمن المرجح أن يؤدي إلى زيادة التكاليف بشكل كبير وينطوي على مخاطر تباطؤ النظام أو الإنذارات الكاذبة أو الانقطاعات التشغيلية القصيرة عند تطبيق الإصلاحات.
ويكاد يكون من المؤكد أن شركات التأمين السيبراني سوف تبدأ في المطالبة بإثبات مثل هذه الدفاعات كشرط للتغطية، وهو ما من شأنه أن يؤدي إلى ارتفاع أقساط التأمين، في حين سوف يعمل مشغلو البنية الأساسية الحيوية على التعجيل بنشر أنظمة المراقبة والاستجابة الآلية. ولن يؤثر هذا التغيير على البنوك والمؤسسات المالية فحسب، بل سيؤثر أيضًا على مشغلي البنية التحتية الحيوية في مجالات الطاقة والرعاية الصحية والاتصالات والنقل.
وبطبيعة الحال، ميثوس ليس الفصل الأخير. يتم تصميم النماذج المستقبلية التي طورتها شركة Anthropic وغيرها من شركات الذكاء الاصطناعي الرائدة لتعمل كوكلاء ذكاء اصطناعي مستقلين للغاية، وقادرين على التخطيط والتكيف وتنفيذ تسلسلات المهام الطويلة والمعقدة بشكل مستقل. بالإضافة إلى اكتشاف نقاط الضعف، قد يعني ذلك تنسيق عمليات واسعة النطاق أو إدارة سير عمل متطور في العالم الحقيقي، كل ذلك مع الحد الأدنى من التوجيه البشري.
إن مثل هذه الأوقات تتطلب الاستعجال واتخاذ إجراءات محسوبة. وستكون الإدارة الدقيقة والتعاون الدولي والاستثمار المستدام في التطبيقات الدفاعية ضرورية. لقد خرج الجني من القمقم؛ والتحدي الآن هو ضمان أن ذلك يخدم الأمن وليس الفوضى.
