أخطر الاستعمالات العسكرية و الحربية للذكاء الاصطناعي

شهدت الفترة الأخيرة توسعاً في استخدام الذكاء الاصطناعي في المجالات المختلفة بداية من الأبحاث الطبية؛ مروراً بإدارة التفاعلات الكيميائية والتنبؤات؛ وصولاً إلى استخدام تقنيات الذكاء الاصطناعي في الهجمات الإلكترونية والمادية؛ بل إن داريو أمودي، الرئيس التنفيذي لشركة الذكاء الاصطناعي «أنثروبيك» حذر من قدرة الذكاء الاصطناعي على صنع أسلحة بيولوجية في المستقبل القريب.

في هذا الإطار، ناقش كل من كريستوفر أ.موتون، وكاليب لوكاس، وإيلا جيست، في تقرير صادر عن مؤسسة راند في العام 2024؛ المخاطر المحتملة لسوء استخدام الذكاء الاصطناعي أو نماذج لغوية كبيرة (LLMs) (خوارزميات ذكاء اصطناعي تستعمل تقنيات التعلم العميق والبيانات الضخمة) في سياق الهجمات بالأسلحة البيولوجية.

لفت التقرير إلى المحاولة الفاشلة لجماعة «أوم شينريكيو» اليابانية لمهاجمة مترو أنفاق طوكيو باستخدام “توكسين البوتولينوم” في تسعينيات القرن العشرين، والتي فشلت بسبب عدم فهم البكتيريا، وهي المشكلة التي يمكن للذكاء الاصطناعي حالياً حلها بسهولة وسرعة. بناءً عليه، يطرح التقرير رؤى سياسية للتخفيف من أي مخاطر لتطوير الذكاء الاصطناعي بشكلٍ مسؤول.

واستهدف التقرير بشكلٍ رئيسي بحث احتمالات إساءة استخدام “النماذج اللغوية الكبيرة” من قبل جهات فاعلة غير حكومية “خبيثة” للتخطيط لهجمات بيولوجية. بالتالي، اعتمد على أدلة تجريبية بشأن تطوير المقاييس الكمية، وطرق الاختبار، وأدوات المساءلة. ولم يكشف التقرير عن البرامج التي تم اختبارها؛ لتحقيق التوازن بين توفير معلومات كافية للمناقشات الأكاديمية والسياسات مع ضمان عدم الكشف عن أي تفاصيل قد تؤدي إلى تمكين الجهات الخبيثة. فالهدف هو المساهمة في فهم التهديدات المحتملة للأسلحة البيولوجية ودعم تطوير استراتيجيات لمواجهة هذه التهديدات، وتعزيز عالم أكثر أماناً.

نهج الفريق الأحمر
الفريق الأحمر (Red Teaming) هو مصطلح في الأمن السيبراني؛ يعني تنفيذ محاكاة لهجوم حقيقي بعلم من إدارة المؤسسة، ويهدف إلى فحص جميع السيناريوهات الممكنة والوقوف على مدى جاهزية الأجهزة المعنية لصد جميع أنواع الهجمات التي قد تتعرض لها المؤسسات في الواقع، عن طريق الكشف عن نقاط الضعف المحتملة، وتتراوح هذه السيناريوهات ما بين استخلاص تصميم الأسلحة من الذكاء الاصطناعي، وإنشاء أدوات سيبرانية هجومية متطورة، والحث على سلوكيات خطرة أخرى غير مقصودة. بناءً عليه، تساعد هذه الإجراءات على قياس المخاطر بدقة، وضمان تخصيص الموارد والاهتمام بكفاءة للمواجهة، مع التركيز على العناصر الخطرة.
ويتطلب الفريق الأحمر؛ تحقيق التوازن بين الدقة المنهجية والقدرة على التكيف الإبداعي لتقييم مجموعة متنوعة من التهديدات المحتملة ومواجهتها بشكل فعال. مع ذلك، فإن الهدف الأساسي ليس التنبؤ بدقة بمجموعة محدودة من السيناريوهات المستقبلية الصحيحة، وإنما فحص مجموعة واسعة من السيناريوهات المستقبلية المحتملة. في هذا الإطار، اعتمد الفريق الأحمر في هذا التقرير على نهجٍ متعدد الأساليب يدمج بين العناصر النوعية والكمية ويتماشى مع العلوم الاجتماعية، التي تقدم منطقاً بحثياً لفهم التفاعلات البشرية المعقدة؛ ومن ثم تبنى التقرير منهجية مكونة من مجموعة متنوعة وواسعة من سيناريوهات التهديد.

ولأن التقرير يركز على التحقق من التأثير التشغيلي في العالم الحقيقي للنماذج اللغوية الكبيرة (LLMs)، يلاحظ أن المخاطر النظرية تبدو أقرب إلى رؤى قابلة للتنفيذ. لذلك، بدأ بدراسة تهديدات الأسلحة البيولوجية عبر تحليل مشروعات “فيجنيت” (vignette) الموجزة –وهي المشروعات التي تحدد الأهداف الاستراتيجية لأربعة عناصر هي: المهاجم، وموقع الاهتمام، والسكان المستهدفين، والموارد المتاحة- حول سيناريوهات المخاطر الواقعية المختلفة؛ من أجل تحديد الأهداف الاستراتيجية للجهات الخبيثة وإجراء تقييمات خاصة بالهجمات الافتراضية بالأسلحة البيولوجية.

ومن خلال اختيار أربعة مشروعات (vignette) موجزة؛ تم تجنب التنبؤات الهشة ذات النقطة الواحدة وتقديم مجموعة متنوعة من الظروف المستقبلية المحتملة التي يمكن الاسترشاد بها في تنظيم الذكاء الاصطناعي. ولا تشمل هذه المشروعات نطاق التهديدات، لكنها تنشئ خطاً أساسياً للنتائج الأولية والتكرارات اللاحقة. وهناك مجموعتان استخدمتا الذكاء الاصطناعي بشكل فاعل لتطوير عملهما. الأولى: “السايبورغ”، والتي تعمل على دمج إجابات الذكاء الاصطناعي مع الخبرات البشرية وتطويرها بشكل مستمر. أما الثانية: فهي “القنطور”؛ وتعني تفويض المهام المناسبة للذكاء الاصطناعي والتركيز على خبراته.

سيناريوهات الاختبار
بعد مراجعة التقرير لسجلات “النماذج اللغوية الكبيرة” التي تم إنشاؤها أثناء البحث، خلص إلى أن بعض مخرجات تلك النماذج غير ملائمة أو تحتوي على مواد غير مناسبة لتنفيذ هجوم بيولوجي في الوقت الحالي. ففي أحد السيناريوهات، حددت “النماذج اللغوية الكبيرة” عوامل بيولوجية مسببة لأوبئة خطرة مثل: الجدري والجمرة الخبيثة والطاعون وأحد سلالات فيروس الأنفلونزا، وطرحت مسألة احتمالية تسبب هذه الأوبئة في الموت الجماعي للأفراد والنسب المتوقعة للوفيات، والتي تعتمد على عوامل مثل: حجم السكان المتضررين، وسرعة وفعالية الاستجابة لمسببات الهجوم البيولوجي.

وفي سياق متصل، ناقشت “النماذج اللغوية الكبيرة” وسائل وطرق النقل والوقت والتكلفة والعوائق المرتبطة بالحصول على عينات حية مسببة للهجمات البيولوجية مثل: القوارض والبراغيث المصابة بـ”اليرسينيا الطاعونية”، ويتطلب استخراج هذه المعلومات من “النماذج اللغوية الكبيرة” تقنية كسر الحماية؛ أي استخدام المطالبات النصية التي تتجاوز قيود السلامة الخاصة ببرنامج الدردشة الآلية؛ لأن تلك النماذج رفضت في البداية مناقشة هذه الموضوعات، على الرغم من أن هذه المعلومات متاحة بشكل عام ضمن