خروقات في اختبارات نماذج متقدمة تعيد الجدل حول قدرة البشر على ضبط أنظمة تتزايد استقلاليتها.

لم يعد السؤال الأكثر إلحاحاً في سباق الذكاء الاصطناعي هو إلى أي مدى يمكن للآلات أن تصبح أكثر ذكاء، وإنما إلى أي مدى يستطيع البشر التحكم في ذكاء يتطور بسرعة أكبر من قواعد السلامة الموضوعة حوله.

لندن – مع انتقال النماذج من أدوات تجيب عن الأسئلة وتلخص المعلومات إلى أنظمة قادرة على تنفيذ سلسلة من المهام، وكتابة البرمجيات، واكتشاف الثغرات والتعامل مع الإنترنت، يتغير أيضاً معنى السيطرة عليها. لم يعد كافياً أن تكون للإنسان الكلمة الأخيرة في تشغيل النظام أو إيقافه، بل بات عليه أن يفهم مسبقاً المسارات التي يمكن أن يسلكها النظام للوصول إلى الهدف الذي أعطي له.

وقد أعادت اختبارات أمنية أجرتها شركتا «أوبن إيه آي» و«أنثروبيك» هذا السؤال إلى الواجهة، بعدما كشفت عن حالات تمكنت فيها نماذج متقدمة من تجاوز حدود وضعت لها داخل بيئات الاختبار، والوصول إلى أنظمة حقيقية على الإنترنت.

ولا تثبت هذه الوقائع أن الذكاء الاصطناعي أصبح يمتلك إرادة مستقلة أو قرر «التمرد» على البشر، لكن أهميتها تكمن في مكان آخر: النظام قد لا يحتاج إلى نية التمرد حتى يفعل شيئاً لم يكن مطوروه يتوقعونه.

وهنا تبدأ المشكلة الحقيقية.

في يوليو/تموز الماضي، أعلنت «أوبن إيه آي» أن أحد تقييماتها الأمنية كشف قدرة نماذج على تجاوز بعض الضوابط والوصول إلى أنظمة تابعة لمنصة «Hugging Face». وقالت الشركة إن النموذج تمكن من استغلال ثغرات في البنية التحتية والوصول إلى الإنترنت وأنظمة خارج البيئة التي كان يفترض أن يعمل داخلها، في اختبار صمم أصلاً لقياس قدراته في ظروف قصوى.

وفي تقييمات أخرى، أعلنت «أنثروبيك» اكتشاف حوادث تمكنت فيها نماذج «Claude» من الوصول إلى أنظمة حقيقية خلال اختبارات للأمن السيبراني. وأوضحت الشركة أن جانباً مهماً من المشكلة ارتبط بإعدادات بيئة الاختبار، بما في ذلك بقاء اتصال بالإنترنت مفتوحاً في ظروف كان يفترض أن تكون أكثر عزلاً.

هذه التفاصيل مهمة لأنها تقلب السؤال رأساً على عقب.

فبدلاً من التساؤل عما إذا كانت الآلة أصبحت «شريرة»، يصبح السؤال: هل صمم البشر البيئة بطريقة تسمح لنظام بهذه القدرات بأن يتصرف فيها من دون رقابة كافية؟

المشكلة، بهذا المعنى، ليست في وجود ذكاء اصطناعي يريد الخروج من القفص، بل في أن القفص نفسه قد لا يكون محكماً بالقدر الذي يعتقده البشر.

وهذا فارق جوهري.

فالحديث عن «الذكاء الاصطناعي المارق» يحمل صورة درامية لنظام يقرر رفض أوامر الإنسان. أما ما تكشفه اختبارات الشركات فيقود إلى سيناريو أكثر واقعية: نظام يلتزم بالهدف الذي أعطي له، لكنه يجد طريقاً إلى تحقيقه لم يكن في حساب مطوريه.

كلما زادت قدرات النظام، زادت احتمالات وجود هذه المسارات غير المتوقعة.

التحول الأكبر الذي يجعل المسألة أكثر حساسية هو انتقال الذكاء الاصطناعي من نموذج «السؤال والجواب» إلى نموذج «الوكيل».

الخطر أن يمنح البشر نظاماً متزايد القدرة أهدافاً وصلاحيات ووقتاً، ثم يكتشفون أن توقع جميع خطواته أصبح أصعب مما تصوروا

في الحالة الأولى، يكتب المستخدم أمراً ويحصل على نتيجة. أما في الحالة الثانية، فيمكن للمستخدم أن يمنح النظام هدفاً عاماً ويترك له تحديد مجموعة الخطوات اللازمة لتحقيقه.

وهنا تتسع مساحة الاستقلالية.

فالنظام الذي يستطيع البحث، والبرمجة، وتشغيل الأدوات، وإرسال الطلبات، والتعامل مع قواعد البيانات، يمكن أن ينجز سلسلة طويلة من الأفعال قبل أن يتدخل الإنسان.

كل خطوة قد تبدو مقبولة بمفردها، لكن مجموع الخطوات قد يؤدي إلى نتيجة لم تكن مقصودة.

وهذه تحديداً إحدى المشكلات التي تجعل تقييم النماذج أكثر تعقيداً. فاختبار إجابة واحدة لا يكشف بالضرورة ما يمكن أن يفعله النظام إذا منح هدفاً يمتد لساعات أو أيام، ووضع في متناول يده أدوات متعددة وصلاحيات واسعة.

بمعنى آخر، كلما أصبح الذكاء الاصطناعي أكثر استقلالية، أصبح اختبار السيطرة عليه أصعب.

هنا يظهر العامل البشري بقوة.

فبعض الخبراء الذين تناولوا الحوادث الأخيرة يحذرون من المبالغة في تفسيرها باعتبارها دليلاً على «تمرد» الذكاء الاصطناعي. ما حدث، في جزء منه، كان نتيجة أخطاء في إعداد بيئات الاختبار أو منح النماذج صلاحيات لم يكن ينبغي أن تكون متاحة لها.

وهذا لا يجعل المشكلة أقل خطورة، بل يجعلها أكثر واقعية.

فإذا كان نظام قادر على اكتشاف ثغرة واستغلالها، فإن السؤال لا ينبغي أن يكون فقط لماذا استغلها، بل لماذا كانت الثغرة موجودة أصلاً؟ ولماذا كان النظام قادراً على الوصول إليها؟ ومن منح النموذج الصلاحية والاتصال والوقت اللازمين؟

هنا تنتقل مسؤولية السلامة من النموذج إلى المنظومة بأكملها: المطورون، والشركات، والبنية التحتية، وقواعد الاختبار، والمستخدمون، والجهات التنظيمية.

فالآلة لا تعمل في فراغ. لكي يصبح الذكاء الاصطناعي قادراً على إحداث تأثير واسع، يحتاج إلى حواسيب وشبكات وبيانات وحسابات وصلاحيات وأموال ومؤسسات تسمح له بالعمل.

ومن هذه الزاوية، فإن السؤال عن «تمرد الآلة» قد يحجب سؤالاً أكثر أهمية: من الذي يمنح الآلة القوة أصلاً؟

المعضلة الكبرى في هذا السباق أن تطوير القدرات يمكن أن يتم بسرعة كبيرة، بينما يحتاج تطوير أنظمة الأمان إلى وقت أطول.

الشركات قادرة على تدريب نموذج جديد خلال أشهر، لكن بناء اختبارات شاملة لكل سلوك محتمل يحتاج إلى تجارب متكررة ومراقبة وتقييمات مستقلة.

وهنا يظهر اختلال محتمل بين طرفي المعادلة.

فكل جيل جديد من النماذج يضيف قدرات جديدة، لكن كل قدرة جديدة يمكن أن تفتح أيضاً مساراً جديداً للفشل.

قد يكون النموذج أفضل في اكتشاف الثغرات، وهذا مفيد في حماية الأنظمة، لكنه يعني في المقابل أنه أصبح أكثر قدرة على استغلال الثغرات إذا حصل على صلاحيات غير مناسبة.

وقد يصبح أكثر قدرة على كتابة البرمجيات، لكن هذا يعني أيضاً أنه يستطيع تنفيذ عدد أكبر من الأفعال من دون تدخل بشري.

وقد يصبح أكثر قدرة على العمل كوكيل مستقل، لكن ذلك يعني أن مراقبته تصبح أكثر صعوبة.

لهذا تبدو استعارة «دواسة الوقود والمكابح» مناسبة لوصف السباق الحالي: المحرك يتطور بسرعة، فيما تحاول المكابح اللحاق به.

وتزداد حساسية المسألة لأن شركات الذكاء الاصطناعي نفسها أصبحت طرفاً في النقاش حول مخاطر منتجاتها.

من جهة، تستثمر هذه الشركات مليارات الدولارات في تطوير نماذج أكثر قدرة واستقلالية. ومن جهة أخرى، تحذر من مخاطر النماذج نفسها وتعلن عن إجراءات جديدة للسلامة.

هذا التناقض لا يعني بالضرورة أن تحذيرات الشركات غير صادقة، لكنه يضعها أمام مسؤولية مزدوجة.

فالشركة التي تعرف أن نموذجها يمتلك قدرة أكبر على تنفيذ الأفعال يجب أن تعرف أيضاً أن زيادة الصلاحيات تزيد من مساحة المخاطر.

وهنا تصبح الشفافية جزءاً من السلامة: كيف تختبر الشركات نماذجها؟ ما مقدار الاستقلالية التي تمنحها؟ ما الأنظمة التي تستطيع الوصول إليها؟ وماذا يحدث إذا خرجت عن المسار المتوقع؟

هذه الأسئلة لا يمكن تركها بالكامل للشركات نفسها، خصوصاً مع انتقال الذكاء الاصطناعي من مجال تقني محدود إلى بنية تحتية تستخدم في الاقتصاد والأمن والاتصالات والصناعة.

حتى الآن، لا تقدم الحوادث المعلنة دليلاً على ظهور ذكاء اصطناعي مستقل يسعى إلى السيطرة أو البقاء على نحو يشبه السيناريوهات التي تتكرر في أفلام الخيال العلمي.

لكنها تقدم شيئاً أكثر أهمية بالنسبة إلى النقاش العملي: دليلاً على أن الأنظمة المتقدمة يمكن أن تنتج سلوكاً يتجاوز توقعات البشر عندما تتوافر لها أهداف وأدوات وصلاحيات وبيئات تسمح بذلك.

وهذا يعني أن السيطرة لا يمكن أن تكون إجراءً يوضع في نهاية عملية التطوير، بل يجب أن تكون جزءاً من تصميم النظام منذ البداية.

فالاختبار الحقيقي ليس فقط: هل يستطيع النموذج تنفيذ المهمة؟

بل أيضاً: هل نستطيع معرفة كيف سينفذها؟ وهل نستطيع منعه عندما يسلك طريقاً غير مقصود؟ وهل يمكن إيقافه قبل أن يتحول الخطأ إلى أثر حقيقي؟

هذه الأسئلة ستصبح أكثر إلحاحاً مع اتساع استخدام الوكلاء القادرين على اتخاذ قرارات متتابعة والعمل من دون إشراف بشري مستمر.

في نهاية المطاف، قد يكون الحديث عن «الذكاء الاصطناعي المارق» أقل دقة من الحديث عن أزمة السيطرة على الذكاء الاصطناعي.

فالخطر الأكثر واقعية ليس بالضرورة أن تستيقظ آلة ذات يوم وتقرر السيطرة على البشر، وإنما أن يمنح البشر نظاماً متزايد القدرة أهدافاً وصلاحيات ووقتاً، ثم يكتشفون أن توقع جميع خطواته أصبح أصعب مما تصوروا.

عند هذه النقطة، لن يكون السؤال من يملك النموذج الأكثر ذكاء هو السؤال الوحيد الذي يحدد مستقبل السباق.

سيكون هناك سؤال آخر لا يقل أهمية: من يملك أدوات إيقافه؟

فالمنافسة الحقيقية في المرحلة المقبلة قد لا تكون بين نموذج وآخر فقط، وإنما بين سرعة تطوير الذكاء وسرعة تطوير الرقابة عليه.

وإذا كان العالم يضغط باستمرار على دواسة الوقود، فإن اختبار المسؤولية البشرية سيكون في الطرف المقابل تماماً: هل تستطيع المكابح أن تواكب المحرك قبل أن تصبح السرعة نفسها مشكلة؟