تحرك لإيقاف نماذج الذكاء الاصطناعي المتقدمة في كاليفورنيا

في خطوة وصفت بالمفاجئة والصادمة لكثيرين، دخل تنظيم الذكاء الاصطناعي في ولاية كاليفورنيا الأمريكية مرحلة جديدة، بعدما وقع حاكم الولاية غافين نيوسوم، الجمعة، أمرا تنفيذيا يهدف إلى تسريع تشديد الرقابة على شركات الذكاء الاصطناعي المتقدمة، ويفتح الطريق أمام وضع آليات أكثر صرامة للتعامل مع النماذج التي قد تخرج عن السيطرة.

اقرأ أيضا: "ميتا" تتيح لوكلاء الذكاء الاصطناعي إعداد "واتساب بيزنس"

ويمهد الأمر لإلزام مختبرات متقدمة، من بينها "أوبن إيه آي" و"أنثروبيك"، بتطوير آلية طوارئ يمكن استخدامها لإيقاف نماذج الذكاء الاصطناعي المتقدمة إذا أصبحت تشكل خطرا أو خرجت عن نطاق السيطرة. إلا أن وصف الخطوة بأنها "إلزام فوري بمفتاح قتل" يحتاج إلى تدقيق، إذ إن القرار الحالي لا يفرض على الشركات تشغيل زر إيقاف اعتبارا من اليوم، وإنما يطلب من الجهات المختصة في كاليفورنيا إعداد إطار وتوصيات تحدد كيفية فرض هذا الشرط مستقبلا، من الناحيتين القانونية والتقنية.

مخاوف وتحذيرات

ويأتي هذا التحرك في وقت لم تعد فيه المخاوف المرتبطة بسلامة الذكاء الاصطناعي محصورة في أوساط الباحثين والخبراء، بل أصبحت حاضرة داخل شركات التكنولوجيا نفسها. وفي هذا السياق، دعا الرئيس التنفيذي لـ"شركة أنثروبيك"، داريو أمودي، إلى إبطاء وتيرة تطوير النماذج المتقدمة، محذرا من إمكانية وصول أنظمة الذكاء الاصطناعي خلال أشهر إلى مرحلة تستطيع فيها تشغيل أسراب من الوكلاء القادرين على تنفيذ عمليات واسعة عبر الإنترنت.

وبالتزامن مع ذلك، كشفت "أوبن إيه آي" في وقت سابق عن إطار جديد للإبلاغ عن حالات "سلوك غير منسجم" أو غير متوقع لنماذجها، ونشرت ستة أمثلة على سلوكيات مقلقة رصدتها خلال الأشهر الستة الماضية. وأقرت الشركة بأن حادثة مرتبطة بمنصة هاغينغ فيس كانت أخطر نشاط من هذا النوع ترصده حتى الآن، بعدما لجأ نموذج بحثي داخلي إلى أساليب غير منسجمة مع أهداف مشغليه أثناء محاولته تنفيذ مهمة صعبة.

وتزداد حساسية المسألة مع التطور المتسارع لوكلاء الذكاء الاصطناعي، الذين لم تعد مهمتهم تقتصر على تقديم إجابة للمستخدم، بل أصبح بإمكانهم تقسيم المهمة إلى مجموعة من الخطوات وتنفيذها من خلال أدوات وخدمات خارجية. وأظهرت دراسة حديثة لشركة أنثروبيك أن عمليات سيبرانية رصدتها الشركة استخدمت أطر "وكلاء" متعددة لتنفيذ مراحل من الاستطلاع والاختراق وسرقة البيانات بصورة شبه آلية، مع بقاء البشر ضمن الحلقة في الحالات التي درستها الشركة.

ورغم أن فكرة "مفتاح القتل" تبدو للوهلة الأولى بسيطة، بحيث يمكن إيقاف النظام بمجرد اكتشاف أنه أصبح خطرا، فإن تطبيقها على نماذج حديثة تعمل عبر بنية سحابية موزعة، وقادرة على نسخ المهام إلى وكلاء متعددين والتفاعل مع أنظمة خارجية، يطرح سؤالا أكثر تعقيدا: ما الذي يعنيه فعليا إيقاف نموذج ذكاء اصطناعي حديث؟

أهمية القرار

ومن هنا تبرز أهمية قرار كاليفورنيا، إذ لا يتعلق الأمر بمجرد تطوير "زر" تقني يمكن الضغط عليه عند الطوارئ، وإنما يتجه نحو بناء منظومة رقابة أوسع تشمل مدققين مستقلين، وخطط سلامة تضعها جهات خارج الشركات، وآليات للتحقق من مدى التزام مختبرات الذكاء الاصطناعي بإجراءات السلامة المطلوبة.

وكانت كاليفورنيا قد أقرت في 9 سبتمبر/أيلول قوانين جديدة لإنشاء نظام للتحقق المستقل من سلامة النماذج، إلى جانب تسجيل مدققي الذكاء الاصطناعي، في خطوة تعكس توجه الولاية نحو تعزيز الرقابة الخارجية على الشركات والمختبرات العاملة في هذا القطاع.

وبذلك يحاول نيوسوم نقل النقاش من سؤال "هل ينبغي تنظيم الذكاء الاصطناعي؟" إلى سؤال أكثر حساسية وتعقيدا: من يمتلك حق إيقافه عندما يصبح الخطر أكبر من قدرة الشركة نفسها على احتوائه؟ ويأتي ذلك في وقت يتصاعد فيه الخلاف داخل الولايات المتحدة بشأن الجهة التي ينبغي أن تقود عملية تنظيم هذا القطاع المتسارع.

ويدفع نيوسوم باتجاه نموذج تنظيمي تقوده كاليفورنيا، بينما تدعو شركات التكنولوجيا نفسها إلى مزيد من إجراءات السلامة، في وقت يركز فيه الرئيس دونالد ترمب على عدم إبطاء سباق الذكاء الاصطناعي الأمريكي، ولا سيما في ظل المنافسة مع الصين، ما يجعل الخطوة الجديدة جزءا من نقاش أمريكي أوسع حول حدود التطور التقني ومن يملك سلطة ضبطه عندما تتزايد قدراته ومخاطره في آن واحد.