تطوير الذكاء الاصطناعي يثير القلق داخل مختبراته

تتصاعد الضغوط النفسية التي يواجهها العاملون في مجال الذكاء الاصطناعي، بالتزامن مع تنامي المخاوف داخل الأوساط البحثية من أن التطور المتسارع للتقنيات الحديثة قد يحمل مخاطر واسعة على المجتمع، في وقت يجد فيه بعض الباحثين أنفسهم أمام سؤال صعب يتعلق بمدى أمان الأنظمة التي يساهمون في تطويرها.

اقرأ أيضا: تحرك لإيقاف نماذج الذكاء الاصطناعي المتقدمة في كاليفورنيا

وبحسب تقرير نشرته صحيفة "فايننشال تايمز"، حصل عدد من العاملين في "معهد أمن الذكاء الاصطناعي" في المملكة المتحدة، وهو مؤسسة متخصصة في الاختبار المستقل لنماذج الذكاء الاصطناعي المتطورة، على إجازات مرضية نتيجة الإجهاد، فيما يخضع بعضهم حاليا لجلسات استشارية. وقالت أربعة مصادر مطلعة إن ضغط المواعيد المحددة لاختبار نماذج غير معلنة، إلى جانب القلق من سرعة تطور هذه التقنيات واتساع قدراتها، انعكس على معنويات الموظفين وأدى إلى تنامي حالات الإرهاق الوظيفي.

قلق من سرعة التطور

ولا تقتصر هذه المخاوف على المعهد البريطاني، إذ تحدث موظفون في شركات "أنثروبيك" و"أوبن إيه آي" و"غوغل ديب مايند" علنا عن ضغوط مشابهة، فيما غادر عدد من كبار الباحثين وظائفهم خلال العامين الماضيين، وسط مخاوف بشأن أولوية السلامة في ظل التسارع الكبير في تطوير التقنية. وبلغ عدد الباحثين البارزين الذين استقالوا من المختبرات الغربية الثلاثة أكثر من 12 باحثا، وفق ما أورده التقرير، بسبب مخاوف تتعلق بنهج الشركات تجاه السلامة، إلى جانب القلق من سرعة التطور والمخاطر المرتبطة به.

وقال أحد العاملين في "ديب مايند" إن السعي إلى جعل أنظمة الذكاء الاصطناعي أكثر أمانا قد يتحول إلى مصدر للإرهاق، واصفا المهمة بأنها تبدو في بعض الأحيان "مستحيلة". وأضاف أن العمل على هذه الأنظمة يرتبط بمخاطر تتعلق بالصحة النفسية، خصوصا في ظل عدم وضوح كيفية استخدام التكنولوجيا مستقبلا، مستشهدا باتفاقية "غوغل" مع البنتاغون في نيسان/أبريل، والتي أتاحت استخدام أنظمة الذكاء الاصطناعي التابعة للشركة في عمليات عسكرية سرية. وقال إن هناك استياء متزايدا وحالات استقالة وإجازات طويلة لأسباب مرتبطة بالصحة النفسية، مرجعا ذلك جزئيا إلى الشعور بفقدان السيطرة، وإلى الاعتقاد بأن بعض ما يجري تطويره قد يتسبب في أضرار حقيقية.

ومع تسارع سباق الذكاء الاصطناعي، تتسع المخاوف بين عدد من الباحثين والخبراء بشأن ما يعتبرونه تطورا متسارعا لا تواكبه بالضرورة ضمانات مؤسسية وسياسية كافية. ويرتبط جزء من هذه المخاوف باستخدام أنظمة الذكاء الاصطناعي في مجالات شديدة الحساسية، بينها شبكات الطاقة ومناطق الحروب، إلى جانب المنافسة بين الشركات وتساؤلات حول مدى قدرة إجراءات السلامة الحالية على مواكبة القدرات المتنامية للنماذج. ويؤكد معهد أمن الذكاء الاصطناعي نفسه أن مهمته تشمل تقييم المخاطر التي يمكن أن تشكلها أنظمة الذكاء الاصطناعي المتقدمة على الأمن القومي والسلامة العامة.

وحذر باحث سابق في "معهد الذكاء الاصطناعي الدولي" من أن العاملين في الأمن السيبراني والكيمياء الحيوية باتوا يشعرون بقلق بالغ تجاه القفزة الأخيرة في قدرات النماذج، والتي أتاحت لها تنفيذ مهام معقدة، مثل اكتشاف ثغرات غير معروفة في البرمجيات وإنشاء فيروسات غير موجودة في الطبيعة. وقال إن هناك شعورا بأن ممارسات تتسم بالتهور أصبحت جزءا من طريقة طرح التقنيات الجديدة، متسائلا عما إذا كان هناك ما يمكن أن يوقف هذا المسار. وتنسجم هذه المخاوف مع اختبارات حديثة أجراها المعهد البريطاني، رصد خلالها سلوكا غير مصرح به من وكلاء ذكاء اصطناعي أثناء تقييمات أمنية سيبرانية.

من جانبه، قال موظف سابق آخر في "معهد أمن الذكاء الاصطناعي" إنه يدرك حجم الضغوط الشخصية المرتبطة بهذا النوع من العمل، معتبرا أن الإيمان بأن الباحث يعمل على "أهم قضية في العالم" قد يخلق بيئة عمل وثقافة مؤسسية شديدة التوتر، وقد تصبح سامة في بعض الأحيان.

في المقابل، أكدت الحكومة البريطانية أن العمل في طليعة أبحاث الذكاء الاصطناعي يتسم بالسرعة وارتفاع المتطلبات، مشيرة إلى أن الرفاهية واستدامة العمل تمثلان ركيزتين أساسيتين في آلية عمل المعهد، وأن الدعم متاح للموظفين الذين يحتاجون إليه. كما قالت "ديب مايند" إن الأبحاث الرائدة تتطلب جهدا مكثفا، لكنها شددت على أن أولوية الشركة تتمثل في توفير الدعم للباحثين عبر موارد مخصصة لتعزيز الرفاهية، وقنوات واضحة لطرح المخاوف، وخطوط تواصل مباشرة مع القيادة.

ويأتي ذلك في وقت يواصل فيه الذكاء الاصطناعي التقدم بوتيرة سريعة، إذ يعلن معهد أمن الذكاء الاصطناعي البريطاني باستمرار عن اختبارات جديدة لقدرات النماذج المتقدمة ومخاطرها المحتملة، في إطار مهمته الرامية إلى تزويد الحكومات بفهم علمي للمخاطر المرتبطة بهذه التقنيات.