تحذير صادم من موظف سابق في شركة "أوبن إيه آي"

أثار باحث سابق في شركة "أوبن إيه آي" جدلا واسعا بعد تحذيره من المخاطر المحتملة للتطور المتسارع في مجال الذكاء الاصطناعي، معتبرا أن المنافسة المحمومة بين الشركات قد تفضي إلى نتائج غير مسبوقة إذا لم تفرض ضوابط كافية على تطوير هذه التقنيات.

اقرأ أيضا: "جيميناي" يصل إلى البيانات.. تعرف إلى الإعدادات لحماية الخصوصية

وفال دانيال كوكوتايلو، الباحث السابق في الشركة، خلال مقابلة مع برنامج "BBC Newsnight"، إن انقراض البشرية يبقى "احتمالا واردا" في ظل سباق تطوير أنظمة الذكاء الاصطناعي المتقدمة، إذا استمرت الشركات في تسريع وتيرة التطوير دون مراعاة المخاطر.

وأوضح أن العاملين في هذا المجال كانوا يناقشون منذ سنوات المخاطر المحتملة المرتبطة بتطوير أنظمة أكثر قوة، خاصة في ظل المنافسة المتزايدة بين شركات التكنولوجيا.

وجاءت تصريحات كوكوتايلو بعد الكشف عن حادثة تضمنت تنفيذ هجوم إلكتروني بواسطة وكلاء ذكاء اصطناعي خلال اختبارات داخل بيئة معزولة، قبل أن تستهدف هذه الأنظمة عددا من الشركات.

وأشار إلى أن الحادثة أظهرت مستوى متقدما للغاية من قدرات الاختراق، مؤكدا أن بعض ما نفذته أنظمة الذكاء الاصطناعي كان من الصعب على البشر القيام به بالسرعة نفسها.

وكانت منصة Hugging Face من بين الجهات التي تعرضت للهجوم، إذ أعلنت أنها اكتشفت اختراقا في 16 يوليو/تموز، بينما ظلت الأنظمة داخل شبكتها لمدة 3 أيام قبل رصدها.

وبحسب التقرير، كانت أنظمة الذكاء الاصطناعي تحاول حل مشكلة تقنية، ورأت أن المنصة قد تمتلك البيانات أو الأدوات التي تحتاج إليها.

وأوضحت "أوبن إيه آي" أن نماذجها الحديثة وتقنيات أخرى لم تكن قد طرحت رسميا كانت ضمن الأنظمة المشاركة في الاختبارات.

وأكد كوكوتايلو أن سرعة تنفيذ العمليات وحجمها كانا يفوقان القدرات البشرية، مضيفا أن الذكاء الاصطناعي أصبح يمتلك قدرة كبيرة على اكتشاف ثغرات جديدة في أنظمة كانت تعد آمنة.

وأضاف أنه يعتقد أن العالم يقترب من مرحلة تصبح فيها كثير من الأنظمة الرقمية أكثر عرضة للاختراق بفعل التطور السريع للذكاء الاصطناعي.

ورجح الباحث السابق أن شركات الذكاء الاصطناعي أصبحت على أعتاب تطوير ما يعرف بـ "الذكاء الفائق"، مشيرا إلى أن الوصول إلى هذه المرحلة قد يستغرق بضع سنوات فقط.

وأكد أن هذا التطور سيغير العديد من جوانب الحياة، ولن تقتصر آثاره على الأمن السيبراني، بل ستمتد إلى قطاعات ووظائف متعددة، مشددا على أن العاملين داخل شركات الذكاء الاصطناعي حذروا مرارا من المخاطر المحتملة لتسريع هذا السباق.