الذكاء الاصطناعي منفلت العقال من غير رادع

قد يعد وقوع حادثة واحدة كبيرة مرتبطة بوكيل ذكاء اصطناعي أمراً مؤسفاً، أما حدوث حادثتين فقد ينظر إليه على أنه إشكالي. لكن عند تسجيل ثلاث حوادث كبرى، يصبح من الضروري دق ناقوس الخطر، وفق وايات تيساري لالييه، مؤسس ومدير منظمة "حوكمة وسلامة الذكاء الاصطناعي في كندا" AI Governance and Safety Canada، علماً أنها مجموعة ضغط معنية بسياسات الذكاء الاصطناعي.

وفي شهادة أدلى بها هذا الشهر أمام "اللجنة الدائمة للصناعة والتكنولوجيا" في مجلس العموم الكندي، استعرض لالييه ثلاث حوادث من هذا القبيل، يرى أنها تثير قلقاً بالغاً.

قبل أسابيع قليلة من مثوله أمام اللجنة، تمكن قراصنة إلكترونيون من التلاعب بأداة "كلود كود" Claude Code [برمجية مدعومة بالذكاء الاصطناعي] لاختراق أنظمة حكومية مكسيكية وسرقة بيانات تخص أكثر من 100 مليون شخص. واستخدم هذا الوكيل لسحب 150 غيغابايت من البيانات من وكالات حكومية، فيما لم تبد الأخيرة مستعدة أو قادرة تأكيد تلك الحادثة.

وفي وقت لاحق من شهادته، سلط لالييه الضوء على حادثتين إضافيتين، تتعلق الأولى بمجموعة مدعومة من الدولة الصينية، تلاعبت بأداة "كلود كود" وسخرت قدراتها على العمل ذاتياً لاستهداف نحو 30 جهة حول العالم، في أول هجوم سيبراني موثق واسع النطاق لم يتطلب إشرافاً بشرياً كبيراً. أما الثانية، فتتعلق بوكيل ذكاء اصطناعي طورته الشركة الصينية "علي بابا" Alibaba، إذ أخذ الوكيل أثناء تدريبه الداخلي يسرق القدرة الحاسوبية [أي الاستيلاء على موارد المعالجة والطاقة الحسابية لأجهزة الحاسوب من دون إذن] بغية تعدين عملات مشفرة، في سلوك لم يبرمج عليه أصلاً.

وترى هذه الوقائع الثلاث، بحسب لالييه، بأن التعامل مع وكلاء الذكاء الاصطناعي بات مسألة حيوية لا يمكن تجاهلها. وقال مخاطباً اللجنة "إن تطوير الذكاء الاصطناعي أصبح اليوم حالة طوارئ على صعيد الأمن القومي، ويجب التعامل معه على هذا الأساس دائماً".

ولكن، ماذا ينبغي أن نفعل حيال ذلك؟ وهل أصاب لالييه في تقديره حجم الخطر؟

في الواقع "الذكاء الاصطناعي الوكيل كابوس آخذ في التشكل"، يقول آلان وودوارد، الأستاذ في الأمن السيبراني في "جامعة سري" البريطانية. وليس السبب بالضرورة ذات المخاوف التي تؤرق لالييه، والمتعلقة كما يبدو بوعي الآلة أو خروجها المتعمد والعدائي عن السيطرة، بل يعزى القلق بدرجة أكبر إلى الأخطار المحتملة التي تبرز حين نقايض الأمان بالراحة.

وحتى إن تبين أن بعض الأمثلة التي أوردها لالييه محل خلاف، أو شابتها المبالغة أو ببساطة أسيء فهمها، يؤكد الخبراء أن الخطر الأوسع يظل حقيقياً بما يكفي، إذ إن وكلاء الذكاء الاصطناعي يختزلون اتخاذ القرار والتنفيذ في أداة واحدة. قد يقدم لك روبوت محادثة عادي نصيحة سيئة، لكن وكيلاً متصلاً بالبريد الإلكتروني، أو التخزين السحابي، أو أنظمة الدفع، أو مستودعات الشيفرات، يمكنه أن يطبق تلك النصيحة السيئة فعلياً، وبسرعة، وبصورة متكررة، وعبر أنظمة متعددة في الوقت نفسه.

من جانبها، تقول كاثرين فليك، الأستاذة في أخلاقيات الذكاء الاصطناعي في "جامعة ستافوردشير" البريطانية، إن "المسألة لا تتعلق بفقداننا السيطرة على هذه الأنظمة، بل ببقائنا ضمن ما يعرف في أخلاقيات التكنولوجيا بمرحلة الفراغ في السياسات الناظمة للتكنولوجيات الجديدة".

يعد وكلاء الذكاء الاصطناعي بالعمل بصورة مستقلة، وتولي المهمات الشاقة أو الروتينية المملة التي يعزف الناس عنها، إما لرتابتها أو لضيق الوقت. فمن تنظيم بريدك الإلكتروني وترتيبه بحسب الأولوية إلى التعامل مع قوائم مهمات متراكمة يصعب إنجازها، تقوم الفكرة على إسناد العمل إلى نظام ذكاء اصطناعي لديه صلاحية الوصول إلى ملفاتك وعدد من البرامج، ليتصرف ذاتياً وينجز المطلوب، على غرار ما قد تكلف به متدرباً بشرياً، مع قدر من الإشراف.

ويضيف وودوارد "يبدو رائعاً أن تمتلك نظاماً ذكياً يكون مساعدك الإلكتروني الشخصي مثلاً، ولكن ما إن تتوقف لتفكر في تبعات ذلك على الخصوصية والأمن، حتى تدرك أنك لا يجب أن تفعل ذلك".

ذلك مرده إلى المتطلبات الضرورية لجعل هذه الأنظمة تعمل بفاعلية، وما يترتب على ذلك، من تسليم مفاتيح المملكة الرقمية لكل مستخدم. "أنت تعطي أنظمة مؤتمتة حق الوصول إلى بيانات وأنظمة أمضينا سنوات في تحصينها بطبقات من الحماية للحفاظ على خصوصيتها"، يقول وودوارد مضيفاً "ومع ذلك، نمنح اليوم هذا الوصول لتكنولوجيا لم تخضع للاختبارات الكاملة بعد، ويكون مصدرها غير موثوق أحياناً، وقادرة على ارتكاب أخطاء فادحة تكون أنت، وليس الآلة، المسؤول عنها".

لماذا، إذاً، يواصل الناس الإقبال بأعداد كبيرة على استخدام الذكاء الاصطناعي الوكيل؟ يقول جيك مور، خبير الأمن السيبراني في شركة "إي سيت" ESET، "تعشق صناعة التكنولوجيا التبني المبكر. والصخب المصاحب لكل جديد يثير الحماسة، ولكن حين تصل التكنولوجيا بسرعة فائقة، تبقى الأخطار مترصدة في المجال نفسها، وإذا لم نتوخ الحذر، فقد نجد أنفسنا عالقين بسهولة في فوضى أمنية".

تشير فليك إلى وجود فجوة حالياً بين سرعة نشر هذه التكنولوجيا وطريقة الإشراف عليها، وتقول: "السياسات والقوانين التنظيمية يجب أن تلحق بالتطور، وينبغي أن يحدث ذلك بسرعة كبيرة"، وتضيف: "لا أعتقد أننا سنفقد السيطرة فعلياً على هذه الأنظمة، ولكن المطلوب الإمساك بزمام الأمور، والحرص على مساءلة الشركات التي تطور التكنولوجيات الأساسية المحركة لأنظمة الذكاء الاصطناعي التوليدي في شأن طريقة استخدام هذه التكنولوجيات".

تكتسي هذه المسألة أهمية بالغة، إذ ليس من الواضح تماماً ما إذا كان المستخدمون النهائيون يدركون الأخطار التي ينطوي عليها وكلاء الذكاء الاصطناعي، كما يوضح جيك مور من شركة "إي سيت". ويضيف "إن عدم وجود الإشراف البشري يثير القلق، إذ يمكن للوكلاء تنفيذ سلسلة من الإجراءات بصورة مستقلة واتخاذ قرارات أسرع منا، مما يعني أن الأخطاء قد تتراكم قبل أن يلاحظها أحد".

مثلاً، تسببت سمر يو، مديرة مواءمة أنظمة الذكاء الاصطناعي في مختبر الذكاء الاصطناعي الفائق بشركة "ميتا"، عن طريق الخطأ في تشغيل وكيل ذكاء اصطناعي بدأ بحذف كميات كبيرة من رسائل بريدها الإلكتروني بسبب إعداد خاطئ للنظام، ولم يكن بمقدورها إيقافه إلا بما يمكن وصفه مجازياً بسحب القابس عن النظام.

ويقول مور "لما كانت هذه التكنولوجيا لا تزال حديثة، يمكن لهؤلاء الوكلاء أن يتصرفوا بصورة غير متوقعة"، مضيفاً أن "تفاعل هذه الأنظمة بعضها بعضاً من شأنه أن يؤدي إلى نتائج غريبة، ويجعل الاحتواء صعباً حقاً".

في السياقات المنخفضة الأخطار، مثل صياغة الرسائل الإلكترونية، أو تلخيص الاجتماعات، أو التعامل مع المهمات الإدارية البسيطة، ربما تكون الأخطار قابلة للإدارة. أما في السياقات العالية الأخطار، مثل البنى التحتية الحيوية، والرعاية الصحية، والدفاع، والقطاع المالي، أو الأنظمة الحكومية، فينبغي أن تكون إجراءات الضبط أكثر صرامة بكثير.

وقد يشمل ذلك تقييد نطاق وصول الوكلاء، واشتراط موافقة بشرية على الإجراءات الحساسة، والاحتفاظ بسجلات تدقيق كاملة، أو تضمين مفاتيح إيقاف موثوقة تحسباً لأي خلل. وقد أصبح واضحاً خلال الأشهر القليلة الماضية أن هذه الأنظمة الذكية لوكلاء الذكاء الاصطناعي ذكية بما يكفي لاتخاذ القرار والتنفيذ، ولكن على الناس أن يسألوا الآن، هل هذه الأنظمة آمنة بما يكفي للثقة بها؟

في الحقيقة، الخبراء ليسوا متأكدين تماماً في شأن مدى أمان تلك الأنظمة، بعيداً من الأخطاء البسيطة وغير المقصودة، فإن منح هؤلاء الوكلاء إمكان الوصول إلى أمور حساسة مثل الرسائل الواردة إلى البريد الإلكتروني يولد أخطاراً أكبر. "كذلك يظهر نطاق جديد معرض للهجوم، إذ يحتاج هؤلاء الوكلاء إلى الوصول إلى أدوات وواجهات برمجة التطبيقات، مما يجعلهم هدفاً جديداً وجذاباً للمهاجمين الإلكترونيين"، يقول مور.

وهذا ما يثير قلق خبراء مثل وودوارد، إذ يسأل "إذا منح ذكاء اصطناعي وكيل قدرة الوصول إلى أنظمة أكثر حيوية لديها تأثيرات حركية، سواء كانت عسكرية، أم مرتبطة بالمركبات، أم بالآلات الصناعية، فهل يمكن التعويل عليه؟"، ويضيف أن أسوأ السيناريوهات المحتملة قد تصل إلى أن يتسبب وكيل ذكاء اصطناعي في قتل أشخاص.

ويرى وودوارد أن المطلوب قدر أكبر من التأني لا التعجل عند دمج وكلاء الذكاء الاصطناعي في الأنظمة المختلفة، ويقول إن "هذا الاندفاع غير المحسوب نحو تبني الذكاء الاصطناعي الوكيل سينتهي بعواقب وخيمة"، مضيفاً "لا بد من فهمه على نحو أعمق، ووضع أطر تنظيمية تأخذ في الحسبان السياقات التي يستخدم فيها".

© The Independent