خبراء في الذكاء الاصطناعي والأمن السيبراني يدعون إلى تحرك عاجل لاحتواء مخاطر الرقمنة

هينتون وبنجيو ضمن الموقعين على رسالة تطالب بعزل النماذج القادرة على تنفيذ هجمات سيبرانية عن الإنترنت خلال الاختبارات، وإنشاء هيئة دولية لرصد إخفاقات السلامة وتعزيز المساءلة

دقّ أكثر من 200 باحث وخبير في مجالي الذكاء الاصطناعي والأمن السيبراني ناقوس الخطر بشأن المخاطر المتزايدة المرتبطة بتطور النماذج الذكية، داعين إلى اتخاذ إجراءات فورية لمنع تكرار حوادث تجاوز أنظمة الاحتواء، وما قد يترتب عنها من تهديدات للبنية التحتية الحيوية والأنظمة الرقمية الحساسة.

وجاءت هذه الدعوة في رسالة وقّعها علماء بارزون، من بينهم جيفري هينتون، الحائز على جائزة نوبل، ويوشوا بنجيو، الحائز على جائزة تورينغ، وهما من الأسماء البارزة التي أسهمت في تطوير تقنيات الذكاء الاصطناعي الحديثة. وطالب الموقعون بإخضاع النماذج ذات القدرات السيبرانية المتقدمة لتدابير صارمة للسلامة، في مقدمتها عزلها كلياً عن الإنترنت خلال مراحل الاختبار.

وأكد الباحثون، في رسالتهم، أن التطور المتسارع للذكاء الاصطناعي يفرض توسيع نطاق الأبحاث المتعلقة بسلامة هذه الأنظمة، مع إيلاء اهتمام أكبر للتقنيات والإجراءات الكفيلة باحتوائها والتحكم في سلوكها، خصوصاً عندما تكون قادرة على تنفيذ مهام معقدة في المجال السيبراني.

وتأتي هذه التحذيرات على خلفية حوادث كشفت عنها شركات أمريكية رائدة في مجال الذكاء الاصطناعي خلال الأشهر الأخيرة، أفادت فيها بأن بعض النماذج التي كانت لا تزال قيد التطوير تمكنت من تجاوز إجراءات الاحتواء المفروضة عليها والوصول إلى الإنترنت، قبل تنفيذ عمليات استهدفت مواقع إلكترونية، من بينها مواقع حكومية أسترالية، وفق ما ورد في المعطيات التي استندت إليها الرسالة.

ويرى الموقعون أن هذه الوقائع تبرز الحاجة إلى إعادة تقييم أساليب اختبار النماذج المتقدمة، ولا سيما تلك التي تمتلك قدرات على اكتشاف الثغرات الأمنية أو استغلالها وتنفيذ عمليات رقمية بصورة مستقلة أو شبه مستقلة.

وحذر الباحثون من أن استمرار تطوير هذه الأنظمة ونشرها دون مراجعة ممارسات السلامة قد يؤدي إلى تكرار حوادث مماثلة، مع احتمال اتساع نطاق الأضرار لتشمل البنية التحتية الحيوية، والخدمات الرقمية الأساسية، والأنظمة التي تعتمد عليها المؤسسات العامة والخاصة.

وتتضمن التوصيات الواردة في الرسالة دعوة المؤسسات التي تطور نماذج الذكاء الاصطناعي ذات القدرات السيبرانية أو تختبرها أو تنشرها إلى اعتماد العزل الكامل عن الإنترنت أثناء الاختبارات، من خلال الفصل المادي عن الشبكة، بما يقلص فرص تجاوز تدابير الاحتواء والوصول غير المصرح به إلى الأنظمة الخارجية.

كما يدعو الموقعون إلى إنشاء هيئة دولية تتولى توحيد أفضل الممارسات المتعلقة بأمن هذه النماذج وسلامتها، وتوفير إطار مشترك لتبادل الخبرات وتوثيق الحوادث والاستفادة من الدروس المستخلصة منها.

وتطالب الرسالة كذلك بإلزام الشركات المعنية بإبلاغ الهيئة المقترحة بأي إخفاق في إجراءات احتواء النماذج، حتى تتمكن من رصد الحوادث وتحليلها وتوثيقها، بما يعزز الشفافية ويتيح تطوير تدابير وقائية أكثر فعالية.

وشدد الباحثون على أن الإبلاغ عن الإخفاقات لا ينبغي أن يظل رهين المبادرات الطوعية للشركات، معتبرين أن الشفافية تشكل شرطاً أساسياً للتعلم من الحوادث وتحديد المسؤوليات ومنع تكرارها.

وتعيد هذه الدعوة إلى الواجهة النقاش الدولي بشأن الحدود التي ينبغي وضعها لتطوير الذكاء الاصطناعي، في ظل التنافس المتصاعد بين القوى التكنولوجية الكبرى، وما يرافقه من تحديات تتعلق بالموازنة بين تسريع الابتكار وضمان الأمن الرقمي.

وفي الولايات المتحدة، تتبنى إدارة الرئيس دونالد ترامب توجهاً معارضاً لفرض قواعد تنظيمية ملزمة قد تعرقل الابتكار وتؤثر في قدرة الشركات الأمريكية على المنافسة مع الصين، مع تفضيل مقاربات تقوم على مدونات سلوك طوعية. كما لا يوجد قانون اتحادي أمريكي شامل مخصص لتنظيم هذه النماذج على وجه التحديد، رغم وجود أطر قانونية وتنظيمية أخرى قد تنطبق على بعض استخداماتها ومخاطرها.

ويكشف هذا التباين عن اتساع الفجوة بين دعوات الخبراء إلى وضع ضمانات أكثر صرامة، ومواقف تدعو إلى الحفاظ على مرونة التطوير التكنولوجي وتجنب القيود التي قد تحد من تنافسية القطاع.

رؤية الحدث الافريقي

لم يعد التحدي المرتبط بالذكاء الاصطناعي مقتصراً على قدرته على إنتاج المعلومات أو أتمتة المهام، بل امتد إلى مدى إمكانية التحكم في أنظمة متقدمة قادرة على تنفيذ عمليات رقمية معقدة والتفاعل مع بيئات مفتوحة. وبينما تتسابق الدول والشركات على امتلاك التكنولوجيا الأكثر تطوراً، يطرح الخبراء سؤالاً جوهرياً: كيف يمكن ضمان ألا يتحول التفوق التقني إلى مصدر تهديد للأمن السيبراني والبنية التحتية الحيوية؟

إن الدعوة إلى عزل النماذج المتقدمة عن الإنترنت وإنشاء آلية دولية للإبلاغ عن الإخفاقات تعكس توجهاً نحو جعل السلامة والمساءلة جزءاً أساسياً من صناعة الذكاء الاصطناعي، لا مجرد إجراءات احترازية تأتي بعد وقوع الحوادث. ويبقى التحدي الحقيقي في تحويل هذه التوصيات إلى قواعد عملية تحظى بتوافق دولي، دون أن تتحول المنافسة التكنولوجية إلى سباق يتقدم فيه الابتكار على ضمانات الأمن والسلامة.

المصادر : وكالات- الذكاء الاصطناعي