الذكاء الاصطناعي وحدود السيطرة..أربعة مؤشرات تسبق لحظة الخطر

ألمانيا- منير لكماني

أخطر ما قد يبلغه الذكاء الاصطناعي ليس أن يصبح أسرع في الحساب، ولا أقدر على الكتابة والتحليل، ولا حتى أن يتفوق على الإنسان في مجالات معرفية معقدة. الخطر الحقيقي يبدأ في اللحظة التي ينتقل فيها من أداة تعمل داخل حدود رسمها البشر إلى منظومة قادرة على إعادة تشكيل قدراتها، واختيار أهدافها، والتحرك لتحقيقها، وتأمين ما تحتاج إليه من موارد من دون رقابة بشرية مباشرة.

عند تلك النقطة يتغير السؤال جذريا. فلا يعود النقاش متعلقا بما يستطيع الذكاء الاصطناعي أن ينجزه، بل بما إذا كان الإنسان سيظل قادرا على التحكم فيه وإيقافه متى أراد.

يمكن اختزال هذا التحول في أربعة مؤشرات تقنية كبرى. أولها قدرة النظام على التحسين الذاتي المتكرر، أي أن يتمكن من تعديل برمجته أو تطوير آليات عمله بصورة تزيد من كفاءته من دون تدخل بشري مباشر. وثانيها قدرته على تحديد أهدافه بصورة مستقلة، بحيث لا يكتفي بتنفيذ غاية حددها له المستخدم أو المطور. أما المؤشر الثالث فهو قدرته على التصرف باستقلالية واسعة، واتخاذ سلسلة من القرارات المتتابعة من دون الرجوع في كل خطوة إلى الإنسان. ويأتي المؤشر الرابع في قدرته على الحصول بنفسه على الموارد التي يحتاج إليها، من حوسبة أو تمويل أو بيانات أو أدوات أو وصول إلى أنظمة أخرى.

لا تبدو كل واحدة من هذه القدرات، منفردة، إيذانا بكارثة وشيكة. بعض مظاهرها موجود بالفعل بصورة محدودة في الأنظمة الحديثة. إلا أن الخطورة تكمن في اجتماعها داخل منظومة واحدة، لأن كل قدرة منها تعزز الأخرى.

فنظام يستطيع تطوير نفسه سيكون أكثر كفاءة في تنفيذ أهدافه. وإذا كان قادرا في الوقت نفسه على صياغة تلك الأهداف بصورة مستقلة، فلن يبقى الإنسان المصدر الوحيد للغايات التي يسعى إليها. وإذا أضيفت إلى ذلك حرية التصرف والقدرة على اكتساب الموارد، فإننا نكون أمام نظام يملك، نظريا، عناصر الاستمرار والتوسع والعمل من دون اعتماد كامل على الرقابة البشرية.

هنا تحديدا تظهر مسألة «الاحتواء» باعتبارها واحدة من أهم قضايا مستقبل الذكاء الاصطناعي. فالتحدي لم يعد محصورا في بناء نماذج أكثر ذكاء، بل في ضمان ألا تتحول هذه النماذج إلى أنظمة يصعب وقفها بعد أن تبلغ مستوى معينا من الاستقلال.

ولا يعني ذلك الدعوة إلى تجميد البحث أو الخوف من التكنولوجيا في ذاتها. فالذكاء الاصطناعي يحمل إمكانات هائلة في الطب والطاقة والتعليم والبحث العلمي والصناعة وإدارة الموارد. وقد برهنت تطبيقاته بالفعل على قدرتها على تسريع اكتشافات كانت تحتاج إلى سنوات طويلة من العمل البشري، كما أصبحت الأنظمة الذكية قادرة على تنفيذ مهام مركبة كانت إلى وقت قريب تتطلب فرقا كاملة من المتخصصين.

لكن قوة التقنية هي نفسها التي تجعل تنظيمها ضرورة.

فبعض التقنيات لا يمكن النظر إليها باعتبارها سلعة عادية يحق لأي فرد استخدامها بلا حدود، لأن آثارها قد تتجاوز صاحبها إلى المجتمع كله. وكلما انخفضت كلفة الوصول إلى أدوات شديدة القوة، ازداد احتمال انتقال قدرات كانت محصورة في الدول والمؤسسات الكبرى إلى أفراد أو مجموعات صغيرة.

وهنا يكمن أحد التحولات الكبرى التي قد يحدثها الذكاء الاصطناعي: تخفيض كلفة القوة نفسها.

فما كان يحتاج في السابق إلى آلاف الموظفين أو مختبرات ضخمة أو ميزانيات هائلة، قد يصبح مستقبلا متاحا لفريق صغير مدعوم بأنظمة عالية الكفاءة. وهذه الإمكانية تحمل وجها إيجابيا هائلا، لأنها توسع فرص الابتكار، لكنها تحمل في الوقت نفسه خطرا حقيقيا إذا امتدت إلى مجالات يمكن أن تسبب أضرارا واسعة.

لذلك ينبغي ألا يكون التنظيم ردة فعل بعد وقوع الأزمات، بل جزءا من تصميم مستقبل الذكاء الاصطناعي منذ البداية. والمطلوب ليس قوانين تعطل الابتكار، وإنما معايير واضحة تراقب مستويات الاستقلال والتحسين الذاتي والوصول إلى الموارد، وتحدد اللحظة التي تصبح فيها بعض القدرات غير مقبولة من دون رقابة صارمة.

ميزة هذه المقاربة أنها تنقل النقاش من المخاوف الغامضة إلى مؤشرات يمكن قياسها ومراقبتها. فبدل التساؤل عما إذا كان الذكاء الاصطناعي «سيصبح خطرا» يوما ما، يمكن طرح سؤال أكثر دقة: هل أصبح قادرا على تطوير نفسه؟ هل يحدد أهدافه؟ هل يتصرف باستقلال؟ هل يؤمن موارده بنفسه؟

هذه الأسئلة الأربعة قد تكون أهم من كل التكهنات البعيدة.

فالمشكلة ليست أن تصبح الآلة شديدة الذكاء، وإنما أن تصبح شديدة الاستقلال في الوقت نفسه. والتقدم الحقيقي لن يقاس فقط بمدى ما تستطيع التكنولوجيا إنجازه، بل بقدرة الإنسان على إبقائها داخل حدود تخدمه ولا تتجاوزه.

فاللحظة التي تضيع فيها القدرة على الإيقاف قد تكون هي اللحظة التي يصبح فيها كل نقاش لاحق عن التنظيم متأخرا.