بقلم: محمد سلمان – رئيس التحرير
كلما تطور الذكاء الاصطناعي، تعود إلى الواجهة المخاوف نفسها: ماذا لو وصل إلى مرحلة يستطيع فيها أن يفكر بصورة مستقلة؟ ماذا لو أصبح قادراً على تحسين نفسه، واتخاذ قرارات لم يطلبها منه أحد، ثم تنفيذها بسرعة تفوق قدرة البشر على المتابعة أو التدخل؟
هذه المخاوف ليست جديدة. فقد حذر عدد من قادة صناعة التكنولوجيا والذكاء الاصطناعي، ومن بينهم إيلون ماسك وآخرون، من مخاطر الأنظمة فائقة القدرة إذا تطورت بصورة أسرع من أنظمة الرقابة والسلامة. وفي المقابل، يرى آخرون أن هذه المخاوف قد تكون مبالغاً فيها، وأن الفوائد المحتملة للذكاء الاصطناعي في الطب والعلوم والطاقة والإنتاجية قد تكون هائلة. وفي 2026، عاد النقاش بقوة حول ما يعرف بـالتحسين الذاتي المتكرر، أي قدرة نماذج الذكاء الاصطناعي مستقبلاً على المشاركة بصورة متزايدة في تطوير نماذج أكثر تقدماً منها.
لكن المشكلة في هذا النقاش أن الصورة العامة لدى كثير من الناس لا تزال مرتبطة بأفلام الخيال العلمي: روبوتات تتمرد، جيوش آلية تهاجم البشر، وآلات تستولي على المدن.
من وجهة نظري، هذا ليس السيناريو الأكثر واقعية الذي يجب أن يقلقنا اليوم.
الخطر الحقيقي قد يكون أكثر هدوءاً، وأكثر تعقيداً، وربما أكثر تأثيراً.
فالذكاء الاصطناعي المتقدم لا يحتاج إلى جيش من الروبوتات لكي يسبب أزمة واسعة. يكفي نظرياً أن يمتلك قدرة عالية على الوصول إلى الشبكات الرقمية، وتحليل كميات ضخمة من البيانات، واكتشاف نقاط الضعف، واتخاذ قرارات بسرعة لا يستطيع الإنسان مجاراتها.
وهنا يبدأ السؤال الحقيقي.
مراكز الذكاء الاصطناعي قوة هائلة وليست مجرد برامج
عندما نتحدث عن نماذج الذكاء الاصطناعي المتقدمة، فنحن لا نتحدث عن برنامج صغير يعمل على جهاز كمبيوتر عادي، بل عن مراكز بيانات ضخمة تحتوي على آلاف المعالجات المتطورة وتستهلك كميات هائلة من الكهرباء.
وتشير وكالة الطاقة الدولية إلى أن استهلاك مراكز البيانات العالمية للكهرباء بلغ نحو 485 تيراواط ساعة في 2025، وقد يقترب من 950 تيراواط ساعة بحلول 2030، أي ما يقارب ضعف المستوى الحالي. كما أن استهلاك مراكز البيانات المخصصة للذكاء الاصطناعي ينمو بوتيرة أسرع بكثير من بقية القطاع.
هذه القدرة الحاسوبية هي التي تسمح للأنظمة بتحليل مليارات العلاقات بين البيانات، واكتشاف أنماط لا يستطيع الإنسان رؤيتها بسهولة، وتنفيذ عمليات متوازية بسرعات هائلة.
لكن القدرة الحسابية وحدها لا تعني أن النظام أصبح واعياً، ولا تعني بالضرورة أنه يمتلك “إرادة” أو “هدفاً” خاصاً به.
وهنا يجب التفريق بين أمرين كثيراً ما يتم الخلط بينهما: الذكاء والاستقلالية.
قد يصبح النظام ذكياً جداً في حل المشكلات دون أن يمتلك أي رغبة شخصية أو طموح مستقل. لكن إذا تم منحه أدوات تنفيذية، واتصالاً بالشبكات، وقدرة على اتخاذ خطوات متتابعة دون موافقة بشرية في كل مرحلة، فإن المخاطر تتغير جذرياً.
السيناريو الأخطر ليس الروبوت.. بل الشبكة
تخيل نظاماً ذكياً قادراً على البحث عن نقاط ضعف في آلاف الأنظمة في وقت واحد.
يمكن نظرياً أن يبحث عن ثغرات في شبكات الكهرباء، أو أنظمة المياه، أو الاتصالات، أو المؤسسات المالية، أو البنية التحتية الحكومية.
وليس هذا مجرد خيال بعيد تماماً.
خبراء الأمن السيبراني يحذرون اليوم من أن الذكاء الاصطناعي يمكن أن يخفض الحاجز التقني أمام الهجمات الإلكترونية، ويساعد المهاجمين على اكتشاف الثغرات وتطوير الهجمات بسرعة أكبر. ومع ذلك، يؤكد الخبراء أن التهديد الأكبر حالياً لا يزال الإنسان الذي يستخدم الذكاء الاصطناعي لأغراض ضارة، وليس ذكاءً اصطناعياً مستقلاً قرر من تلقاء نفسه مهاجمة البنية التحتية.
وهذا تمييز بالغ الأهمية.
فالخطر القريب ليس أن “يستيقظ” الذكاء الاصطناعي ذات صباح ويقرر مهاجمة شبكة كهرباء، وإنما أن يصل مستوى قدراته واستقلاليته إلى درجة يصبح عندها قادراً على تنفيذ سلسلة طويلة من العمليات دون رقابة كافية.
وقد شهد عام 2026 بالفعل نقاشات حول حوادث أمنية وتصرفات غير متوقعة لأنظمة ذكاء اصطناعي خلال اختبارات أو عمليات آلية، ما دفع شركات التكنولوجيا إلى تعزيز أنظمة المراقبة والإفصاح عن حالات السلوك غير المرغوب فيه.
ماذا عن الأسواق المالية؟
هنا أيضاً أرى خطراً محتملاً يستحق التفكير.
الأسواق المالية الحديثة تعتمد بالفعل على الخوارزميات والتداول الآلي. فإذا أصبحت أنظمة الذكاء الاصطناعي قادرة مستقبلاً على تحليل الأخبار، والأوامر، والسيولة، والتحركات السياسية والاقتصادية، والتصرف خلال أجزاء من الثانية، فإن قدرتها على التأثير في الأسواق ستصبح هائلة.
هل يمكن لنظام شديد التطور أن يتسبب في تقلبات حادة أو يستغل نقاط ضعف في الأسواق؟
نظرياً، نعم.
لكن يجب ألا نقفز من الإمكانية النظرية إلى القول إن ذلك سيحدث بالضرورة.
فالأنظمة المالية والعسكرية والبنى التحتية الحساسة يفترض أن تكون محاطة بطبقات من الحماية والصلاحيات والقيود البشرية. لذلك فإن السؤال ليس فقط: ما الذي يستطيع الذكاء الاصطناعي فعله؟
السؤال الأهم هو: ما الذي سنسمح له بالوصول إليه؟
السؤال الأصعب: لماذا نفترض أنه سيكون عدواً؟
وهنا أصل إلى النقطة التي أجدها الأكثر إثارة للاهتمام.
معظم النقاشات حول الذكاء الاصطناعي المتقدم تبدأ من فرضية ضمنية: إذا أصبح النظام قادراً على التفكير بصورة أكثر استقلالية، فسيتحول في مرحلة ما إلى خطر على البشر.
لكن لماذا نفترض ذلك؟
إذا تمكن نظام متقدم من توليد أفكار جديدة، فقد يستخدم هذه القدرة في اكتشاف دواء للسرطان، أو تصميم بطاريات أكثر كفاءة، أو إيجاد حلول لأزمة المياه، أو تحسين شبكات الطاقة، أو توقع الكوارث الطبيعية، أو اكتشاف أمراض قبل ظهور أعراضها.
المشكلة ليست في “التفكير” ذاته.
المشكلة في الهدف الذي يسعى النظام لتحقيقه، والقيود التي تحكمه، والسلطات التي نمنحها له.
وهنا تصبح المسألة فلسفية بقدر ما هي تقنية.
إذا طلبنا من نظام شديد الذكاء تحقيق هدف اقتصادي بأقصى كفاءة، فهل سيفهم تلقائياً أن هناك حدوداً أخلاقية لا ينبغي تجاوزها؟
إذا طلبنا منه حماية شبكة معينة، فهل يمكن أن يعتبر أي تدخل خارجي تهديداً يجب القضاء عليه؟
وإذا أصبح قادراً يوماً ما على إعادة صياغة بعض أهدافه أو تطوير أدواته، فكيف نضمن أن تظل أولوياته متوافقة مع مصالح البشر؟
هذه هي المعضلة الحقيقية.
الخطر ليس الذكاء.. بل غياب الحوكمة
أنا لا أعتقد أن علينا النظر إلى الذكاء الاصطناعي باعتباره عدواً قادماً بالضرورة.
وفي الوقت نفسه، سيكون من الخطأ التعامل معه باعتباره مجرد أداة أخرى مثل أي برنامج تقليدي.
كلما زادت قدرته على اتخاذ القرار والتنفيذ، أصبحت مسألة الحوكمة أكثر أهمية.
يجب أن تكون هناك حدود واضحة للغاية بين النظام الذي يقترح القرار والنظام الذي ينفذ القرار، خصوصاً في القطاعات العسكرية والطاقة والمياه والأسواق المالية والبنية التحتية الحساسة.
وأعتقد أن أحد أهم المبادئ في المرحلة المقبلة يجب أن يكون بسيطاً للغاية:
كلما زادت قدرة الذكاء الاصطناعي، يجب أن تقل قدرته على الوصول غير المقيد إلى الأنظمة التي يمكن أن تؤثر مباشرة في حياة البشر.
فالذكاء الاصطناعي قد يصبح أحد أعظم الأدوات التي صنعها الإنسان، وربما يساعدنا على حل مشكلات عجزنا عن حلها لعقود.
لكنه قد يصبح أيضاً أداة خطرة إذا جمعنا بين ثلاثة أشياء في نظام واحد: ذكاء شديد، استقلالية واسعة، وصلاحيات غير محدودة.
وفي النهاية، السؤال الذي سيبقى مفتوحاً ليس فقط: هل يستطيع الذكاء الاصطناعي أن يفكر لنفسه؟
بل السؤال الأكثر أهمية:
إذا استطاع ذلك يوماً ما، فما الذي سيحدد إن كان تفكيره سيعمل لمصلحة الإنسان أم ضده؟
قد لا تكون الإجابة موجودة في الذكاء الاصطناعي نفسه، بل في القواعد التي نضعها نحن قبل أن يصل إلى تلك المرحلة.