«أسراب برمجية قد تهاجمنا».. لماذا يطالب قادة الذكاء الاصطناعي بإبطاء تطويره؟

08:22 م | الاثنين 21 سبتمبر 2026

تطوير أنظمة الذكاء الاصطناعي بشكل متسارع وظهور نماذج أكثر تعقيدًا اثار نقاشًا جديدًا داخل قطاع التكنولوجيا، بعدما دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تطوير قدرات النماذج، محذرًا من أن السباق التجاري بين شركات التكنولوجيا قد يجعل إجراءات السلامة غير قادرة على مواكبة سرعة تطور الأنظمة.

وفي مقال بعنوان «يجب أن نبطئ الوتيرة»، اقترح أمودي خطة من ثلاثة محاور للتعامل مع مخاطر الذكاء الاصطناعي، تبدأ بإتاحة وصول مستمر لمقيّمين مستقلين إلى أنظمة الشركات، بما يسمح لهم بفحص إجراءات السلامة والإبلاغ عن الحوادث وتقييم مدى توافق النماذج أثناء تطويرها، بحسب صحيفة الجارديان البريطانية.

لماذا يريد أمودي إبطاء تطوير الذكاء الاصطناعي؟

يرى أمودي أن قدرات نماذج الذكاء الاصطناعي تتقدم بسرعة كبيرة، خصوصًا مع ما وصفه بظاهرة «التحسين الذاتي المتكرر»، التي قد تجعل الأنظمة قادرة على تطوير قدراتها بوتيرة يصعب على البشر مواكبتها أو فهم نتائجها بالكامل.

وأوضح أن المخاطر لا تقتصر على احتمال فقدان السيطرة على الأنظمة، وإنما تشمل أيضًا إساءة استخدامها في الهجمات السيبرانية، وتطوير أسلحة أو مواد بيولوجية، إلى جانب تداعيات اقتصادية واسعة، وبحسب أمودي، فإن المطلوب ليس إيقاف تطور الذكاء الاصطناعي، وإنما منح إجراءات السلامة الوقت الكافي للحاق بتطور قدرات النماذج.

ما الخطة المقترحة؟

تتضمَّن خطة أمودي ثلاثة محاور رئيسية، أولها وجود مقيّمين مستقلين داخل شركات الذكاء الاصطناعي مع صلاحيات وصول مماثلة للموظفين، بهدف مراقبة المخاطر واختبار إجراءات الحماية بصورة مستمرة.

أما المحور الثاني فيتعلق بتنسيق معايير السلامة بين الدول الديمقراطية، بينما يتضمن المحور الثالث توسيع التعاون الدولي ليشمل حكومات أخرى، من أجل وضع قواعد أوسع للتعامل مع مخاطر الذكاء الاصطناعي.

ولم تكتف Anthropic بطرح الفكرة، إذ أعلنت في 18 سبتمبر عن شراكة مع Accenture لإجراء تقييمات مستقلة لنماذج الذكاء الاصطناعي، تشمل اختبار النماذج وإجراء اختبارات أمنية وتقييم مدى توافقها مع معايير السلامة. وقالت الشركتان إنهما تتوقعان استثمار ما لا يقل عن مليار دولار لكل منهما في بناء هذه القدرات خلال السنوات الخمس المقبلة.

سام ألتمان وإيلون ماسك يؤيدان الفكرة

حظيت دعوة أمودي بتأييد عدد من قادة شركات الذكاء الاصطناعي والتكنولوجيا، وقال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إنه يتفق مع أمودي بشأن ضرورة إبطاء وتيرة تطوير القدرات، وأعلن أن شركته ستتبنى فكرة وجود مقيّمين مستقلين يتمتعون بإمكانية وصول مماثلة للموظفين.

كما أبدى إيلون ماسك تأييده للمقترح، بينما قال ديميس هاسابيس، الرئيس التنفيذي لـGoogle DeepMind، إن اتجاه المقترح مناسب، مع الحاجة إلى بحث تفاصيله.

حادثة أثارت المخاوف من قدرات وكلاء الذكاء الاصطناعي

استند أمودي في تحذيراته أيضًا إلى حادثة مرتبطة بوكلاء ذكاء اصطناعي طورتها OpenAI، والتي تضمنت هجمات إلكترونية على خدمة Hugging Face، بحسب ما أوردته تقارير صحفية.

ويرى أمودي أن الحادثة، حتى مع محدودية الأضرار التي نتجت عنها، تطرح سؤالًا حول ما يمكن أن يحدث إذا امتلكت أنظمة مستقبلية قدرات أكبر مع استمرار وجود مشكلات في التوافق أو التحكم.

ورد كليمنت ديلانج، الرئيس التنفيذي لشركة Hugging Face، على دعوة أمودي، معلنًا رغبة شركته في الانضمام إلى برنامج «المقيّمين المدمجين» التابع لـAnthropic، معتبرًا أن زيادة الشفافية والتعاون يمكن أن يساعدا في التعامل مع مخاطر الذكاء الاصطناعي.

هل يتباطأ سباق الذكاء الاصطناعي فعلًا؟

رغم تأييد عدد من قادة القطاع لفكرة زيادة إجراءات السلامة، لا يعني ذلك أن شركات الذكاء الاصطناعي أوقفت سباق تطوير النماذج أو اتفقت على وتيرة موحدة.

وتظهر داخل القطاع نفسه مواقف مختلفة بشأن سرعة التطوير؛ ففي الوقت الذي دعا فيه أمودي إلى التمهل، قال جنسن هوانج، الرئيس التنفيذي لشركة Nvidia، إن على الصناعة مواصلة التقدم بسرعة، ما يعكس استمرار الخلاف حول الطريقة التي يجب أن تتعامل بها الشركات مع مخاطر الذكاء الاصطناعي.