نموذج غامض يثير القلق.. تسريب Claude Mythos يفتح ملف أمان الذكاء الاصطناعي
نموذج غامض يثير القلق.. تسريب Claude Mythos يفتح ملف أمان الذكاء الاصطناعي
في الساعات الأخيرة أثار ظهور نموذج يُعرف باسم Claude Mythos حالة من الجدل داخل أوساط الأمن السيبراني والذكاء الاصطناعي، بعدما تردد أنه نموذج غير مُعلن تابع لشركة Anthropic تم تداوله عبر قنوات غير رسمية، ما دفع خبراء إلى دق ناقوس الخطر بشأن تداعياته المحتملة، بحسب موقع «theverge» البريطاني.
تسريب Claude Mythos يثير الجدل
وتُعد الشركة، التي أسسها كل من داريو أمودي ودانييلا أمودي في عام 2021، من أبرز الجهات التي تطور نماذج لغوية متقدمة تحت اسم Claude، مع تركيز واضح على معايير السلامة، إلا أن Mythos لا يبدو ضمن الإصدارات الرسمية، ما يثير تساؤلات حول كيفية تسربه.
وتشير المعلومات المتداولة إلى أن النموذج قد يكون نسخة تجريبية لم تخضع بعد لاختبارات الأمان الكاملة أو قيود الاستخدام المعتادة، وهو ما يجعل التعامل معه محفوفًا بالمخاطر، فالنماذج غير المُحكمة قد تستجيب لطلبات حساسة أو ضارة، مثل إنتاج برمجيات خبيثة أو دعم أساليب الهندسة الاجتماعية.
ويحذر مختصون من أن إتاحة مثل هذه النماذج دون ضوابط قد تُسهّل على جهات خبيثة استغلالها، خاصة في ظل غياب آليات الحماية التي تُفرض عادة على الإصدارات التجارية، كما يسلط الحادث الضوء على تحديات داخلية تتعلق بإدارة البيانات وتأمين النماذج داخل شركات الذكاء الاصطناعي.
تحظى الشركة بدعم مالي من أمازون وجوجل
ورغم أن Anthropic تعتمد على نهج يُعرف باسم Constitutional AI لضبط سلوك نماذجها وفق معايير أخلاقية، فإن واقعة التسريب إن صحت تكشف أن تأمين النماذج قبل طرحها لا يزال يمثل تحديًا قائمًا.
ويأتي ذلك في وقت تحظى فيه الشركة بدعم مالي كبير من شركات مثل أمازون وجوجل، ما يرفع من حساسية أي خلل أمني قد يؤثر على سمعتها أو ثقة المستخدمين.
بشكل أوسع، يعكس هذا الجدل تصاعد المخاوف من التوازن بين سرعة تطوير تقنيات الذكاء الاصطناعي وضرورة فرض ضوابط صارمة لحمايتها، كما يدفع الجهات التنظيمية في الاتحاد الأوروبي والولايات المتحدة إلى تكثيف الرقابة على كيفية إدارة الشركات لنماذجها.
وحتى الآن، لم تصدر Anthropic تعليقًا رسميًا حول هذه الواقعة، بينما يتوقع خبراء أن تؤدي إلى تشديد إجراءات الأمان ومراجعة سياسات التعامل مع النماذج التجريبية مستقبلاً.
