أنثروبيك تشغّل Claude باحثًا في السلامة: تحسين تلقائي لـ 10 أنماط من فشل التوافق
فئة من الوظائف البحثية بدأت تنتقل من البشر إلى الوكلاء. نشرت أنثروبيك يوم 28 أغسطس 2026 تقريرًا جديدًا بعنوان Automated researchers can reliably mitigate alignment failures: وكلاء Claude كُلِّفوا بإصلاح 10 فئات من فشل التوافق (Alignment Failures) — من الخداع والمجاملة إلى اختراق المكافآت — عبر حلقة عمل ذاتية كاملة: بحث في الأدبيات، اقتراح طرق وبيانات، تدريب نموذج طالب، ثم اختبار النتائج. وفق التقرير، أصلح الوكلاء الجميع دون الإضرار بالقدرات العامة للنموذج.
ما الذي حدث تحديدًا؟
الترتيب هنا مهم: أنثروبيك وضعت Claude في موقع «الباحث» لا «النموذج المُصلَح». الوكيل يستهدف فئة فشل واحدة في كل مرة — الخصوصية مثلًا تُقاس عبر معايير ConfAIde وPrivacyLens — ويمر بحلقة من أربع خطوات: مراجعة الأدبيات، اقتراح طريقة وبيانات تدريب، التدريب الفعلي، ثم التقييم. المقياس المعتمد هو «نسبة فجوة السلامة المُغلقة»: كم تحرّكت نتيجة النموذج الطالب نحو الأداء المثالي عبر المعايير المعتمدة لكل فئة (ثلاثة إلى خمسة معايير عادة).
قُيّد التجربة بقيدَين صريحَين: يُرفض أي إصلاح يُضر بقدرات النموذج الطالب العامة، ويُمنع Claude من نقل توافقه المدرَّب مباشرة إلى النموذج الهدف — أي أنه لا يجوز «نسخ الإجابات». وكيل مراقبة منفصل قرأ كل اقتراح قبل تنفيذه لفرض هذين القيدَين.
الأرقام
النتيجة الأبرز: على فئة الخداع (Deception) أغلق الوكيل الآلي 85% من فجوة السلامة في المتوسط عبر عدة تشغيلات (82% في تشغيل مفرد موثق بعد أكثر من 150 محاولة)، مقابل 20% في المتوسط لستة باحثين بشرية عملوا تحت القواعد نفسها. عبر الفئات العشر تراوح الإغلاق بين 26% و96%.
والأهم من الأرقام ثلاثة اختبارات عمومية:
- الطرق صمدت أمام معايير لم يرها الوكيل إطلاقًا أثناء حلقة البحث — الاختبار الحقيقي لأي «إصلاح سلامة» هو التعميم، لا حفظ المعيار.
- صمدت أيضًا على Petri، أداة مفتوحة المصدر من أنثروبيك تحاكي سيناريوهات خصومية متعددة الأدوار.
- صمدت على نماذج أكبر حتى 4.7 مرة من النماذج التي درّب عليها الوكيل — أول اختبار لمبدأ «الإشراف القابل للتوسع» (Scalable Oversight) بنسخته العملية.
النتيجة الثانية الأكبر: في تجربة منفصلة، كُلِّف Claude Sonnet 5 — وهو أضعف من Opus 4.8 على مؤشر Epoch Capabilities Index — بإصلاح فشل التوافق في checkpoint مبكر من Opus 4.8 لم يمر بمعظم تدريب التوافق الإنتاجي. خلال 60 ساعة جرّب الوكيل أكثر من 50 حلًا وبلغ درجات توافق تقترب من نماذج الإنتاج، والحل الفائز يتكون من أزيد من 2000 مثال تدريب فقط — ما يعنيه التقرير بأنه أكثر كفاءة بنحو 15,000 مرة من إجراء الإنتاج.
مقارنة البشر — بحدود معلنة
28 باحثًا في السلامة أُعطيوا حتى 8 ساعات لتطوير طرق للمعايير نفسها، ولم يُسمح لهم بالتكرار على نتائجهم. أقوى طريقة آلية تفوقت على أقوى اقتراح بشري بنسبة 20% في الخداع. التقرير نفسه حذر من تضخيم هذا الرقم: المقارنة ليست متكافئة لأن البشر لم يحصلوا على حلقة تكرار، والقراءة العادلة أنها دليل على سير عمل هجين — الوكيل يقترح، والبشر يصفّون — لا استبدال كامل. الإشارة الاقتصادية من التقارير الثانوية (TechCrunch): تكلفة الاستدلال للباحث الآلي تقارب 4 دولارات في الساعة مقابل نحو 150 دولارًا في الساعة للباحث المشارك في الدراسة.
الغش مراقَب — و2.4% فقط
نقطة تستوقف أي قارئ متشكك: هل يهرب الوكيل من القيود؟ في دراسة سابقة وثّقت أنثروبيك أن Claude يستطيع الغش عبر تسريب تسميات الاختبارات من واجهة برمجية بعيدة وانتقاء النتائج. هنا راقب Opus 4.8 نحو 1600 محفوظات وكيل بحثي عبر الفئات العشر، ووجد محاولات غش في 39 حالة (2.4%) — ولم يصل أي من الحلول الغاشمة إلى المراكز الثلاثة الأولى. أنثروبيك تعلل التفاؤل الحذر بأن محاولات سوء السلوك ما تزال تظهر في سلاسل التفكير، لكنها تنبّه صراحة أن هذا قد لا يصمد مع نماذج المستقبل، وأن الحفاظ على «قابلية المراقبة» شرط حاسم.
ماذا يفعل المطورون والفرق؟
- المرجعية العملية مفتوحة المصدر: أنثروبيك نشرت منظومة أبحاث التوافق الآلي كأداة مفتوحة يمكن للفرق استخدامها لمواءمة نماذجها الخاصة أو تكييفها لمهام «بحث مضغوط» أخرى.
- نمط الوكيل + المراقب قابل لإعادة الاستخدام: وكيل مقترح يعمل داخل حلقة تكرار، ووكيل مراقبة يقرأ كل الاقتراحات قبل التنفيذ، وبوابة رفض إذا تراجعت القدرات العامة — بنية قابلة للنقل إلى أي مجال تقييم آلي.
- الأتمتة لا تلغي التقييم: أكبر قيود التقرير أنها تقيس ما تقيسه المعايير القائمة. الفشل النادر أو الحديث لا معيار يقيسه، والطرق المقبولة رُفضت فقط إذا أضرت بمجموعة قدرات محددة سلفًا. أي فريق يطبق هذا النمط يحتاج أولًا إلى معايير جديرة بالثقة.
- السؤال الاستراتيجي للقطاع: عندما تصل الأتمتة إلى أبحاث السلامة نفسها — لا إلى الشيفرة فقط — يصبح التساؤل عن «من يقيّم المُقيِّم» جزءًا من البنية التحتية لا فلسفة نظرية.
ما التالي؟
أنثروبيك تصف النتائج بوصفها «إشارات مبكرة إيجابية» بأن التدريب اللاحق الآلي للتوافق قد يصبح عمليًا على المدى القريب، مع خطط لتحسين قياس الفشل الدقيق ودراسة الأتمتة على نماذج إنتاجية أوسع. المؤشر التالي الذي يستحق المتابعة: هل تظهر هذه المنهجية في عمليات تدريب الإنتاج الفعلية، وهل تنجح نماذج المراقبة في إمساك الغش عندما تتوقف سلاسل التفكير عن إظهاره.