النماذج الصغيرة ذات الحلقات: 5 أخطاء تجنّبها في الإنتاج
غيّرت النماذج المكررة وتكميم NVFP4 ما تستطيع النماذج الصغيرة فعله. خمسة أخطاء يقع فيها مهندسو تعلم الآلة عند اختيار نموذج للإنتاج.

فريق كنت أقدّم له الاستشارة العام الماضي كان يدفع نحو 4,000 دولار شهرياً لتمرير مطالبات بسيطة لفرز تذاكر الدعم عبر واجهة API لنموذج رائد. كان العمل تصنيفاً وتلخيصاً قصيراً. كان بالإمكان لنموذج لغوي صغير يعمل على وحدة معالجة رسومية واحدة أن يتولى المهمة، لكن لم يصدّق أحد في الفريق ذلك، لأن آخر مرة قاسوا فيها أداء نموذج أقل من 30 مليار معامل فشل في المهام التي تتطلب استدلالاً معقداً، ولم ينظروا إليه مرة أخرى بعدها.
هذا العمى المعرفي يصبح مكلفاً بسرعة. فقد أعلن مؤخراً عن Inkling 2 Mini — نموذج أوزان مفتوحة بحجم 26.4 مليار معامل من نوع خليط الخبراء (mixture-of-experts)، يكرر طبقاته الوسطى ثلاث مرات لكل رمز — وحقق في البرمجة الوكيلية نتائج تتفوق على كل النماذج المفتوحة التي تقل عن 100 مليار معامل، وهو يتسع في نحو 20 غيغابايت من الذاكرة. نموذج يعمل دون اتصال على حاسوب محمول تفوّق لتوه على نماذج أكبر منه بأضعاف في مهام شبيهة بـ SWE-bench. تقلّصت الفجوة بين «صغير» و«قادر» إلى حد أن معظم القواعد التي يحملها الممارسون عن حجم النماذج أصبحت قديمة ببساطة. إليكم الأخطاء الخمسة التي أراها أكثر من غيرها، وما ينبغي فعله بدلاً منها.
الخطأ 1: اعتبار عدد المعاملات سقفاً للقدرة
النموذج الذهني الذي ورثناه معظمنا بسيط: المعاملات هي الميزانية، والقدرة تتناسب مع الميزانية. لم يكن ذلك صحيحاً تماماً أبداً، فبيانات التدريب والحوسبة لهما وزن هائل، لكنه كان قاعدة إرشادية مفيدة إلى أن بدأت البنية المعمارية تقوم بدور حقيقي. والتكرار (Looping) أوضح مثال على ذلك. يكرر Inkling 2 Mini طبقاته الوسطى الـ12 (كتلتان من ستة، من أصل 24 طبقة) ثلاث مرات لكل رمز، بينما تعمل الكتلة الأولى والأخيرة مرة واحدة. الفكرة: الطبقات الأولى والأخيرة تقوم في الغالب بالترجمة بين التضمينات (embeddings) والتمثيلات الداخلية، بينما تحمل الطبقات الوسطى الاستدلال المجرد. أي أنك تصرف الحوسبة حيث يحدث التفكير.
التجربة المنشورة تستحق انتباهك: تكرار الطبقات الـ12 الوسطى تفوّق على تكرار الـ12 الأخيرة في 27 تقييماً من أصل 28، وكان النموذج الذي لا يتكرر يحتاج تقديرياً إلى 1.5 إلى 1.9 ضعف من الحوسبة ليصل إلى خسارة النموذج ذي التكرار الأوسط. هذه ليست حيلة ضبط هامشية، بل استراتيجية مختلفة لتوزيع الحوسبة، وهي تكسر قاعدة عدد المعاملات البسيطة في اتجاه محدد ويمكن التنبؤ به.
الحل: عندما تقيّم نموذجاً صغيراً، اسأل أين تذهب الحوسبة لكل رمز، لا كم عدد الأوزان الموجودة فقط. نموذج بحجم 26 مليار معامل مع 3.4 مليار معامل نشط وطبقات وسطى متكررة يقوم بشيء أقرب إلى «نموذج صغير يفكر لفترة أطول» منه إلى «نموذج صغير» فحسب. وهذا يرتبط بنقطة سبق أن طرحتها: الاستدلال يُدرَّب في النماذج، ولا يُستخرج منها بالتوجيه، وصار الآن يُبنى في بنيتها أيضاً بشكل متزايد.
الخطأ 2: الخلط بين الاستدلال والمعرفة
هذا هو الجزء الذي يتجاهله الممارسون باستمرار في قصة النماذج المكررة، وسيوقعك في المشكلة. التكرار يحسّن الاستدلال، لكنه لا يخلق معرفة. الحقائق تسكن في الأوزان، وعدد الأوزان هو ما هو عليه. فريق Inkling 2 Mini صريح بشكل يُحمد في هذا: على AA-Omniscience، وهو معيار للدقة الواقعية، يسجل النموذج نتائج متوافقة مع نماذج أخرى بحجمه. أما متغير البحث ذي الحلقات المتغيرة فقد تحسّن في معايير الاستدلال التسلسلي والسياق الطويل كلما أُضيفت حلقات، حتى عشر حلقات، أي ضعف ما دُرّب عليه، لكن المعايير الكثيفة المعرفة مثل SimpleQA لم تتحرك مع مزيد من التمريرات.
رأيت صديقاً يصحح هذا الخلط بالضبط في الإنتاج. استبدل نموذجاً أكبر بنموذج صغير يركز على الاستدلال في روبوت دعم فني، فلاحظ قفزة في جودة الاستدلال وأطلقه. بعد أسبوعين: رموز منتجات مختلقة وتفاصيل سياسات مخترعة. كان النموذج يستدل ببراعة على حقائق لا يحتويها أصلاً. واجه أحد المختبرين الأوائل على Hacker News المشكلة نفسها خلال مطالبتين فقط، إذ طلب منه إضافة WordPress تستخدم زوايا غامضة من واجهة API، فأنتج كوداً واثقاً ومنظماً وخاطئاً.
الحل ليس «استخدم نموذجاً أكبر». الحل معماري: اقرن المفكر الصغير بالاسترجاع (retrieval) والأدوات. وجدير بالذكر أن Inkling 2 Mini يتصدر النماذج المفتوحة المماثلة في BrowseComp وDeepSearchQA، وهي معايير تقيس البحث واستخدام الأدوات. نموذج صغير يتعامل مع الأدوات بإتقان كثيراً ما يتفوق على نموذج كبير يستدعي حقائق قديمة، لأن السياق المسترجع حديث وقابل للتدقيق. قاعدتي: إذا كانت إخفاقات عملك إخفاقات استدلال، فالنموذج الصغير المكرر يساعد. وإذا كانت إخفاقات معرفية، فأصلح الاسترجاع، لا عدد المعاملات.
الخطأ 3: رفض التكميم منخفض البت بشكل قاطع
قبل خمس سنوات، كانت عبارة «قمنا بتكميم النموذج إلى 4 بت» أقرب إلى اعتذار. كنت تقبل تراجعاً حقيقياً في الجودة مقابل الاستقرار على عتاد أصغر، وكان أي شيء دون 4 بت تجربة علمية. هذا الافتراض يكلّف الناس الآن ميزانية عتاد حقيقية. دُرّب Inkling 2 Mini من البداية إلى النهاية بصيغة NVFP4 ويُنشر بها أصلاً، مع بقاء الطبقات الأربع الأخيرة فقط بصيغة MXFP8، فالتكميم ليس خطوة ضغط لاحقة، بل جزء من وصفة التدريب نفسها. والنتيجة: حجم يقارب 20 غيغابايت بجودة قريبة من أقرانه بدقة BF16.

الأثر اللاحق لافت. لاحظ فريق Unsloth، الذين يعرفون معاناة التكميم أكثر من غيرهم، أن هذه النماذج منخفضة البت أصلاً تستجيب بشكل غير معتاد للتكميم الإضافي، إذ تحافظ بحسب التقارير على نحو 90% من التوافق في أعلى احتمال (top-1) حتى عند 1 بت. وظهرت نسخة GGUF على Hugging Face خلال أيام من الإصدار، ويشغّلها الممارسون بالفعل على حاسوب MacBook Pro أثناء الرحلات الجوية (قدّم الفريق عرضاً حياً لبناء محاكي طيران تفاعلي دون اتصال في منتصف الرحلة)، وعلى بطاقات رسومية استهلاكية مثل 7900XTX.
الحل: توقف عن اعتبار التكميم تدهوراً، وابدأ بالسؤال عما إذا كان النموذج مدرَّباً على دقة منخفضة. إن كان كذلك، فإن نسخة 4 بت (أو أقل) هي المواطن الأول، ويجب إعادة حساب حجم «نحتاج إلى 80 غيغابايت من VRAM». إذا كنت تستكشف ما تتيحه هذه النماذج للنشر دون اتصال، فقد تناولنا الأنماط المعمارية في بناء نموذج لغوي يعمل دون اتصال والجانب العتادي في تشغيل نماذج اللغة الكبيرة على عتادك الخاص.
الخطأ 4: قياس الأداء مرة واحدة وتجميد اختيار النموذج
أغلى خطأ ليس تقنياً، بل إجرائي. تُجري الفرق مقارنة شاملة عند بناء ميزة ما، وتختار نموذجاً، وتعامل القرار على أنه دائم. لكن حدود القدرة لكل معامل تتحرك أسرع من دورات الشراء في معظم المؤسسات. حقق Inkling 2 Mini نسبة 48.2% على DeepSWE v1.1 و46.5% على Vals Index v2.2، متصدراً كل النماذج المفتوحة التي تقل عن 100 مليار معامل كلي، وفعل ذلك وهو يفكّ الترميز أسرع من نماذج متقاربة الأداء، لأن نموذج خليط الخبراء بـ3.4 مليار معامل نشط يقرأ أوزاناً أقل بكثير لكل رمز من نموذج كثيف بحجم 27 مليار. الاختيار الذي اتخذ قبل تسعة أشهر لم يعد قراراً، بل صار عادة لم تُفحص.
لكن إعادة القياس بسذاجة فخ من نوع آخر. لوحات المتصدرين العامة تقيس ما رآه مؤلفو المعايير مثيراً للاهتمام، لا ما يفعله منتجك. هذه هي المشكلة الجوهرية وراء لماذا تغفل معايير الذكاء الاصطناعي معظم العمل الحقيقي، والنماذج الصغيرة تزيدها سوءاً لأن ملفها الأدائي أكثر تفاوتاً: Inkling 2 Mini هو الأفضل في فئته في البرمجة الوكيلية، لكنه يسجل نتيجة متوسطة هي 50.0% في MultiChallenge و33.4% في ComplexConstraints، متخلفاً عن Qwen3.8-27B في الاثنين. إن كان عملك محادثات متعددة الأدوار كثيفة القيود، فأرقام البرمجة البارزة لا تعنيك في شيء.
الحل: احتفظ بمجموعة تقييم صغيرة ومُؤرخة الإصدارات، مبنية من حركة الإنتاج لديك، من 200 إلى 500 حالة حقيقية مع مخرجات معروفة بأنها صحيحة، وشغّلها على إصدارات النماذج الجديدة كل ربع سنة. هذا أرخص مما يبدو، ويلتقط المفاجآت في الاتجاهين: نماذج أفضل من معاييرها المعلنة (علّق أحدهم بأن Inkling 2 Small «بدا أفضل مما توحي به المعايير») ونماذج تتفوق في لوحات المتصدرين لكنها تفشل في مطالباتك كثيفة القيود. خصص يوماً واحداً كل ربع سنة. سيسدد تكلفته أول مرة تتيح لك فيها التخلي عن فئة نماذج أعلى.
الخطأ 5: تجاهل جانب التكلفة في الميزانية
تركز محادثات اختيار النموذج على الدقة وتعامل التكلفة كأمر ثانوي. وهذا مقلوب في الإنتاج، حيث يحدد منحنى التكلفة ما هو ممكن أصلاً. أجرى مختبر Hazy Research في جامعة ستانفورد قياسات مبكرة للذكاء لكل جول على Inkling 2 Mini فحصل على 0.703، مقابل 0.430 لـ Qwen3.6-35B-A3B، و0.159 لـ Gemma-4-26B-A4B، و0.036 لـ Qwen3.5-27B. هذا ليس تفوقاً بنسبة بضعة بالمئة، بل نظام مختلف تماماً. والأمر يتراكم: النموذج الذي يصل إلى الإجابات بعدد أقل من الرموز (فالفكرة الأساسية للتكرار هي الاستدلال دون كتابة الاستدلال) ينفق أقل على الحوسبة والزمن لكل مهمة.
النتيجة العملية التي تحمسني أكثر هي كثافة الوكلاء المتعددين. بما أنه نموذج خليط خبراء صغير، يمكنك أن تستوعب ذاكرات KV Cache لعدة وكلاء في VRAM بطاقة رسومية واحدة. عرض 20 قروياً افتراضياً يعملون جميعاً بنموذج واحد على MacBook دون اتصال لطيف، لكن النسخة الجادة هي دزينة من وكلاء الإنتاج على جهاز DGX Spark واحد أو محطة عمل واحدة، بدلاً من أسطول من استدعاءات API بفوترة لكل رمز وخروج للبيانات. كتبنا عن التحول الأوسع نحو هذه الفئة في لماذا تمثل نماذج الفئة الخاطفة قصة كفاءة الاستدلال الحقيقية، والنماذج الصغيرة المكررة تعزز هذه الحجة كثيراً.
الحل: ابنِ نموذج تكلفتك حول التكلفة لكل مهمة مكتملة، لا التكلفة لكل رمز. التكرار يضيف زمناً فعلياً لكل رمز (فتلك الطبقات الوسطى تعمل ثلاث مرات، وحسابات عرض نطاق الذاكرة تتضمن قراءات متكررة)، لذا قد تضلل مقارنات الرموز في الثانية في الاتجاهين. قِس من البداية إلى النهاية: هل اكتملت المهمة؟ كم رمزاً احتاجت؟ كم من الطاقة والزمن استهلكت؟ النموذج الذي يكون أبطأ بنسبة 20% لكل رمز، لكنه يحل المهمة بنصف الرموز وإعادات محاولة أقل، يفوز في كل مرة.

ماذا تفعل فعلياً يوم الاثنين
- راجع إنفاقك على واجهات API بحسب نوع المهمة. أي مهمة تصنيف أو استخراج أو توجيه أو حلقات وكيلية قصيرة هي مرشحة لنموذج محلي أقل من 30 مليار معامل. احسب تكلفتها.
- قسّم مجموعة التقييم إلى إخفاقات استدلال وإخفاقات معرفة. النماذج الصغيرة المكررة تصلح الأولى، والاسترجاع يصلح الثانية. لا تخلط بينهما.
- تحقق مما إذا كان النموذج المرشح مدرَّباً بدقة منخفضة. إن كان كذلك، فاختبر نسخة 4 بت أولاً لا آخراً، فهي الصيغة الأصلية.
- قِس الأداء على حركة الإنتاج لديك كل ربع سنة. النتائج العامة أداة للفرز، لا قرار نهائي.
- جرّب نموذجاً أولياً لعمل متعدد الوكلاء على عتادك المحلي. اقتصاديات الوكلاء المستمرين تتغير تماماً حين لا يوجد عداد لكل رمز.
التحول الأكبر هنا ليس في نموذج بعينه. بل في أن اتجاهات البحث في المختبرات الكبرى، مثل التكرار، والتدريب الواعي بالتكميم، والتقليم العدواني للخبراء مع إعادة الترميم، تصل الآن إلى الأوزان المفتوحة خلال أشهر، ومصممة لعتاد تملكه أصلاً. الممارسون الذين سينجحون في السنوات القادمة لن يكونوا أصحاب أكبر ميزانيات واجهات API. بل هم من يعيدون النظر في افتراضاتهم عن النماذج وفق جدول منتظم، لأن هذه الافتراضات لها عمر افتراضي أقصر من الشيفرة البرمجية.
نموذج صغير يستدل جيداً ويسترجع بأمانة يتفوق على نموذج كبير يتذكر بثقة ويستدل بكسل، في التكلفة، والزمن، وغالباً في الدقة أيضاً.


