نماذج الأساس للسلاسل الزمنية تجعل التدريب المخصص قديمًا

ها هنا ادعاء كان سيجعل أي فريق توقعات يضحك عليّ قبل خمس سنوات: في معظم مسائل السلاسل الزمنية، تدريب نموذج على بياناتك الخاصة صار مضيعة للوقت. نموذج أساس للسلاسل الزمنية، مدرَّب على ملايين السلاسل التي لن تراها أبدًا وفي مجالات لا تعمل فيها، سيتفوق غالبًا على خط أنابيبك المضبوط بعناية، دون أي تدريب إضافي، وفي الوقت الذي يستغرقه تمرير واحد للنموذج على وحدة CPU. يُعدّ Timestral من Mistral، الذي صدر هذا الأسبوع بأحجام تتراوح بين 5 ملايين و209 ملايين معامل، أحدث دليل وأقواه على أن المجال استقر على هذا الاتجاه. وأتوقع أن كثيرًا من الممارسين سيقاومون هذا الاستنتاج لأسباب مفهومة تمامًا، وإن كانت خاطئة في أغلبها.

ما هو نموذج الأساس للسلاسل الزمنية فعلًا

التشبيه بنماذج اللغة الكبيرة مفيد، لكن فقط إذا تجاوزنا السطح. يُدرَّب النموذج اللغوي الكبير مسبقًا على مجموعة نصوص ضخمة كي يعمّم على مهام وصياغات لم يرها من قبل. ونموذج الأساس للسلاسل الزمنية (TSFM) يفعل الشيء نفسه مع الإشارات المستمرة: يُدرَّب مسبقًا على مجموعة متنوعة وضخمة من السلاسل، حقيقية ومُولَّدة، فيتعلم النحو المتكرر للبيانات الزمنية. الاتجاهات، والموسمية، وتغيّر الأنظمة، والعودة إلى المتوسط، وكل أنواع الضوضاء. وعندما تزوّده بتدفق مستشعراتك أو بسجل مبيعاتك، فهو لا يتعلم من الصفر، بل يتعرّف.

هذه الكلمة الأخيرة هي جوهر الحيلة، وهي التي أربكتني عند القراءة الأولى: كيف لنموذج دُرِّب في معظمه على بيانات مُولَّدة أن يتفوق على نماذج دُرِّبت على بيانات حقيقية؟ السبب أن مولّدات البيانات الاصطناعية مصممة لإنتاج عمليات ذات ديناميكيات متماسكة، أي مزائج واقعية من الاتجاه والموسمية والضوضاء، إضافةً إلى اعتماديات غير خطية بين السلاسل. يتعلم النموذج بذلك توزيعًا مسبقًا هائلًا عن أشكال السلوك الزمني الممكنة. وسلاسلك الحقيقية، مهما بدت غريبة في نظرك، هي على الأغلب إعادة تركيب لأنماط رآها النموذج مليون مرة.

تصوغ وصفة تدريب Timestral هذا بوضوح. أولًا، تدريب مسبق واسع النطاق على بيانات مُولَّدة بالكامل بسياق من 8192 خطوة زمنية. ثم تدريب لاحق على مزيج من البيانات الحقيقية والمُولَّدة مع توسيع السياق إلى 32768 خطوة. دالة الهدف هي خسارة pinball عبر 21 كميّة مئينية، ما يعني أن النموذج لا يخرج تقديرًا نقطيًا واحدًا، بل توزيعًا كاملًا لعدم اليقين، فتحصل على توقع مع هوامش خطأ صادقة بدل رقم واحد يبدو واثقًا.

تفصيلة معمارية تستحق أن تنسخها إلى نموذجك الذهني: يستخدم Timestral ما تسميه Mistral «التنبؤ المنفصل للأفق». فالمفكّكات السببية المبكرة مثل TimesFM تُخفي القيم المراد التنبؤ بها، وهذا بسيط لكنه مُهدِر، لأن القيم المُخفاة تصبح غير مرئية كسياق، فيتدهور كل توقع الدخلَ الخاص بالتوقعات اللاحقة. أما Timestral فيُبقي التاريخ الكامل في التسلسل، ويضيف رموز توقع متعلَّمة تقرأ ذلك التاريخ. كل قيمة مرصودة تؤدي دورين: هدف للتدريب وسياق في الوقت نفسه. إنه ذلك النوع من الإصلاحات البنيوية الصغيرة الذي لا يبدو دراماتيكيًا، لكنه يهم كثيرًا عند الحجم الكبير.

التنبؤ بلا تدريب مسبق لكل سلسلة: لماذا يتفوق على خط أنابيبك؟

أقوى حجة لصالح نماذج TSFM ليست لوحة المتصدرين في المعايير، بل شكل العمل التنبؤي الحقيقي. نادرًا ما يتنبأ أحد بسلسلة واحدة، بل تتنبأ بعشرة آلاف. تاجر تجزئة يتنبأ بالطلب لكل SKU في كل متجر، وفريق منصة يتنبأ بزمن الاستجابة لكل خدمة في كل منطقة، ومصنع صناعي فيه آلاف المستشعرات موزعة على مئات الأصول. الخيارات الكلاسيكية كلها سيئة: أن تركّب نموذج ARIMA لكل سلسلة وتشاهد معظمها يفشل لأن تاريخ كل سلسلة قصير، أو أن تدرّب نموذجًا عامًا واحدًا من نوع gradient-boosted وتغرق في هندسة الخصائص والفروق في المقاييس بين السلاسل.

يتجاوز نموذج TSFM هذا المأزق. نقطة تفتيش واحدة، دون تركيب لكل سلسلة، والمعرفة المشتركة بين السلاسل مدمجة منذ التدريب المسبق بدل أن تُكتشف من بياناتك وحدها. ولهذا فإن الممارسين الذين يشغّلون التنبؤ على نطاق واسع هم الأقل تشككًا في هذه النماذج عادةً، فالبديل ليس نموذجًا أنيقًا مضبوطًا يدويًا، بل كومة من مهام AutoARIMA تستغرق ساعات وتنكسر بصمت على الـ5% الغريبة من السلاسل وهي الأهم.

الجزء الخاص بالكفاءة هو ما فاجأني أكثر. أكبر نموذج في Timestral هو 209 ملايين معامل، وهو صغير جدًا بمعايير نماذج اللغة، ولا يحتاج إلى GPU أثناء الاستدلال. على خادم CPU قياسي بثماني خيوط، يستغرق التنبؤ بيوم واحد مقدمًا من ثلاثة أسابيع من بيانات كل 15 دقيقة 10 ميلي ثانية مع نموذج 5 ملايين، و140 ميلي ثانية مع نموذج 209 ملايين. ويقع نموذج 123 مليونًا ضمن 0.2% من درجة النموذج الكبير في المعيار، بثلاثة أرباع زمن الاستجابة. وهذا يعكس ما حدث في نماذج اللغة، حيث انتقل الاهتمام الحقيقي إلى الفئات الصغيرة السريعة، وهي الظاهرة نفسها التي تناولتها في مقالنا عن نماذج اللغة من فئة flash: النموذج الأمامي ينال العناوين، والصغير الفعّال يشغّل العمل فعلًا.

والاقتصاد يتراكم. عشرة آلاف سلسلة مضروبة في توقع يومي بعشرات الميلي ثانية لكل منها تعني أن حِمل التنبؤ كله يتسع في استراحة الغداء على جهاز CPU عادي. لا عنقود GPU، ولا مهمة تدريب موزعة، ولا بطولات MLOps. قبل خمس سنوات كان بناء نموذج تنبؤ جيد ونشره يستغرقان شهورًا. الآن صار الأمر ظهيرة واحدة، وجزء كبير من تلك الظهيرة هو تمهيد البيانات لا النمذجة.

المتغيرات المشاركة هي الميزة الحقيقية، وهي أيضًا الصيد الحقيقي

هنا سأتنازل للمتشككين، لأن أقوى نقد لنماذج TSFM صحيح: في كثير من المسائل، يمثل تاريخ السلسلة المستهدفة جزءًا ضئيلًا من المعلومات. إذا كنت تنمذج الطلب على الكهرباء، فإن توقعات الطقس وتقويم العطل وجدول التسعير ليست توابل تُضاف إلى التوقع، بل هي التوقع نفسه. النموذج الذي يعامل المتغيرات المشاركة المنتقاة بعناية كتحسين طفيف للجودة سيحرجك تحديدًا عندما يتغير النظام، وهو بالضبط الوقت الذي تحتاجه فيه.

جواب Timestral هو الانتباه المدرِك للمتغيرات المشاركة، والتصميم أكثر مبدئية مما يبدو. كل سلسلة دخل تأخذ دورًا: هدف، أو متغير مشارك ماضٍ فقط، أو متغير مشارك معروف للمستقبل. المتغيرات المعروفة للمستقبل، مثل جداول الإنتاج وأوقات الإغلاق المخطط لها وتوقعات الطقس، مرئية عبر النافذة كلها، بينما تبقى الأهداف سببية، والمعلومات تتدفق من المتغيرات إلى الأهداف فقط. هذا القيد الأخير هو الأهم: إذ يعني أن النموذج يستطيع أن يعتمد على زيادة الحمل المجدولة للأسبوع القادم دون أن يتسرب مستقبل الهدف نفسه إلى التنبؤ. وتسرّب البيانات عبر المتغيرات المشاركة من أكثر الإخفاقات الصامتة الكلاسيكية في أنظمة التنبؤ، وتثبيت اتجاه تدفق المعلومات في قناع الانتباه طريقة نظيفة لمنعه.

تُعامَل المتغيرات الفئوية هي الأخرى معاملة سليمة: حالة الآلة، مثل «تشغيل» أو «خامل» أو «تحت الصيانة»، تُغذّى كفئة لا كرقم تعسفي يفرض ترتيبًا وهميًا. ومن شاهد نموذج الأشجار يتعلم أن «الحالة 3» أكبر من «الحالة 2» بطريقة ما، سيقدّر هذا.

لكن انتبه لما يعنيه ذلك عمليًا: صارت جودة نشر TSFM مقيّدة بجودة خطوط بيانات المتغيرات المشاركة، لا بالنموذج. إذا كانت خدمة الطقس لديك متأخرة، وتقويم العطل ينقصه العطل الإقليمية، ولم يُرمَّز جدول الصيانة في شكل قابل للقراءة الآلية، فلن ينقذك النموذج. تحوّلت النمذجة إلى سلعة، أما هندسة البيانات فلم تتحول. خصص جهدك وفقًا لذلك.

المعايير، ولماذا يجب أن تختبر على إشارتك أنت

على المعايير العامة الثلاثة الرئيسية، أي GIFT-Eval وTIME وfev-bench، يحتل نموذج Timestral بحجم 209 ملايين المرتبة الأولى بين النماذج المدرَّبة مسبقًا وغير المتخصصة بالمهمة، بنقطة تفتيش واحدة ودون تجميع. ويُقال إن نموذج 28 مليونًا يتفوق على Chronos-2، الذي يزيد حجمه نحو أربعة أضعاف. نتائج قوية فعلًا، والحقيقة أن كل أحجام العائلة تقع على جبهة Pareto بين الدقة والحجم، ما يوحي بأن الوصفة لا الحجم وحده هي التي تصنع الفرق.

الآن التحفظات الضرورية. لمعايير التنبؤ مشكلة منهجية عميقة: كثير من السلاسل فيها عمليات عالية الضوضاء وضعيفة الإشارة، حيث يتصرف أي نموذج معقول بالطريقة نفسها تقريبًا لأنه لا توجد إشارة كثيرة لالتقاطها. إذا متوسّطت الدرجات عبر مئات من هذه السلاسل، فإنك تضغط الفروق الحقيقية في هوامش صغيرة، وهكذا تحصل على مخططات تسويقية يُرسم فيها تحسّن 0.03 كأنه فجوة بخمسة أضعاف. وهذه حالة محددة لمرض عام كتبنا عنه من قبل: المعايير تفوّت العمل الذي يهم فعلًا بشكل منهجي، وفي التنبؤ تفوّته بطريقة قابلة للقياس بشكل خاص.

الاختبار الأفضل، وتستطيع تشغيله بنفسك، هو بناء سلاسل تقييم بنسبة إشارة إلى ضوضاء معروفة وعالية، حيث تستطيع طريقة بسيطة، مثل التوزيعات الشرطية التجريبية، أن تلتقط معظم الإشارة، ثم تتحقق مما إذا كان نموذج الأساس يلتقطها أيضًا. بعد ذلك ارفع مستوى الضوضاء وراقب أين يتدهور الأداء. النموذج الذي يبدو في القمة على المعايير الصاخبة لكنه يترك إشارة واضحة دون التقاط في الأنظمة النظيفة يخبرك بشيء لن يقوله لك لوحة المتصدرين.

على البيانات الصاخبة تبدو كل النماذج متشابهة. تتميز النماذج فقط عندما توجد إشارة حقيقية لالتقاطها، فاختبرها حيث توجد الإشارة.

أين ما زالت الطرق الكلاسيكية تفوز

ادعائي الافتتاحي يحتاج إلى حدود صادقة، وهذه هي. هناك حالات حقيقية لا ينبغي أن تلجأ فيها إلى نموذج أساس.

• تحتاج إلى المعادلات، لا إلى المخرجات فقط. إذا كنت مشغّل شبكة كهرباء أو مهندس تحكم، فغالبًا ما تحتاج إلى نموذج ديناميكي قابل للتفسير، أي معاملات ذات معنى فيزيائي يمكنك التفكير فيها واختبار إجهادها وتقديمها إلى الجهة التنظيمية. نموذج TSFM صندوق أسود: y = F(x, params) بلا بنية مقروءة. أما نموذج الحالة الفضائية المُركَّب أو نمط SINDy فيعطيك شيئًا لن تعطيه الشبكة العصبية أبدًا.
• لديك سلسلة حرجة واحدة ذات تاريخ طويل وغني وبنية مجالية قوية. سلسلة واحدة مفهومة جيدًا، مثل حمل كهرباء وطني بعقود من البيانات، تكافئ نموذجًا مصممًا خصيصًا بمعرفة المجال. العمومية دون تدريب مسبق تضيع حين تملك مشكلة واحدة وخبرة عميقة فيها.
• المتغيرات المشاركة هي المهيمنة والعلاقات مستقرة ومعروفة. الانحدار الخطي على الخصائص الصحيحة شفاف وقابل للتصحيح، وعندما تكون فيزياء المسألة خطية فعلًا فهو لا يُهزم. لا تدفع ضريبة التعقيد دون مكسب.
• يجب أن تملك الاعتمادية بالكامل. يُشحن Timestral بترخيص MIT معدّل مع قيود، وإذا كان تنبؤك جزءًا من بنية تحتية حرجة، مثل أسواق الطاقة اليومية، فعليك أن تفكر مليًا قبل الاعتماد على خادم مزوّد أو ترخيص لا تستطيع التحكم فيه كليًا. البدائل مفتوحة الأوزان والنماذج الداخلية موجودة تحديدًا لهذه الحالة.
• لديك متطلبات صارمة لنظافة الاختبار الرجعي (backtesting). مع نموذج مُدرَّب مسبقًا، لا يمكنك أبدًا أن تكون متأكدًا تمامًا من أن فترة الاختبار الرجعي لم تكن ضمن مجموعة التدريب، إلا إذا منحك المزوّد التحكم في خليط التدريب. تقدم Mistral ذلك عبر خط أنابيب Forge، لكن تحقق منه بدل أن تفترضه.

لاحظ النمط: نموذج الأساس يفوز في الاتساع والسرعة والبيانات المتفرقة، ويخسر في قابلية التفسير والعمق على سلسلة واحدة ومخاطر الاعتمادية. وهذه قاعدة قرار مفيدة فعلًا، وأحدّ بكثير من عبارة «الأمر يعتمد» المعتادة.

سؤال المعمارية الذي يتجاهله الجميع

شيء حسمته موجة TSFM ويستحق اهتمامًا أكبر: تعمل المحولات بكفاءة على الإشارات المستمرة، وتبيّن أن مشكلة الترميز أقل رعبًا مما كان متوقعًا. الحيلة هي التقطيع (patching)، فبدل معاملة كل خطوة زمنية كرمز، وهو ما يضخم طول التسلسل، أو تضمين القيم العشرية الخام بسذاجة، تقسّم السلسلة إلى مقاطع وتضمّن هذه المقاطع. يصبح طول المقطع مقبضًا قابلًا للضبط يوازن بين الدقة والسياق، تمامًا كحجم المفردات في نموذج لغوي. وإذا تابعت النقاش حول نماذج الفضاء الحالي مقابل المحولات، فمن اللافت أن نماذج TSFM الفائزة حتى الآن معظمها قائم على الانتباه، فالبنية بعيدة المدى للبيانات الزمنية تناسب الانتباه جيدًا بمجرد تثبيت تمثيل المدخلات.

استراتيجية البيانات المُولَّدة أولًا تستحق اعترافًا مساويًا كمساهمة. أغلب بيانات تدريب Timestral مُولَّدة لا مجمّعة: عمليات أحادية المتغير ذات ديناميكيات متماسكة أولًا، ثم مُولِّد متعدد المتغيرات يضيف اعتماديات غير خطية بينها. وهذا يتجاوز بأناقة مشكلة البيانات التي طاردت تعلم الآلة للسلاسل الزمنية: لا يوجد Common Crawl لبيانات المستشعرات، وما هو موجود معزول وملكية خاصة ومنسّق بشكل غير متسق. إذا كانت البيانات الاصطناعية ذات الانحيازات الاستقرائية الصحيحة تنتقل بهذه الجودة، فهذا يغيّر اقتصاد المجال الفرعي كله. لست بحاجة إلى تخزين قياسات العالم كله، بل تحتاج إلى مولّدات جيدة.

من التوقع إلى النظام

أهم عاقبة طويلة الأمد ليست النموذج نفسه، بل ما يتيحه لاحقًا. مُتنبئ احتمالي متعدد المتغيرات رخيص يعمل باستمرار على مقاييسك هو كاشف شذوذ بعدم يقين صادق: بدل التنبيه عندما تتجاوز القيمة عتبة ثابتة، تنبّه عندما يقع الواقع خارج المئينيات المتوقعة، وهذا يعني تنبيهات تحترم الموسمية والأحداث المخطط لها. زيادة حمل مجدولة تصبح متوقعة لا مُعلَّمة كمفاجأة. وهذا وحده كفيل بإزالة نسبة مزعجة من ضجيج الاستدعاءات في معظم المؤسسات.

ضع وكيل LLM فوق ذلك وستحصل على سير العمل الذي رسمته Mistral: النموذج العددي يرصد شذوذًا في مضخة، ويقارن الوكيل الإشارات بتضمينات أعطال سابقة، ويشغّل تحليل سبب جذري على سجلات الصيانة وملاحظات المشغّلين، ثم يسلّم مدير المصنع تشخيصًا مع أدلته بدل تنبيه مجرد. سواء اشتريت هذه الرؤية تحديدًا أم لا، فالاتجاه سليم: إنه النمط نفسه الذي رأيناه مع فك الترميز المقيّد لنماذج القرار، أي أبقِ النموذج السريع المتخصص في الحلقة لما يُجيده، ودع النموذج العام ينسّق ما حوله.

إذن هذا هو موقفي. التنبؤ المخصص لم يمت، بل نُزّل من الخيار الافتراضي إلى أداة المتخصصين. إذا كان لديك سلسلة واحدة، ومعرفة مجال عميقة، وحاجة إلى ديناميكيات قابلة للتفسير، فاستمر في تركيب نماذج الفضاء الحالي ونم قرير العين. أما إذا كان لديك آلاف السلاسل، وتاريخ ضئيل لكل منها، وفريق من ثلاثة أشخاص، فقد انقلب عبء الإثبات: صار عليك سبب لتجنّب نموذج أساس، لا العكس. اختبره على بياناتك عالية الإشارة، وصِل المتغيرات المشاركة بشكل صحيح، وتحقق من الترخيص وفق تحمّلك للمخاطر، ثم أنفق الشهور التي وفّرتها على خطوط البيانات، وهنا كانت مشاريع التنبؤ دائمًا تُكسب أو تُخسر فعلًا.