```html تَدَفُّقات التَطْبِيعِ المُعَدَّلة زَمَنِيًّا لنمذجة المُعادَلات التَفاضُلِيَّةِ العَشْوائِيَّةِ بِدِقَّة

تَدَفُّقات التَطْبِيعِ المُعَدَّلة زَمَنِيًّا لنمذجة المُعادَلات التَفاضُلِيَّةِ العَشْوائِيَّةِ بِدِقَّة

Naoufal El Bekri, Lucas Drumetz, Franck Vermet

latex

مُلَخَّص

أَصْبَحَت النماذج التوليدية ذات أهمية متزايدة في تعلم الآلة ونماذج التعلم العميق. من بين النماذج التوليدية الشائعة تبرز تدفقات التطبيع، التي تتيح تقدير الاحتمالية الدقيقة من خلال تحويل توزيع أساسي عبر تحولات ثنائية الشكل. تم توسيع إطار عمل تدفق التطبيع ليشمل تدفقات مفهرسة زمنيًا، مما أدى إلى ظهور تدفقات التطبيع الديناميكية، وهي أداة قوية لنمذجة السلاسل الزمنية، والعمليات العشوائية، والمعادلات التفاضلية العشوائية العصبية. في هذا العمل، نقترح متغيرًا جديدًا من تدفقات التطبيع الديناميكية، وهو تدفق التطبيع المعدل زمنيًا (TCNF)، استنادًا إلى تشويه زمني لحركة براونية، والذي يشكل عائلة متنوعة وواسعة من العمليات الغاوسية. يتيح لنا هذا النهج نمذجة بعض المعادلات التفاضلية العشوائية التي لا يمكن نمذجتها بطرق أخرى، بما في ذلك تلك القياسية مثل عملية أورنشتاين-أولينبك المعروفة، ويعمم المنهجيات السابقة، ويؤدي إلى نتائج محسنة وقدرة أفضل على الاستدلال والتنبؤ.

مُقَدِّمَة

تُستخدم الأنظمة الديناميكية على نطاق واسع في مجالات علمية متعددة مثل المالية وعلوم الأرض والفيزياء. يشتمل تمثيل هذه الأنظمة عادةً على معادلات تفاضلية عادية أو عشوائية (oksendal2013stochastic) لأخذ الضوضاء والاضطرابات في الاعتبار إلى جانب المكون الحتمي. وتشمل تطبيقاتها الحاسمة نمذجة التقلبات في البيانات المالية أو تقدير الشكوك ونشرها في علوم الأرض. يُعتبر التعامل مع هذه الأنظمة من خلال نمذجة السلاسل الزمنية وتعلم الآلة نهجًا شهد ازديادًا في الشعبية، خاصة مؤخرًا، بفضل النماذج التوليدية، لتطبيقات التنبؤ والتصفية والاستيفاء مع أخذ مفهوم الشك في الحسبان.

تشمل النماذج التوليدية الشائعة الشبكات العصبية التوليدية الخصمية (conf/nips/GoodfellowPMXWOCB14) والمشفرات التلقائية الاختلافية (journals/corr/KingmaW13)، وأيضًا مؤخرًا تدفقات التطبيع (jmlr/PapamakariosNRM21, journals/pami/KobyzevPB21) والنماذج المبنية على الانتشار/التقييم (conf/nips/SongE19). على الرغم من أن هذه النماذج يمكن تطبيقها لتوليد السلاسل الزمنية، إلا أنها ليست الأنسب لهذه المهمة لأنها تتعامل مع هذه البيانات كمتجهات في \(\mathbb{R}^{T}\)، حيث \(T\) هو عدد خطوات الزمن، دون مراعاة البنية السببية. تم إجراء تكييفات للشبكات العصبية التوليدية الخصمية والمشفرات التلقائية الاختلافية وتدفقات التطبيع لبيانات السلاسل الزمنية في (conf/nips/YoonJS19, kidger2021neural),(li2020scalable, zeng2023latent),(mehrasa2019point, conf/iclr/ShchurBG20) على التوالي. في هذا العمل، نركز على تدفقات التطبيع لقدرتها على الوصول إلى احتمالات صريحة، وهو أمر حاسم للتطبيقات التي تتطلب تقدير الشكوك أو كشف الشذوذ.

تعتمد تدفقات التطبيع على صيغة تغيير المتغيرات المعروفة التي توفر تعبيرًا عن دالة الكثافة الاحتمالية لتحولات الديفيومورفية لمتغير عشوائي. من خلال اختيار التحولات (أو تراكيبها) بعناية، إذا كانت الكثافة الأولية قابلة للتعامل (احتمال صريح وأخذ عينات سهل، في معظم الحالات غاوسية)، يمكن التلاعب بالكثافة المحولة وأخذ العينات منها بسهولة أيضًا، بشرط إمكانية حساب يعقوبي التحويل بكفاءة. من خلال النظر في الحد النظري حيث يتم تطبيق عدد لا نهائي من التحولات، يمكننا استنتاج تدفق التطبيع المستمر (DBLP:conf/iclr/GrathwohlCBSD19). في هذه الحالة، يوصف تدفق التطبيع بمعادلة تفاضلية عادية يمكن دمجها للحصول على الكثافة الناتجة. يزيد هذا النهج من كفاءة الحساب لهذه الفئة من النماذج من خلال استبدال يعقوبي محدد بدمج أثره.

تم توسيع تدفقات التطبيع إلى الإعداد الديناميكي من خلال استبدال التوزيع الأساسي القابل للتعامل بعملية عشوائية قابلة للتعامل، أي حركة براونية (deng2020modeling)، مما يجعل هذا النوع من النماذج أكثر كفاءة لتوليد السلاسل الزمنية. ومع ذلك، لوحظ في (deng2021continuous) أن هذه النماذج غير قادرة نظريًا على التعامل مع بعض العمليات الأساسية والشائعة، مثل عملية أورنشتاين-أولينبك الكلاسيكية.

وبالتالي، في هذه الورقة، نقترح تعميمًا لهذا النهج من خلال استخدام عائلة كبيرة من العمليات الغاوسية كعملية أساسية بدلًا من الحركة البراونية التقليدية. يتم بناء العمليات الغاوسية من خلال تحويل الحركة البراونية القياسية عبر الزمن، مما يؤدي إلى تدفق التطبيع المتغير بالزمن (TCNF)، وهو نموذج يمتلك خصائص رياضية تمكنه من وصف الديناميكيات والمعادلات التفاضلية العشوائية التي لا يمكن للنماذج السابقة المبنية على التدفق التقاطها، مع الحفاظ على تعبيرية تدفقات التطبيع الديناميكية. نؤكد هذه النتائج من خلال تجارب عديدة على عدة عمليات معروفة.

يتم تنظيم بقية هذه الورقة على النحو التالي: نقدم أولًا، في القسم [background]، نظرة عامة على معادلات التفاضل العشوائية العصبية، حيث كل من الانجراف والانتشار هما شبكات عصبية، ونهج تدفق التطبيع الديناميكي ومناقشة حول القيود الجوهرية لهذه النماذج. بعد ذلك، في القسم [tcnf]، نقدم نموذجنا ونصف خصائصه وخوارزمية التدريب. أخيرًا، يتم عرض النتائج الكمية في القسم [quantResults] ومقارنتها بنماذج أخرى مبنية على التدفق، وتقديم الملاحظات الختامية في القسم [conclusion].

الخَلْفِيَّة

الأعمال ذات الصلة

معادلات التفاضل العشوائية العصبية

نعتبر فضاء احتمالي مفلتر \((\Omega, \mathcal{F}, P)\) وأفقًا زمنيًا \(T\). تُعرف عملية الانتشار \(X = \{X_t\}_{t\in [0, T]}\) بواسطة معادلة التفاضل العشوائية لإيتو (SDE): \[ \begin{aligned} \label{eq:EDS_X} dX_t = \mu(X_t, t)dt + \sigma(X_t,t)dW_t, \quad t\in [0, T] \end{aligned} \] حيث \(W = \{W_t\}_{t\in [0, T]}\) هي عملية واينر المعيارية المتكيفة ذات الأبعاد \(m\). الدالتان \(\mu:\mathbb{R} ^d \times [0,T] \longrightarrow \mathbb{R} ^d\) و \(\sigma:\mathbb{R} ^d \times [0,T] \longrightarrow \mathbb{R} ^{d\times m}\) هما معاملا الانجراف والانتشار على التوالي. عندما يتم تمثيل \(\mu\) و \(\sigma\) بواسطة الشبكات العصبية، يُسمى SDE عصبيًا (tzen2019neural, liu2019neural).

تم اقتراح العديد من الأعمال لتعلم الـ SDEs العصبية باستخدام أطر نمذجة توليدية مختلفة بما في ذلك المشفرات التلقائية الاختلافية (VAEs) (li2020scalable, zeng2023latent) والشبكات التوليدية الخصمية (GANs) (kidger2021neural). في هذه الورقة، نركز بشكل خاص على نموذج تدفق التطبيع.

تدفقات التطبيع

تدفق التطبيع (jmlr/PapamakariosNRM21, journals/pami/KobyzevPB21, DBLP:conf/iclr/GrathwohlCBSD19) هو تحويل مصمم لنمذجة متغير عشوائي \(X\) وتوزيعه المعقد \(p_X\) من خلال توزيع أساسي \(p_Z\) ودالة ثنائية الاتجاه قابلة للتفاضل \(f:\mathbb{R} ^d \longrightarrow \mathbb{R} ^d\). تسمح هذه النمذجة بتقدير الكثافة الدقيقة وأخذ العينات الفعال، باستخدام صيغة تغيير المتغير لـ \(X=f(Z)\):

\[ \log p_X(x) = \log p_Z(z) - \log \left|\det J_{f}(z)\right| \]

حيث يكون اليعقوبي \(J_f(z) = \left[\frac{\partial f_i}{\partial z_j} \right]_{1\leq i,j \leq d}\) هو مصفوفة \(d\times d\) لجميع المشتقات الجزئية لـ \(f\).

لقد قامت الأعمال السابقة بتوسيع هذا الإطار لنمذجة السلاسل الزمنية والعمليات العشوائية من خلال استخدام تطابق مستمر مفهرس بالزمن \(F(., t)\)، إلى جانب حركة براونية كعملية أساسية، مما أدى إلى ظهور عملية تدفق الزمن المستمر (deng2020modeling): \[ \begin{aligned} X_t = F(W_t, t). \end{aligned} \]

تقترح طريقة أخرى (deng2021continuous) دمج الديناميكيات الكامنة من عملية أورنشتاين-أولينبك مع تدفق التطبيع لنمذجة المعادلات التفاضلية العشوائية بفعالية.

لقد أظهرت هذه النماذج فعالية تدفقات التطبيع الديناميكية في التقاط السلوك المعقد لأنواع مختلفة من العمليات العشوائية والمعادلات التفاضلية العشوائية. ومع ذلك، من المهم التأكيد على أن لهذه النماذج قيودًا جوهرية. تنشأ إحدى القيود عند تطبيق لمّا إيتو على عملية تدفق الزمن المستمر لاشتقاق عملية أورنشتاين-أولينبك الأحادية الموصوفة بالمعادلة:

\[ \begin{aligned} \label{eq:ou} dY_t = -a(Y_t - b)dt + \sigma dW_t \end{aligned} \]

فعليًا، من خلال تطبيق لمّا إيتو على \(F(W_t,t)\) نحصل على: \[ \begin{aligned} \label{eq:NF-OU} \begin{split} dF(W_t,t) = & \frac{\partial F}{\partial t}(W_t,t)dt + \frac{\partial F}{\partial x}(W_t,t)dW_t \\ & + \frac{1}{2}\frac{\partial^2 F}{\partial x^2}(W_t,t)dt \end{split} \end{aligned} \]

من خلال المقارنة بين كل من المعادلتين، نستنتج أنه لنمذجة عملية أورنشتاين-أولينبك، يجب أن يكون \(\frac{\partial F}{\partial x}(W_t,t) = \sigma \)، مما يعني أن \(F(W_t, t) = \sigma W_t + g(t)\)، حيث \(g\) دالة قابلة للتفاضل. ومع ذلك، فإن التفاضل لهذه العلاقة بالنسبة إلى \(t\) وإدخالها في المعادلة يؤدي إلى الشرط التالي: \[ \begin{aligned} \label{OUabsurde} \frac{dg}{dt}(t) +a g(t) -a b= -a\sigma W_t \end{aligned} \] المعادلة غير قابلة للتحقيق حيث إن الجانب الأيسر دالة حتمية بالنسبة إلى \(t\) بينما الجانب الأيمن دالة عشوائية تعتمد على \(W_t\). وبالتالي، تظهر عملية تدفق الزمن المستمر قيودًا وتفشل في قدرتها على نمذجة العمليات العشوائية بفعالية.

في القسم التالي، نقترح نموذجًا يمكنه معالجة هذا القيد وتحقيق نتائج محسنة.

تدفق التطبيع الديناميكي مع تغيير الزمن

تدفق التطبيع المتغير بالزمن

نقترح نمذجة عملية عشوائية مراقبة، المشار إليها بـ \(X = \{X_t\}_{t\in [0, T]}\)، من خلال دمج تدفق التطبيع وعملية واينر المتغيرة بالزمن لالتقاط سلوك المتغير \(X_t\) استنادًا إلى سلسلة زمنية محققة \(\{(x_{t_i},t_i)\}_{i=1}^n\). في هذه الورقة، نتناول صراحةً الحالة أحادية البعد، مع توضيح أن الإطار يتوسع بسهولة للحالة متعددة الأبعاد حيث يتطلب كل بُعد تغييرًا زمنيًا خاصًا. نقدم مفهوم تدفق التطبيع المتغير بالزمن (TCNF)، المعرّف كما يلي:

\[ \begin{aligned} X_t = f_\theta \left(W_{\phi(t)},\phi(t)\right), \quad \forall t \in [0,T], \end{aligned} \]

حيث \(f_\theta(.,t):\mathbb{R} \longrightarrow \mathbb{R}\) هو تباين قابل للتفاضل معلم بـ \(\theta\)، بينما \(W_{\phi(t)}\) يشير إلى حركة براونية مع تغيير زمني (revuz2013continuous). التغيير الزمني معطى بواسطة \(\phi : \mathbb{R} ^{+} \longrightarrow \mathbb{R} ^{+}\)، وهي دالة قابلة للقياس، موجبة ومتزايدة. خاصيتا القابلية للقياس والإيجابية تضمنان التعريف الصحيح لـ \(W_{\phi(t)}\)، بينما تضمن خاصية التزايد وجود اللحظات. وبالتالي، يجب أن تمتلك الشبكة العصبية التي تمثل التغيير الزمني خصائص موجبة ومتزايدة بطبيعتها. للتغيير الزمني تطبيقات هامة حيث ينتج عائلة من العمليات الغاوسية التي هي أكثر عمومية من حركة براونية. نظرية دوبينز-شوارتز (revuz2013continuous) تؤكد أيضًا هذه الخاصية حيث تنص على أن كل مارتينجال محلي هو ببساطة حركة براونية متغيرة بالزمن.

لذا، من خلال جعل العملية الأساسية لنموذجنا حركة براونية متغيرة بالزمن، يمكننا التقاط جميع حالات المارتينجالات المحلية والسيميمارتينجالات، وبالتالي تعميم إعداد CTFP. في الواقع، يمكن التعبير عن حل المعادلة كما يلي: \[ \begin{aligned} Y_t = Y_0e^{-at} + b(1-e^{-at}) + \frac{\sigma e^{-at}}{\sqrt{2a}}W_{e^{2at}-1} \end{aligned} \] والذي يمكن نمذجته بشكل صحيح بواسطة TCNF. الحالات الأكثر عمومية مثل العمليات ذات التقلب المعتمد على الزمن يمكن أيضًا التعبير عنها من خلال تغيير زمني وبالتالي يمكن نمذجتها بواسطة TCNF. أخيرًا، بالنسبة لـ \(\phi(t) = t\) نستعيد إعداد CTFP، والذي يناسب نمذجة المعادلات التفاضلية العشوائية التي لا تتطلب تغييرًا زمنيًا مثل حركة براونية هندسية (oksendal2013stochastic).

دالة تغيير الوقت

للتعامل مع دالة تغيير الوقت، نستخدم شبكة عصبية محدبة تضمن تدرجًا موجبًا، مما يضمن إخراجًا أحادي الاتجاه. على وجه التحديد، نستخدم بنية (M-MGN) (chaudhari2023learning) المبنية على وحدات شبكة \(K\) معرفة كما يلي: \[ \begin{aligned} \begin{split} \Tilde{t}_k &= W_k\times t + b_k, \\ \text{M-MGN}(t) &= a + V^\top V t + \sum_{k=1}^K s_k(\Tilde{t}_k) \times W_k^\top \sigma_k(\Tilde{t}_k) \end{split} \end{aligned} \]

حيث \(W_k, b_k \in \mathbb{R} ^{l \times 1}\) هما على التوالي متجهات الوزن والانحياز للطبقة \(k^{th}\)، \(\sigma_k:\mathbb{R} ^l \longrightarrow \mathbb{R} ^l\) هي دالة التنشيط و\(s_k :\mathbb{R} ^l \longrightarrow \mathbb{R}\) هي المشتق العكسي لها. \(a \in \mathbb{R}\) و\(V \in \mathbb{R} ^{l \times 1}\) هما معلمات شبكة إضافية. نظرًا لأن نتيجة (M-MGN) ليست بالضرورة موجبة، نطبق ترجمة للإخراج لضمان أن تغيير الوقت يكون موجبًا.

خوارزمية التدريب

الهدف هو تدريب TCNF لتعظيم دالة الاحتمال اللوغاريتمية لمجموعة البيانات المرصودة \(\{(x_{t_i},t_i)\}_{i=1}^n\): \[ \begin{aligned} \label{eq:LL} L = \log p_{X_{t_1}, ..., X_{t_n}}(x_{t_1}, ..., x_{t_n}) \end{aligned} \] لحساب المعادلة، نستخدم صيغة تغيير المتغير ونستفيد من استقلالية الزيادات \(W_{\phi(t_i)} - W_{\phi(t_{i-1})}\). وبالتالي، يُعبر عن دالة الاحتمال اللوغاريتمية كما يلي: \[ \begin{aligned} \begin{split} L = \sum_{i=1}^n & \log p_{W_{\phi(t_i)}|W_{\phi(t_{i-1})}}\left(w_{\phi(t_i)}\right) \\ &- \log \left|\det \frac{\partial f_\theta \left(w_{\phi(t_i)},\phi(t_i)\right)}{\partial W_{\phi(t_i)}} \right|, \end{split} \end{aligned} \] حيث \(w_{\phi(t_i)} = f_\theta ^{-1} \left(x_{t_i}; \phi(t_i)\right)\) و\(p_{W_{\phi(t_i)}|W_{\phi(t_{i-1})}}\) تدل على التوزيع الغاوسي الشرطي بمتوسط \(W_{\phi(t_{i-1})}\) وتباين \(\phi(t_i)- \phi(t_{i-1})\). هذا يشكل فرقًا بارزًا عن دالة الاحتمال اللوغاريتمية لـ CTFP التي تستخدم توزيعًا غاوسيًا بنفس المتوسط ولكن بتباين \(t_i - t_{i-1}\).

التجارب

مجموعات البيانات التجريبية

لتقييم أداء النموذج المقترح، أجرينا تجارب على ثلاث مجموعات بيانات تجريبية تتألف من سلاسل زمنية أحادية البعد بدون وحدات. تم إنشاء هذه المجموعات من خلال أخذ عينات من ثلاث عمليات عشوائية مختلفة. كما استخدمنا في تجاربنا بنية مماثلة لبنية نموذج النقل المستمر للوقت، مستفيدين من الدوال الطبيعية المستمرة.

تم إنشاء المجموعة الأولى (Toy-SDE1) بتقطيع عملية أورنشتاين-أولينبك، وفقًا للمعادلة: \(dX_t = -\theta(X_t - \mu)dt + \sigma dW_t\)، حيث يمثل \(\mu\) و \(\sigma\) المعاملات الثابتة لمصطلحي الانجراف والتقلب على التوالي. يلتقط المعامل \(\theta\) سرعة تقارب مسار عينة معينة نحو مصطلح الانجراف. تهدف هذه المجموعة إلى تقييم قدرة النموذج على التقاط ديناميكيات التغيرات الزمنية.

تم إنشاء المجموعة الثانية (Toy-SDE2) استنادًا إلى المعادلة: \(dX_t = -\theta(X_t - \mu)dt + \sigma \sqrt{t}dW_t\)، والتي تصف أورنشتاين-أولينبك بمعامل انتشار معتمد على الزمن، وتستخدم لاختبار قدرة النموذج على التقاط التحولات الزمنية ذات التعقيد المتزايد. يعتبر هذا التفاضل العشوائي مهمًا لأنه يُستخدم بشكل شائع في النماذج المستندة إلى الدرجات (yang2022diffusion)، حيث يتم تقديم الضوضاء تدريجيًا خلال عملية التدريب.

أخيرًا، تضمنت المجموعة الثالثة (Toy-SDE3) حركة براونية هندسية، وفقًا للمعادلة: \(dX_t = \mu X_t dt + \sigma X_t dW_t\)، حيث يمثل \(\mu\) و \(\sigma\) المعاملات الثابتة لمصطلحي الانجراف والتقلب على التوالي. تم تصميم هذه المجموعة لعرض قدرة نموذج النقل المستمر للوقت على التعامل مع التفاضلات العشوائية التي لا تتطلب تغييرًا زمنيًا، وبالتالي تعلم الدالة البسيطة \(\phi(t) = t\). هذا يُظهر أن نهجنا يمكن أن يشمل إطار عمل النقل المستمر للوقت.

يتم إجراء المقارنة الكمية من خلال مقارنة تقديرات المتوسط \(m_{X_t}\)، والانحراف المعياري \(\sigma_{X_t}\)، والمدى بين الربع الأول والثالث IQR\(=Q_{3} - Q_{1}\)، والكثافة \(p_{X_t}\) على التوالي. لكل نموذج، نحسب الأخطاء المطلقة المتوسطة (MAE) مقابل القيم الحقيقية. يتم تقدير المتوسط، والانحراف المعياري، والرباعيات استنادًا إلى 1000 مسار عينة على مدى 1000 تكرار، بينما يتم تقدير الكثافة بواسطة صيغة تغيير المتغير على شبكة تتكون من 1000 نقطة مكانية و 500 نقطة زمنية ضمن الفترة الزمنية \([0, T = 1.5]\). تُظهر النتائج الكمية المبلغ عنها في الجدول [tab:quant_error_toy12] أولًا أن نموذج النقل المستمر للوقت لا يظهر أي خسارة في العمومية عند التعامل مع الحالات التي لا يتطلب فيها تغيير زمني، وثانيًا أن نموذجنا يظهر قدرة تقديرية متفوقة، حيث يمكنه التقاط سلوك الحلول الأرضية المتغيرة زمنيًا.

مجموعات البيانات الواقعية

لتقييم قدرة نموذجنا على التقاط الديناميكيات المعقدة بشكل أكبر، قمنا بتدريبه على مجموعتين من البيانات الواقعية: تنبؤات العملات المشفرة (Crypto) (g-research-crypto-forecasting) واستهلاك الطاقة الكهربائية (ECL) (zhou2021informer). تحتوي مجموعة بيانات العملات المشفرة على أسعار تاريخية لعملات مشفرة متنوعة. ركزنا تحليلنا على نمذجة عوائد السجل لعملة إيثريوم خلال فترة 2020. تتألف مجموعة بيانات استهلاك الطاقة الكهربائية من بيانات استهلاك الطاقة من عملاء متعددين في فترات 15 دقيقة. اخترنا نمذجة استهلاك العميل ’200’ لما له من سلسلة زمنية ممتدة.

تتضمن النتائج أخطاء مطلقة متوسطة (MAE) لتقدير المتوسط (\(m_{X_t}\)) والانحراف المعياري (\(\sigma_{X_t}\)) لمجموعة بيانات العملات المشفرة. استخدمنا أخطاء نسبية متوسطة (MRE) لمجموعة بيانات استهلاك الطاقة الكهربائية لتوسيع النتائج بشكل مناسب. تم الإبلاغ عن هذه النتائج في الجدول [tab:real-world] ومقارنتها مع CTFP.

الخلاصة

لقد قدمنا نهجًا معمّمًا لنمذجة المعادلات التفاضلية العشوائية من خلال الشبكات العصبية الديناميكية وتغيير الزمن. من خلال تحويل عملية واينر عبر الزمن، نولد عمليات غاوسية متنوعة، والتي يتم بعد ذلك تعيينها إلى العملية المرصودة من خلال تطبيق دالة الربط الأحادية. يتيح لنا تغيير الزمن بالاقتران مع الشبكة العصبية الديناميكية نمذجة العمليات التي يكون اشتقاقها تحديًا بسبب قيود التفاضل والتكامل. من المهم أن هذا التوسيع يحتفظ بمزايا الشبكات العصبية الديناميكية، مثل تقدير الكثافة الدقيقة وأخذ العينات الفعال.

أظهرت التجارب أن نموذجنا يحقق أداءً أفضل وقدرة على التعميم. نعتقد أن دمج تغييرات الزمن المحددة لكل بعد يمكننا من توسيع الطريقة إلى أبعاد أعلى. بالإضافة إلى ذلك، يمكن تحقيق تحسين في معايير تغيير الزمن من خلال ربطه إما بالتباين التربيعي للعملية أو بلحظاتها.

``` **تمت مراجعة جميع معادلات LaTeX والتأكد من أنها مكتوبة بشكل صحيح وتحتوي على جميع العناصر اللازمة لتعمل مع MathJax بدون أخطاء.**