पैरारियल

पैरारियल संख्यात्मक विश्लेषण से एक समानांतर एल्गोरिदम है और प्रारंभिक मूल्य समस्याओं के समाधान के लिए उपयोग किया जाता है।

इसे 2001 में जैक्स-लुई लायंस, मैडे और टुरिनिसी द्वारा प्रस्तुत किया गया था। तब से यह समय एकीकरण में सबसे व्यापक रूप से अध्ययन किए जाने वाले समानांतर प्रणालियों में से एक बन गया है।



समय में समानांतर एकीकरण विधियां
उदाहरण के विपरीत रंज-कुट्टा या मल्टी-स्टेप विधियां, पैरारियल में कुछ गणनाएं समानांतर कंप्यूटिंग में की जा सकती हैं और इसलिए पैरारियल समय एकीकरण विधि में समानांतर का एक उदाहरण है। जबकि ऐतिहासिक रूप से आंशिक अंतर समीकरणों के संख्यात्मक आंशिक अंतर समीकरणों को समानांतर करने के अधिकांश प्रयास स्थानिक विवेकीकरण पर केंद्रित हैं, एक्सास्केल कंप्यूटिंग की चुनौतियों को देखते हुए, अस्थायी विवेकीकरण के समानांतर प्रणालियों को संख्यात्मक विश्लेषण सॉफ्टवेयर की सूची में समरूपता बढ़ाने के संभावित विधि के रूप में पहचाना गया है।

क्योंकि पैरारियल समानांतर में कई समय चरणों के लिए संख्यात्मक समाधान की गणना करता है, इसे चरणों में समानांतर विधि के रूप में वर्गीकृत किया गया है।

यह समानांतर रंज-कुट्टा या एक्सट्रपलेशन विधियों जैसी विधि में समानता का उपयोग करने वाले दृष्टिकोणों के विपरीत है, जहां स्वतंत्र चरणों की गणना तरंग रूप विश्राम जैसी सिस्टम विधियों में समानांतर या समानांतर में की जा सकती है।

इतिहास
पैरारियल को समय विधि में मल्टीग्रिड विधि या समय अक्ष के साथ प्रत्यक्ष एकाधिक शूटिंग विधि दोनों के रूप में प्राप्त किया जा सकता है।

समय में मल्टीग्रिड के साथ-साथ समय एकीकरण के लिए मल्टीपल शूटिंग को अपनाने के दोनों विचार 1980 और 1990 के दशक से चले आ रहे हैं।

पैरारियल व्यापक रूप से अध्ययन की जाने वाली विधि है और विभिन्न अनुप्रयोगों के लिए इसका उपयोग और संशोधन किया गया है।

प्रारंभिक मूल्य समस्याओं के समाधान को समानांतर करने के विचार और भी प्राचीन हैं: समय में समानांतर एकीकरण विधि का प्रस्ताव करने वाला पहला पेपर 1964 में सामने आया था।

समस्या
लक्ष्य प्रपत्र की प्रारंभिक मूल्य समस्या का समाधान करना है

$$ \frac{\mathrm{d} u}{\mathrm{d}t} = f(t,u) \quad \text{over} \quad t \in [t_0,T] \quad \text{with} \quad u(t_0) = u^0.$$

दाहिने हाथ की ओर $$f$$ को एक सुचारू (संभवतः अरेखीय) फलन माना जाता है। यह रेखा दृष्टिकोण की विधि में आंशिक अंतर समीकरण के स्थानिक विवेक के अनुरूप भी हो सकता है। हम इस समस्या को समान दूरी वाले बिंदु $$(t_0,t_1,\ldots,t_N)$$, जहां $$t_{j+1} = t_j + \Delta T $$ और $$\Delta T = (T-t_0)/N$$, $$N+1$$ के अस्थायी आधार पर समाधान करना चाहते हैं। इस विवेक को आगे बढ़ाते हुए हमें एक विभाजित समय अंतराल प्राप्त होता है जिसमें $$j = 0,\ldots,N-1 $$ के लिए समय स्लाइस $$[t_j,t_{j+1}] $$ सम्मिलित होता है।

इसका उद्देश्य सीरियल टाइम-स्टेपिंग विधि (जैसे रनगे-कुट्टा) का उपयोग करके सटीक समाधान $$u(t_j)$$ के लिए संख्यात्मक अनुमान $$U_j$$ की गणना करना है जिसमें उच्च संख्यात्मक शुद्धता (और इसलिए उच्च कम्प्यूटेशनल लागत) है। हम इस विधि को फाइन सॉल्वर $$\mathcal{F}$$ के रूप में संदर्भित करते हैं, जो समय $$t_j$$ पर प्रारंभिक मान $$U_j$$ को समय $$t_{j+1}$$ पर टर्मिनल मान $$U_{j+1}$$ तक प्रसारित करता है। लक्ष्य $$\mathcal{F} $$ का उपयोग करके समाधान (उच्च संख्यात्मक शुद्धता के साथ) की गणना करना है, जो हमें प्राप्त होता है

$$ U_{j+1} = \mathcal{F}(t_j,t_{j+1},U_j), \quad \text{where} \quad U_0 = u^0.$$ इस (और सबसे पहले समानांतर में समाधान करने का प्रयास करने का कारण) समाधान के साथ समस्या यह है कि वास्तविक समय में गणना करना कम्प्यूटेशनल रूप से संभव नहीं है।

यह कैसे काम करता है
प्रारंभिक मूल्य समस्या का समाधान करने के लिए एकल प्रोसेसर का उपयोग करने के अतिरिक्त (जैसा कि पारंपरिक समय-चरण विधियों के साथ किया जाता है), पैरारियल $$ N$$ प्रोसेसर का उपयोग करता है। इसका उद्देश्य समानांतर में $$N $$ छोटी प्रारंभिक मूल्य समस्याओं (प्रत्येक समय स्लाइस पर एक) का समाधान करने के लिए $$ N$$ प्रोसेसर का उपयोग करना है। उदाहरण के लिए, संदेश पासिंग इंटरफ़ेस आधारित कोड में, $$N $$ प्रक्रियाओं की संख्या होगी, जबकि ओपनएमपी आधारित कोड में, $$N$$ थ्रेड (कंप्यूटिंग) की संख्या के बराबर होगी।

पैरारियल इस प्रारंभिक मूल्य समस्या को समानांतर में समाधान करने के लिए दूसरी टाइम-स्टेपिंग विधि का उपयोग करता है, जिसे कोर्स सॉल्वर $$\mathcal{G}$$ के रूप में जाना जाता है।

कोर्स सॉल्वर ठीक सॉल्वर की तरह ही काम करता है, लंबाई $$\Delta T$$ के समय अंतराल पर प्रारंभिक मूल्य का प्रचार करता है, चूंकि यह $$\mathcal{F}$$ (और इसलिए बहुत कम कम्प्यूटेशनल लागत पर) की तुलना में बहुत कम संख्यात्मक शुद्धता पर ऐसा करता है। एक कोर्स सॉल्वर का होना जो कि फाइन सॉल्वर की तुलना में बहुत कम कम्प्यूटेशनल रूप से महंगा है, पैरारियल के साथ समानांतर गति प्राप्त करने की कुंजी है।

अब से, हम समय $$ t_j$$ और पुनरावृत्ति $$ k$$ पर पैरारियल समाधान को $$ U^k_j$$ द्वारा निरूपित करते हैं।

शून्य पुनरावृत्ति
सबसे पहले, समाधान के अनुमानित प्रारंभिक अनुमान की गणना करने के लिए कोर्स सॉल्वर को पूरे समय अंतराल $$[t_0,T] $$ पर क्रमिक रूप से चलाएं:

$$U^0_{j+1} = \mathcal{G}(t_j,t_{j+1},U^0_j), \quad j=0,\ldots,N-1. $$

अनुवर्ती पुनरावृत्तियाँ
इसके बाद, सबसे अद्यतित समाधान मानों से, समानांतर में, प्रत्येक समय स्लाइस पर अच्छे सॉल्वर चलाएं:

$$ \mathcal{F}(t_j, t_{j+1},U^{k-1}_j), \quad j=0, \ldots, N-1.$$

अब प्रेडिक्टर-करेक्टर का उपयोग करके क्रमिक रूप से पैरारियल समाधान मानों को अपडेट करें:

$$ U_{j+1}^{k} = \mathcal{G}(t_j, t_{j+1},U^{k}_j) + \mathcal{F}(t_j, t_{j+1},U^{k-1}_j) - \mathcal{G}(t_j, t_{j+1},U^{k-1}_j), \quad j=0, \ldots, N-1.$$

इस स्तर पर, कोई यह निर्धारित करने के लिए स्टॉपिंग मानदंड का उपयोग कर सकता है कि क्या समाधान मान अब प्रत्येक पुनरावृत्ति में नहीं बदल रहे हैं। उदाहरण के लिए, कोई इसकी जांच करके यह जांच सकता है कि क्या

$$| U^{k}_j - U^{k-1}_j | < \varepsilon \quad \forall \ j \leq N,$$ और कुछ सहनशीलता $$\varepsilon > 0$$ है। यदि यह मानदंड संतुष्ट नहीं है, तो बाद के पुनरावृत्तियों को समानांतर में फाइन सॉल्वर और फिर भविष्यवक्ता-सुधारक को लागू करके चलाया जा सकता है। चूँकि, एक बार जब मानदंड संतुष्ट हो जाता है, तो कहा जाता है कि एल्गोरिदम $$ k \leq N $$ पुनरावृत्तियों में परिवर्तित हो गया है। ध्यान दें कि अन्य रोक मानदंड उपस्थित हैं और पैरारियल में सफलतापूर्वक परीक्षण किया गया है।

टिप्पणियाँ
पैरारियल को उस समाधान को पुन: प्रस्तुत करना चाहिए जो फाइन सॉल्वर के क्रमिक अनुप्रयोग द्वारा प्राप्त किया गया है और अधिकतम $$N$$ पुनरावृत्तियों में परिवर्तित होगा। चूँकि, पैरारियल को स्पीडअप प्रदान करने के लिए, इसे समय स्लाइस की संख्या अर्थात। $$k \ll N$$ की तुलना में काफी कम संख्या में पुनरावृत्तियों में परिवर्तित करना होगा।

पैरारियल पुनरावृत्ति में, $$\mathcal{F}(t_j, t_{j+1},U^{k-1}_j)$$ का कम्प्यूटेशनल रूप से महंगा मूल्यांकन $$N$$ प्रसंस्करण इकाइयों पर समानांतर में किया जा सकता है। इसके विपरीत, $$\mathcal{G}(t_j, t_{j+1},U^{k}_j)$$ पर $$U^{k}_{j+1}$$ की निर्भरता का अर्थ है कि कोर्स सुधार की गणना क्रमिक क्रम में की जानी है।

सामान्यतः, रंज-कुट्टा विधि का कुछ रूप कोर्स और बारीक इंटीग्रेटर दोनों के लिए चुना जाता है, जहां $$\mathcal{G}$$ कम क्रम का हो सकता है और $$\mathcal{F}$$ की तुलना में बड़े समय चरण का उपयोग कर सकता है।

यदि प्रारंभिक मूल्य समस्या पीडीई के विवेकाधिकार से उत्पन्न होती है, तो $$\mathcal{G}$$ एक कोर्स स्थानिक विवेकीकरण का भी उपयोग कर सकता है, लेकिन यह अभिसरण पर नकारात्मक प्रभाव डाल सकता है जब तक कि उच्च क्रम इंटरपोलेशन का उपयोग नहीं किया जाता है।



स्पीडअप
कुछ मान्यताओं के अनुसार, पैरारियल की गति के लिए एक सरल सैद्धांतिक मॉडल प्राप्त किया जा सकता है।

चूँकि अनुप्रयोगों में ये धारणाएँ बहुत अधिक प्रतिबंधात्मक हो सकती हैं, फिर भी मॉडल पैरारियल के साथ स्पीडअप प्राप्त करने में सम्मिलित ट्रेडऑफ़ को दर्शाने के लिए उपयोगी है।

सबसे पहले, मान लें कि हर बार स्लाइस $$[t_j, t_{j+1}]$$ में फाइन इंटीग्रेटर के बिल्कुल $$N_f$$ चरण और कोर्स इंटीग्रेटर के $$N_c$$ चरण होते हैं। इसमें विशेष रूप से यह धारणा सम्मिलित है कि सभी समय स्लाइस समान लंबाई के होते हैं और कोर्स और फाइन इंटीग्रेटर दोनों पूर्ण सिमुलेशन पर एक स्थिर चरण आकार का उपयोग करते हैं। दूसरा, क्रमशः सूक्ष्म और कोर्स प्रणालियों के एक चरण के लिए आवश्यक कंप्यूटिंग समय को $$\tau_f$$ और $$\tau_c$$ द्वारा निरूपित करें, और मान लें कि दोनों स्थिर हैं। यह सामान्यतः बिल्कुल सच नहीं है जब एक अंतर्निहित विधि का उपयोग किया जाता है, क्योंकि तब रनटाइम पुनरावृत्त सॉल्वर द्वारा आवश्यक पुनरावृत्तियों की संख्या के आधार पर भिन्न होता है।

इन दो मान्यताओं के अनुसार, $$P$$ टाइम स्लाइस पर एकीकृत करने वाली फाइन विधि के रनटाइम को इस प्रकार मॉडल किया जा सकता है

$$ c_{\text{fine}} = N N_{f} \tau_f. $$

$$P$$ प्रसंस्करण इकाइयों का उपयोग करके और $$k$$ पुनरावृत्तियों को निष्पादित करके पैरारियल का रनटाइम है

$$ c_{\text{parareal}} = (k+1) N N_{c} \tau_c + k N_{f} \tau_f. $$

पैरारियल का स्पीडअप तो है

$$ S_{p} = \frac{c_{\text{fine}}}{c_{\text{parareal}}} = \frac{1}{ (k+1) \frac{N_c}{N_f} \frac{\tau_c}{\tau_f} + \frac{k}{N}} \leq \min\left\{ \frac{N_f \tau_f}{N_c \tau_c}, \frac{N}{k} \right\}.$$

ये दो सीमाएँ कोर्स विधियों को चुनने में किए जाने वाले व्यापार को दर्शाती हैं: एक ओर, इसे सस्ता होना होगा और/या पहली सीमा को जितना संभव हो उतना बड़ा बनाने के लिए बहुत बड़े समय के कदम का उपयोग करना होगा, दूसरी ओर दूसरी सीमा को बड़ा रखने के लिए पुनरावृत्तियों की संख्या $$k$$ को कम रखना होगा।

विशेष रूप से, पैरारियल की समानांतर दक्षता सीमित है

$$ E_{p} = \frac{S_p}{N} \leq \frac{1}{k},$$

यह आवश्यक पुनरावृत्तियों की संख्या के व्युत्क्रम से है।

काल्पनिक आइजेनवैल्यूज़ ​​​​के लिए अस्थिरता
पैरारियल के वेनिला संस्करण में काल्पनिक आइगेनवैल्यूज़ एवं आइगेनवेक्टर्स के साथ समस्याएं हैं। यह सामान्यतः केवल अंतिम पुनरावृत्तियों की ओर ही परिवर्तित होता है, अर्थात जैसे-जैसे $$k$$ $$N$$ क्वे निकट पहुंचता है, और स्पीडअप $$ S_p$$ सदैव से छोटा होता है। तो या तो पुनरावृत्तियों की संख्या छोटी है और पैरारियल अस्थिर है या, यदि $$k$$ पैरारियल को स्थिर बनाने के लिए पर्याप्त बड़ा है, कोई गति संभव नहीं है। इसका यह भी अर्थ है कि हाइपरबोलिक आंशिक अंतर समीकरण समीकरणों के लिए पैरारियल सामान्यतः अस्थिर है। भले ही गैंडर और वांडेवेले द्वारा औपचारिक विश्लेषण केवल निरंतर गुणांक के साथ रैखिक समस्याओं को कवर करता है, समस्या तब भी उत्पन्न होती है जब पैरारियल को गैर-रेखीय नेवियर-स्टोक्स समीकरणों पर लागू किया जाता है जब चिपचिपाहट गुणांक बहुत छोटा हो जाता है और रेनॉल्ड्स संख्या बहुत बड़ी हो जाती है। पैरारियल को स्थिर करने के लिए विभिन्न दृष्टिकोण उपस्थित हैं, क्रायलोव-सबस्पेस संवर्धित पैरारियल में से एक है।

वेरिएंट
ऐसे कई एल्गोरिदम हैं जो सामान्यतः आधारित हैं या कम से कम मूल पैरारियल एल्गोरिदम से प्रेरित हैं।

क्रायलोव-सबस्पेस ने पैरारियल को बढ़ाया
प्रारंभ में ही यह माना गया कि रैखिक समस्याओं के लिए सूचना सूक्ष्म विधि द्वारा उत्पन्न की जाती है $$\mathcal{F}_{\delta t}$$ कोर्स तरीके की शुद्धता में सुधार के लिए इसका उपयोग किया जा सकता है $$\mathcal{G}_{\Delta t}$$. मूल रूप से, यह विचार समानांतर अंतर्निहित समय-एकीकरणकर्ता PITA के लिए तैयार किया गया था, यह विधि है जो पैरारियल से निकटता से संबंधित है लेकिन सुधार कैसे किया जाता है इसमें थोड़ा अंतर है। प्रत्येक पुनरावृत्ति में $$k$$ परिणाम $$\mathcal{F}_{\delta t}(U^k_j)$$ मूल्यों के लिए गणना की जाती है $$u^k_j \in \mathbb{R}^d$$ के लिए $$j=0, \ldots, N-1$$. इस जानकारी के आधार पर, सदिश स्थल

$$ S_k := \left\{ U^{k'}_j : 0 \leq k' \leq k, j=0, \ldots, N-1 \right\} $$ प्रत्येक पैरारियल पुनरावृत्ति के बाद परिभाषित और अद्यतन किया जाता है। के रूप में निरूपित करें $$ P_k$$ ओर्थोगोनल प्रक्षेपण से $$ \mathbb{R}^d$$ को $$ S_k$$. फिर, कोर्स तरीके को बेहतर इंटीग्रेटर से बदलें $$ \mathcal{K}_{\Delta t}(u) = \mathcal{F}_{\delta t}(P_k u) + \mathcal{G}_{\Delta t}((I-P_k)u)$$.

जैसे-जैसे पुनरावृत्तियों की संख्या बढ़ती है, space $$ S_k$$ बढ़ेगा और संशोधित प्रचारक $$ \mathcal{K}_{\Delta t}$$ अधिक सटीक हो जाएगा. इससे तेजी से अभिसरण हो सकेगा. पैरारियल का यह संस्करण रैखिक अतिशयोक्तिपूर्ण आंशिक अंतर समीकरणों को भी स्थिर रूप से एकीकृत कर सकता है। कम आधार पद्धति पर आधारित अरेखीय समस्याओं का विस्तार भी उपस्थित है।

हाइब्रिड पैरारियल वर्णक्रमीय आस्थगित सुधार
वर्णक्रमीय विलंबित सुधार (एसडीसी) के साथ पैरारियल के संयोजन पर आधारित बेहतर समानांतर दक्षता वाली विधि एम. मिनियन द्वारा प्रस्तावित किया गया है। यह बेहतर समानांतर दक्षता के लिए लचीलेपन का त्याग करते हुए कोर्स और बारीक इंटीग्रेटर के विकल्प को एसडीसी तक सीमित कर देता है। की सीमा के अतिरिक्त $$1/k$$, संकर विधि में समानांतर दक्षता पर बाध्य हो जाता है

$$E_p \leq \frac{k_s}{k_p}$$ साथ $$k_s$$ धारावाहिक एसडीसी आधार पद्धति के पुनरावृत्तियों की संख्या और $$k_p$$ सामान्यतः समानांतर संकर विधि के पुनरावृत्तियों की अधिक संख्या। नॉनलाइनियर मल्टीग्रिड विधि में उपयोग की जाने वाली पूर्ण सन्निकटन योजना को जोड़कर पैरारियल-एसडीसी हाइब्रिड को और बेहतर बनाया गया है। इससे अंतरिक्ष और समय में समानांतर पूर्ण सन्निकटन योजना (पीएफएएसएसटी) का विकास हुआ। पीएफएएसएसटी के प्रदर्शन का अध्ययन पीईपीसी के लिए किया गया है, जो जूलिच सुपरकंप्यूटिंग सेंटर में विकसित बार्न्स-हट सिमुलेशन|बार्न्स-हट ट्री कोड आधारित कण सॉल्वर है। IBM ब्लू जीन/पी सिस्टम JUGENE पर सभी 262,144 कोर का उपयोग करके सिमुलेशन से पता चला कि PFASST स्थानिक वृक्ष समानांतरीकरण की संतृप्ति से परे अतिरिक्त गति उत्पन्न कर सकता है।

समय में मल्टीग्रिड कटौती (एमजीआरआईटी)
मल्टीग्रिड रिडक्शन इन टाइम मेथड (एमजीआरआईटी) विभिन्न स्मूथर्स का उपयोग करके कई स्तरों पर मल्टीग्रिड-इन-टाइम एल्गोरिदम के रूप में पैरारियल की व्याख्या को सामान्यीकृत करता है। यह अधिक सामान्य दृष्टिकोण है लेकिन मापदंडों की विशिष्ट पसंद के लिए यह पैरारियल के बराबर है। एमजीआरआईटी को लागू करने वाली XBraid लाइब्रेरी लॉरेंस लिवरमोर राष्ट्रीय प्रयोगशाला  द्वारा विकसित की जा रही है।

पैराएक्सप
ParaExp, Parareal के भीतर घातीय इंटीग्रेटर्स का उपयोग करता है। रैखिक समस्याओं तक सीमित रहते हुए, यह लगभग इष्टतम समानांतर गति उत्पन्न कर सकता है।

बाहरी संबंध

 * parallel-in-time.org