समकालिक प्रक्षोभ प्रसंभाव्यता सन्निकटन

समकालिक प्रक्षोभ प्रसंभाव्यता सन्निकटन (एसपीएसए) कई अज्ञात पैरामीटर वाली प्रणाली को अनुकूलित करने के लिए कलन विधि विधि है। यह प्रकार का स्टोकेस्टिक सन्निकटन कलन विधि है। अनुकूलन पद्धति के रूप में यह बड़े पैमाने पर जनसंख्या मॉडल, अनुकूली प्रतिरूप, अनुरूप अनुकूलन और वायुमंडलीय प्रतिरूप के लिए उपयुक्त है। एसपीएसए की वेबसाइट http://www.jhuapl.edu/एसपीएसए पर कई उदाहरण प्रस्तुत किए गए हैं। इस विषय पर विस्तृत पुस्तक भटनागर एवं अन्य हैं। (2013). इस विषय पर प्रारंभिक कागज मंत्र (1987) है और मुख्य सिद्धांत और औचित्य प्रदान करने वाला मूलभूत कागज मंत्र (1992) है।

एसपीएसए एक मूल विधि है जो वैश्विक मिनीमा खोजने में सक्षम है, इस संपत्ति को सिम्युलेटेड एनीलिंग के रूप में अन्य तरीकों से साझा कर रही है। इसकी मुख्य विशेषता प्रवणता सन्निकटन है जिसके लिए अनुकूलन समस्या के आयाम की ध्यान किए बिना उद्देश्य फलन के केवल दो मापों की आवश्यकता होती है। याद रखें कि हम अनुकूलतम नियंत्रण खोजना चाहते हैं $$u^*$$ क्षति के साथ कार्य $$J(u)$$:


 * $$u^* = \arg \min_{u \in U} J(u).$$

दोनों परिमित अंतर स्टोकेस्टिक सन्निकटन (एफडीएसए) और एसपीएसए समान पुनरावृत्ति प्रक्रिया का उपयोग करते हैं


 * $$u_{n+1} = u_n - a_n\hat{g}_n(u_n),$$

जहाँ $$u_n=((u_n)_1,(u_n)_2,\ldots,(u_n)_p)^T$$ का प्रतिनिधित्व करता है $$n^{th}$$ पुनरावृति, $$\hat{g}_n(u_n)$$ उद्देश्य कार्य के प्रवणता का अनुमान है $$g(u)= \frac{\partial}{\partial u}J(u)$$ पर मूल्यांकन किया गया $${u_n}$$, और $$\{a_n\}$$ धनात्मक संख्या क्रम है जो 0 में परिवर्तित हो रहा है। यदि $$u_n$$ P-आयामी दिष्‍ट है $$i^{th}$$ सममित परिमित अंतर प्रवणता अनुमानक का घटक है।


 * FD $$(\hat{g_n}(u_n))_i = \frac{J(u_n+c_ne_i)-J(u_n-c_ne_i)}{2c_n},$$

1 ≤i ≤p, जहां $$e_i$$ 1 के साथ इकाई दिष्‍ट है $$i^{th}$$ स्थान, और $$c_n$$ छोटी धनात्मक संख्या है जो n से घटती है। इस पद्धति के साथ, प्रत्येक के लिए J का 2p मूल्यांकन $$g_n$$ आवश्यकता है। स्पष्ट रूप से, जब p बड़ा होता है, तो यह अनुमानक दक्षता खो देता है।

देख है $$\Delta_n$$ यादृच्छिक प्रक्षोभ दिष्‍ट बनें। $$i^{th}$$ h> स्टोकेस्टिक प्रक्षोभ प्रवणता अनुमानक का घटक है।


 * SP : $$(\hat{g_n}(u_n))_i = \frac{J(u_n+c_n\Delta_n)-J(u_n-c_n\Delta_n)}{2c_n(\Delta_n)_i}.$$

टिप्पणी करें कि FD समय में केवल दिशा को परेशान करता है, जबकि SP अनुमानक ही समय में सभी दिशाओं को परेशान करता है। सभी P घटकों में अंश समान होता है। प्रत्येक के लिए एसपीएसए पद्धति में आवश्यक हानि फलन मापों की संख्या $$g_n$$ आयाम p से स्वतंत्र सदैव 2 होता है। इस प्रकार, एसपीएसए, एफडीएसए की तुलना में p गुना कम फलन मूल्यांकन का उपयोग करता है, जो इसे बहुत अधिक कुशल बनाता है।

P = 2 के साथ सरल प्रयोगों से पता चला है कि एसपीएसए उसी संख्या में पुनरावृत्तियों में एफडीएसए के रूप में अभिसरण करता है। उत्तरार्द्ध प्रवणता पद्धति की भांति व्यवहार करते हुए, सबसे तेज वंश दिशा का अनुसरण करता है। दूसरी ओर, एसपीएसए, यादृच्छिक खोज दिशा के साथ पूरी भांति से प्रवणता पथ का पालन नहीं करता है। चूँकि औसतन, यह इसे लगभग चिह्नित करता है क्योंकि प्रवणता सन्निकटन लगभग निष्पक्ष है प्रवणता का अनुमानक, जैसा कि निम्नलिखित लेम्मा में दिखाया गया है।

अभिसरण लेम्मा
द्वारा निरूपित करें


 * $$b_n = E[\hat{g}_n|u_n] -\nabla J(u_n) $$

अनुमानक में पक्षपात $$\hat{g}_n$$. ये मान लीजिए $$\{(\Delta_n)_i\}$$ शून्य-माध्य, बंधे हुए दूसरे के साथ सभी परस्पर स्वतंत्र हैं क्षण, और $$E(|(\Delta_n)_i|^{-1})$$ समान रूप से बंधा हुआ। तब $$b_n$$→ 0 W.P. 1.

प्रमाण का रेखाचित्र
मुख्य विचार अनुकूलन का उपयोग करना है $$\Delta_n$$ संकेत करना $$E[(\hat{g}_n)_i]$$ और फिर दूसरे क्रम के टेलर विस्तार का उपयोग करने के लिए $$J(u_n+c_n\Delta_n)_i$$ और $$J(u_n-c_n\Delta_n)_i$$. शून्य माध्य और स्वतंत्रता का उपयोग करके बीजगणितीय जोड़ तोड़ के बाद $$\{(\Delta_n)_i\}$$, हम पाते हैं


 * $$E[(\hat{g}_n)_i]=(g_n)_i + O(c_n^2)$$

परिणाम परिकल्पना से आता है कि $$c_n$$→ 0।

इसके बाद हम कुछ परिकल्पनाओं को फिर से प्रारंभ करते हैं जिनके अनुसार $$u_t$$ के वैश्विक न्यूनतम चयनकी संभावना में अभिसरण करता है $$J(u)$$. की दक्षता विधि के आकार पर निर्भर करती है $$J(u)$$, मापदंडों के मान $$a_n$$ और $$c_n$$ और प्रक्षोभ की परिस्थिति का वितरण $$\Delta_{ni}$$. सबसे पहले, कलन विधि मापदंडों को संतुष्ट करना चाहिए निम्नलिखित अवस्था,

इसके लिए अच्छा विकल्प है $$\Delta_{ni}$$ यादृच्छिक चर है, अर्थात बर्नौली +-1 जिसकी प्रायिकता 0.5 है। अन्य विकल्प भी संभव हैं, किन्तु ध्यान दें कि समान और सामान्य वितरण का उपयोग नहीं किया जा सकता, क्योंकि वे परिमित व्युत्क्रम क्षण स्थितियों को संतुष्ट नहीं करते हैं।
 * $$a_n$$ >0, $$a_n$$→0 जब n→∝ और $$\sum_{n=1}^{\infty} a_n = \infty $$. अच्छा विकल्प होगा $$a_n=\frac{a}{n};$$ ए> 0;
 * $$c_n=\frac{c}{n^\gamma}$$, जहां सी> 0, $$ \gamma \in \left[\frac{1}{6},\frac{1}{2}\right]$$;
 * $$\sum_{n=1}^{\infty} (\frac {a_n}{c_n})^2 < \infty $$
 * $$ \Delta_{ni} $$ पारस्परिक रूप से स्वतंत्र शून्य-अर्थात यादृच्छिक चर होना चाहिए। सममित रूप से शून्य के साथ वितरित किया जाना चाहिए $$\Delta_{ni} < a_1 < \infty $$. का उलटा पहला और दूसरा क्षण $$ \Delta_{ni} $$ परिमित होना चाहिए।

हानि फलन जे (यू) तीन बार लगातार भिन्न होने वाला फलन होना चाहिए और तीसरे यौगिक के अलग-अलग तत्वों को बाध्य किया जाना चाहिए। $$|J^{(3)}(u)| < a_3 < \infty $$. भी, $$|J(u)|\rightarrow\infty$$ जैसा $$u\rightarrow\infty$$.

इसके साथ ही, $$\nabla J$$ लिप्सचिट्ज़ निरंतर, परिबद्ध और स्तोत्र होना चाहिए $$ \dot{u}=g(u)$$ प्रत्येक प्रारंभिक स्थिति के लिए अनूठा समाधान होना चाहिए। इन परिस्थिति के अनुसार और कुछ अन्य, $$u_k$$ J(u) के वैश्विक न्यूनतम के समुच्चय की प्रायिकता में अभिसरण (गणित) (देखें मैरीक और चिन, 2008)।

यह दिखाया गया है कि भिन्नता की आवश्यकता नहीं है, निरंतरता और उत्तलता अभिसरण के लिए पर्याप्त हैं।

दूसरे क्रम (न्यूटन) विधियों का विस्तार
यह ज्ञात है कि मानक नियतात्मक न्यूटन-रैफसन कलन विधि ("द्वितीय-क्रम" विधि) का स्टोकेस्टिक संस्करण स्टोकेस्टिक सन्निकटन का विषम रूप से अनुकूलतम या निकट-अनुकूलतम रूप प्रदान करता है। एसपीएसए का उपयोग ध्वनि हानि माप या ध्वनि प्रवणता माप स्टोकास्टिक प्रवणता के आधार पर हानि कार्य के हेसियन मैट्रिक्स का कुशलतापूर्वक अनुमान लगाने के लिए भी किया जा सकता है। मूल एसपीएसए विधि के साथ, समस्या आयाम P के अतिरिक्त, प्रत्येक पुनरावृत्ति पर हानि माप या प्रवणता माप की केवल छोटी निश्चित संख्या की आवश्यकता होती है। स्टोकेस्टिक प्रवणता डिसेंट में संक्षिप्त चर्चा देखें।

संदर्भ

 * Bhatnagar, S., Prasad, H. L., and Prashanth, L. A. (2013), Stochastic Recursive Algorithms for Optimization: Simultaneous Perturbation Methods, Springer.
 * Hirokami, T., Maeda, Y., Tsukada, H. (2006) "Parameter estimation using simultaneous perturbation stochastic approximation", Electrical Engineering in Japan, 154 (2), 30–3
 * Maryak, J.L., and Chin, D.C. (2008), "Global Random Optimization by Simultaneous Perturbation Stochastic Approximation," IEEE Transactions on Automatic Control, vol. 53, pp. 780-783.
 * Spall, J. C. (1987), “A Stochastic Approximation Technique for Generating Maximum Likelihood Parameter Estimates,” Proceedings of the American Control Conference, Minneapolis, MN, June 1987, pp. 1161–1167.
 * Spall, J. C. (1992), “Multivariate Stochastic Approximation Using a Simultaneous Perturbation Gradient Approximation,” IEEE Transactions on Automatic Control, vol. 37(3), pp. 332–341.
 * Spall, J.C. (1998). "Overview of the Simultaneous Perturbation Method for Efficient Optimization" 2. Johns Hopkins APL Technical Digest, 19(4), 482–492.
 * Spall, J.C. (2003) Introduction to Stochastic Search and Optimization: Estimation, Simulation, and Control, Wiley. ISBN 0-471-33052-3 (Chapter 7)