बृहत् विचलन सिद्धांत

प्रायिकता सिद्धांत में, बृहत् विचलन का सिद्धांत प्रायिकता वितरण के अनुक्रमों के अंतिम पदों अर्थात टेल्स के अनंतस्पर्शी क्रियाविधि से संबंधित है। कुछ सिद्धांत की मूल विचार व्यापकता का पता लाप्लास के द्वारा लगाया जा सकता है, उनकी औपचारिकता बीमा गणित के साथ, विशेषकर क्रैमर और लुंडबर्ग के साथ संराशि सिद्धांत के साथ, हुई। बड़े विचलन सिद्धांत का एक एकीकृत औपचारिकीकरण 1966 में वरदान द्वारा एक पेपर में विकसित किया गया था। बृहत् विचलन सिद्धांत ने मापों की समर्थन की आवधारणाओं को स्वरूपीकृत किया और प्रायिकता मापों के अभिसरण की धारणा को व्यापक रूप से सामान्यीकृत करता है।

स्थूल रूप से कहा जाए तो, बड़ी विचलन सिद्धांत का संबंध कुछ प्रकार के अत्यंत या टेल घटनाओं की प्रायिकता मापों की तीव्र पतन (एक्सपोनेंशिअल डिक्लाइन) के साथ सम्बंधित है।

एक प्राथमिक उदाहरण
एक निष्पक्ष सिक्के को स्वतंत्र रूप से उछालने के क्रम पर विचार करें। संभावित परिणाम चित्त (हेड) या पट्ट (टेल) हो सकते हैं। आइए i-वें परीक्षण के संभावित परिणाम को $X_i$, से निरूपित करें, जहां हम चित्त को 1 और पट्ट को 0 के रूप में एन्कोड करते हैं। अब $$N$$ परीक्षणों के बाद $$M_N$$ को औसत मान दर्शाते हैं, अर्थात्


 * $M_N = \frac{1}{N}\sum_{i=1}^{N} X_i$.

तब $$M_N$$ 0 और 1 के बीच होता है। बड़ी संख्या के नियम से यह ज्ञात होता है कि जैसे-जैसे N बढ़ता है, $$M_N$$ का वितरण $$0.5 = \operatorname{E}[X]$$ में परिवर्तित (एक सिक्के को उछालने का अपेक्षित मूल्य) हो जाता है।

इसके अतिरिक्त, केंद्रीय सीमा प्रमेय के अनुसार, यह इस प्रकार है कि $$M_N$$ लगभग सामान्य रूप से बड़े $N$ के लिए वितरित किया जाता है। केंद्रीय सीमा प्रमेय बड़ी संख्याओं के नियम की तुलना में $$M_N$$ के व्यवहार के बारे में अधिक विस्तृत जानकारी प्रदान कर सकता है। उदाहरण के लिए, हम लगभग $M_N$, $P(M_N > x)$, की एक टेल प्रायिकता प्राप्त कर सकते हैं, कि $N$ के निश्चित मान के लिए $$M_N$$, $x$,से बृहत् होता है। हालाँकि, यदि $$x$$, $$\operatorname{E}[X_i]$$ से दूर है तो केंद्रीय सीमा प्रमेय द्वारा सन्निकटन यथार्थ नहीं हो सकता है जब तक कि $$N$$ पर्याप्त रूप से बृहत् न हो। इसके अतिरिक्त, यह $N \to \infty$ के रूप में टेल प्रायिकताओं के अभिसरण के बारे में जानकारी प्रदान नहीं करता है। हालांकि, बृहत् विचलन सिद्धांत ऐसी समस्याओं के लिए उत्तर प्रदान कर सकता है।

आइये इस कथन को और अधिक यथार्थ बनाते हैं। किसी दिए गए मान $0.5 x)$. की गणना करें। निम्न रूप से परिभाषित है


 * $I(x) = x\ln{x} + (1-x) \ln(1-x) + \ln{2}$.

ध्यान दें कि फलन $$I(x)$$ उत्तल, अऋणात्मक फलन है जो $$x = \tfrac{1}{2}$$ पर शून्य है और जैसे-जैसे $$x$$, $1$ के निकट सन्निकर्ष होता है। यह $p = \tfrac{1}{2}$ के साथ बर्नौली एन्ट्रापी का ऋणात्मक है; यह सिक्का उछालने के लिए उपयुक्त है, यह बर्नौली परीक्षण पर लागू एसिम्प्टोटिक समविभाजन गुण से पता चलता है। फिर चेर्नॉफ़ की असमानता से, यह दिखाया जा सकता है कि $P(M_N > x) < \exp(-NI(x))$। यह सीमा काफी तीव्र है, इस अर्थ में कि $$I(x)$$ को बड़ी संख्या से प्रतिस्थापित नहीं किया जा सकता है जो सभी प्रतिदर्शों $N$ के लिए एक सख्त असमानता उत्पन्न करेगा। (हालाँकि, घातांकीय सीमा को अभी भी $1/\sqrt N$ के क्रम पर एक उपघातीय कारक द्वारा कम किया जा सकता है; यह बर्नौली वितरण में प्रदर्शित द्विपद गुणांक पर लागू स्टर्लिंग सन्निकटन से होता है।) इसलिए, हम निम्नलिखित परिणाम प्राप्त करते हैं:


 * $P(M_N > x) \approx \exp(-NI(x))$.

प्रायिकता $$P(M_N > x)$$ x पर निर्भर दर पर तेजी से $$N \to \infty$$ के रूप में घट जाती है। यह सूत्र आई.आई.डी. के प्रतिदर्श माध्य की किसी भी टेल प्रायिकता का अनुमान लगाता है। प्रतिदर्शों की संख्या बढ़ने पर यह परिवर्तनशील हो जाता है और कन्वर्जेन्स प्रदान करता है।

स्वतंत्र यादृच्छिक चर के योग के लिए बृहत् विचलन
सिक्का उछालने के उपरोक्त उदाहरण में हमने स्पष्ट रूप से मान लिया है कि प्रत्येक उछाल एक स्वतंत्र परीक्षण है, और चित्त या पट्ट आने की प्रायिकता सदैव समान होती है।

मान लीजिए $$X,X_1,X_2, \ldots$$ स्वतंत्र और समान रूप से वितरित (आई.आई.डी.) यादृच्छिक चर हैं जिनका सामान्य वितरण एक निश्चित वृद्धि की स्थिति को संतुष्ट करता है। फिर निम्नलिखित सीमा विद्यमान है:


 * $\lim_{N\to \infty} \frac{1}{N} \ln P(M_N > x) = - I(x)$.

यहाँ


 * $M_N = \frac{1}{N}\sum_{i=1}^{N} X_i$,

पूर्व अनुसार।

फलन $$I(\cdot)$$ को "रेट फलन" या "क्रैमर फलन" या कभी-कभी "एंट्रॉपी फलन" कहा जाता है।

उपर्युक्त सीमा का अर्थ है कि बड़े $N$ के लिए,


 * $P(M_N >x) \approx \exp[-NI(x) ]$,

जो कि बृहत् विचलन सिद्धांत का मूल परिणाम है।

यदि हम $X$ का प्रायिकता वितरण जानते हैं, तो दर फलन के लिए एक स्पष्ट अभिव्यक्ति प्राप्त की जा सकती है। यह लीजेंड्रे-फेन्चेल परिवर्तन द्वारा दिया गया है,
 * $I(x) = \sup_{\theta > 0} [\theta x - \lambda(\theta)]$,

जहाँ


 * $$\lambda(\theta) = \ln \operatorname{E}[\exp(\theta X)]$$

को क्यूम्युलेंट जेनरेटिंग फलन (सीजीएफ) कहा जाता है और $$\operatorname{E}$$ गणितीय अपेक्षा को दर्शाता है।

यदि $$X$$ सामान्य वितरण का अनुसरण करता है, तो दर फलन सामान्य वितरण के माध्य पर अपने शीर्ष के साथ एक परवलय बन जाता है।

यदि $$\{X_i\}$$ एक इरेड्यूसिबल और एपेरियोडिक मार्कोव श्रृंखला है, तो ऊपर बताए गए मूल बृहत् विचलन परिणाम का प्रकार धारण किया जा सकता है।

स्वतंत्र यादृच्छिक चर के योग के लिए मध्यम विचलन
पिछले उदाहरण ने घटना $$[M_N>x]$$ की प्रायिकता को नियंत्रित किया, अर्थात, संहतसमुच्चय $$[-x,x]$$ पर $$M_N$$ के नियम की समाहृतता है। कुछ अनुक्रम $$a_N\to 0$$ के लिए घटना $$[M_N>x a_N]$$ की प्रायिकता को नियंत्रित करना भी संभव है। निम्नलिखित एक मध्यम विचलन सिद्धांत का एक उदाहरण है:

विशेष रूप से, सीमा स्थिति $$a_N=\sqrt{N}$$ केंद्रीय सीमा प्रमेय है.

औपचारिक परिभाषा
पोलिश समष्टि $$\mathcal{X}$$ दिया गया है, माना $\mathcal{X}$ पर, $$\{\mathbb{P}_N\}$$ बोरेल प्रायिकता मापों का एक अनुक्रम है, माना $$\{a_N\}$$ एक धनात्मक वास्तविक संख्याओं का एक अनुक्रम है जिसमें $\lim_N a_N=\infty$, है, और अंत में $$I:\mathcal{X}\to [0, \infty]$$ एक $$\mathcal{X}$$ पर न्यून सेमी-संबंधित कार्यात्मक है। अनुक्रम $$\{\mathbb{P}_N\}$$ को गति $$\{a_n\}$$ और दर $$I$$ के साथ एक बृहत् विचलन सिद्धांत को संतुष्ट करने के लिए कहा जाता है यदि, और केवल यदि, प्रत्येक बोरेल मापने योग्य समुच्चय $E \subset \mathcal{X}$ के लिए,


 * $-\inf_{x \in E^\circ} I(x) \le \varliminf_N a_N^{-1} \log(\mathbb{P}_N(E)) \le \varlimsup_N a_N^{-1} \log(\mathbb{P}_N(E)) \le -\inf_{x \in \overline{E}} I(x)$,|undefined

जहां $$\overline{E}$$ और $$E^\circ$$ क्रमशः $E$ के समापन और आंतरिक भाग को दर्शाते हैं।

संक्षिप्त इतिहास
बृहत् विचलनों से संबंधित पहले कठोर परिणाम स्वीडिश गणितज्ञ हेराल्ड क्रैमर के कारण हैं, जिन्होंने उन्हें बीमा व्यवसाय के मॉडल के लिए लागू किया था। एक बीमा कंपनी के दृष्टिकोण से, आजीविका प्रति माह स्थिर दर (मासिक प्रीमियम) पर होती है लेकिन दावे अनियमित रूप से आते हैं। कंपनी को एक निश्चित अवधि (अधिमानतः कई महीनों) में सफल होने के लिए, कुल आजीविका कुल दावे से अधिक होनी चाहिए। इस प्रकार प्रीमियम का अनुमान लगाने के लिए आपको निम्नलिखित प्रश्न पूछना होगा: "हमें प्रीमियम $$q$$ के रूप में क्या चुनना चाहिए जिससे कि $$N$$ महीनों में कुल दावा $$C = \Sigma X_i$$, $Nq$ से कम हो?" यह स्पष्टतः वही प्रश्न है जो बड़े विचलन सिद्धांत द्वारा पूछा गया है। क्रैमर ने आई.आई.डी. के लिए इस प्रश्न का समाधान दिया। यादृच्छिक चर, जहां दर फलन को घातीय श्रृंखला के रूप में व्यक्त किया जाता है।

महत्वपूर्ण प्रगति करने वाले गणितज्ञों की एक बहुत ही अधूरी सूची में एलेक्सी ज़िनोविविच पेत्रोव सम्मिलित होंगे, सनोव का प्रमेय, एस.आर.एस. वरदान (जिन्होंने सिद्धांत में अपने योगदान के लिए एबेल पुरस्कार जीता है), डी. रुएल, ऑस्कर लैनफोर्ड|ओ.ई. लैनफोर्ड, अमीर डेम्बो, और ओफ़र ओलिव।

अनुप्रयोग
संभाव्य मॉडल से जानकारी एकत्र करने के लिए बृहत् विचलन के सिद्धांतों को प्रभावी रूप से लागू किया जा सकता है। इस प्रकार, बड़े विचलन का सिद्धांत सूचना सिद्धांत और जोखिम प्रबंधन में अपना आवेदन पाता है। भौतिकी में, बड़े विचलन सिद्धांत का सबसे प्रसिद्ध अनुप्रयोग उष्मागतिकी और सांख्यिकीय यांत्रिकी (दर फ़ंक्शन के साथ एन्ट्रॉपी के संबंध में) में उत्पन्न होता है।

बृहत् विचलन और एन्ट्रापी
दर फलन सांख्यिकीय यांत्रिकी में एन्ट्रॉपी से संबंधित है। इसे अनुमानतः निम्नलिखित प्रकार से देखा जा सकता है। सांख्यिकीय यांत्रिकी में एक विशेष मैक्रो-स्टेट की एन्ट्रापी सूक्ष्म-स्टेट्स की संख्या से संबंधित होती है जो इस मैक्रो-स्टेट से मेल खाती है। हमारे सिक्का उछालने के उदाहरण में औसत मान $$M_N$$ एक विशेष मैक्रो-स्टेट को निर्दिष्ट कर सकता है। और चित और पट का विशेष क्रम, जो $$M_N$$ के एक विशेष मान को जन्म देता है, एक विशेष सूक्ष्म-अवस्था का गठन करता है। मोटे तौर पर कहें तो एक मैक्रो-स्टेट जिसमें अधिक संख्या में माइक्रो-स्टेट्स होते हैं, जिससे इसकी एन्ट्रापी अधिक होती है। और उच्च एन्ट्रापी वाली स्थिति के वास्तविक प्रयोगों में साकार होने की संभावना अधिक होती है। 1/2 के माध्य मान वाले मैक्रो-स्टेट (जितने हेड उतने टेल) में माइक्रो-स्टेट्स की संख्या सबसे अधिक होती है जो इसे जन्म देती है और यह वास्तव में उच्चतम एंट्रॉपी वाली स्थति है। और अधिकांश व्यावहारिक स्थितियों में हम बड़ी संख्या में परीक्षणों के लिए वास्तव में इस मैक्रो-स्टेट को प्राप्त करेंगे। दूसरी ओर "दर फलन" एक विशेष मैक्रो-स्टेट की उपस्थिति की प्रायिकता को मापता है। दर फलन जितना छोटा होगा मैक्रो-स्टेट के प्रकट होने की प्रायिकता उतनी ही अधिक होगी। हमारे सिक्के उछालने में 1/2 के बराबर औसत मान के लिए "दर फलन" का मान शून्य है। इस प्रकार कोई "दर फलन" को "एन्ट्रॉपी" के ऋणात्मक के रूप में देख सकता है।

बृहत् विचलन सिद्धांत में दर फलन और कुल्बैक-लीबलर विचलन के बीच एक संबंध है, यह संबंध सनोव के प्रमेय द्वारा स्थापित किया गया है (सनोव देखें) और नोवाक, चौ. 14.5).

एक विशेष स्थति में, बृहत् विचलन ग्रोमोव-हॉसडॉर्फ़ सीमा की अवधारणा से निकटता से संबंधित हैं।

यह भी देखें

 * बृहत् विचलन सिद्धांत
 * क्रैमर का बृहत् विचलन प्रमेय
 * चेर्नॉफ़ की असमानता
 * सनोव का प्रमेय
 * संकुचन सिद्धांत (बृहत् विचलन सिद्धांत), बृहत् विचलन सिद्धांतों को कैसे मापते हैं, इसका एक परिणाम
 * फ़्रीडलिन-वेंटज़ेल प्रमेय, इटो प्रसार के लिए एक बृहत् विचलन सिद्धांत
 * पौराणिक परिवर्तन, पहनावा तुल्यता इस परिवर्तन पर आधारित है।
 * लाप्लास सिद्धांत (बृहत् विचलन सिद्धांत), Rd में एक बृहत् विचलन सिद्धांत
 * लाप्लास की विधि
 * शिल्डर का प्रमेय, एक प्रकार कि गति के लिए एक बृहत् विचलन सिद्धांत
 * वर्धन की लेम्मा
 * चरम मूल्य सिद्धांत
 * गाऊसी यादृच्छिक फलनों का बृहत् विचलन

ग्रन्थसूची

 * Special invited paper: Large deviations by S. R. S. Varadhan The Annals of Probability 2008, Vol. 36, No. 2, 397–419
 * A basic introduction to large deviations: Theory, applications, simulations, Hugo Touchette, arXiv:1106.4146.
 * Entropy, Large Deviations and Statistical Mechanics by R.S. Ellis, Springer Publication. ISBN 3-540-29059-1
 * Large Deviations for Performance Analysis by Alan Weiss and Adam Shwartz. Chapman and Hall ISBN 0-412-06311-5
 * Large Deviations Techniques and Applications by Amir Dembo and Ofer Zeitouni. Springer ISBN 0-387-98406-2
 * Random Perturbations of Dynamical Systems by M.I. Freidlin and A.D. Wentzell. Springer ISBN 0-387-98362-7
 * "Large Deviations for Two Dimensional Navier-Stokes Equation with Multiplicative Noise", S. S. Sritharan and P. Sundar, Stochastic Processes and Their Applications, Vol. 116 (2006) 1636–1659.
 * "Large Deviations for the Stochastic Shell Model of Turbulence", U. Manna, S. S. Sritharan and P. Sundar, NoDEA Nonlinear Differential Equations Appl. 16 (2009), no. 4, 493–521.