ब्रेगमैन विचलन

गणित में, विशेष रूप से सांख्यिकी और सूचना ज्यामिति, ब्रैगमैन डाइवर्जेंस या ब्रैगमैन दूरी दो बिंदुओं के बीच के अंतर का एक उपाय है, जिसे सख्ती से उत्तल कार्य के संदर्भ में परिभाषित किया गया है; वे डायवर्जेंस (सांख्यिकी) का महत्वपूर्ण वर्ग बनाते हैं। जब बिंदुओं की व्याख्या संभाव्यता वितरण के रूप में की जाती है - विशेष रूप से या तो पैरामीट्रिक मॉडल के पैरामीटर के मान के रूप में या देखे गए मानों के डेटा समुच्चय के रूप में - परिणामी दूरी सांख्यिकीय दूरी होती है। सबसे बुनियादी ब्रैगमैन डाइवर्जेंस वर्ग यूक्लिडियन दूरी है।

ब्रेगमैन डायवर्जेंस मीट्रिक (गणित) के समान हैं, लेकिन न तो त्रिकोण असमानता (कभी) और न ही समरूपता (सामान्य रूप से) को संतुष्ट करते हैं। चूंकि, वे पायथागॉरियन प्रमेय के सामान्यीकरण को संतुष्ट करते हैं, और सूचना ज्यामिति में संबंधित सांख्यिकीय बहुरूपता (दोहरी) फ्लैट बहुरूपता के रूप में व्याख्या की जाती है। यह अनुकूलन सिद्धांत की कई तकनीकों को ब्रैगमैन डायवर्जेंस के लिए सामान्यीकृत करने की अनुमति देता है, ज्यामितीय रूप से कम से कम वर्गों के सामान्यीकरण के रूप में।

ब्रेगमैन डाइवर्जेंस का नाम रूसी गणितज्ञ लेव एम. ब्रेगमैन के नाम पर रखा गया है, जिन्होंने 1967 में इस अवधारणा को प्रस्तुत किया था।

परिभाषा

मान लीजिये $F:\Omega \to \mathbb {R}$ को उत्तल समुच्चय $\Omega$ पर परिभाषित एक निरंतर-भिन्न, सख्ती से उत्तल फ़ंक्शन है।

बिंदु $p,q\in \Omega$ के लिए F से जुड़ी ब्रैगमैन दूरी, बिंदु p पर F के मान और बिंदु p पर मूल्यांकन किए गए बिंदु q के आसपास F के प्रथम-क्रम टेलर विस्तार के मूल्य के बीच का अंतर है:

$D_{F}(p,q)=F(p)-F(q)-\langle \nabla F(q),p-q\rangle .$

गुण

• गैर-नकारात्मकता: $D_{F}(p,q)\geq 0$ सभी $p$,$q$ के लिए यह $F$ की उत्तलता का परिणाम है।
• सकारात्मकता: जब $F$ सख्ती से उत्तल होता है, तो $D_{F}(p,q)=0$ यदि $p=q$ है।
• एफ़िन अंतर तक विशिष्टता: $D_{F}=D_{G}$ यदि $F-G$ एक एफ़िन फ़ंक्शन है।
• उत्तलता: $D_{F}(p,q)$ अपने पहले तर्क में उत्तल है, लेकिन आवश्यक नहीं कि दूसरे तर्क में हो यदि $F$ सख्ती से उत्तल है, तो $D_{F}(p,q)$ अपने पहले तर्क में सख्ती से उत्तल है।
  • उदाहरण के लिए, f(x) = |x| मान लें, इसे 0 पर समतल करें, फिर मान लें $y=1,x_{1}=0.1,x_{2}=-0.9,x_{3}=0.9x_{1}+0.1x_{2}$, जब $D_{f}(y,x_{3})\approx 1>0.9D_{f}(y,x_{1})+0.1D_{f}(y,x_{2})\approx 0.2$ होता है।
• रैखिकता: यदि हम ब्रैगमैन दूरी को फ़ंक्शन $F$ पर एक ऑपरेटर के रूप में सोचते हैं, तो यह गैर-नकारात्मक गुणांक के संबंध में रैखिक है। दूसरे शब्दों में, $F_{1},F_{2}$ के लिए सख्ती से उत्तल और अवकलनीय, और $\lambda \geq 0$,

$D_{F_{1}+\lambda F_{2}}(p,q)=D_{F_{1}}(p,q)+\lambda D_{F_{2}}(p,q)$

• द्वैत: यदि F सख्ती से उत्तल है, तो फ़ंक्शन F में एक उत्तल संयुग्म $F^{*}$ है जो सख्ती से उत्तल भी है और कुछ उत्तल समुच्चय $\Omega ^{*}$ पर लगातार भिन्न होता है। $F^{*}$ के संबंध में परिभाषित ब्रैगमैन दूरी $D_{F}(p,q)$ के रूप में द्वैत है, जैसे$D_{F^{*}}(p^{*},q^{*})=D_{F}(q,p)$

यहाँ, $p^{\ast <!--\; \ast \; -->}=\mathrm{\nabla <!--\; \nabla \; -->}$