ग्राह्य निर्णय नियम

सांख्यिकीय निर्णय सिद्धांत में, एक ग्राह्यनिर्णयफलन नियम है जैसे कि कोई अन्य नियम नहीं है जो सदैव इससे अपेक्षाकृत अधिक होता है। (या कम से कम बेहतर और इससे बुरा कभी नहीं), नीचे बेहतर परिभाषित के त्रुटिहीन अर्थ में। यह अवधारणा पेरेटो दक्षता के अनुरूप है।

परिभाषा
सेट को परिभाषित करें (गणित) $$\Theta\,$$, $$\mathcal{X}$$ और $$\mathcal{A}$$, कहाँ $$\Theta\,$$ प्रकृति की अवस्थाएँ हैं, $$\mathcal{X}$$ संभावित अवलोकन, और $$\mathcal{A}$$ जो कार्रवाई की जा सकती है. का एक अवलोकन $$x \in \mathcal{X}\,\!$$ के रूप में वितरित किया जाता है $$F(x\mid\theta)\,\!$$ और इसलिए प्रकृति की स्थिति के बारे में साक्ष्य प्रदान करता है $$\theta\in\Theta\,\!$$. निर्णय नियम एक फलन है (गणित) $$\delta:{\mathcal{X}}\rightarrow {\mathcal{A}}$$, जहां अवलोकन करने पर $$x\in \mathcal{X}$$, हम कार्रवाई करना चुनते हैं $$\delta(x)\in \mathcal{A}\,\!$$.

हानि फलन को भी परिभाषित करें $$L: \Theta \times \mathcal{A} \rightarrow \mathbb{R}$$, जो कार्रवाई करने से हमें होने वाले नुकसान को निर्दिष्ट करता है $$a \in \mathcal{A}$$ जब प्रकृति की वास्तविक स्थिति है $$\theta \in \Theta$$. आमतौर पर हम डेटा देखने के बाद यह कार्रवाई करेंगे $$x \in \mathcal{X}$$, ताकि नुकसान हो $$L(\theta,\delta(x))\,\!$$. (अपरंपरागत होते हुए भी उपयोगिता फलन के संदर्भ में निम्नलिखित परिभाषाओं को दोबारा बनाना संभव है, जो नुकसान का नकारात्मक है।)

जोखिम फलन को अपेक्षित मूल्य के रूप में परिभाषित करें


 * $$R(\theta,\delta)=\operatorname{E}_{F(x\mid\theta)}[{L(\theta,\delta(x))]}.\,\!$$

चाहे कोई निर्णय नियम हो $$\delta\,\!$$ जोखिम कम होना प्रकृति की वास्तविक स्थिति पर निर्भर करता है $$\theta\,\!$$. एक निर्णय नियम $$\delta^*\,\!$$ प्रभुत्वकारी निर्णय नियम एक निर्णय नियम $$\delta\,\!$$ अगर और केवल अगर $$R(\theta,\delta^*)\le R(\theta,\delta)$$ सभी के लिए $$\theta\,\!$$, और कुछ के लिए असमानता असमानता (गणित) है $$\theta\,\!$$.

एक निर्णय नियम स्वीकार्य है (नुकसान फलन के संबंध में) यदि और केवल तभी जब कोई अन्य नियम उस पर हावी न हो; अन्यथा यह अस्वीकार्य है. इस प्रकार उपरोक्त आंशिक आदेश के संबंध में एक स्वीकार्य निर्णय नियम एक अधिकतम तत्व है। एक अस्वीकार्य नियम को प्राथमिकता नहीं दी जाती है (सरलता या कम्प्यूटेशनल दक्षता के कारणों को छोड़कर), क्योंकि परिभाषा के अनुसार कुछ अन्य नियम हैं जो सभी के लिए समान या कम जोखिम प्राप्त करेंगे। $$\theta\,\!$$. किन्तु सिर्फ इसलिए कि एक नियम $$\delta\,\!$$ स्वीकार्य है इसका मतलब यह नहीं है कि यह उपयोग करने के लिए एक अच्छा नियम है। स्वीकार्य होने का मतलब है कि कोई अन्य एकल नियम नहीं है जो सदैव उतना अच्छा या बेहतर हो - किन्तु अन्य स्वीकार्य नियम अधिकांश लोगों के लिए कम जोखिम प्राप्त कर सकते हैं $$\theta\,\!$$ जो व्यवहार में घटित होता है। (नीचे चर्चा किया गया बेयस जोखिम स्पष्ट रूप से विचार करने का एक विधि है $$\theta\,\!$$ व्यवहार में घटित होता है।)

बेयस नियम
होने देना $$\pi(\theta)\,\!$$ प्रकृति की अवस्थाओं पर संभाव्यता वितरण बनें। बायेसियन संभाव्यता दृष्टिकोण से, हम इसे पूर्व वितरण के रूप में मानेंगे। अर्थात्, डेटा के अवलोकन से पहले, यह प्रकृति की अवस्थाओं पर हमारा माना हुआ संभाव्यता वितरण है। आवृत्ति संभाव्यता के लिए, यह केवल एक फलन है $$\Theta\,\!$$ ऐसी किसी विशेष व्याख्या के बिना। निर्णय नियम का बेयस जोखिम $$\delta\,\!$$ इसके संबंध में $$\pi(\theta)\,\!$$ अपेक्षा है


 * $$r(\pi,\delta)=\operatorname{E}_{\pi(\theta)}[R(\theta,\delta)].\,\!$$

एक निर्णय नियम $$\delta\,\!$$ वह न्यूनतम करता है $$r(\pi,\delta)\,\!$$ के संबंध में बेयस अनुमानक कहा जाता है $$\pi(\theta)\,\!$$  ऐसे एक से अधिक बेयस नियम हो सकते हैं। यदि बेयस जोखिम सभी के लिए अनंत है $$\delta\,\!$$, तो कोई बेयस नियम परिभाषित नहीं है।

सामान्यीकृत बेयस नियम
निर्णय सिद्धांत के बायेसियन दृष्टिकोण में, देखा गया $$x\,\!$$ निर्धारित माना जाता है। जबकि बारंबारवादी दृष्टिकोण (अर्थात, जोखिम) संभावित नमूनों पर औसत रहता है$$x \in \mathcal{X}\,\!$$, बायेसियन देखे गए नमूने को सही कर देगा $$x\,\!$$ और परिकल्पनाओं पर औसत $$\theta \in \Theta\,\!$$। इस प्रकार, बायेसियन दृष्टिकोण हमारे अवलोकन के लिए विचार करने योग्य होता है $$x\,\!$$ अपेक्षित हानि होती है


 * $$\rho(\pi,\delta \mid x)=\operatorname{E}_{\pi(\theta \mid x)} [ L(\theta,\delta(x)) ]. \,\!$$

जहाँ अपेक्षा पीछे के भाग से अधिक होता है $$\theta\,\!$$ दिया गया $$x\,\!$$ ( $$\pi(\theta)\,\!$$ और $$F(x\mid\theta)\,\!$$ बेयस प्रमेय का उपयोग करके प्राप्त होता है)।

प्रत्येक दिए गए के लिए अपेक्षित हानि को स्पष्ट करना $$x\,\!$$ अलग से, हम एक निर्णय नियम को परिभाषित कर सकते हैं $$\delta\,\!$$ प्रत्येक के लिए निर्दिष्ट करके $$x\,\!$$ एक कार्यवाही $$\delta(x)\,\!$$ जो अपेक्षित हानि को कम करता है। इसके संबंध में इसे सामान्यीकृत बेयस नियम के रूप में जाना जाता है $$\pi(\theta)\,\!$$। एक से अधिक सामान्यीकृत बेयस नियम हो सकते हैं, क्योंकि कई विकल्प हो सकते हैं $$\delta(x)\,\!$$ जिससे वही अपेक्षित हानि प्राप्त होती है।

सबसे पहले, यह पिछले अनुभाग के बेयस नियम दृष्टिकोण से भिन्न प्रतीत हो सकता है, सामान्यीकरण नहीं। चूँकि, ध्यान दें कि बेयस जोखिम पहले ही औसत हो चुका है $$\Theta\,\!$$ बायेसियन फैशन में, और उम्मीद खत्म होने पर बेयस जोखिम की भरपाई की जा सकती है $$\mathcal{X}$$ अपेक्षित हानि का (जहाँ $$x\sim\theta\,\!$$ और $$\theta\sim\pi\,\!$$). मोटे तौर पर, $$\delta\,\!$$ अपेक्षित हानि की इस अपेक्षा को कम करता है (अर्थात्, एक बेयस नियम है) यदि और केवल यदि यह प्रत्येक के लिए अपेक्षित हानि को कम करता है $$x \in \mathcal{X}$$ अलग से (अर्थात्, एक सामान्यीकृत बेयस नियम है)।

तो फिर सामान्यीकृत बेयस नियम की धारणा में सुधार क्यों है? यह वास्तव में बेयस नियम की धारणा के बराबर है जब एक बेयस नियम सम्मलित होता है $$x\,\!$$ सकारात्मक संभावना है. चूँकि, यदि बेयस जोखिम अनंत है (सभी के लिए) तो कोई बेयस नियम सम्मलित नहीं है $$\delta\,\!$$). इस स्थिति में सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी उपयोगी है $$\delta\,\!$$, जो कम से कम न्यूनतम-अपेक्षित-नुकसान वाली कार्रवाई चुनता है $$\delta(x)\!\,$$ उन लोगों के लिए $$x\,\!$$ जिसके लिए एक सीमित-अपेक्षित-हानि कार्रवाई सम्मलित होता है। इसके अतिरिक्त, एक सामान्यीकृत बेयस नियम वांछनीय हो सकता है क्योंकि इसमें न्यूनतम-अपेक्षित-नुकसान वाली कार्रवाई का चयन करना होगा $$\delta(x)\,\!$$ हरएक के लिए $$x\,\!$$, जबकि बेयस नियम को सेट पर इस नीति से विचलित होने की अनुमति दी जाएगी $$X \subseteq \mathcal{X}$$ बेयस जोखिम को प्रभावित किए बिना माप 0 का।

अधिक महत्वपूर्ण बात यह है कि कभी-कभी अनुचित पूर्व का उपयोग करना सुविधाजनक होता है $$\pi(\theta)\,\!$$. इस स्थिति में, बेयस जोखिम भी अच्छी तरह से परिभाषित नहीं है, न ही कोई अच्छी तरह से परिभाषित वितरण है $$x\,\!$$. चूँकि, पश्च $$\pi(\theta\mid x)\,\!$$-और इसलिए अपेक्षित हानि-प्रत्येक के लिए अच्छी तरह से परिभाषित हो सकती है $$x\,\!$$, ताकि सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी संभव हो सके।

(सामान्यीकृत) बेयस नियमों की स्वीकार्यता
संपूर्ण वर्ग प्रमेयों के अनुसार, हल्की परिस्थितियों में प्रत्येक स्वीकार्य नियम एक (सामान्यीकृत) बेयस नियम है (कुछ पूर्व के संबंध में) $$\pi(\theta)\,\!$$-संभवतः एक अनुचित—जो वितरण का पक्ष लेता है $$\theta\,\!$$ जहां वह नियम कम जोखिम प्राप्त करता है)। इस प्रकार, बारंबारतावादी निर्णय सिद्धांत में केवल (सामान्यीकृत) बेयस नियमों पर विचार करना पर्याप्त है।

इसके विपरीत, जबकि उचित पूर्ववर्ती संबंध में बेयस नियम वस्तुतः सदैव स्वीकार्य होते हैं, पूर्व संभाव्यता अनुचित पूर्ववर्ती के अनुरूप सामान्यीकृत बेयस नियमों को स्वीकार्य प्रक्रियाएं प्रदान करने की आवश्यकता नहीं होती है। स्टीन का उदाहरण ऐसी ही एक प्रसिद्ध स्थिति होती है।

उदाहरण
जेम्स-स्टीन अनुमानक गॉसियन यादृच्छिक सदिश के माध्य का एक गैर-रेखीय अनुमानक है जिसे माध्य-वर्ग त्रुटि हानि फलन के संबंध में सामान्य न्यूनतम वर्ग तकनीक होने पर या बेहतर प्रदर्शन करने के लिए दिखाया जा सकता है। इस प्रकार इस संदर्भ में न्यूनतम वर्ग अनुमान एक स्वीकार्य अनुमान प्रक्रिया नहीं है। सामान्य वितरण से जुड़े कुछ अन्य मानक अनुमान भी अस्वीकार्य होते हैं: उदाहरण के लिए, जनसंख्या माध्य और विचरण अज्ञात होने पर नमूना मूल्याकंन करना होता है।