ग्राह्य निर्णय नियम

सांख्यिकीय निर्णय सिद्धांत में, एक स्वीकार्य निर्णय नियम एक निर्णय नियम है जैसे कि कोई अन्य नियम नहीं है जो हमेशा इससे बेहतर हो (या कम से कम कभी-कभी बेहतर और कभी भी बदतर नहीं), नीचे बेहतर परिभाषित के सटीक अर्थ में। यह अवधारणा पेरेटो दक्षता के अनुरूप है।

परिभाषा
सेट को परिभाषित करें (गणित) $$\Theta\,$$, $$\mathcal{X}$$ और $$\mathcal{A}$$, कहाँ $$\Theta\,$$ प्रकृति की अवस्थाएँ हैं, $$\mathcal{X}$$ संभावित अवलोकन, और $$\mathcal{A}$$ जो कार्रवाई की जा सकती है. का एक अवलोकन $$x \in \mathcal{X}\,\!$$ के रूप में वितरित किया जाता है $$F(x\mid\theta)\,\!$$ और इसलिए प्रकृति की स्थिति के बारे में साक्ष्य प्रदान करता है $$\theta\in\Theta\,\!$$. निर्णय नियम एक फलन है (गणित) $$\delta:{\mathcal{X}}\rightarrow {\mathcal{A}}$$, जहां अवलोकन करने पर $$x\in \mathcal{X}$$, हम कार्रवाई करना चुनते हैं $$\delta(x)\in \mathcal{A}\,\!$$.

हानि फलन को भी परिभाषित करें $$L: \Theta \times \mathcal{A} \rightarrow \mathbb{R}$$, जो कार्रवाई करने से हमें होने वाले नुकसान को निर्दिष्ट करता है $$a \in \mathcal{A}$$ जब प्रकृति की वास्तविक स्थिति है $$\theta \in \Theta$$. आमतौर पर हम डेटा देखने के बाद यह कार्रवाई करेंगे $$x \in \mathcal{X}$$, ताकि नुकसान हो $$L(\theta,\delta(x))\,\!$$. (अपरंपरागत होते हुए भी उपयोगिता फ़ंक्शन के संदर्भ में निम्नलिखित परिभाषाओं को दोबारा बनाना संभव है, जो नुकसान का नकारात्मक है।)

जोखिम फ़ंक्शन को अपेक्षित मूल्य के रूप में परिभाषित करें


 * $$R(\theta,\delta)=\operatorname{E}_{F(x\mid\theta)}[{L(\theta,\delta(x))]}.\,\!$$

चाहे कोई निर्णय नियम हो $$\delta\,\!$$ जोखिम कम होना प्रकृति की वास्तविक स्थिति पर निर्भर करता है $$\theta\,\!$$. एक निर्णय नियम $$\delta^*\,\!$$ प्रभुत्वकारी निर्णय नियम एक निर्णय नियम $$\delta\,\!$$ अगर और केवल अगर $$R(\theta,\delta^*)\le R(\theta,\delta)$$ सभी के लिए $$\theta\,\!$$, और कुछ के लिए असमानता असमानता (गणित) है $$\theta\,\!$$.

एक निर्णय नियम स्वीकार्य है (नुकसान फ़ंक्शन के संबंध में) यदि और केवल तभी जब कोई अन्य नियम उस पर हावी न हो; अन्यथा यह अस्वीकार्य है. इस प्रकार उपरोक्त आंशिक आदेश के संबंध में एक स्वीकार्य निर्णय नियम एक अधिकतम तत्व है। एक अस्वीकार्य नियम को प्राथमिकता नहीं दी जाती है (सरलता या कम्प्यूटेशनल दक्षता के कारणों को छोड़कर), क्योंकि परिभाषा के अनुसार कुछ अन्य नियम हैं जो सभी के लिए समान या कम जोखिम प्राप्त करेंगे। $$\theta\,\!$$. लेकिन सिर्फ इसलिए कि एक नियम $$\delta\,\!$$ स्वीकार्य है इसका मतलब यह नहीं है कि यह उपयोग करने के लिए एक अच्छा नियम है। स्वीकार्य होने का मतलब है कि कोई अन्य एकल नियम नहीं है जो हमेशा उतना अच्छा या बेहतर हो - लेकिन अन्य स्वीकार्य नियम अधिकांश लोगों के लिए कम जोखिम प्राप्त कर सकते हैं $$\theta\,\!$$ जो व्यवहार में घटित होता है। (नीचे चर्चा किया गया बेयस जोखिम स्पष्ट रूप से विचार करने का एक तरीका है $$\theta\,\!$$ व्यवहार में घटित होता है।)

बेयस नियम
होने देना $$\pi(\theta)\,\!$$ प्रकृति की अवस्थाओं पर संभाव्यता वितरण बनें। बायेसियन संभाव्यता दृष्टिकोण से, हम इसे पूर्व वितरण के रूप में मानेंगे। अर्थात्, डेटा के अवलोकन से पहले, यह प्रकृति की अवस्थाओं पर हमारा माना हुआ संभाव्यता वितरण है। आवृत्ति संभाव्यता के लिए, यह केवल एक फ़ंक्शन है $$\Theta\,\!$$ ऐसी किसी विशेष व्याख्या के बिना। निर्णय नियम का बेयस जोखिम $$\delta\,\!$$ इसके संबंध में $$\pi(\theta)\,\!$$ अपेक्षा है


 * $$r(\pi,\delta)=\operatorname{E}_{\pi(\theta)}[R(\theta,\delta)].\,\!$$

एक निर्णय नियम $$\delta\,\!$$ वह न्यूनतम करता है $$r(\pi,\delta)\,\!$$ के संबंध में बेयस अनुमानक कहा जाता है $$\pi(\theta)\,\!$$. ऐसे एक से अधिक बेयस नियम हो सकते हैं। यदि बेयस जोखिम सभी के लिए अनंत है $$\delta\,\!$$, तो कोई बेयस नियम परिभाषित नहीं है।

सामान्यीकृत बेयस नियम
निर्णय सिद्धांत के बायेसियन दृष्टिकोण में, देखा गया $$x\,\!$$ तय माना जाता है. जबकि बारंबारवादी दृष्टिकोण (यानी, जोखिम) संभावित नमूनों पर औसत रहता है $$x \in \mathcal{X}\,\!$$, बायेसियन देखे गए नमूने को ठीक कर देगा $$x\,\!$$ और परिकल्पनाओं पर औसत $$\theta \in \Theta\,\!$$. इस प्रकार, बायेसियन दृष्टिकोण हमारे अवलोकन के लिए विचार करने योग्य है $$x\,\!$$ हानि फ़ंक्शन#अपेक्षित हानि


 * $$\rho(\pi,\delta \mid x)=\operatorname{E}_{\pi(\theta \mid x)} [ L(\theta,\delta(x)) ]. \,\!$$

जहाँ अपेक्षा पीछे के भाग से अधिक है $$\theta\,\!$$ दिया गया $$x\,\!$$ (से प्राप्त $$\pi(\theta)\,\!$$ और $$F(x\mid\theta)\,\!$$ बेयस प्रमेय का उपयोग करके)।

प्रत्येक दिए गए के लिए अपेक्षित हानि को स्पष्ट करना $$x\,\!$$ अलग से, हम एक निर्णय नियम को परिभाषित कर सकते हैं $$\delta\,\!$$ प्रत्येक के लिए निर्दिष्ट करके $$x\,\!$$ एक कार्यवाही $$\delta(x)\,\!$$ जो अपेक्षित हानि को कम करता है। इसके संबंध में इसे सामान्यीकृत बेयस नियम के रूप में जाना जाता है $$\pi(\theta)\,\!$$. एक से अधिक सामान्यीकृत बेयस नियम हो सकते हैं, क्योंकि कई विकल्प हो सकते हैं $$\delta(x)\,\!$$ जिससे वही अपेक्षित हानि प्राप्त होती है।

सबसे पहले, यह पिछले अनुभाग के बेयस नियम दृष्टिकोण से भिन्न प्रतीत हो सकता है, सामान्यीकरण नहीं। हालाँकि, ध्यान दें कि बेयस जोखिम पहले ही औसत हो चुका है $$\Theta\,\!$$ बायेसियन फैशन में, और उम्मीद खत्म होने पर बेयस जोखिम की भरपाई की जा सकती है $$\mathcal{X}$$ अपेक्षित हानि का (जहाँ $$x\sim\theta\,\!$$ और $$\theta\sim\pi\,\!$$). मोटे तौर पर, $$\delta\,\!$$ अपेक्षित हानि की इस अपेक्षा को कम करता है (अर्थात्, एक बेयस नियम है) यदि और केवल यदि यह प्रत्येक के लिए अपेक्षित हानि को कम करता है $$x \in \mathcal{X}$$ अलग से (अर्थात्, एक सामान्यीकृत बेयस नियम है)।

तो फिर सामान्यीकृत बेयस नियम की धारणा में सुधार क्यों है? यह वास्तव में बेयस नियम की धारणा के बराबर है जब एक बेयस नियम मौजूद होता है $$x\,\!$$ सकारात्मक संभावना है. हालाँकि, यदि बेयस जोखिम अनंत है (सभी के लिए) तो कोई बेयस नियम मौजूद नहीं है $$\delta\,\!$$). इस मामले में सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी उपयोगी है $$\delta\,\!$$, जो कम से कम न्यूनतम-अपेक्षित-नुकसान वाली कार्रवाई चुनता है $$\delta(x)\!\,$$ उन लोगों के लिए $$x\,\!$$ जिसके लिए एक सीमित-अपेक्षित-हानि कार्रवाई मौजूद है। इसके अलावा, एक सामान्यीकृत बेयस नियम वांछनीय हो सकता है क्योंकि इसमें न्यूनतम-अपेक्षित-नुकसान वाली कार्रवाई का चयन करना होगा $$\delta(x)\,\!$$ हरएक के लिए $$x\,\!$$, जबकि बेयस नियम को सेट पर इस नीति से विचलित होने की अनुमति दी जाएगी $$X \subseteq \mathcal{X}$$ बेयस जोखिम को प्रभावित किए बिना माप 0 का।

अधिक महत्वपूर्ण बात यह है कि कभी-कभी अनुचित पूर्व का उपयोग करना सुविधाजनक होता है $$\pi(\theta)\,\!$$. इस मामले में, बेयस जोखिम भी अच्छी तरह से परिभाषित नहीं है, न ही कोई अच्छी तरह से परिभाषित वितरण है $$x\,\!$$. हालाँकि, पश्च $$\pi(\theta\mid x)\,\!$$-और इसलिए अपेक्षित हानि-प्रत्येक के लिए अच्छी तरह से परिभाषित हो सकती है $$x\,\!$$, ताकि सामान्यीकृत बेयस नियम को परिभाषित करना अभी भी संभव हो सके।

(सामान्यीकृत) बेयस नियमों की स्वीकार्यता
संपूर्ण वर्ग प्रमेयों के अनुसार, हल्की परिस्थितियों में प्रत्येक स्वीकार्य नियम एक (सामान्यीकृत) बेयस नियम है (कुछ पूर्व के संबंध में) $$\pi(\theta)\,\!$$- संभवतः एक अनुचित - जो वितरण का पक्ष लेता है $$\theta\,\!$$ जहां वह नियम कम जोखिम प्राप्त करता है)। इस प्रकार, बारंबारतावादी निर्णय सिद्धांत में केवल (सामान्यीकृत) बेयस नियमों पर विचार करना पर्याप्त है।

इसके विपरीत, जबकि उचित पुजारियों के संबंध में बेयस नियम वस्तुतः हमेशा स्वीकार्य होते हैं, पूर्व संभाव्यता#अनुचित पुजारियों के अनुरूप सामान्यीकृत बेयस नियमों को स्वीकार्य प्रक्रियाएं प्रदान करने की आवश्यकता नहीं होती है। स्टीन का उदाहरण ऐसी ही एक प्रसिद्ध स्थिति है।

उदाहरण
जेम्स-स्टीन अनुमानक गाऊसी यादृच्छिक वैक्टर के माध्य का एक गैर-रेखीय अनुमानक है जिसे माध्य-वर्ग त्रुटि हानि फ़ंक्शन के संबंध में सामान्य न्यूनतम वर्ग तकनीक पर हावी होने या बेहतर प्रदर्शन करने के लिए दिखाया जा सकता है। इस प्रकार इस संदर्भ में न्यूनतम वर्ग अनुमान एक स्वीकार्य अनुमान प्रक्रिया नहीं है। सामान्य वितरण से जुड़े कुछ अन्य मानक अनुमान भी अस्वीकार्य हैं: उदाहरण के लिए, जनसंख्या माध्य और विचरण अज्ञात होने पर नमूना विचरण।