मिरर डिसेंट

गणित में, मिरर डिसेंट एक पुनरावृत्त कलन विधि है जो एक भिन्न फलन का स्थानीय न्यूनतम खोजने के लिए गणितीय अनुकूलन कलन विधि है।

यह अनुप्रवण अवरोहण और गुणनात्मक भार अद्यतन विधि जैसे कलन विधि को सामान्यीकृत करता है।

इतिहास
दर्पण वंश मूल रूप से 1983 में अरकडी नेमिरोव्स्की और युडिन द्वारा प्रस्तावित किया गया था।

प्रेरणा
अधिगम दरों के अनुक्रम के साथ अनुप्रवण अन्वय में $$(\eta_n)_{n \geq 0}$$ एक अलग फलन f पर लागू होता है, एक अनुमान $$\mathbf{x}_0$$ के साथ $$\mathbf{x}_0, \mathbf{x}_1, \mathbf{x}_2, \ldots$$ प्रारम्भ होता है, जैसे कि


 * $$\mathbf{x}_{n+1}=\mathbf{x}_n-\eta_n \nabla F(\mathbf{x}_n),\ n \ge 0.$$

इसे नोट करके इसे पुनः तैयार किया जा सकता है


 * $$\mathbf{x}_{n+1}=\arg \min_{\mathbf{x}} \left(F(\mathbf{x}_n) + \nabla F(\mathbf{x}_n)^T (\mathbf{x} - \mathbf{x}_n) + \frac{1}{2 \eta_n}\|\mathbf{x} - \mathbf{x}_n\|^2\right)$$

दूसरे शब्दों में, $$\mathbf{x}_{n+1}$$अतिरिक्त निकटता $$\|\mathbf{x} - \mathbf{x}_n\|^2$$ शब्द के साथ $$\mathbf{x}_n$$ पर $$F$$ के प्रथम-क्रम सन्निकटन को न्यूनतम करता है।

यह वर्गित यूक्लिडियन दूरी पद ब्रेगमैन दूरी का एक विशेष उदाहरण है। अन्य ब्रेगमैन दूरियों का उपयोग करने से हेज कलन विधि जैसे अन्य कलन विधि प्राप्त होंगे जो विशेष ज्यामिति पर अनुकूलन के लिए अधिक उपयुक्त हो सकते हैं।

सूत्रीकरण
हमें उत्तल सम्मुच्चय $$K \subset \mathbb{R}^n$$ पर अनुकूलन करने के लिए उत्तल फलन f दिया गया है, और $$\mathbb{R}^n$$ पर कुछ मानक $$\|\cdot\|$$ दिए गए हैं।

हमें अवकलनीय उत्तल फलन $$h \colon \mathbb{R}^n \to \mathbb{R}$$ भी दिया गया है, $$\alpha$$ दिए गए मानदंड के संबंध में दृढ़ता से उत्तल है। इसे दूरी उत्पन्न करने वाला फलन कहा जाता है, और इसके अनुप्रवण $$\nabla h \colon \mathbb{R}^n \to \mathbb{R}^n$$ को दर्पण मानचित्र के रूप में जाना जाता है।

मिरर डिसेंट के प्रत्येक पुनरावृत्ति में प्रारंभिक $$x_0 \in K$$ से प्रारम्भ करते हुए:


 * दोहरे स्थान का मानचित्र: $$\theta_t \leftarrow \nabla h (x_t)$$
 * अनुप्रवण चरण का उपयोग करके दोहरे स्थान में अद्यतन करें: $$\theta_{t+1} \leftarrow \theta_t - \eta_t \nabla f(x_t)$$
 * मूल स्थान पर वापस मानचित्र करें: $$x'_{t+1} \leftarrow (\nabla h)^{-1}(\theta_{t+1})$$
 * व्यवहार्य क्षेत्र में वापस प्रोजेक्ट करें $$K$$: $$x_{t+1} \leftarrow \mathrm{arg}\min_{x \in K}D_h(x||x'_{t+1})$$, जहाँ $$D_h$$ ब्रेगमैन विचलन है।

एक्सटेंशन
ऑनलाइन अनुकूलन समायोजन में दर्पण अवरोहण को ऑनलाइन दर्पण अवरोहण (ओएमडी) के रूप में जाना जाता है।

यह भी देखें

 * अनुप्रवण अवरोहण
 * गुणक भार अद्यतन विधि
 * हेज कलन विधि
 * ब्रेगमैन विचलन