मिरर डिसेंट

गणित में, मिरर डिसेंट एक पुनरावृत्त [[कलन विधि]] है जो एक भिन्न फ़ंक्शन का स्थानीय न्यूनतम खोजने के लिए गणितीय अनुकूलन एल्गोरिदम है।

यह ढतला हुआ वंश  और गुणक भार अद्यतन विधि जैसे एल्गोरिदम को सामान्यीकृत करता है।

इतिहास
मिरर वंश मूल रूप से 1983 में अरकडी नेमिरोव्स्की और युडिन द्वारा प्रस्तावित किया गया था।

प्रेरणा
सीखने की दर के अनुक्रम के साथ क्रमिक अवरोहण में $$(\eta_n)_{n \geq 0}$$ एक भिन्न फ़ंक्शन पर लागू किया गया $$F$$, कोई अनुमान से शुरू करता है $$\mathbf{x}_0$$ स्थानीय न्यूनतम के लिए $$F$$, और अनुक्रम पर विचार करता है $$\mathbf{x}_0, \mathbf{x}_1, \mathbf{x}_2, \ldots$$ ऐसा है कि


 * $$\mathbf{x}_{n+1}=\mathbf{x}_n-\eta_n \nabla F(\mathbf{x}_n),\ n \ge 0.$$

इसे नोट करके इसे पुनः तैयार किया जा सकता है


 * $$\mathbf{x}_{n+1}=\arg \min_{\mathbf{x}} \left(F(\mathbf{x}_n) + \nabla F(\mathbf{x}_n)^T (\mathbf{x} - \mathbf{x}_n) + \frac{1}{2 \eta_n}\|\mathbf{x} - \mathbf{x}_n\|^2\right)$$

दूसरे शब्दों में, $$\mathbf{x}_{n+1}$$ प्रथम-क्रम सन्निकटन को न्यूनतम कर देता है $$F$$ पर $$\mathbf{x}_n$$ अतिरिक्त निकटता शब्द के साथ $$\|\mathbf{x} - \mathbf{x}_n\|^2$$.

यह वर्गित यूक्लिडियन दूरी पद ब्रेगमैन दूरी का एक विशेष उदाहरण है। अन्य ब्रेगमैन दूरियों का उपयोग करने से हेज एल्गोरिथ्म जैसे अन्य एल्गोरिदम प्राप्त होंगे जो विशेष ज्यामिति पर अनुकूलन के लिए अधिक उपयुक्त हो सकते हैं।

सूत्रीकरण
हमें उत्तल फलन दिया गया है $$f$$ उत्तल सेट पर अनुकूलन करने के लिए $$K \subset \mathbb{R}^n$$, और कुछ मानदंड दिए गए $$\|\cdot\|$$ पर $$\mathbb{R}^n$$.

हमें अवकलनीय उत्तल फलन भी दिया गया है $$h \colon \mathbb{R}^n \to \mathbb{R}$$, $$\alpha$$-उत्तल फ़ंक्शन#दिए गए मानदंड के संबंध में दृढ़ता से उत्तल कार्य। इसे दूरी-उत्पादक फ़ंक्शन और इसका ग्रेडिएंट कहा जाता है $$\nabla h \colon \mathbb{R}^n \to \mathbb{R}^n$$ दर्पण मानचित्र के नाम से जाना जाता है।

शुरूआत से शुरू $$x_0 \in K$$, मिरर डिसेंट के प्रत्येक पुनरावृत्ति में:


 * दोहरे स्थान का मानचित्र: $$\theta_t \leftarrow \nabla h (x_t)$$
 * ग्रेडिएंट चरण का उपयोग करके दोहरे स्थान में अद्यतन करें: $$\theta_{t+1} \leftarrow \theta_t - \eta_t \nabla f(x_t)$$
 * मूल स्थान पर वापस मानचित्र करें: $$x'_{t+1} \leftarrow (\nabla h)^{-1}(\theta_{t+1})$$
 * व्यवहार्य क्षेत्र में वापस प्रोजेक्ट करें $$K$$: $$x_{t+1} \leftarrow \mathrm{arg}\min_{x \in K}D_h(x||x'_{t+1})$$, कहाँ $$D_h$$ ब्रेगमैन विचलन है।

एक्सटेंशन
ऑनलाइन अनुकूलन सेटिंग में मिरर डिसेंट को ऑनलाइन मिरर डिसेंट (ओएमडी) के रूप में जाना जाता है।

यह भी देखें

 * ढतला हुआ वंश
 * गुणक भार अद्यतन विधि
 * हेज एल्गोरिदम
 * ब्रेगमैन विचलन