मिन-एन्ट्रॉपी

सूचना सिद्धांत में मिन-एन्ट्रॉपी, रेनी एन्ट्रॉपी, एंट्रॉपी के रेनी समूह में सबसे छोटी है, जो परिणामों के एक सेट की अप्रत्याशितता को मापने के रेनी एन्ट्रॉपी, मिन-एन्ट्रॉपी तरीके के अनुरूप है, जो कि संभाव्यता के ऋणात्मक लघुगणक के रूप में सबसे संभावित परिणाम है। एक समान वितरण के लिए विभिन्न रेनी एन्ट्रॉपी सभी समान हैं, लेकिन विभिन्न तरीकों से एक गैर-समान वितरण की अप्रत्याशितता को मापते हैं। मिन-एन्ट्रॉपी कभी भी सामान्य या शैनन एन्ट्रापी (जो परिणामों की औसत अप्रत्याशितता को मापती है) से अधिक नहीं होती है और बदले में यह कभी भी हार्टले या रेनी एन्ट्रॉपी, हार्टले या मैक्स-एंट्रॉपी|मैक्स-एंट्रॉपी से अधिक नहीं होती है, जिसे इस रूप में परिभाषित किया गया है शून्येतर संभावना वाले परिणामों की संख्या का लघुगणक।

चिरसम्मत शैनन एन्ट्रॉपी और इसके क्वांटम सामान्यीकरण, वॉन न्यूमैन एन्ट्रापी के साथ, कोई भी मिन-एन्ट्रॉपी के एक सशर्त संस्करण को परिभाषित कर सकता है। सशर्त क्वांटम मिन-एन्ट्रॉपी एक-शॉट, या रूढ़िवादी, सशर्त क्वांटम एन्ट्रॉपी का एनालॉग है।

एक सशर्त सूचना माप की व्याख्या करने के लिए, मान लीजिए कि ऐलिस और बॉब को एक द्विदलीय क्वांटम स्थिति साझा करनी थी $$\rho_{AB}$$. ऐलिस के पास सिस्टम तक पहुंच है $$A$$ और बॉब सिस्टम के लिए $$B$$. सशर्त एन्ट्रापी बॉब द्वारा अपने सिस्टम से नमूना लेने पर ऐलिस की स्थिति के बारे में औसत अनिश्चितता को मापती है। मिन-एंट्रॉपी की व्याख्या किसी अवस्था की अधिकतम उलझी हुई स्थिति से दूरी के रूप में की जा सकती है।

यह अवधारणा गोपनीयता प्रवर्धन के संदर्भ में क्वांटम क्रिप्टोग्राफी में उपयोगी है (उदाहरण के लिए देखें)। ).

चिरसम्मत वितरण के लिए परिभाषा
अगर $$P=(p_1,...,p_n)$$ एक चिरसम्मत परिमित संभाव्यता वितरण है, इसकी न्यूनतम-एन्ट्रापी को इस प्रकार परिभाषित किया जा सकता है $$H_{\rm min}(\boldsymbol P) = \log\frac{1}{P_{\rm max}}, \qquad P_{\rm max}\equiv \max_i p_i.$$मात्रा के नाम को उचित ठहराने का एक तरीका यह है कि इसकी तुलना एन्ट्रापी की अधिक मानक परिभाषा से की जाए, जिसमें लिखा है $$H(\boldsymbol P)=\sum_i p_i\log(1/p_i)$$, और इस प्रकार इसे अपेक्षित मूल्य के रूप में संक्षिप्त रूप से लिखा जा सकता है $$\log (1/p_i)$$ वितरण पर, यदि इस मात्रा का अपेक्षित मूल्य लेने के बजाय हम इसका न्यूनतम मूल्य लेते हैं, तो हमें ठीक उपरोक्त परिभाषा मिलती है $$H_{\rm min}(\boldsymbol P)$$.

क्वांटम अवस्थाओं की परिभाषा
क्वांटम अवस्थाओं के लिए न्यूनतम-एन्ट्रापी को परिभाषित करने का एक प्राकृतिक तरीका सरल अवलोकन का लाभ उठाना है कि क्वांटम अवस्थाओं को कुछ आधारों पर मापा जाने पर संभाव्यता वितरण में परिणाम मिलता है। हालाँकि इसमें अतिरिक्त कठिनाई यह है कि एक एकल क्वांटम स्थिति के परिणामस्वरूप अनंत रूप से कई संभावित संभाव्यता वितरण हो सकते हैं, यह इस बात पर निर्भर करता है कि इसे कैसे मापा जाता है। फिर एक प्राकृतिक पथ को क्वांटम अवस्था दी जाती है $$\rho$$, अभी भी परिभाषित करने के लिए $$H_{\rm min}(\rho)$$ जैसा $$\log(1/P_{\rm max}) $$, लेकिन इस बार परिभाषित $$P_{\rm max} $$ अधिकतम संभव संभावना के रूप में जिसे मापकर प्राप्त किया जा सकता है $$\rho $$, सभी संभावित प्रक्षेप्य मापों को अधिकतम करना।

औपचारिक रूप से, यह परिभाषा प्रदान करेगा $$H_{\rm min}(\rho) = \max_\Pi \log \frac{1}{\max_i \operatorname{tr}(\Pi_i \rho)} = - \max_\Pi \log \max_i \operatorname{tr}(\Pi_i \rho), $$जहां हम सभी प्रक्षेप्य मापों के सेट को अधिकतम कर रहे हैं $$\Pi=(\Pi_i)_i$$, $$\Pi_i$$ पीओवीएम औपचारिकता में माप परिणामों का प्रतिनिधित्व करें, और $$\operatorname{tr}(\Pi_i \rho)$$ इसलिए अवलोकन की संभावना है $$i$$-वाँ परिणाम जब माप है $$\Pi$$.

दोहरे अधिकतमकरण को लिखने के लिए एक अधिक संक्षिप्त विधि यह देखना है कि किसी भी पीओवीएम का कोई भी तत्व एक हर्मिटियन ऑपरेटर है जैसे कि $$0\le \Pi\le I$$, और इस प्रकार हम इन्हें प्राप्त करने के लिए समान रूप से सीधे अधिकतम कर सकते हैं $$H_{\rm min}(\rho) = - \max_{0\le \Pi\le I} \log \operatorname{tr}(\Pi \rho).$$वास्तव में, यह अधिकतमीकरण स्पष्ट रूप से किया जा सकता है और अधिकतम तब प्राप्त होता है जब $$\Pi$$ (किसी भी) के सबसे बड़े आइजेनवैल्यू(ओं) पर प्रक्षेपण है $$\rho$$. इस प्रकार हमें मिन-एन्ट्रॉपी के लिए एक और अभिव्यक्ति मिलती है: $$H_{\rm min}(\rho) = -\log \|\rho\|_{\rm op},$$यह याद रखना कि हर्मिटियन घनात्मक अर्धनिश्चित ऑपरेटर का ऑपरेटर मानदंड उसके सबसे बड़े आइगेनवेल के बराबर होता है।

सशर्त एन्ट्रॉपी
मान लीजिये $$\rho_{AB}$$ अंतरिक्ष पर एक द्विपक्षीय घनत्व ऑपरेटर बनें $$\mathcal{H}_A \otimes \mathcal{H}_B$$. की मिन-एन्ट्रॉपी $$A$$ पर वातानुकूलित $$B$$ होने के लिए परिभाषित किया गया है


 * $$H_{\min}(A|B)_{\rho} \equiv -\inf_{\sigma_B}D_{\max}(\rho_{AB}\|I_A \otimes \sigma_B)$$

जहां सभी घनत्व ऑपरेटरों पर न्यूनतम सीमा होती है $$\sigma_B$$ अंतरिक्ष पर $$\mathcal{H}_B$$. पैमाना $$D_{\max}$$ अधिकतम सापेक्ष एन्ट्रापी के रूप में परिभाषित किया गया है


 * $$D_{\max}(\rho\|\sigma) = \inf_{\lambda}\{\lambda:\rho \leq 2^{\lambda}\sigma\}$$

स्मूथ मिन-एन्ट्रॉपी को मिन-एन्ट्रॉपी के संदर्भ में परिभाषित किया गया है।


 * $$H_{\min}^{\epsilon}(A|B)_{\rho} = \sup_{\rho'} H_{\min}(A|B)_{\rho'}$$

जहां घनत्व ऑपरेटरों पर सुपर और इन्फ रेंज होती है $$\rho'_{AB}$$ जो हैं $$\epsilon$$-के निकट $$\rho_{AB} $$. यह उपाय $$\epsilon$$-बंद को शुद्ध दूरी के संदर्भ में परिभाषित किया गया है


 * $$P(\rho,\sigma) = \sqrt{1 - F(\rho,\sigma)^2}$$

जहाँ $$ F(\rho,\sigma)$$ क्वांटम अवस्थाओंकी निष्ठा माप है।

इन परिस्थितियों को वॉन न्यूमैन एन्ट्रापी के सामान्यीकरण के रूप में देखा जा सकता है। दरअसल, वॉन न्यूमैन एन्ट्रॉपी को इस प्रकार व्यक्त किया जा सकता है


 * $$S(A|B)_{\rho} = \lim_{\epsilon\rightarrow 0}\lim_{n\rightarrow\infty}\frac{1}{n}H_{\min}^{\epsilon}(A^n|B^n)_{\rho^{\otimes n}}~.$$

इसे पूर्णतः क्वांटम एसिम्प्टोटिक समविभाजन प्रमेय कहा जाता है। स्मूथ एन्ट्रॉपी वॉन न्यूमैन एन्ट्रॉपी के साथ कई दिलचस्प गुण साझा करती हैं। उदाहरण के लिए, सुचारु मिन-एन्ट्रॉपी डेटा-प्रोसेसिंग असमानता को संतुष्ट करती है:
 * $$H_{\min}^{\epsilon}(A|B)_{\rho} \geq H_{\min}^{\epsilon}(A|BC)_{\rho}~.$$

स्मूथ मिन-एन्ट्रॉपी की परिचालन व्याख्या
अब से, हम सबस्क्रिप्ट छोड़ देंगे $$\rho$$ मिन-एंट्रॉपी से जब यह संदर्भ से स्पष्ट होता है कि इसका मूल्यांकन किस स्थिति में किया जाता है।

चिरसम्मत जानकारी के बारे में अनिश्चितता के रूप में न्यूनतम-एन्ट्रापी
मान लीजिए कि एक एजेंट के पास क्वांटम सिस्टम तक पहुंच थी $$B$$ किसका अवस्था $$\rho_{B}^x$$ कुछ चिरसम्मत चर पर निर्भर करता है $$X$$. इसके अलावा, मान लीजिए कि इसका प्रत्येक तत्व $$x$$ कुछ वितरण के अनुसार वितरित किया जाता है $$P_X(x)$$. इसे सिस्टम पर निम्नलिखित स्थिति द्वारा वर्णित किया जा सकता है $$XB$$.


 * $$\rho_{XB} = \sum_x P_X (x) |x\rangle\langle x| \otimes \rho_{B}^x ,$$

जहाँ $$\{|x\rangle\}$$ एक लंबात्मक आधार बनाएं। हम जानना चाहेंगे कि एजेंट क्लासिकल वेरिएबल के बारे में क्या सीख सकता है $$x$$. मान लीजिये $$p_g(X|B)$$ वह प्रायिकता हो जिसका एजेंट अनुमान लगाता है $$X$$ इष्टतम माप रणनीति का उपयोग करते समय


 * $$p_g(X|B) = \sum_x P_X(x)tr(E_x \rho_B^x) ,$$

जहाँ $$E_x$$ वह पीओवीएम है जो इस अभिव्यक्ति को अधिकतम करता है। इसे दिखाया जा सकता है कि इस इष्टतम को न्यूनतम-एन्ट्रापी के रूप में व्यक्त किया जा सकता है


 * $$p_g(X|B) = 2^{-H_{\min}(X|B)}~.$$

यदि अवस्था $$\rho_{XB}$$ एक उत्पाद अवस्था है अर्थात $$\rho_{XB} = \sigma_X \otimes \tau_B$$ कुछ घनत्व ऑपरेटरों के लिए $$\sigma_X$$ और $$\tau_B$$, तो सिस्टम के बीच कोई संबंध नहीं है $$X$$ और $$B$$. इस मामले में, यह पता चला है $$2^{-H_{\min}(X|B)} = \max_x P_X(x)~.$$

अधिकतम उलझी हुई अवस्था के साथ ओवरलैप के रूप में मिन-एन्ट्रॉपी
अधिकतम उलझी हुई अवस्था $$|\phi^+\rangle$$ द्विदलीय व्यवस्था पर $$\mathcal{H}_A \otimes \mathcal{H}_B$$ परिभाषित किया जाता है


 * $$|\phi^+\rangle_{AB} = \frac{1}{\sqrt{d}} \sum_{x_A,x_B} |x_A\rangle |x_B\rangle$$

जहाँ $$\{|x_A\rangle\}$$ और $$\{|x_B\rangle\}$$ रिक्त स्थान के लिए एक लंबात्मक आधार बनाएं $$A$$ और $$B$$ क्रमश। द्विदलीय क्वांटम अवस्था के लिए $$\rho_{AB}$$, हम अधिकतम उलझी हुई अवस्था के साथ अधिकतम ओवरलैप को इस प्रकार परिभाषित करते हैं


 * $$q_{c}(A|B) = d_A \max_{\mathcal{E}} F\left((I_A \otimes \mathcal{E}) \rho_{AB}, |\phi^+\rangle\langle \phi^{+}|\right)^2$$

जहां सभी सीपीटीपी परिचालनों में अधिकतम है $$\mathcal{E}$$ और $$d_A$$ उपप्रणाली का आयाम है $$A$$. यह इस बात का माप है कि अवस्था कितना सहसंबद्ध है $$\rho_{AB}$$ है। ऐसा दिखाया जा सकता है $$q_c(A|B) = 2^{-H_{\min}(A|B)}$$. यदि जानकारी इसमें निहित है $$A$$ चिरसम्मत है, यह अनुमान लगाने की संभावना के लिए उपरोक्त अभिव्यक्ति को कम कर देता है।

मिन-एन्ट्रॉपी के परिचालन लक्षण वर्णन का प्रमाण
इसका प्रमाण 2008 में कोनिग, शेफ़नर, रेनर के एक पेपर से है। इसमें अर्धनिश्चित प्रोग्रामिंग की मशीनरी सम्मिलित है। मान लीजिए हमें कुछ द्विपक्षीय घनत्व ऑपरेटर दिया गया है $$\rho_{AB}$$. मिन-एन्ट्रॉपी की परिभाषा से, हमारे पास है


 * $$H_{\min}(A|B) = - \inf_{\sigma_B} \inf_{\lambda} \{ \lambda | \rho_{AB} \leq 2^{\lambda}(I_A \otimes \sigma_B)\}~.$$

इसे इस प्रकार पुनः लिखा जा सकता है


 * $$-\log \inf_{\sigma_B} \operatorname{Tr}(\sigma_B)$$

शर्तों के अधीन


 * $$\sigma_B \geq 0$$
 * $$I_A \otimes \sigma_B \geq \rho_{AB}~.$$

हमने देखा कि इन्फ़िमम को कॉम्पैक्ट सेट पर लिया गया है और इसलिए इसे न्यूनतम से बदला जा सकता है। इसे फिर एक अर्धनिश्चित कार्यक्रम के रूप में संक्षेप में व्यक्त किया जा सकता है। मूल समस्या पर विचार करें


 * $$\text{min:}\operatorname{Tr} (\sigma_B)$$
 * $$\text{subject to: } I_A \otimes \sigma_B \geq \rho_{AB}$$
 * $$\sigma_B \geq 0~.$$

इस मौलिक समस्या को मैट्रिक्स द्वारा भी पूरी तरह से निर्दिष्ट किया जा सकता है $$(\rho_{AB},I_B,\operatorname{Tr}^*)$$ जहाँ $$\operatorname{Tr}^*$$ आंशिक ट्रेस ओवर का जोड़ है $$A$$. की कार्रवाई $$\operatorname{Tr}^*$$ ऑपरेटरों पर $$B$$ के रूप में लिखा जा सकता है


 * $$\operatorname{Tr}^*(X) = I_A \otimes X~.$$

हम दोहरी समस्या को ऑपरेटरों पर अधिकतमकरण के रूप में व्यक्त कर सकते हैं $$E_{AB}$$ अंतरिक्ष पर $$AB$$ जैसा


 * $$\text{max:}\operatorname{Tr}(\rho_{AB}E_{AB})$$
 * $$\text{subject to: } \operatorname{Tr}_A(E_{AB}) = I_B$$
 * $$E_{AB} \geq 0~.$$

चोई-जामियोल्कोव्स्की समरूपता का उपयोग करके, हम चैनल को परिभाषित कर सकते हैं $$\mathcal{E}$$ ऐसा है कि
 * $$d_A I_A \otimes \mathcal{E}^{\dagger}(|\phi^{+}\rangle\langle\phi^{+}|) = E_{AB}$$

जहां अंतरिक्ष में घंटी की स्थिति को परिभाषित किया गया है $$AA'$$. इसका मतलब यह है कि हम दोहरी समस्या के वस्तुनिष्ठ कार्य को इस प्रकार व्यक्त कर सकते हैं


 * $$\langle \rho_{AB}, E_{AB} \rangle = d_A \langle \rho_{AB}, I_A \otimes \mathcal{E}^{\dagger} (|\phi^+\rangle\langle \phi^+|) \rangle$$
 * $$= d_A \langle I_A \otimes \mathcal{E}(\rho_{AB}), |\phi^+\rangle\langle \phi^+|) \rangle$$

जैसी इच्छा थी।

ध्यान दें कि ऐसी स्थिति में system $$A$$ जैसा कि ऊपर बताया गया है, आंशिक रूप से चिरसम्मत अवस्था है, तो हम जिस मात्रा के पीछे हैं वह कम हो जाती है
 * $$\max P_X(x) \langle x | \mathcal{E}(\rho_B^x)|x \rangle~.$$

हम व्याख्या कर सकते हैं $$\mathcal{E}$$ एक अनुमान लगाने की रणनीति के रूप में और फिर यह ऊपर दी गई व्याख्या तक सीमित हो जाता है जहां एक प्रतिद्वंद्वी स्ट्रिंग ढूंढना चाहता है $$x$$ सिस्टम के माध्यम से क्वांटम जानकारी तक पहुंच प्रदान की गई $$B$$.

यह भी देखें

 * वॉन न्यूमैन एन्ट्रॉपी
 * सामान्यीकृत सापेक्ष एन्ट्रापी
 * अधिकतम-एन्ट्रापी