एंट्रोपिक अनिश्चितता

क्वांटम यांत्रिकी, सूचना सिद्धांत और फूरियर विश्लेषण में, एन्ट्रोपिक अनिश्चितता या हिर्शमैन अनिश्चितता को अस्थायी और वर्णक्रमीय डिफरेंशियल एन्ट्रॉपी के योग के रूप में परिभाषित किया गया है। परिणाम यह निकला है कि हाइजेनबर्ग के अनिश्चितता सिद्धांत को इन एन्ट्रॉपियों के योग पर निचली सीमा के रूप में व्यक्त किया जा सकता है। यह मानक विचलन के उत्पाद के संदर्भ में अनिश्चितता सिद्धांत के सामान्य कथन से सशक्त है।

1957 में, इसिडोर इसहाक हिर्शमैन, जूनियर ने फलन f और इसके फूरियर रूपांतरण g पर विचार किया
 * $$g(y) \approx \int_{-\infty}^\infty \exp (-2\pi ixy) f(x)\, dx,\qquad f(x) \approx \int_{-\infty}^\infty \exp (2\pi ixy) g(y)\, dy ~,$$

जहां ≈ अभिसरण को इंगित करता है $L$2, और सामान्यीकृत किया गया ताकि (प्लांचरेल प्रमेय द्वारा प्रमाणित किया गया है),
 * $$ \int_{-\infty}^\infty |f(x)|^2\, dx = \int_{-\infty}^\infty |g(y)|^2 \,dy = 1~.$$

उन्होंने दिखाया कि ऐसे किसी भी कार्य के लिए शैनन एन्ट्रॉपी का योग गैर-ऋणात्मक है,
 * $$ H(|f|^2) + H(|g|^2) \equiv - \int_{-\infty}^\infty |f(x)|^2 \log |f(x)|^2\, dx - \int_{-\infty}^\infty |g(y)|^2 \log |g(y)|^2 \,dy \ge 0. $$

एक सख्त बाउंड,

हिर्शमैन द्वारा अनुमान लगाया गया था और ह्यूग एवरेट, 1975 में डब्ल्यू. बेकनर (गणितज्ञ) द्वारा सिद्ध किया गया था। बेकनर और उसी वर्ष बियालिनिकी-बिरूला और मायसील्स्की द्वारा एक सामान्यीकृत क्वांटम यांत्रिक अनिश्चितता सिद्धांत के रूप में व्याख्या की गई थी। गॉसियन वितरण के स्थिति में समानता कायम है। हालाँकि, ध्यान देने की बात है कि उपरोक्त एन्ट्रोपिक अनिश्चितता फलन अवस्था स्थान में दर्शाए गए क्वांटम वॉन न्यूमैन एन्ट्रापी से स्पष्ट रूप से भिन्न है।

प्रमाण का रेखाचित्र
इस सख्त असमानता का प्रमाण फूरियर परिवर्तन के तथाकथित (q, p)-मानदंड पर निर्भर करता है। (इस मानदंड को स्थापित करना प्रमाण का सबसे कठिन हिस्सा है।)

इस मानदंड से, कोई (अंतर) रेनी एन्ट्रॉपी के योग पर निचली सीमा स्थापित करने में सक्षम है, $H_{α}(|f|²)+H_{β}(|g|²)$, जहाँ $1/α + 1/β = 2$, जो शैनन एन्ट्रॉपी को सामान्यीकृत करता है। सरलता के लिए, हम इस असमानता को केवल एक आयाम में मानते हैं; कई आयामों का विस्तार सीधा है और उद्धृत साहित्य में पाया जा सकता है।

बेबेंको-बेकनेर असमानता
फूरियर रूपांतरण के (q, p)-मानदंड को परिभाषित किया गया है
 * $$\|\mathcal F\|_{q,p} = \sup_{f\in L^p(\mathbb R)} \frac{\|\mathcal Ff\|_q}{\|f\|_p},$$ जहाँ $$1 < p \le 2~,$$ और $$\frac 1 p + \frac 1 q = 1.$$

1961 में, बबेंको q के सम पूर्णांक मानों के लिए यह मानदंड पाया गया। आख़िरकार, 1975 में,फूरियर ट्रांसफॉर्म, बेकनर के आइजनफंक्शन के रूप में हर्मिट फंक्शन करता है का उपयोग करना साबित हुआ कि सभी q ≥ 2 के लिए इस मानदंड का मान (एक आयाम में) है
 * $$\|\mathcal F\|_{q,p} = \sqrt{p^{1/p}/q^{1/q}}.$$

इस प्रकार हमारे पास बबेंको-बेकनर असमानता है
 * $$\|\mathcal Ff\|_q \le \left(p^{1/p}/q^{1/q}\right)^{1/2} \|f\|_p.$$

रेनी एन्ट्रॉपी बाउंड
इस असमानता से, रेनी एन्ट्रॉपी के संदर्भ में अनिश्चितता सिद्धांत की अभिव्यक्ति प्राप्त की जा सकती है। मान लीजिये $$g=\mathcal Ff$$, 2α=p, और 2β=q, ताकि  $1/α + 1/β = 2$ और 1/2<α<1<β, हमारे पास है
 * $$\left(\int_{\mathbb R} |g(y)|^{2\beta}\,dy\right)^{1/2\beta}

\le \frac{(2\alpha)^{1/4\alpha}}{(2\beta)^{1/4\beta}} \left(\int_{\mathbb R} |f(x)|^{2\alpha}\,dx\right)^{1/2\alpha}. $$ दोनों पक्षों का वर्ग करने और लघुगणक लेने पर, हमें प्राप्त होता है
 * $$\frac 1\beta \log\left(\int_{\mathbb R} |g(y)|^{2\beta}\,dy\right)

\le \frac 1 2 \log\frac{(2\alpha)^{1/\alpha}}{(2\beta)^{1/\beta}} + \frac 1\alpha \log \left(\int_{\mathbb R} |f(x)|^{2\alpha}\,dx\right). $$ दोनों पक्षों को गुणा करने पर
 * $$\frac{\beta}{1-\beta}=-\frac{\alpha}{1-\alpha}$$ असमानता की भावना को प्रतिलोम (रिवर्स) कर देता है,
 * $$\frac {1}{1-\beta} \log\left(\int_{\mathbb R} |g(y)|^{2\beta}\,dy\right)

\ge \frac\alpha{2(\alpha-1)}\log\frac{(2\alpha)^{1/\alpha}}{(2\beta)^{1/\beta}} - \frac{1}{1-\alpha} \log \left(\int_{\mathbb R} |f(x)|^{2\alpha}\,dx\right) ~. $$ शब्दों को पुनर्व्यवस्थित करने से अंततः रेनी एन्ट्रॉपियों के योग के संदर्भ में एक असमानता उत्पन्न होती है,
 * $$\frac{1}{1-\alpha} \log \left(\int_{\mathbb R} |f(x)|^{2\alpha}\,dx\right)

+ \frac {1}{1-\beta} \log\left(\int_{\mathbb R} |g(y)|^{2\beta}\,dy\right) \ge \frac\alpha{2(\alpha-1)}\log\frac{(2\alpha)^{1/\alpha}}{(2\beta)^{1/\beta}}; $$
 * $$ H_\alpha(|f|^2) + H_\beta(|g|^2) \ge \frac 1 2 \left(\frac{\log\alpha}{\alpha-1}+\frac{\log\beta}{\beta-1}\right) - \log 2    ~.$$

ध्यान दें कि यह असमानता इसके संबंध में सममित है $α$  और $β$: अब किसी को ऐसा मानने की जरूरत नहीं है $α<β$; केवल इतना कि वे धनात्मक हैं और दोनों एक नहीं हैं, और 1/α + 1/β = 2. इस समरूपता को देखने के लिए, बस फूरियर ट्रांसफॉर्म में i और −i की भूमिकाओं का आदान-प्रदान करें।

शैनन एन्ट्रापी बाउंड
इस अंतिम असमानता की सीमा को α, β → 1 के रूप में लेने से निम्न सामान्य शैनन एन्ट्रापी असमानता प्राप्त होती है,
 * $$H(|f|^2) + H(|g|^2) \ge \log\frac e 2,\quad\textrm{where}\quad g(y) \approx \int_{\mathbb R} e^{-2\pi ixy}f(x)\,dx~,$$

लघुगणक के किसी भी आधार के लिए मान्य है, जब तक हम सूचना की उपयुक्त इकाई, बिट, नेट (इकाई), आदि चुनते हैं।

हालांकि, फूरियर ट्रांसफॉर्म के एक अलग सामान्यीकरण के लिए स्थिरांक अलग होगा, (जैसे कि सामान्यतः भौतिकी में उपयोग किया जाता है, सामान्यीकरण के साथ चुना जाता है ताकि ħ=1 ), यानी,
 * $$H(|f|^2) + H(|g|^2) \ge \log(\pi e)\quad\textrm{for}\quad g(y) \approx \frac 1{\sqrt{2\pi}}\int_{\mathbb R} e^{-ixy}f(x)\,dx~.$$

इस स्थिति में, फूरियर का फैलाव 2 के कारक द्वारा पूर्ण वर्ग में बदल जाता है$π$ बस लॉग(2) जोड़ता है$π$) इसकी एन्ट्रापी के लिए।

एन्ट्रॉपी बनाम विचरण सीमा
गॉसियन या सामान्य संभाव्यता वितरण विचरण और विभेदक एन्ट्रॉपी के बीच संबंध में एक महत्वपूर्ण भूमिका निभाता है: यह भिन्नताओं की गणना की एक समस्या है जो यह दर्शाती है कि यह वितरण किसी दिए गए विचरण के लिए एन्ट्रापी को अधिकतम करता है, और साथ ही विचरण के लिए एन्ट्रापी को न्यूनतम करता है।वास्तव में, किसी भी संभाव्यता घनत्व फलन के लिए $$\phi$$ वास्तविक रेखा पर, शैनन की एन्ट्रापी असमानता निर्दिष्ट करती है:
 * $$H(\phi) \le \log \sqrt {2\pi eV(\phi)},$$

जहां H शैनन एन्ट्रापी है और V विचरण है, एक असमानता जो केवल सामान्य वितरण के स्थिति में संतृप्त होती है।

इसके अलावा, गॉसियन संभाव्यता आयाम फलन का फूरियर रूपांतरण भी गॉसियन है - और इन दोनों के पूर्ण वर्ग भी गॉसियन हैं। इसके बाद इसका उपयोग उपरोक्त एंट्रोपिक असमानता से सामान्य रॉबर्टसन विचरण अनिश्चितता असमानता को प्राप्त करने के लिए किया जा सकता है, जो बाद वाले को पूर्व की तुलना में अधिक सख्त बनाने में सक्षम बनाता है। वह है (ħ=1 के लिए), हिर्शमैन असमानता को प्रतिपादित करना और ऊपर शैनन की अभिव्यक्ति का उपयोग करना,
 * $$1/2 \le \exp (H(|f|^2)+H(|g|^2))        /(2e\pi)    \le \sqrt {V(|f|^2)V(|g|^2)}~.$$

हिर्शमन ने यह समझाया है कि एन्ट्रॉपी - एन्ट्रॉपी का उनका संस्करण शैनन के संस्करण का ऋणात्मक था - छोटे माप के एक सेट में [एक संभाव्यता वितरण] की एकाग्रता का एक माप है।  इस प्रकार निम्न या बृहत् ऋणात्मक शैनन एन्ट्रॉपी का तात्पर्य है कि संभाव्यता वितरण का एक बड़ा द्रव्यमान छोटे माप के एक सेट तक ही सीमित है।''

ध्यान देने की बात है कि छोटे माप के इस सेट को सन्निहित होने की आवश्यकता नहीं है; संभाव्यता वितरण में छोटे माप के अंतरालों में द्रव्यमान की कई सांद्रताएं हो सकती हैं, और एन्ट्रापी अभी भी निम्न हो सकती है, भले ही वे अंतराल कितने व्यापक रूप से बिखरे हुए हों। विचरण के स्थिति में ऐसा नहीं है: विचरण वितरण के माध्य के बारे में द्रव्यमान की सांद्रता को मापता है, और निम्न विचरण का तात्पर्य है कि संभाव्यता वितरण का एक बड़ा द्रव्यमान छोटे माप के सन्निहित अंतराल में केंद्रित है।

इस भेद को औपचारिक रूप देने के लिए, हम कहते हैं कि दो संभाव्यता घनत्व कार्य करते हैं $$\phi_1$$ और $$\phi_2$$ यदि समान मापनीय हैं


 * $$\forall \delta > 0,\,\mu\{x\in\mathbb R|\phi_1(x)\ge\delta\} = \mu\{x\in\mathbb R|\phi_2(x)\ge\delta\},$$

जहाँ $μ$ लेब्सेग माप है। किन्हीं दो समान मापनीय संभाव्यता घनत्व कार्यों में समान शैनन एन्ट्रॉपी होती है, और वास्तव में किसी भी क्रम की समान रेनी एन्ट्रॉपी होती है। हालाँकि, भिन्नता के बारे में भी यही सच नहीं है। किसी भी संभाव्यता घनत्व फलन में रेडियल रूप से घटती सममापनीय पुनर्व्यवस्था होती है जिसका विचरण फलन के किसी भी अन्य पुनर्व्यवस्था की तुलना में निम्न (अनुवाद तक) होता है; और स्वेच्छतः से उच्च विचरण की पुनर्व्यवस्था उपस्थित है, (सभी में समान एन्ट्रापी है।)

यह भी देखें

 * सूचना सिद्धांत में असमानताएँ
 * लॉगरिदमिक श्रोडिंगर समीकरण
 * अनिश्चित सिद्धांत
 * रिज़्ज़-थोरिन प्रमेय
 * फूरियर रूपांतरण

अग्रिम पठन

 * Jizba, P.; Ma,Y.; Hayes, A.; Dunningham, J.A. (2016). "One-parameter class of uncertainty relations based on entropy power". Phys. Rev. E 93 (6): 060104(R). doi:10.1103/PhysRevE.93.060104.
 * arXiv:math/0605510v1