दिष्‍ट सूचना

दिष्‍ट सूचना एक सूचना सिद्धांत आकलन है जो यादृच्छिक स्ट्रिंग$X^{n}=(X_{1},X_{2},\dots ,X_{n})$ से $Y^{n}=(Y_{1},Y_{2},\dots ,Y_{n})$ तक सूचना प्रवाह की मात्रा निर्धारित करता है। दिष्‍ट सूचना शब्द जेम्स मैसी द्वारा गढ़ा गया था और इसे इस प्रकार परिभाषित किया गया है

$I(X^{n}\to Y^{n})\triangleq \sum _{i=1}^{n}I(X^{i};Y_{i}|Y^{i-1})$

जहाँ $I(X^{i};Y_{i}|Y^{i-1})$ सशर्त पारस्परिक सूचना है $I(X_{1},X_{2},...,X_{i};Y_{i}|Y_{1},Y_{2},...,Y_{i-1})$.

दिष्‍ट सूचना में उन समस्याओं के लिए अनुप्रयोग होते हैं जहां कारण कार्य महत्वपूर्ण भूमिका निभाता है जैसे फीडबैक वाले चैनल क्षमता, असतत मेमोरी रहित नेटवर्क की क्षमता, इन-ब्लॉक मेमोरी वाले नेटवर्क की क्षमता, कारण पक्ष की सूचना के साथ गैम्बल, कारण पक्ष की सूचना के साथ संपीड़न, वास्तविक समय नियंत्रण संचार समायोजन, और सांख्यिकीय भौतिकी।

कारण अनुबंधन

दिष्‍ट सूचना का सार कारण अनुबंधन है। $x^{n}$पर यथोचित रूप से अनुबंधन $y^{n}$ की प्रायिकता को इस प्रकार परिभाषित किया गया है:

$P(x^{n}||y^{n})\triangleq \prod _{i=1}^{n}P(x_{i}|x^{i-1},y^{i})$.

यह पारंपरिक अनुबंधन

$P(x^n|y^n)=\underset{i=1}{\overset{n}{\prod <!--\; \prod \; -->}}P(x_i|x^{i-<!--\; -\; -->1},$