मुक्त ऊर्जा सिद्धांत

मुक्त ऊर्जा सिद्धांत एक सैद्धांतिक ढांचा है जो सुझाव देता है कि मस्तिष्क मानसिक मॉडल के आधार पर भविष्यवाणियां करके और उत्तेजना (शरीर विज्ञान)  का उपयोग करके उन्हें अद्यतन करके आश्चर्य या अनिश्चितता को कम करता है। यह सटीकता और परिशुद्धता को बढ़ाने के लिए बाहरी दुनिया के साथ अपने आंतरिक मॉडल को संरेखित करने के मस्तिष्क के उद्देश्य पर प्रकाश डालता है। यह सिद्धांत बायेसियन अनुमान को सक्रिय अनुमान के साथ एकीकृत करता है, जहां क्रियाएं भविष्यवाणियों द्वारा निर्देशित होती हैं और संवेदी प्रतिक्रिया उन्हें परिष्कृत करती है। मस्तिष्क के कार्य, धारणा और क्रिया (दर्शन) को समझने के लिए इसके व्यापक निहितार्थ हैं।

सिंहावलोकन
जीव पदाथ-विद्य और संज्ञानात्मक विज्ञान में, मुक्त ऊर्जा सिद्धांत एक गणितीय सिद्धांत है जो भौतिक प्रणालियों की प्रतिनिधित्व क्षमताओं के गणितीय तर्क खाते का वर्णन करता है: यही कारण है कि जो चीजें मौजूद हैं वे ऐसी दिखती हैं मानो वे उन प्रणालियों के गुणों को ट्रैक करती हैं जिनसे वे जुड़े हुए हैं। यह स्थापित करता है कि भौतिक प्रणालियों की गतिशीलता आश्चर्य के रूप में ज्ञात मात्रा को कम करती है (जो कि कुछ परिणामों की नकारात्मक लॉग संभावना है); या समकक्ष, इसकी परिवर्तनशील ऊपरी सीमा, जिसे परिवर्तनशील मुक्त ऊर्जा कहा जाता है। इस सिद्धांत का उपयोग विशेष रूप से मस्तिष्क कार्य के लिए बायेसियन दृष्टिकोण में किया जाता है, लेकिन कृत्रिम बुद्धि के कुछ दृष्टिकोण में भी; यह औपचारिक रूप से वैरिएबल बायेसियन तरीकों से संबंधित है और मूल रूप से कार्ल फ्रिस्टन द्वारा तंत्रिका विज्ञान में सन्निहित धारणा-क्रिया लूप के स्पष्टीकरण के रूप में पेश किया गया था। मुक्त ऊर्जा सिद्धांत उन प्रणालियों के व्यवहार को मॉडल करता है जो किसी अन्य प्रणाली (उदाहरण के लिए, एक एम्बेडिंग वातावरण) से अलग हैं, लेकिन युग्मित हैं, जहां दो प्रणालियों के बीच इंटरफेस को लागू करने वाली स्वतंत्रता की डिग्री को मार्कोव कंबल के रूप में जाना जाता है। अधिक औपचारिक रूप से, मुक्त ऊर्जा सिद्धांत कहता है कि यदि किसी सिस्टम में एक विशेष विभाजन है (यानी, कणों में, उनके मार्कोव कंबल के साथ), तो उस सिस्टम के उपसमूह अन्य उपसमूहों की सांख्यिकीय संरचना को ट्रैक करेंगे (जिन्हें आंतरिक और बाहरी राज्यों के रूप में जाना जाता है) या किसी सिस्टम के पथ)।

मुक्त ऊर्जा सिद्धांत मस्तिष्क के "अनुमान इंजन" के बायेसियन विचार पर आधारित है। मुक्त ऊर्जा सिद्धांत के तहत, सिस्टम कम से कम आश्चर्य का रास्ता अपनाते हैं, या समकक्ष रूप से, दुनिया के अपने मॉडल और उनकी समझ और संबंधित धारणा के आधार पर भविष्यवाणियों के बीच अंतर को कम करते हैं। इस अंतर को परिवर्तनशील मुक्त ऊर्जा द्वारा निर्धारित किया जाता है और सिस्टम के विश्व मॉडल के निरंतर सुधार या दुनिया को सिस्टम की भविष्यवाणियों की तरह बनाकर कम किया जाता है। दुनिया को अपेक्षित स्थिति के करीब लाने के लिए इसे सक्रिय रूप से बदलकर, सिस्टम सिस्टम की मुक्त ऊर्जा को भी कम कर सकता है। फ्रिस्टन इसे सभी जैविक प्रतिक्रियाओं का सिद्धांत मानता है। फ्रिस्टन का यह भी मानना ​​है कि उनका सिद्धांत मानसिक विकारों के साथ-साथ कृत्रिम बुद्धिमत्ता पर भी लागू होता है। सक्रिय अनुमान सिद्धांत पर आधारित एआई कार्यान्वयन ने अन्य तरीकों की तुलना में लाभ दिखाया है।

मुक्त ऊर्जा सिद्धांत सूचना भौतिकी का एक गणितीय सिद्धांत है: अधिकतम एन्ट्रापी के सिद्धांत या कम से कम कार्रवाई के सिद्धांत की तरह, यह गणितीय आधार पर सत्य है। मुक्त ऊर्जा सिद्धांत को गलत साबित करने का प्रयास करना एक श्रेणी की गलती है, जो अनुभवजन्य अवलोकन करके गणना  को गलत साबित करने की कोशिश करने के समान है। (कोई इस तरह से गणितीय सिद्धांत को अमान्य नहीं कर सकता है; इसके बजाय, किसी को सिद्धांत से एक औपचारिक विरोधाभास प्राप्त करने की आवश्यकता होगी।) 2018 के एक साक्षात्कार में, फ्रिस्टन ने बताया कि मुक्त ऊर्जा सिद्धांत को मिथ्याकरणीयता के अधीन नहीं होने के लिए इसमें क्या शामिल है: मुझे लगता है इस बिंदु पर एक बुनियादी अंतर करना उपयोगी है - जिस पर हम बाद में अपील कर सकते हैं। अंतर एक अवस्था और प्रक्रिया सिद्धांत के बीच है; यानी, एक मानक सिद्धांत जिसके अनुरूप चीजें हो भी सकती हैं और नहीं भी, और उस सिद्धांत को कैसे साकार किया जाता है, इसके बारे में एक प्रक्रिया सिद्धांत या परिकल्पना के बीच अंतर। इस भेद के तहत, मुक्त ऊर्जा सिद्धांत पूर्वानुमानित कोडिंग और बायेसियन मस्तिष्क परिकल्पना जैसी चीजों से बिल्कुल अलग है। ऐसा इसलिए है क्योंकि मुक्त ऊर्जा सिद्धांत वही है - एक सिद्धांत। हैमिल्टन के सिद्धांत की तरह|हैमिल्टन के स्थिर क्रिया के सिद्धांत को गलत साबित नहीं किया जा सकता। इसका खंडन नहीं किया जा सकता. वास्तव में, आप इसमें बहुत कुछ नहीं कर सकते, जब तक कि आप यह न पूछें कि मापने योग्य प्रणालियाँ सिद्धांत के अनुरूप हैं या नहीं। दूसरी ओर, ऐसी परिकल्पनाएँ कि मस्तिष्क किसी प्रकार का बायेसियन अनुमान या पूर्वानुमानित कोडिंग करता है - वे परिकल्पनाएँ हैं। ये परिकल्पनाएँ अनुभवजन्य साक्ष्य द्वारा समर्थित हो भी सकती हैं और नहीं भी। इन परिकल्पनाओं के अनुभवजन्य साक्ष्य द्वारा समर्थित होने के कई उदाहरण हैं।

पृष्ठभूमि
यह धारणा कि स्व-संगठन | स्व-संगठित जैविक प्रणालियाँ - जैसे कोशिका या मस्तिष्क - को परिवर्तनशील मुक्त ऊर्जा को कम करने के रूप में समझा जा सकता है, हरमन वॉन हेल्महोल्ट्ज़ के अचेतन अनुमान पर काम पर आधारित है और मनोविज्ञान में बाद के उपचार और मशीन लर्निंग। परिवर्तनशील मुक्त ऊर्जा उनके छिपे कारणों पर अवलोकन और संभाव्यता घनत्व का एक कार्य है। विविधता घनत्व के इस कैलकुलस को एक संभाव्य मॉडल के संबंध में परिभाषित किया गया है जो परिकल्पित कारणों से अनुमानित अवलोकन उत्पन्न करता है। इस सेटिंग में, मुक्त ऊर्जा सीमांत संभावना का अनुमान प्रदान करती है। इसलिए, इसके न्यूनतमकरण को बायेसियन अनुमान प्रक्रिया के रूप में देखा जा सकता है। जब कोई प्रणाली सक्रिय रूप से मुक्त ऊर्जा को कम करने के लिए अवलोकन करती है, तो यह अंतर्निहित रूप से सक्रिय अनुमान लगाती है और दुनिया के अपने मॉडल के लिए साक्ष्य को अधिकतम करती है।

हालाँकि, मुक्त ऊर्जा भी परिणामों की आत्म-सूचना पर एक ऊपरी सीमा है, जहाँ आत्म-सूचना का दीर्घकालिक औसत एन्ट्रापी है। इसका मतलब यह है कि यदि कोई प्रणाली मुक्त ऊर्जा को कम करने के लिए कार्य करती है, तो यह परोक्ष रूप से परिणामों की एन्ट्रापी - या संवेदी अवस्थाओं - के नमूनों पर एक ऊपरी सीमा लगाएगी।

अन्य सिद्धांतों से संबंध
सक्रिय अनुमान का अच्छा नियामक  से गहरा संबंध है और स्व-संगठन के संबंधित खाते,  जैसे स्व-संयोजन, पैटर्न निर्माण, आत्मनिर्णय का और कार्यान्वयन यह साइबरनेटिक्स, सिनर्जेटिक्स (हेकेन) में विचार किए गए विषयों को संबोधित करता है और सन्निहित अनुभूति. क्योंकि मुक्त ऊर्जा को परिवर्तनशील घनत्व के अंतर्गत उसकी एन्ट्रापी को घटाकर प्रेक्षणों की अपेक्षित ऊर्जा के रूप में व्यक्त किया जा सकता है, यह अधिकतम एन्ट्रापी सिद्धांत से भी संबंधित है। अंततः, क्योंकि ऊर्जा का समय औसत क्रिया है, न्यूनतम परिवर्तनशील मुक्त ऊर्जा का सिद्धांत न्यूनतम क्रिया का सिद्धांत है। स्केल इनवेरिएंस की अनुमति देने वाले सक्रिय अनुमान को अन्य सिद्धांतों और डोमेन पर भी लागू किया गया है। उदाहरण के लिए, इसे समाजशास्त्र पर लागू किया गया है,   भाषाविज्ञान और संचार,   लाक्षणिकता,  और महामारी विज्ञान दूसरों के बीच में।

नकारात्मक मुक्त ऊर्जा औपचारिक रूप से निचली सीमा के साक्ष्य के बराबर है, जिसका उपयोग आमतौर पर यंत्र अधिगम  में जनरेटिव मॉडल, जैसे  वैरिएशनल ऑटोएनकोडर  को प्रशिक्षित करने के लिए किया जाता है।

क्रिया और धारणा
सक्रिय अनुमान एक जनरेटिव मॉडल से संवेदी डेटा के कारणों का अनुमान लगाने के लिए अनुमानित बायेसियन गणना की तकनीकों को लागू करता है | 'जनरेटिव' मॉडल कि डेटा कैसे उत्पन्न होता है और फिर कार्रवाई का मार्गदर्शन करने के लिए इन अनुमानों का उपयोग करता है। बेयस प्रमेय|बेयस नियम ऐसे कारण मॉडल के संभाव्य रूप से इष्टतम उलटा की विशेषता बताता है, लेकिन इसे लागू करना आम तौर पर कम्प्यूटेशनल रूप से कठिन होता है, जिससे अनुमानित तरीकों का उपयोग होता है। सक्रिय अनुमान में, ऐसे अनुमानित तरीकों का अग्रणी वर्ग व्यावहारिक और सैद्धांतिक दोनों कारणों से वैरिएशनल बायेसियन विधियां हैं: व्यावहारिक, क्योंकि वे अक्सर सरल अनुमान प्रक्रियाओं की ओर ले जाते हैं; और सैद्धांतिक, क्योंकि वे मूलभूत भौतिक सिद्धांतों से संबंधित हैं, जैसा कि ऊपर चर्चा की गई है।

ये परिवर्तनशील विधियाँ बेयस-इष्टतम अनुमान (या 'पश्च संभाव्यता') और विधि के अनुसार इसके सन्निकटन के बीच विचलन पर ऊपरी सीमा को कम करके आगे बढ़ती हैं। इस ऊपरी सीमा को मुक्त ऊर्जा के रूप में जाना जाता है, और हम तदनुसार इनबाउंड संवेदी जानकारी के संबंध में मुक्त ऊर्जा के न्यूनतमकरण के रूप में धारणा को चिह्नित कर सकते हैं, और आउटबाउंड एक्शन जानकारी के संबंध में उसी मुक्त ऊर्जा के न्यूनतमकरण के रूप में कार्रवाई कर सकते हैं। यह समग्र दोहरा अनुकूलन सक्रिय अनुमान की विशेषता है, और मुक्त ऊर्जा सिद्धांत यह परिकल्पना है कि सभी प्रणालियाँ जो अनुभव करती हैं और कार्य करती हैं, उन्हें इस तरह से चित्रित किया जा सकता है।

मुक्त ऊर्जा सिद्धांत के माध्यम से सक्रिय अनुमान के यांत्रिकी का उदाहरण देने के लिए, एक जेनरेटिव मॉडल निर्दिष्ट किया जाना चाहिए, और इसमें आम तौर पर संभाव्यता घनत्व कार्यों का संग्रह शामिल होता है जो एक साथ कारण मॉडल को चित्रित करता है। ऐसी ही एक विशिष्टता इस प्रकार है. सिस्टम को राज्य स्थान में रहने के रूप में तैयार किया गया है $$X$$, इस अर्थ में कि इसके राज्य इस स्थान के बिंदु बनाते हैं। फिर राज्य स्थान को इसके अनुसार गुणनखंडित किया जाता है $$X = \Psi\times S\times A\times R$$, कहाँ $$\Psi$$ 'बाहरी' राज्यों का स्थान है जो एजेंट से 'छिपा हुआ' है (प्रत्यक्ष रूप से माना या पहुंच योग्य नहीं होने के अर्थ में), $$S$$ संवेदी अवस्थाओं का स्थान है जिसे एजेंट द्वारा सीधे माना जाता है, $$A$$ एजेंट के संभावित कार्यों का स्थान है, और $$R$$ 'आंतरिक' राज्यों का एक स्थान है जो एजेंट के लिए निजी है।

चित्र 1 को ध्यान में रखते हुए, ध्यान दें कि निम्नलिखित में $$\dot{\psi}, \psi, s, a$$ और $$\mu$$ (निरंतर) समय के कार्य हैं $$t$$. जेनरेटिव मॉडल निम्नलिखित घनत्व कार्यों का विनिर्देश है:
 * एक संवेदी मॉडल, $$p_S:S \times \Psi\times A \to \mathbb{R}$$, अक्सर के रूप में लिखा जाता है $$p_S(s \mid \psi, a)$$, बाहरी अवस्थाओं और क्रियाओं को देखते हुए संवेदी डेटा की संभावना को चिह्नित करना;
 * पर्यावरणीय गतिशीलता का एक स्टोकेस्टिक मॉडल, $$p_\Psi: \Psi \times \Psi \times A \to \mathbb{R}$$, अक्सर लिखा जाता है $$p_\Psi(\dot{\psi} \mid \psi, a)$$, यह वर्णन करते हुए कि एजेंट द्वारा समय के साथ बाहरी स्थितियों के विकसित होने की अपेक्षा कैसे की जाती है $$t$$, एजेंट के कार्यों को देखते हुए;
 * एक एक्शन मॉडल, $$p_A: A \times R \times S \to \mathbb{R}$$, लिखा हुआ $$p_A(a \mid \mu, s)$$, यह वर्णन करना कि एजेंट की गतिविधियां उसकी आंतरिक स्थिति और संवेदी डेटा पर कैसे निर्भर करती हैं; और
 * एक आंतरिक मॉडल, $$p_R: R \times S \to \mathbb{R}$$, लिखा हुआ $$p_R(\mu \mid s)$$, यह वर्णन करते हुए कि एजेंट की आंतरिक स्थिति उसके संवेदी डेटा पर कैसे निर्भर करती है।

ये घनत्व फ़ंक्शन संयुक्त संभाव्यता वितरण के कारकों को निर्धारित करते हैं, जो जेनरेटिव मॉडल के पूर्ण विनिर्देश का प्रतिनिधित्व करता है, और जिसे इस प्रकार लिखा जा सकता है
 * $$p_{\text{Bayes}}(\dot{\psi}, s, a, \mu \mid \psi) = p_S(s \mid \psi, a)p_\Psi(\dot{\psi} \mid \psi, a)p_A(a \mid \mu, s)p_R(\mu \mid s)$$.

बेयस का नियम तब पश्च घनत्व निर्धारित करता है $$p(\dot{\psi} | s, a, \mu, \psi)$$, जो बाहरी स्थिति के बारे में संभावित रूप से इष्टतम विश्वास व्यक्त करता है $$\psi$$ पूर्ववर्ती स्थिति और एजेंट के कार्यों, संवेदी संकेतों और आंतरिक स्थितियों को देखते हुए। कंप्यूटिंग के बाद से $$p_{\text{Bayes}}$$ कम्प्यूटेशनल रूप से कठिन है, मुक्त ऊर्जा सिद्धांत एक परिवर्तनशील घनत्व के अस्तित्व पर जोर देता है $$q(\dot{\psi} | s, a, \mu, \psi)$$, कहाँ $$q$$ का एक अनुमान है $$p_{\text{Bayes}}$$. फिर कोई मुक्त ऊर्जा को इस प्रकार परिभाषित करता है
 * $$\begin{align}

\underset{\mathrm{free-energy}} {\underbrace{F(\mu, a\, ; s)}} &= \underset{\text{expected energy}} {\underbrace{ \mathbb{E}_{q(\dot{\psi})}[-\log p(\dot{\psi}, s, a, \mu \mid \psi)]}} - \underset{\mathrm{entropy}} {\underbrace{ \mathbb{H}[q(\dot{\psi} \mid s, a, \mu, \psi)]}}\\ &= \underset{\mathrm{surprise}} {\underbrace{ -\log p(s)}} + \underset{\mathrm{divergence}} {\underbrace{ \mathbb{KL}[q(\dot{\psi} \mid s, a, \mu, \psi) \parallel p_{\text{Bayes}}(\dot{\psi} \mid s, a, \mu, \psi)]}} \\ &\geq \underset{\mathrm{surprise}} {\underbrace{ -\log p(s)}} \end{align}$$ और क्रिया और धारणा को संयुक्त अनुकूलन समस्या के रूप में परिभाषित करता है
 * $$ \begin{align}

\mu^* &= \underset{\mu}{\operatorname{arg\,min}} \{ F(\mu, a \,;\, s)) \} \\   a^*   &= \underset{a}{\operatorname{arg\,min}}   \{ F(\mu^*, a \,;\, s) \} \end{align}$$ जहां आंतरिक स्थिति है $$\mu$$ आमतौर पर 'परिवर्तनशील' घनत्व के मापदंडों को एनकोड करने के लिए लिया जाता है $$q$$ और इसलिए पिछले विश्वास के बारे में एजेंट का सबसे अच्छा अनुमान खत्म हो गया है $$\Psi$$. ध्यान दें कि मुक्त ऊर्जा भी एजेंट (सीमांत वितरण, या औसत) संवेदी सूचना सामग्री के माप पर एक ऊपरी सीमा है, और इसलिए मुक्त ऊर्जा न्यूनतमकरण अक्सर आश्चर्य को कम करने से प्रेरित होता है।

निःशुल्क ऊर्जा न्यूनतमकरण और स्व-संगठन
यादृच्छिक गतिशील प्रणालियों के रूप में डाले जाने पर मुक्त ऊर्जा न्यूनीकरण को स्व-संगठित प्रणालियों की एक पहचान के रूप में प्रस्तावित किया गया है। यह सूत्रीकरण एक मार्कोव कंबल (जिसमें क्रिया और संवेदी अवस्थाएँ शामिल हैं) पर टिकी हुई है जो आंतरिक और बाहरी अवस्थाओं को अलग करती है। यदि आंतरिक अवस्थाएँ और क्रियाएँ मुक्त ऊर्जा को कम करती हैं, तो वे संवेदी अवस्थाओं की एन्ट्रापी पर एक ऊपरी सीमा लगाते हैं:


 * $$ \lim_{T\to\infty} \frac{1}{T} \underset{\text{free-action}} {\underbrace{\int_0^T F(s(t),\mu (t))\,dt}} \ge

\lim_{T\to\infty} \frac{1}{T} \int_0^T \underset{\text{surprise}}{\underbrace{-\log p(s(t)\mid m)}} \, dt = H[p(s\mid m)] $$ ऐसा इसलिए है क्योंकि - एर्गोडिक सिद्धांत मान्यताओं के तहत - आश्चर्य का दीर्घकालिक औसत एन्ट्रापी है। यह बाध्यता अव्यवस्था की एक प्राकृतिक प्रवृत्ति का विरोध करती है - थर्मोडायनामिक्स के दूसरे नियम और उतार-चढ़ाव प्रमेय से जुड़े प्रकार की। हालाँकि, सांख्यिकीय भौतिकी से अवधारणाओं के संदर्भ में जीवन विज्ञान के लिए एक एकीकृत सिद्धांत तैयार करना, जैसे कि यादृच्छिक गतिशील प्रणाली, गैर-संतुलन स्थिर स्थिति और एर्गोडिसिटी, सभी को अस्पष्ट करने के जोखिम के साथ जैविक प्रणालियों के सैद्धांतिक और अनुभवजन्य अध्ययन पर पर्याप्त बाधाएं डालता है। ऐसी विशेषताएँ जो जैविक प्रणालियों को रोचक प्रकार की स्व-संगठित प्रणालियाँ बनाती हैं।

मुक्त ऊर्जा न्यूनीकरण और बायेसियन अनुमान
सभी बायेसियन अनुमान मुक्त ऊर्जा न्यूनीकरण के संदर्भ में लगाए जा सकते हैं. जब आंतरिक अवस्थाओं के संबंध में मुक्त ऊर्जा को कम किया जाता है, तो छिपी हुई अवस्थाओं पर परिवर्तनशील और पश्च घनत्व के बीच कुल्बैक-लीबलर विचलन कम हो जाता है। यह अनुमानित बायेसियन अनुमान से मेल खाता है - जब परिवर्तनशील घनत्व का रूप निश्चित होता है - और अन्यथा सटीक बायेसियन अनुमान होता है। इसलिए नि:शुल्क ऊर्जा न्यूनीकरण बायेसियन अनुमान और फ़िल्टरिंग (उदाहरण के लिए, कलमन फ़िल्टर) का एक सामान्य विवरण प्रदान करता है। इसका उपयोग बायेसियन मॉडल चयन में भी किया जाता है, जहां मुक्त ऊर्जा को जटिलता और सटीकता में उपयोगी रूप से विघटित किया जा सकता है:


 * $$ \underset{\text{free-energy}} {\underbrace{ F(s,\mu)}} = \underset{\text{complexity}} {\underbrace{ D_\mathrm{KL}[q(\psi\mid\mu)\parallel p(\psi\mid m)]}} - \underset{\mathrm{accuracy}} {\underbrace{E_q[\log p(s\mid\psi,m)]}}$$

न्यूनतम मुक्त ऊर्जा वाले मॉडल जटिलता लागत (सी.एफ., ओकैम के रेजर और कम्प्यूटेशनल लागत के अधिक औपचारिक उपचार) के तहत डेटा का सटीक स्पष्टीकरण प्रदान करते हैं ). यहां, जटिलता परिवर्तनशील घनत्व और छुपे हुए राज्यों के बारे में पूर्व मान्यताओं (यानी, डेटा को समझाने के लिए उपयोग की जाने वाली स्वतंत्रता की प्रभावी डिग्री) के बीच विचलन है।

मुक्त ऊर्जा न्यूनतमकरण और थर्मोडायनामिक्स
परिवर्तनशील मुक्त ऊर्जा एक सूचना-सैद्धांतिक कार्यात्मक है और थर्मोडायनामिक (हेल्महोल्ट्ज़) हेल्महोल्ट्ज़ मुक्त ऊर्जा से अलग है। हालाँकि, परिवर्तनशील मुक्त ऊर्जा की जटिलता अवधि हेल्महोल्त्ज़ मुक्त ऊर्जा के समान निश्चित बिंदु को साझा करती है (धारणा के तहत सिस्टम थर्मोडायनामिक रूप से बंद है लेकिन पृथक नहीं है)। ऐसा इसलिए है क्योंकि यदि संवेदी गड़बड़ी को (उपयुक्त लंबी अवधि के लिए) निलंबित कर दिया जाता है, तो जटिलता कम हो जाती है (क्योंकि सटीकता की उपेक्षा की जा सकती है)। इस बिंदु पर, सिस्टम संतुलन पर है और आंतरिक अवस्थाएं न्यूनतम ऊर्जा के सिद्धांत द्वारा हेल्महोल्ट्ज़ मुक्त ऊर्जा को कम करती हैं।

निःशुल्क ऊर्जा न्यूनीकरण और सूचना सिद्धांत
मुक्त ऊर्जा न्यूनीकरण संवेदी अवस्थाओं और आंतरिक अवस्थाओं के बीच पारस्परिक जानकारी को अधिकतम करने के बराबर है जो परिवर्तनशील घनत्व (एक निश्चित एन्ट्रापी परिवर्तनीय घनत्व के लिए) को मापता है। यह निःशुल्क ऊर्जा न्यूनीकरण को न्यूनतम अतिरेक के सिद्धांत से संबंधित करता है

तंत्रिका विज्ञान में मुक्त ऊर्जा न्यूनीकरण
नि:शुल्क ऊर्जा न्यूनीकरण, अनिश्चितता के तहत न्यूरोनल अनुमान और सीखने के मानक (बेयस इष्टतम) मॉडल तैयार करने का एक उपयोगी तरीका प्रदान करता है। और इसलिए बायेसियन मस्तिष्क परिकल्पना की सदस्यता लेता है। मुक्त ऊर्जा न्यूनतमकरण द्वारा वर्णित न्यूरोनल प्रक्रियाएं छिपी हुई अवस्थाओं की प्रकृति पर निर्भर करती हैं: $$ \Psi = X \times \Theta \times \Pi $$ इसमें समय-निर्भर चर, समय-अपरिवर्तनीय पैरामीटर और यादृच्छिक उतार-चढ़ाव की सटीकता (उलटा विचरण या तापमान) शामिल हो सकते हैं। चर, पैरामीटर और परिशुद्धता को न्यूनतम करना क्रमशः अनुमान, सीखने और अनिश्चितता के एन्कोडिंग के अनुरूप है।

अवधारणात्मक अनुमान और वर्गीकरण
मुक्त ऊर्जा न्यूनीकरण धारणा में अचेतन अनुमान की धारणा को औपचारिक बनाता है और न्यूरोनल प्रसंस्करण का एक मानक (बायेसियन) सिद्धांत प्रदान करता है। न्यूरोनल डायनेमिक्स का संबद्ध प्रक्रिया सिद्धांत ग्रेडिएंट डिसेंट के माध्यम से मुक्त ऊर्जा को कम करने पर आधारित है। यह सामान्यीकृत फ़िल्टरिंग से मेल खाता है (जहां ~ गति के सामान्यीकृत निर्देशांक में एक चर को दर्शाता है और  $$D$$ एक व्युत्पन्न मैट्रिक्स ऑपरेटर है):
 * $$\dot{\tilde{\mu}} = D \tilde{\mu} - \partial_{\mu}F(s,\mu)\Big|_{\mu = \tilde{\mu}}$$

आमतौर पर, मुक्त ऊर्जा को परिभाषित करने वाले उत्पादक मॉडल गैर-रैखिक और पदानुक्रमित होते हैं (मस्तिष्क में कॉर्टिकल पदानुक्रम की तरह)। सामान्यीकृत फ़िल्टरिंग के विशेष मामलों में कलमन फ़िल्टरिंग शामिल है, जो औपचारिक रूप से पूर्वानुमानित कोडिंग के बराबर है - मस्तिष्क में संदेश भेजने का एक लोकप्रिय रूपक। पदानुक्रमित मॉडल के तहत, भविष्य कहनेवाला कोडिंग में आरोही (नीचे से ऊपर) भविष्यवाणी त्रुटियों और अवरोही (ऊपर से नीचे) भविष्यवाणियों का आवर्ती आदान-प्रदान शामिल होता है। यह संवेदी की शारीरिक रचना और शरीर विज्ञान के अनुरूप है और मोटर सिस्टम।

अवधारणात्मक शिक्षा और स्मृति
भविष्य कहनेवाला कोडिंग में, मुक्त ऊर्जा (मुक्त कार्रवाई) के अभिन्न अंग पर क्रमिक वंश के माध्यम से मॉडल मापदंडों का अनुकूलन साहचर्य या हेब्बियन सिद्धांत को कम करता है और मस्तिष्क में सूत्रयुग्मक सुनम्यता  से जुड़ा होता है।

अवधारणात्मक सटीकता, ध्यान और प्रमुखता
परिशुद्धता मापदंडों का अनुकूलन भविष्यवाणी त्रुटियों के लाभ को अनुकूलित करने से मेल खाता है (सी.एफ., कलमन लाभ)। पूर्वानुमानित कोडिंग के न्यूरोनल रूप से प्रशंसनीय कार्यान्वयन में, यह सतही पिरामिड कोशिकाओं की उत्तेजना को अनुकूलित करने के अनुरूप है और इसकी व्याख्या ध्यानात्मक लाभ के संदर्भ में की गई है।

टॉप-डाउन बनाम बॉटम-अप विवाद के संबंध में, जिसे ध्यान की एक प्रमुख खुली समस्या के रूप में संबोधित किया गया है, एक कम्प्यूटेशनल मॉडल टॉप-डाउन और बॉटम-अप तंत्र के बीच परस्पर क्रिया की परिपत्र प्रकृति को चित्रित करने में सफल रहा है। ध्यान के एक स्थापित उभरते मॉडल, अर्थात् एसएआईएम का उपयोग करते हुए, लेखकों ने पीई-एसएआईएम नामक एक मॉडल का प्रस्ताव रखा, जो मानक संस्करण के विपरीत, ऊपर से नीचे की स्थिति से चयनात्मक ध्यान देता है। मॉडल भविष्यवाणी त्रुटियों के संचरण को समान स्तर या उससे ऊपर के स्तर पर ध्यान में रखता है, ताकि ऊर्जा फ़ंक्शन को कम किया जा सके जो डेटा और उसके कारण के बीच अंतर को इंगित करता है, या, दूसरे शब्दों में, जेनरेटिव मॉडल और पोस्टीरियर के बीच।. वैधता बढ़ाने के लिए, उन्होंने अपने मॉडल में उत्तेजनाओं के बीच तंत्रिका प्रतिस्पर्धा को भी शामिल किया। इस मॉडल की एक उल्लेखनीय विशेषता केवल कार्य प्रदर्शन के दौरान भविष्यवाणी त्रुटियों के संदर्भ में मुक्त ऊर्जा फ़ंक्शन का पुनरुद्धार है: $$\dfrac{\partial E^{total}(Y^{VP},X^{SN},x^{CN},y^{KN})}{\partial y^{SN}_{mn}}=x^{CN}_{mn}-b^{CN}\varepsilon^{CN}_{nm}+b^{CN}\sum_{k}(\varepsilon^{KN}_{knm})$$ कहाँ $$E^{total}$$ तंत्रिका नेटवर्क का कुल ऊर्जा कार्य शामिल है, और $$\varepsilon^{KN}_{knm}$$ समय के साथ जनरेटिव मॉडल (पूर्व) और पश्च परिवर्तन के बीच भविष्यवाणी त्रुटि है। दो मॉडलों की तुलना करने से उनके संबंधित परिणामों के बीच एक उल्लेखनीय समानता का पता चलता है, साथ ही एक उल्लेखनीय विसंगति भी उजागर होती है, जिससे - एसएआईएम के मानक संस्करण में - मॉडल का ध्यान मुख्य रूप से उत्तेजक कनेक्शन पर होता है, जबकि पीई-एसएआईएम में, निरोधात्मक कनेक्शन होते हैं। एक अनुमान लगाने के लिए उपयोग किया गया। यह मॉडल उच्च परिशुद्धता के साथ मानव प्रयोगों से प्राप्त ईईजी और एफएमआरआई डेटा की भविष्यवाणी करने के लिए भी उपयुक्त साबित हुआ है। इसी तरह, याह्या एट अल। गुप्त चयनात्मक दृश्य ध्यान में टेम्पलेट मिलान के लिए एक कम्प्यूटेशनल मॉडल का प्रस्ताव करने के लिए मुक्त ऊर्जा सिद्धांत को भी लागू किया जो ज्यादातर SAIM पर निर्भर करता है। इस अध्ययन के अनुसार, पूरे राज्य-अंतरिक्ष की कुल मुक्त ऊर्जा मूल तंत्रिका नेटवर्क में ऊपर से नीचे सिग्नल डालकर पहुंचाई जाती है, जिससे हम एक गतिशील प्रणाली प्राप्त करते हैं जिसमें फ़ीड-फ़ॉरवर्ड और बैकवर्ड भविष्यवाणी त्रुटि दोनों शामिल होती हैं।

सक्रिय अनुमान
जब ग्रेडिएंट डिसेंट को क्रिया पर लागू किया जाता है $$ \dot{a} = -\partial_aF(s,\tilde{\mu}) $$, मोटर नियंत्रण को शास्त्रीय रिफ्लेक्स आर्क्स के संदर्भ में समझा जा सकता है जो अवरोही (कॉर्टिकोस्पाइनल) भविष्यवाणियों से जुड़े होते हैं। यह एक औपचारिकता प्रदान करता है जो संतुलन बिंदु समाधान को सामान्यीकृत करता है - स्वतंत्रता समस्या की डिग्री तक - आंदोलन प्रक्षेप पथ के लिए.

सक्रिय अनुमान और इष्टतम नियंत्रण
सक्रिय अनुमान राज्य परिवर्तन या प्रवाह के बारे में पूर्व मान्यताओं के साथ मूल्य या लागत-से-जाने वाले कार्यों को प्रतिस्थापित करके इष्टतम नियंत्रण से संबंधित है। यह बायेसियन फ़िल्टरिंग और बेलमैन समीकरण के समाधान के बीच घनिष्ठ संबंध का फायदा उठाता है। हालाँकि, सक्रिय अनुमान प्रवाह से शुरू होता है $$ f = \Gamma \cdot \nabla V + \nabla \times W $$ जो अदिश से निर्दिष्ट हैं $$ V(x) $$ और वेक्टर $$ W(x) $$ राज्य स्थान के मूल्य कार्य (सी.एफ., हेल्महोल्ट्ज़ अपघटन)। यहाँ, $$ \Gamma $$ यादृच्छिक उतार-चढ़ाव का आयाम है और लागत है $$ c(x) = f \cdot \nabla V + \nabla \cdot \Gamma \cdot V$$. पूर्वज ओवर फ्लो $$ p(\tilde{x}\mid m) $$ राज्यों पर पूर्व प्रेरित करें $$ p(x\mid m) = \exp (V(x)) $$ यह उपयुक्त फॉरवर्ड कोलमोगोरोव समीकरणों का समाधान है। इसके विपरीत, इष्टतम नियंत्रण इस धारणा के तहत, लागत फ़ंक्शन को देखते हुए, प्रवाह को अनुकूलित करता है $$ W = 0 $$ (यानी, प्रवाह कर्ल मुक्त है या विस्तृत संतुलन है)। आमतौर पर, इसमें पिछड़े कोलमोगोरोव समीकरणों को हल करना शामिल होता है।

सक्रिय अनुमान और इष्टतम निर्णय (खेल) सिद्धांत
इष्टतम निर्णय समस्याओं (आमतौर पर आंशिक रूप से अवलोकन योग्य मार्कोव निर्णय प्रक्रियाओं के रूप में तैयार की जाती है) को पूर्व मान्यताओं में उपयोगिता को अवशोषित करके सक्रिय अनुमान के भीतर व्यवहार किया जाता है। इस सेटिंग में, जिन राज्यों की उपयोगिता (कम लागत) अधिक है, वे ऐसे राज्य हैं जिन पर एजेंट कब्ज़ा करने की उम्मीद करता है। जनरेटिव मॉडल को छिपे हुए राज्यों से लैस करके मॉडल नियंत्रण, नीतियां (नियंत्रण अनुक्रम) जो परिवर्तनशील मुक्त ऊर्जा को कम करती हैं, उच्च उपयोगिता वाले राज्यों की ओर ले जाती हैं। न्यूरोबायोलॉजिकल रूप से, डोपामाइन जैसे न्यूरोमोड्यूलेटर को भविष्यवाणी त्रुटि एन्कोडिंग प्रमुख कोशिकाओं के लाभ को संशोधित करके भविष्यवाणी त्रुटियों की सटीकता की रिपोर्ट करने के लिए माना जाता है। यह भविष्यवाणी त्रुटियों की रिपोर्टिंग में डोपामाइन की भूमिका से निकटता से संबंधित है - लेकिन औपचारिक रूप से अलग है रेफरी> और संबंधित कम्प्यूटेशनल खाते। रेफरी>

सक्रिय अनुमान और संज्ञानात्मक तंत्रिका विज्ञान
सक्रिय अनुमान का उपयोग संज्ञानात्मक तंत्रिका विज्ञान, मस्तिष्क कार्य और न्यूरोसाइकिएट्री में कई मुद्दों को संबोधित करने के लिए किया गया है, जिसमें क्रिया अवलोकन भी शामिल है। दर्पण स्नायु, सैकेडेस और दृश्य खोज, आँखों की हरकतें, नींद, भ्रम, ध्यान, क्रिया चयन, चेतना,  हिस्टीरिया और मनोविकृति. सक्रिय अनुमान में कार्रवाई की व्याख्या अक्सर इस विचार पर निर्भर करती है कि मस्तिष्क में 'जिद्दी भविष्यवाणियां' होती हैं जिन्हें वह अद्यतन नहीं कर सकता है, जिसके परिणामस्वरूप ऐसी गतिविधियां होती हैं जो इन भविष्यवाणियों को सच कर देती हैं।

यह भी देखें

 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम

बाहरी संबंध

 * Behavioral and Brain Sciences (by Andy Clark)