मुक्त ऊर्जा सिद्धांत

मुक्त ऊर्जा सिद्धांत एक सैद्धांतिक रूपरेखा है जो सुझाव देता है कि मस्तिष्क आंतरिक मॉडल के आधार पर पूर्वानुमान और संवेदी इनपुट का उपयोग करके उन्हें अद्यतन करके आश्चर्य या अनिश्चितता को कम करता है। यह सटीकता और परिशुद्धता को बढ़ाने के लिए बाहरी दुनिया के साथ अपने आंतरिक मॉडल को संरेखित करने के मस्तिष्क के उद्देश्य पर प्रकाश डालता है। यह सिद्धांत बायेसियन अनुमान को सक्रिय अनुमान के साथ एकीकृत करता है, जहां क्रियाएं पूर्वानुमान द्वारा निर्देशित होती हैं और संवेदी प्रतिक्रिया उन्हें परिष्कृत करती है। मस्तिष्क के कार्य, धारणा और क्रिया (दर्शन) को समझने के लिए इसके व्यापक निहितार्थ हैं।

सिंहावलोकन
जीव भौतिकी और संज्ञानात्मक विज्ञान में, मुक्त ऊर्जा सिद्धांत एक गणितीय सिद्धांत है जो भौतिक प्रणालियों की प्रतिनिधित्व क्षमताओं का औपचारिक विवरण बताता है: यही कारण है कि जो चीजें सम्मलित हैं वे ऐसी दिखती हैं मानो वे उन प्रणालियों के गुणों को ट्रैक करती हैं जिनसे वे जुड़े हुए हैं।

यह स्थापित करता है कि भौतिक प्रणालियों की गतिशीलता आश्चर्य के रूप में ज्ञात मात्रा को कम करती है (जो कि कुछ परिणामों की नकारात्मक लॉग संभावना है); या समकक्ष, इसकी परिवर्तनशील ऊपरी सीमा, जिसे परिवर्तनशील मुक्त ऊर्जा कहा जाता है। इस सिद्धांत का उपयोग विशेष रूप से मस्तिष्क कार्य के लिए बायेसियन दृष्टिकोण में किया जाता है, लेकिन कृत्रिम बुद्धि के कुछ दृष्टिकोण में भी; यह औपचारिक रूप से वैरिएबल बायेसियन तरीकों से संबंधित है और मूल रूप से कार्ल फ्रिस्टन द्वारा तंत्रिका विज्ञान में सन्निहित धारणा-क्रिया लूप के स्पष्टीकरण के रूप में पेश किया गया था।

मुक्त ऊर्जा सिद्धांत उन प्रणालियों के व्यवहार को मॉडल करता है जो किसी अन्य प्रणाली (उदाहरण के लिए, एक अंत:स्थापन वातावरण) से अलग हैं, लेकिन युग्मित हैं, जहां दो प्रणालियों के बीच अंतरापृष्ठ को लागू करने वाली स्वतंत्रता की डिग्री को मार्कोव ब्लैंकेट के रूप में जाना जाता है। अधिक औपचारिक रूप से, मुक्त ऊर्जा सिद्धांत कहता है कि यदि किसी प्रणाली में "विशेष विभाजन" है (अर्थात, कणों में, उनके मार्कोव ब्लैंकेट के साथ), तो उस प्रणाली के उपसमुच्चय अन्य उपसमुच्चय की सांख्यिकीय संरचना को ट्रैक करेंगे (जिन्हें आंतरिक और के रूप में जाना जाता है) किसी प्रणाली की बाहरी अवस्थाएँ या पथ)।

मुक्त ऊर्जा सिद्धांत मस्तिष्क के "अनुमिति इंजन" के बायेसियन विचार पर आधारित है। मुक्त ऊर्जा सिद्धांत के अनुसरा, प्रणाली कम से कम आश्चर्य का रास्ता अपनाते हैं, या समकक्ष रूप से, दुनिया के अपने मॉडल और उनकी समझ और संबंधित धारणा के आधार पर पूर्वानुमान के बीच अंतर को कम करते हैं। इस अंतर को परिवर्तनशील मुक्त ऊर्जा द्वारा निर्धारित किया जाता है और प्रणाली के विश्व मॉडल के निरंतर सुधार या दुनिया को प्रणाली की पूर्वानुमान की तरह बनाकर कम किया जाता है। दुनिया को अपेक्षित स्थिति के करीब लाने के लिए इसे सक्रिय रूप से बदलकर, प्रणाली की मुक्त ऊर्जा को भी कम कर सकता है। फ्रिस्टन इसे सभी जैविक प्रतिक्रियाओं का सिद्धांत मानता है। फ्रिस्टन का यह भी मानना ​​है कि उनका सिद्धांत मानसिक विकारों के साथ-साथ कृत्रिम बुद्धिमत्ता पर भी लागू होता है। सक्रिय अनुमान सिद्धांत पर आधारित एआई कार्यान्वयन ने अन्य तरीकों की तुलना में लाभ दिखाया है।

मुक्त ऊर्जा सिद्धांत सूचना भौतिकी का एक गणितीय सिद्धांत है: अधिकतम एन्ट्रापी (परिक्षय) के सिद्धांत या कम से कम कार्रवाई के सिद्धांत की तरह, यह गणितीय आधार पर सत्य है। मुक्त ऊर्जा सिद्धांत को गलत सिद्ध करने का प्रयास करना एक श्रेणी की गलती है, जो अनुभवजन्य अवलोकन करके गणना को गलत सिद्ध करने की कोशिश करने के समान है। (कोई इस तरह से गणितीय सिद्धांत को अमान्य नहीं कर सकता है; इसके अतरिक्त, किसी को सिद्धांत से एक औपचारिक विरोधाभास प्राप्त करने की आवश्यकता होगी।) 2018 के एक साक्षात्कार में, फ्रिस्टन ने बताया कि मुक्त ऊर्जा सिद्धांत को मिथ्याकरणीयता के अधीन नहीं होने के लिए इसमें क्या सम्मलित है: मुझे लगता है इस बिंदु पर एक बुनियादी अंतर करना उपयोगी है - जिस पर हम बाद में अपील कर सकते हैं। अंतर एक अवस्था और प्रक्रिया सिद्धांत के बीच है; अर्थात, एक मानक सिद्धांत जिसके अनुरूप चीजें हो भी सकती हैं और नहीं भी, और उस सिद्धांत को कैसे साकार किया जाता है, इसके बारे में एक प्रक्रिया सिद्धांत या परिकल्पना के बीच अंतर है। इस भेद के अनुसरा, मुक्त ऊर्जा सिद्धांत प्रागुक्तीय कोडन और बायेसियन मस्तिष्क परिकल्पना जैसी चीजों से बिल्कुल अलग है। ऐसा इसलिए है क्योंकि मुक्त ऊर्जा सिद्धांत - एक सिद्धांत है। हैमिल्टन के सिद्धांत की तरह हैमिल्टन के स्थिर क्रिया के सिद्धांत को गलत सिद्ध नहीं किया जा सकता है। इसका खंडन नहीं किया जा सकता है, वास्तव में, आप इसमें बहुत कुछ नहीं कर सकते, जब तक कि आप यह न पूछें कि मापने योग्य प्रणालियाँ सिद्धांत के अनुरूप हैं या नहीं। दूसरी ओर, ऐसी परिकल्पनाएँ कि मस्तिष्क किसी प्रकार का बायेसियन अनुमान या पूर्वानुमानित कोडन करता है - वे परिकल्पनाएँ हैं। ये परिकल्पनाएँ अनुभवजन्य साक्ष्य द्वारा समर्थित हो भी सकती हैं और नहीं भी। इन परिकल्पनाओं के अनुभवजन्य साक्ष्य द्वारा समर्थित होने के कई उदाहरण हैं।

पृष्ठभूमि
यह धारणा कि स्व-संगठित जैविक प्रणालियाँ - जैसे कोशिका या मस्तिष्क - को परिवर्तनशील मुक्त ऊर्जा को कम करने के रूप में समझा जा सकता है, हरमन वॉन हेल्महोल्ट्ज़ के अचेतन अनुमान पर काम पर आधारित है और मनोविज्ञान में बाद के उपचार और मशीन लर्निंग पर। परिवर्तनशील मुक्त ऊर्जा उनके छिपे कारणों पर अवलोकन और संभाव्यता घनत्व का एक कार्य है। इस परिवर्तनशील घनत्व को एक संभाव्य मॉडल के संबंध में परिभाषित किया गया है जो परिकल्पित कारणों से अनुमानित अवलोकन उत्पन्न करता है+। इस सेटिंग में, मुक्त ऊर्जा सीमांत संभावना का अनुमान प्रदान करती है। इसलिए, इसके न्यूनतमकरण को बायेसियन अनुमान प्रक्रिया के रूप में देखा जा सकता है। जब कोई प्रणाली सक्रिय रूप से मुक्त ऊर्जा को कम करने के लिए अवलोकन करती है, तो यह अंतर्निहित रूप से सक्रिय अनुमान लगाती है और दुनिया के अपने मॉडल के लिए साक्ष्य को अधिकतम करती है।

चूंकि, मुक्त ऊर्जा भी परिणामों की आत्म-सूचना पर एक ऊपरी सीमा है, जहाँ आत्म-सूचना का दीर्घकालिक औसत एन्ट्रापी है। इसका मतलब यह है कि यदि कोई प्रणाली मुक्त ऊर्जा को कम करने के लिए कार्य करती है, तो यह परोक्ष रूप से परिणामों की एन्ट्रापी - या संवेदी अवस्थाओं - के नमूनों पर एक ऊपरी सीमा लगाएगी।

अन्य सिद्धांतों से संबंध
सक्रिय अनुमान अच्छे नियामक प्रमेय से निकटता से संबंधित है और स्व-संगठन के संबंधित खाते, जैसे स्व-संयोजन, पैटर्न निर्माण, आत्मनिर्णय का और कार्यान्वयन यह साइबरनेटिक्स, सिनर्जेटिक्स (हेकेन) में विचार किए गए विषयों को संबोधित करता है और सन्निहित अनुभूति. क्योंकि मुक्त ऊर्जा को परिवर्तनशील घनत्व के अंतर्गत उसकी एन्ट्रापी को घटाकर प्रेक्षणों की अपेक्षित ऊर्जा के रूप में व्यक्त किया जा सकता है, यह अधिकतम एन्ट्रापी सिद्धांत से भी संबंधित है। अंततः, क्योंकि ऊर्जा का समय औसत क्रिया है, न्यूनतम परिवर्तनशील मुक्त ऊर्जा का सिद्धांत न्यूनतम क्रिया का सिद्धांत है। स्केल निश्चरता की अनुमति देने वाले सक्रिय अनुमान को अन्य सिद्धांतों और डोमेन पर भी लागू किया गया है। उदाहरण के लिए, इसे समाजशास्त्र पर लागू किया गया है,   भाषाविज्ञान और संचार,   लाक्षणिकता,  और महामारी विज्ञान दूसरों के बीच में।

नकारात्मक मुक्त ऊर्जा औपचारिक रूप से निचली सीमा के साक्ष्य के बराबर है, जिसका उपयोग सामान्यत: यंत्र अधिगम  में जनरेटिव मॉडल, जैसे  विचरणी ऑटोकोडितर को प्रशिक्षित करने के लिए किया जाता है।

क्रिया और धारणा


सक्रिय अनुमान एक जनरेटिव मॉडल से संवेदी आँकड़े के कारणों का अनुमान लगाने के लिए अनुमानित बायेसियन गणना की तकनीकों को लागू करता है। 'जनरेटिव' मॉडल के आँकड़े कैसे उत्पन्न होते है और फिर कार्रवाई का मार्गदर्शन करने के लिए इन अनुमानों का उपयोग करता है।

बेयस नियम ऐसे कारण मॉडल के संभाव्य रूप से इष्टतम उलटा की विशेषता बताता है, लेकिन इसे लागू करना सामान्यत: अभिकलनीयतः रूप से कठिन होता है, जिससे अनुमानित तरीकों का उपयोग होता है।

सक्रिय अनुमान में, ऐसे अनुमानित तरीकों का अग्रणी वर्ग व्यावहारिक और सैद्धांतिक दोनों कारणों से विचरणी बायेसियन विधियां हैं: व्यावहारिक, क्योंकि वे अधिकांशत: सरल अनुमान प्रक्रियाओं की ओर ले जाते हैं; और सैद्धांतिक, क्योंकि वे मूलभूत भौतिक सिद्धांतों से संबंधित हैं, जैसा कि ऊपर चर्चा की गई है।

ये परिवर्तनशील विधियाँ बेयस-इष्टतम अनुमान (या 'पश्च संभाव्यता') और विधि के अनुसार इसके सन्निकटन के बीच विचलन पर ऊपरी सीमा को कम करके आगे बढ़ती हैं।

इस ऊपरी सीमा को मुक्त ऊर्जा के रूप में जाना जाता है, और हम तदनुसार आवक संवेदी जानकारी के संबंध में मुक्त ऊर्जा के न्यूनतमकरण के रूप में धारणा को चिह्नित कर सकते हैं, और जावक क्रिया जानकारी के संबंध में उसी मुक्त ऊर्जा के न्यूनतमकरण के रूप में कार्रवाई कर सकते हैं।

यह समग्र दोहरा अनुकूलन सक्रिय अनुमान की विशेषता है, और मुक्त ऊर्जा सिद्धांत यह परिकल्पना है कि सभी प्रणालियाँ जो अनुभव करती हैं और कार्य करती हैं, उन्हें इस तरह से चित्रित किया जा सकता है।

मुक्त ऊर्जा सिद्धांत के माध्यम से सक्रिय अनुमान के यांत्रिकी का उदाहरण देने के लिए, एक जेनरेटिव मॉडल निर्दिष्ट किया जाना चाहिए, और इसमें सामान्यत: संभाव्यता घनत्व कार्यों का संग्रह सम्मलित होता है जो एक साथ कारण मॉडल को चित्रित करता है।

ऐसी ही एक विशिष्टता इस प्रकार है.

प्रणाली को स्थिति स्थान में रहने के रूप में तैयार किया गया है $$X$$, इस अर्थ में कि इसके स्थिति इस स्थान के बिंदु बनाते हैं।

फिर स्थिति स्थान को इसके अनुसार गुणनखंडित किया जाता है $$X = \Psi\times S\times A\times R$$, जहाँ $$\Psi$$ 'बाहरी' स्थितिों का स्थान है जो कारक से 'छिपा हुआ' है (प्रत्यक्ष रूप से माना या पहुंच योग्य नहीं होने के अर्थ में), $$S$$ संवेदी अवस्थाओं का स्थान है जिसे कारक द्वारा सीधे माना जाता है, $$A$$ कारक के संभावित कार्यों का स्थान है, और $$R$$ 'आंतरिक' स्थितिों का एक स्थान है जो कारक के लिए निजी है।

चित्र 1 को ध्यान में रखते हुए, ध्यान दें कि निम्नलिखित में $$\dot{\psi}, \psi, s, a$$ और $$\mu$$ (निरंतर) समय के कार्य $$t$$ हैं। जेनरेटिव मॉडल निम्नलिखित घनत्व कार्यों का विनिर्देश है:
 * एक संवेदी मॉडल, $$p_S:S \times \Psi\times A \to \mathbb{R}$$, अधिकांशत: के रूप में लिखा जाता है $$p_S(s \mid \psi, a)$$, बाहरी अवस्थाओं और क्रियाओं को देखते हुए संवेदी आँकड़े की संभावना को चिह्नित करना;
 * पर्यावरणीय गतिशीलता का एक स्टोकेस्टिक मॉडल, $$p_\Psi: \Psi \times \Psi \times A \to \mathbb{R}$$, अधिकांशत: लिखा जाता है $$p_\Psi(\dot{\psi} \mid \psi, a)$$, यह वर्णन करते हुए कि कारक द्वारा समय के साथ बाहरी स्थितियों के विकसित होने की अपेक्षा कैसे की जाती है $$t$$, कारक के कार्यों को देखते हुए;
 * एक क्रिया मॉडल, $$p_A: A \times R \times S \to \mathbb{R}$$, लिखा हुआ $$p_A(a \mid \mu, s)$$, यह वर्णन करना कि कारक की गतिविधियां उसकी आंतरिक स्थिति और संवेदी आँकड़े पर कैसे निर्भर करती हैं;
 * एक आंतरिक मॉडल, $$p_R: R \times S \to \mathbb{R}$$, लिखा हुआ $$p_R(\mu \mid s)$$, यह वर्णन करते हुए कि कारक की आंतरिक स्थिति उसके संवेदी आँकड़े पर कैसे निर्भर करती है।

ये घनत्व फलन संयुक्त संभाव्यता वितरण के कारकों को निर्धारित करते हैं, जो जेनरेटिव मॉडल के पूर्ण विनिर्देश का प्रतिनिधित्व करता है, और जिसे इस प्रकार लिखा जा सकता है
 * $$p_{\text{Bayes}}(\dot{\psi}, s, a, \mu \mid \psi) = p_S(s \mid \psi, a)p_\Psi(\dot{\psi} \mid \psi, a)p_A(a \mid \mu, s)p_R(\mu \mid s)$$.

बेयस का नियम तब पश्च घनत्व निर्धारित करता है $$p(\dot{\psi} | s, a, \mu, \psi)$$, जो बाहरी स्थिति के बारे में संभावित रूप से इष्टतम विश्वास व्यक्त करता है $$\psi$$ पूर्ववर्ती स्थिति और कारक के कार्यों, संवेदी संकेतों और आंतरिक स्थितियों को देखते हुए।

कंप्यूटिंग के बाद से $$p_{\text{Bayes}}$$ अभिकलनीयतः रूप से कठिन है, मुक्त ऊर्जा सिद्धांत एक परिवर्तनशील घनत्व के अस्तित्व पर जोर देता है $$q(\dot{\psi} | s, a, \mu, \psi)$$, जहाँ $$q$$ का एक अनुमान है $$p_{\text{Bayes}}$$.

फिर कोई मुक्त ऊर्जा को इस प्रकार परिभाषित करता है
 * $$\begin{align}

\underset{\mathrm{free-energy}} {\underbrace{F(\mu, a\, ; s)}} &= \underset{\text{expected energy}} {\underbrace{ \mathbb{E}_{q(\dot{\psi})}[-\log p(\dot{\psi}, s, a, \mu \mid \psi)]}} - \underset{\mathrm{entropy}} {\underbrace{ \mathbb{H}[q(\dot{\psi} \mid s, a, \mu, \psi)]}}\\ &= \underset{\mathrm{surprise}} {\underbrace{ -\log p(s)}} + \underset{\mathrm{divergence}} {\underbrace{ \mathbb{KL}[q(\dot{\psi} \mid s, a, \mu, \psi) \parallel p_{\text{Bayes}}(\dot{\psi} \mid s, a, \mu, \psi)]}} \\ &\geq \underset{\mathrm{surprise}} {\underbrace{ -\log p(s)}} \end{align}$$ और क्रिया और धारणा को संयुक्त अनुकूलन समस्या के रूप में परिभाषित करता है
 * $$ \begin{align}

\mu^* &= \underset{\mu}{\operatorname{arg\,min}} \{ F(\mu, a \,;\, s)) \} \\   a^*   &= \underset{a}{\operatorname{arg\,min}}   \{ F(\mu^*, a \,;\, s) \} \end{align}$$ जहाँ आंतरिक स्थिति है $$\mu$$ सामान्यत: 'परिवर्तनशील' घनत्व के मापदंडों को कोडित करने के लिए लिया जाता है, $$q$$ के मापदंडों को एनकोड करने के लिए लिया जाता है और इसलिए एजेंट का पश्च विश्वास के बारे में "सर्वोत्तम अनुमान" होता है $$\Psi$$.

ध्यान दें कि मुक्त ऊर्जा भी कारक (सीमांत वितरण, या औसत) संवेदी सूचना सामग्री के माप पर एक ऊपरी सीमा है, और इसलिए मुक्त ऊर्जा न्यूनतमकरण अधिकांशत: आश्चर्य को कम करने से प्रेरित होता है।

निःशुल्क ऊर्जा न्यूनतमकरण और स्व-संगठन
यादृच्छिक गतिशील प्रणालियों के रूप में डाले जाने पर मुक्त ऊर्जा न्यूनीकरण को स्व-संगठित प्रणालियों की एक पहचान के रूप में प्रस्तावित किया गया है। यह सूत्रीकरण एक मार्कोव ब्लैंकेट (जिसमें क्रिया और संवेदी अवस्थाएँ सम्मलित हैं) पर टिकी हुई है जो आंतरिक और बाहरी अवस्थाओं को अलग करती है। यदि आंतरिक अवस्थाएँ और क्रियाएँ मुक्त ऊर्जा को कम करती हैं, तो वे संवेदी अवस्थाओं की एन्ट्रापी पर एक ऊपरी सीमा लगाते हैं:


 * $$ \lim_{T\to\infty} \frac{1}{T} \underset{\text{free-action}} {\underbrace{\int_0^T F(s(t),\mu (t))\,dt}} \ge

\lim_{T\to\infty} \frac{1}{T} \int_0^T \underset{\text{surprise}}{\underbrace{-\log p(s(t)\mid m)}} \, dt = H[p(s\mid m)] $$ ऐसा इसलिए है क्योंकि - एर्गोडिक सिद्धांत मान्यताओं के अनुसरा - आश्चर्य का दीर्घकालिक औसत एन्ट्रापी है। यह बाध्यता अव्यवस्था की एक प्राकृतिक प्रवृत्ति का विरोध करती है - थर्मोडायनामिक्स (ऊष्मागतिकी) के दूसरे नियम और उतार-चढ़ाव प्रमेय से जुड़े प्रकार की, चूंकि, सांख्यिकीय भौतिकी से अवधारणाओं के संदर्भ में जीवन विज्ञान के लिए एक एकीकृत सिद्धांत तैयार करना, जैसे कि यादृच्छिक गतिशील प्रणाली, गैर-संतुलन स्थिर स्थिति और अभ्यतिप्रायता, सभी को अस्पष्ट करने के जोखिम के साथ जैविक प्रणालियों के सैद्धांतिक और अनुभवजन्य अध्ययन पर पर्याप्त बाधाएं डालता है। ऐसी विशेषताएँ जो जैविक प्रणालियों को रोचक प्रकार की स्व-संगठित प्रणालियाँ बनाती हैं।

मुक्त ऊर्जा न्यूनीकरण और बायेसियन अनुमान
सभी बायेसियन अनुमान मुक्त ऊर्जा न्यूनीकरण के संदर्भ में लगाए जा सकते हैं. जब आंतरिक अवस्थाओं के संबंध में मुक्त ऊर्जा को कम किया जाता है, तो छिपी हुई अवस्थाओं पर परिवर्तनशील और पश्च घनत्व के बीच कुल्बैक-लीबलर विचलन कम हो जाता है। यह अनुमानित बायेसियन अनुमान से मेल खाता है - जब परिवर्तनशील घनत्व का रूप निश्चित होता है - और अन्यथा सटीक बायेसियन अनुमान होता है। इसलिए मुक्त ऊर्जा न्यूनीकरण बायेसियन अनुमान और फ़िल्टरिंग (उदाहरण के लिए, कलमन फ़िल्टर) का एक सामान्य विवरण प्रदान करता है। इसका उपयोग बायेसियन मॉडल चयन में भी किया जाता है, जहां मुक्त ऊर्जा को जटिलता और सटीकता में उपयोगी रूप से विघटित किया जा सकता है:


 * $$ \underset{\text{free-energy}} {\underbrace{ F(s,\mu)}} = \underset{\text{complexity}} {\underbrace{ D_\mathrm{KL}[q(\psi\mid\mu)\parallel p(\psi\mid m)]}} - \underset{\mathrm{accuracy}} {\underbrace{E_q[\log p(s\mid\psi,m)]}}$$

न्यूनतम मुक्त ऊर्जा वाले मॉडल जटिलता लागत (सी.एफ., ओकैम के रेजर और अभिकलनीयतः लागत के अधिक औपचारिक उपचार) के अनुसरा आँकड़े का सटीक स्पष्टीकरण प्रदान करते हैं। यहां, जटिलता परिवर्तनशील घनत्व और छुपे हुए स्थिति के बारे में पूर्व मान्यताओं (अर्थात, आँकड़े को समझाने के लिए उपयोग की जाने वाली स्वतंत्रता की प्रभावी डिग्री) के बीच विचलन है।

मुक्त ऊर्जा न्यूनतमकरण और ऊष्मागतिकी
परिवर्तनशील मुक्त ऊर्जा एक सूचना-सैद्धांतिक कार्यात्मक है और ऊष्मागतिक (हेल्महोल्ट्ज़) हेल्महोल्ट्ज़ मुक्त ऊर्जा से अलग है। चूंकि, परिवर्तनशील मुक्त ऊर्जा की जटिलता अवधि हेल्महोल्त्ज़ मुक्त ऊर्जा के समान निश्चित बिंदु को साझा करती है (धारणा के अनुसरा प्रणाली ऊष्मागतिक रूप से बंद है लेकिन पृथक नहीं है)। ऐसा इसलिए है क्योंकि यदि संवेदी गड़बड़ी को (उपयुक्त लंबी अवधि के लिए) निलंबित कर दिया जाता है, तो जटिलता कम हो जाती है (क्योंकि सटीकता की उपेक्षा की जा सकती है)। इस बिंदु पर, प्रणाली संतुलन पर है और आंतरिक अवस्थाएं न्यूनतम ऊर्जा के सिद्धांत द्वारा हेल्महोल्ट्ज़ मुक्त ऊर्जा को कम करती हैं।

निःशुल्क ऊर्जा न्यूनीकरण और सूचना सिद्धांत
मुक्त ऊर्जा न्यूनीकरण संवेदी अवस्थाओं और आंतरिक अवस्थाओं के बीच पारस्परिक जानकारी को अधिकतम करने के बराबर है जो परिवर्तनशील घनत्व (एक निश्चित एन्ट्रापी परिवर्तनीय घनत्व के लिए) को मापता है। यह निःशुल्क ऊर्जा न्यूनीकरण को न्यूनतम अतिरेक के सिद्धांत से संबंधित करता है

तंत्रिका विज्ञान में मुक्त ऊर्जा न्यूनीकरण
मुक्त ऊर्जा न्यूनीकरण, अनिश्चितता के अनुसरा तंत्रिका अनुमान और सीखने के मानक (बेयस इष्टतम) मॉडल तैयार करने का एक उपयोगी तरीका प्रदान करता है। और इसलिए बायेसियन मस्तिष्क परिकल्पना की सदस्यता लेता है। मुक्त ऊर्जा न्यूनतमकरण द्वारा वर्णित तंत्रिका प्रक्रियाएं छिपी हुई अवस्थाओं की प्रकृति पर निर्भर करती हैं: $$ \Psi = X \times \Theta \times \Pi $$ इसमें समय-निर्भर चर, समय-अपरिवर्तनीय पैरामीटर और यादृच्छिक उतार-चढ़ाव की सटीकता (उलटा विचरण या तापमान) सम्मलित हो सकते हैं। चर, पैरामीटर और परिशुद्धता को न्यूनतम करना क्रमशः अनुमान, सीखने और अनिश्चितता के कोडन के अनुरूप है।

अवधारणात्मक अनुमान और वर्गीकरण
मुक्त ऊर्जा न्यूनीकरण धारणा में अचेतन अनुमान की धारणा को औपचारिक बनाता है और तंत्रिका प्रसंस्करण का एक मानक (बायेसियन) सिद्धांत प्रदान करता है। तंत्रिका डायनेमिक्स का संबद्ध प्रक्रिया सिद्धांत प्रवणता अवरोह के माध्यम से मुक्त ऊर्जा को कम करने पर आधारित है। यह सामान्यीकृत परिसरण से मेल खाता है (जहां ~ गति के सामान्यीकृत निर्देशांक में एक चर को दर्शाता है और  $$D$$ एक व्युत्पन्न मैट्रिक्स ऑपरेटर है):
 * $$\dot{\tilde{\mu}} = D \tilde{\mu} - \partial_{\mu}F(s,\mu)\Big|_{\mu = \tilde{\mu}}$$

सामान्यत:, मुक्त ऊर्जा को परिभाषित करने वाले उत्पादक मॉडल गैर-रैखिक और पदानुक्रमित होते हैं (मस्तिष्क में कॉर्टिकल पदानुक्रम की तरह)। सामान्यीकृत फ़िल्टरिंग के विशेष स्थितियों में कलमन फ़िल्टरिंग सम्मलित है, जो औपचारिक रूप से पूर्वानुमानित कोडन के बराबर है - मस्तिष्क में संदेश भेजने का एक लोकप्रिय रूपक पदानुक्रमित मॉडल के अनुसरा, पूर्वकथन कहनेवाला कोडन में आरोही (नीचे से ऊपर) पूर्वानुमान त्रुटियों और अवरोही (ऊपर से नीचे) पूर्वानुमान का आवर्ती आदान-प्रदान सम्मलित होता है। यह संवेदी की शारीरिक रचना और शरीर विज्ञान के अनुरूप और मोटर प्रणाली है।

अवधारणात्मक शिक्षा और स्मृति
पूर्वकथन कहने वाला कोडन में, मुक्त ऊर्जा (मुक्त कार्रवाई) के अभिन्न अंग पर क्रमिक वंश के माध्यम से मॉडल मापदंडों का अनुकूलन साहचर्य या हेब्बियन सिद्धांत को कम करता है और मस्तिष्क में सूत्रयुग्मक सुनम्यता से जुड़ा होता है।

अवधारणात्मक सटीकता, ध्यान और प्रमुखता
परिशुद्धता मापदंडों का अनुकूलन पूर्वानुमान त्रुटियों के लाभ को अनुकूलित करने से मेल खाता है (सी.एफ., कलमन लाभ)। पूर्वानुमानित कोडन के तंत्रिका रूप से प्रशंसनीय कार्यान्वयन में, यह सतही पिरामिड कोशिकाओं की उत्तेज्‍यता को अनुकूलित करने के अनुरूप है और इसकी व्याख्या ध्यानात्मक लाभ के संदर्भ में की गई है।

अधोशीर्ष बनाम ऊर्ध्‍वगामी विवाद के संबंध में, जिसे ध्यान की एक प्रमुख खुली समस्या के रूप में संबोधित किया गया है, एक अभिकलनीयतः मॉडल अधोशीर्ष और ऊर्ध्‍वगामी तंत्र के बीच परस्पर क्रिया की परिपत्र प्रकृति को चित्रित करने में सफल रहा है। ध्यान के एक स्थापित उभरते मॉडल, अर्थात् एसएआईएम का उपयोग करते हुए, लेखकों ने पीई-एसएआईएम नामक एक मॉडल का प्रस्ताव रखा, जो मानक संस्करण के विपरीत, ऊपर से नीचे की स्थिति से चयनात्मक ध्यान देता है। मॉडल पूर्वानुमानत्रुटियों के संचरण को समान स्तर या उससे ऊपर के स्तर पर ध्यान में रखता है, जिससे कि ऊर्जा फलन को कम किया जा सके जो आँकड़े और उसके कारण के बीच अंतर को इंगित करता है, या, दूसरे शब्दों में, जेनरेटिव मॉडल और पोस्टीरियर के बीच वैधता बढ़ाने के लिए, उन्होंने अपने मॉडल में उत्तेज्‍यताओं के बीच तंत्रिका प्रतिस्पर्धा को भी सम्मलित किया। इस मॉडल की एक उल्लेखनीय विशेषता केवल कार्य प्रदर्शन के दौरान पूर्वानुमानत्रुटियों के संदर्भ में मुक्त ऊर्जा फलन का पुनरुद्धार है: $$\dfrac{\partial E^{total}(Y^{VP},X^{SN},x^{CN},y^{KN})}{\partial y^{SN}_{mn}}=x^{CN}_{mn}-b^{CN}\varepsilon^{CN}_{nm}+b^{CN}\sum_{k}(\varepsilon^{KN}_{knm})$$

जहाँ $$E^{total}$$ तंत्रिका नेटवर्क का कुल ऊर्जा कार्य सम्मलित है, और $$\varepsilon^{KN}_{knm}$$ समय के साथ जनरेटिव मॉडल (पूर्व) और पश्च परिवर्तन के बीच पूर्वानुमानत्रुटि है।

दो मॉडलों की तुलना करने से उनके संबंधित परिणामों के बीच एक उल्लेखनीय समानता का पता चलता है, साथ ही एक उल्लेखनीय विसंगति भी उजागर होती है, जिससे - एसएआईएम के मानक संस्करण में - मॉडल का ध्यान मुख्य रूप से उत्तेजक कनेक्शन पर होता है, जबकि पीई-एसएआईएम में, निरोधात्मक कनेक्शन होते हैं। एक अनुमान लगाने के लिए उपयोग किया गया। यह मॉडल उच्च परिशुद्धता के साथ मानव प्रयोगों से प्राप्त ईईजी और एफएमआरआई आँकड़े की पूर्वानुमानकरने के लिए भी उपयुक्त सिद्ध हुआ है। इसी तरह, याह्या एट अल। गुप्त चयनात्मक दृश्य ध्यान में टेम्पलेट मिलान के लिए एक अभिकलनीयतः मॉडल का प्रस्ताव करने के लिए मुक्त ऊर्जा सिद्धांत को भी लागू किया जो ज्यादातर एसएआईएम पर निर्भर करता है। इस अध्ययन के अनुसार, पूरे स्थिति-समष्टि की कुल मुक्त ऊर्जा मूल तंत्रिका नेटवर्क में ऊपर से नीचे सिग्नल डालकर पहुंचाई जाती है, जिससे हम एक गतिशील प्रणाली प्राप्त करते हैं जिसमें अग्र प्रभरण और पश्चगामी पूर्वानुमानत्रुटि दोनों सम्मलित होती हैं।

सक्रिय अनुमान
जब प्रवणता अवरोह को क्रिया पर लागू किया जाता है $$ \dot{a} = -\partial_aF(s,\tilde{\mu}) $$, मोटर नियंत्रण को शास्त्रीय प्रतिवर्त चाप के संदर्भ में समझा जा सकता है जो अवरोही (कॉर्टिकोस्पाइनल) पूर्वानुमान से जुड़े होते हैं। यह एक औपचारिकता प्रदान करता है जो संतुलन बिंदु समाधान को सामान्यीकृत करता है - स्वतंत्रता समस्या की डिग्री तक - आंदोलन प्रक्षेप पथ के लिए।

सक्रिय अनुमान और इष्टतम नियंत्रण
सक्रिय अनुमान स्थिति परिवर्तन या प्रवाह के बारे में पूर्व मान्यताओं के साथ मूल्य या लागत-से-जाने वाले कार्यों को प्रतिस्थापित करके इष्टतम नियंत्रण से संबंधित है। यह बायेसियन फ़िल्टरिंग और बेलमैन समीकरण के समाधान के बीच घनिष्ठ संबंध का फायदा उठाता है। चूंकि, सक्रिय अनुमान प्रवाह से प्रारंभ होता है $$ f = \Gamma \cdot \nabla V + \nabla \times W $$ जो अदिश से निर्दिष्ट हैं $$ V(x) $$ और सदिश $$ W(x) $$ स्थिति स्थान के मूल्य कार्य (सी.एफ., हेल्महोल्ट्ज़ अपघटन)। यहाँ, $$ \Gamma $$ यादृच्छिक उतार-चढ़ाव का आयाम है और लागत है $$ c(x) = f \cdot \nabla V + \nabla \cdot \Gamma \cdot V$$. पूर्वज ओवर फ्लो $$ p(\tilde{x}\mid m) $$ स्थितिों पर पूर्व प्रेरित करें $$ p(x\mid m) = \exp (V(x)) $$ यह उपयुक्त अग्रगामी कोलमोगोरोव समीकरणों का समाधान है। इसके विपरीत, इष्टतम नियंत्रण इस धारणा के अनुसरा, लागत फलन को देखते हुए, प्रवाह को अनुकूलित करता है $$ W = 0 $$ (अर्थात, प्रवाह कर्ल मुक्त है या विस्तृत संतुलन है)। सामान्यत:, इसमें पिछड़े कोलमोगोरोव समीकरणों को हल करना सम्मलित होता है।

सक्रिय अनुमान और इष्टतम निर्णय (खेल) सिद्धांत
इष्टतम निर्णय समस्याओं (सामान्यत: आंशिक रूप से अवलोकन योग्य मार्कोव निर्णय प्रक्रियाओं के रूप में तैयार की जाती है) को पूर्व मान्यताओं में उपयोगिता को अवशोषित करके सक्रिय अनुमान के भीतर व्यवहार किया जाता है। इस सेटिंग में, जिन स्थितिों की उपयोगिता (कम लागत) अधिक है, वे ऐसे स्थिति हैं जिन पर कारक कब्ज़ा करने की उम्मीद करता है। जनरेटिव मॉडल को छिपे हुए स्थितिों से लैस करके मॉडल नियंत्रण, नीतियां (नियंत्रण अनुक्रम) जो परिवर्तनशील मुक्त ऊर्जा को कम करती हैं, उच्च उपयोगिता वाले स्थितिों की ओर ले जाती हैं।

न्यूरोबायोलॉजिकल रूप से, डोपामाइन जैसे तंत्रिका मॉडुलेटर को पूर्वानुमानत्रुटि कोडन प्रमुख कोशिकाओं के लाभ को संशोधित करके पूर्वानुमानत्रुटियों की सटीकता की रिपोर्ट करने के लिए माना जाता है। यह पूर्वानुमानत्रुटियों की रिपोर्टिंग में डोपामाइन की भूमिका से निकटता से संबंधित है - लेकिन औपचारिक रूप से अलग है-प्रति भविष्यवाणी त्रुटियों की रिपोर्ट करने में डोपामाइन की भूमिका और संबंधित कम्प्यूटेशनल खाते है।

सक्रिय अनुमान और संज्ञानात्मक तंत्रिका विज्ञान
सक्रिय अनुमान का उपयोग संज्ञानात्मक तंत्रिका विज्ञान, मस्तिष्क कार्य और न्यूरोसाइकिएट्री (तंत्रिका मनश्‍चित्‍सा) में कई मुद्दों को संबोधित करने के लिए किया गया है, जिसमें क्रिया अवलोकन भी सम्मलित है। दर्पण स्नायु, सैकेडेस और दृश्य खोज, आँखों की हरकतें, नींद, भ्रम, ध्यान, क्रिया चयन, चेतना,  हिस्टीरिया और मनोविकृति. सक्रिय अनुमान में कार्रवाई की व्याख्या अधिकांशत: इस विचार पर निर्भर करती है कि मस्तिष्क में 'जिद्दी पूर्वकथनवाणियां' होती हैं जिन्हें वह अद्यतन नहीं कर सकता है, जिसके परिणामस्वरूप ऐसी गतिविधियां होती हैं जो इन पूर्वानुमान को सच कर देती हैं।

यह भी देखें

 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम
 * एड्रिअन बेजान - प्रकृति, चेतन और निर्जीव में डिजाइन विकास का नियम

बाहरी संबंध

 * Behavioral and Brain Sciences (by Andy Clark)