अरैखिक आयामीता अवकरण

अरैखिक आयामीता अवकरण, जिसे बहुविध अधिगम के रूप में भी जाना जाता है, विभिन्न संबंधित प्रविधियों को संदर्भित करता है, जिसका उद्देश्य निम्न आयामी समष्टि में प्रदत्त को दृष्टिगत करने या मानचित्रण अधिगम के लक्ष्य के साथ उच्च-आयामी प्रदत्त को निम्न-आयामी अव्यक्त बहुविध पर प्रक्षेप (या तो उच्च-आयामी समष्टि से निम्न-आयामी अंतःस्थापन या इसके विपरीत) करना है। नीचे वर्णित प्रविधियों को रेखीय अपघटन विधियों के सामान्यीकरण के रूप में समझा जा सकता है, जो आयामीता अवकरण के लिए उपयोग की जाती हैं, जैसे कि अद्वितीय मान अपघटन और प्रमुख घटक विश्लेषण है।

एनएलडीआर के अनुप्रयोग
एक आव्यूह (या एक आंकड़ाकोष तालिका) के रूप में दर्शाए गए प्रदत्त समुच्चय पर विचार करें, जैसे कि प्रत्येक पंक्ति विशेषताओं (या सुविधाओं या आयामों) के एक समुच्चय का प्रतिनिधित्व करती है जो किसी विशेष उदाहरण का वर्णन करती है। यदि विशेषताओं की संख्या बड़ी है, तो अद्वितीय संभावित पंक्तियों की समष्टि घातीय रूप से बड़ी है। इस प्रकार, आयाम जितना बड़ा होता है, समष्टि का प्रतिरूप लेना उतना ही कठिन हो जाता है। इससे अनेक समस्याएं होती हैं। कलन विधि जो उच्च-आयामी प्रदत्त पर कार्य करते हैं, उनमें बहुत अधिक समय जटिलता होती है। अनेक यंत्र अधिगम कलन विधि, उदाहरण के लिए, उच्च-आयामी प्रदत्त के साथ संघर्ष करते हैं। प्रदत्त को कम आयामों में कम करना प्रायः विश्लेषण कलन विधि को अधिक कुशल बनाता है और यंत्र अधिगम कलन विधि को अधिक सटीक भविष्यवाणी करने में सहायता कर सकता है।

मनुष्यों को प्रायः उच्च-आयामों में प्रदत्त को समझने में कठिनाई होती है। इस प्रकार, प्रदत्त को कम संख्या में आयामों तक कम करना प्रत्योक्षकरण उद्देश्यों के लिए उपयोगी है।

प्रदत्त के निम्न-आयामी प्रतिनिधित्व को प्रायः "आंतरिक चर" के रूप में संदर्भित किया जाता है। इस विवरण का तात्पर्य है कि ये वे मान हैं जिनसे प्रदत्त का उत्पादन किया गया था। उदाहरण के लिए, एक ऐसे प्रदत्त समुच्चय पर विचार करें, जिसमें 'A' अक्षर की छवियां हों, जिसे अलग-अलग मात्रा में अनुमाप और घूर्णन किया गया हो। प्रत्येक छवि में 32×32 चित्रांश हैं। प्रत्येक छवि को 1024 चित्रांश मानों के सदिश के रूप में दर्शाया जा सकता है। प्रत्येक पंक्ति 1024-आयामी समष्टि (एक हैमिंग समष्टि) में द्वि-आयामी बहुविध पर एक प्रतिरूप है। आंतरिक आयाम दो है, क्योंकि प्रदत्त उत्पन्न करने के लिए दो चर (वर्तन और पैमाने) भिन्न थे। अक्षर 'A' के ​​आकार या रूप के विषय में सूचना अंतस्थ चर का भाग नहीं है क्योंकि यह प्रत्येक उदाहरण में समान है। अरैखिक आयामीता अवकरण संबंधित सूचना (अक्षर 'A') को छोड़ देगा और केवल अलग-अलग सूचना (वर्तन और पैमाने) को पुनर्प्राप्त करेगा। दाईं ओर की छवि इस प्रदत्त समुच्चय से प्रतिरूप छवियां दर्शाती है (समष्टि को बचाने के लिए, सभी निविष्टि छवियां नहीं दिखाई जाती हैं) और द्वि-आयामी बिंदुओं का एक क्षेत्रक जो एनएलडीआर कलन विधि का उपयोग करने के परिणामस्वरूप होता है (इस स्थिति में, बहुविध मूर्तिकला का उपयोग किया गया था) प्रदत्त को केवल दो आयामों में कम करने के लिए है।

तुलनात्मक रूप से, यदि प्रमुख घटक विश्लेषण, जो कि एक रैखिक आयामी अवकरण कलन विधि है, जिसका उपयोग इसी प्रदत्त समुच्चय को दो आयामों में कम करने के लिए किया जाता है, तो परिणामी मान इतनी अच्छी तरह व्यवस्थित नहीं होते हैं। यह दर्शाता है कि उच्च-आयामी सदिश (प्रत्येक अक्षर 'A' का प्रतिनिधित्व करते हैं) जो इस बहुविध का प्रतिरूप गैर-रैखिक तरीके से भिन्न होते हैं।

इसलिए, यह स्पष्ट होना चाहिए कि एनएलडीआर के अभिकलक दृष्टि के क्षेत्र में अनेक अनुप्रयोग हैं। उदाहरण के लिए, एक ऐसे यंत्रमानव पर विचार करें जो संवृत्त स्थैतिक वातावरण में संचालन करने के लिए छायाचित्रक का उपयोग करता है। उस छायाचित्रक द्वारा प्राप्त छवियों को उच्च-आयामी समष्टि में बहुविध प्रतिरूप माना जा सकता है और उस बहुविध के आंतरिक चर यंत्रमानव की स्थिति और अभिविन्यास का प्रतिनिधित्व करेंगे।

गतिशील प्रणाली में प्रतिरूप अनुक्रम अवकरण के लिए अपरिवर्तनीय बहुविध सामान्य रुचि है। विशेष रूप से, यदि चरण समष्टि में एक आकर्षक अपरिवर्तनीय बहुविध है, तो आस-पास के प्रक्षेप वक्र उस पर अभिसरण करेंगे और उस पर अनिश्चित काल तक बने रहेंगे, जिससे यह गतिशील प्रणाली की आयामीता अवकरण के लिए एक प्रत्याशी बन जाएगा। जबकि इस तरह के बहुविध सामान्य रूप से उपस्थित होने की प्रत्याभूति नहीं देते है, वर्णक्रमीय उप-बहुविध (SSM) का सिद्धांत गतिशील प्रणालियों के एक व्यापक वर्ग में अद्वितीय आकर्षक अपरिवर्तनीय वस्तुओं के अस्तित्व के लिए प्रतिबन्ध देता है। एनएलडीआर में सक्रिय शोध, मॉडलिंग प्रविधियों को विकसित करने के लिए गतिशील प्रणालियों से जुड़े बहुविध अवलोकन प्रकट करना चाहता है।

कुछ अधिक प्रमुख अरैखिक आयामी अवकरण प्रविधियों नीचे सूचीबद्ध हैं।

सैमन का मानचित्रण
सैमन का मानचित्रण पहला और सबसे लोकप्रिय एनएलडीआर प्रविधियों में से एक है।



स्व-संगठित मानचित्र
स्व-संगठित मानचित्र (एसओएम, जिसे कोहोनेन मानचित्र भी कहा जाता है) और इसके संभाव्य भिन्नरूप उत्पादक स्थलाकृतिक मानचित्रण (GTM) अंत:स्थापित समष्टि में एक बिंदु प्रतिनिधित्व का उपयोग करते हैं ताकि अंत:स्थापित समष्टि से उच्च आयामी समष्टि तक गैर-रैखिक मानचित्रण के आधार पर एक अव्यक्त चर प्रतिरूप बनाया जा सके। ये प्रविधियां घनत्व संजाल पर कार्य करने से संबंधित हैं, जो समान संभाव्य प्रतिरूप पर आधारित हैं।

कर्नेल का प्रमुख घटक विश्लेषण
संभवतः आयामी अवकरण के लिए सबसे व्यापक रूप से उपयोग की जाने वाली कलन विधि कर्नेल पीसीए है। पीसीए सहप्रसरण आव्यूह $$m \times n$$, आव्यूह $$\mathbf{X}$$ की गणना से प्रारंभ होता है।
 * $$C = \frac{1}{m}\sum_{i=1}^m{\mathbf{x}_i\mathbf{x}_i^\mathsf{T}}$$

यह तब प्रदत्त को उस आव्यूह के पहले k आइजन सदिश पर प्रक्षेप करता है। तुलनात्मक रूप से, केपीसीए एक उच्च-आयामी समष्टि में परिवर्तित होने के पश्चात प्रदत्त के सहप्रसरण आव्यूह की गणना करके प्रारंभ होता है,


 * $$C = \frac{1}{m}\sum_{i=1}^m{\Phi(\mathbf{x}_i)\Phi(\mathbf{x}_i)^\mathsf{T}}$$

यह तब पीसीए की तरह, उस आव्यूह के पहले k आइजन सदिश पर रूपांतरित प्रदत्त को प्रक्षेप करता है। यह अधिकांश संगणनाओं को दूर करने के लिए कर्नेल क्रमभंग का उपयोग करता है, जैसे कि पूर्ण प्रक्रिया वास्तव में संगणना $$\Phi(\mathbf{x})$$ के बिना की जा सकती है। बिल्कुल, $$\Phi$$ इस तरह चयन किया जाना चाहिए कि इसमें ज्ञात संबंधित कर्नेल हो। दुर्भाग्य से, दी गई समस्या के लिए एक अच्छा कर्नेल खोजना तुच्छ नहीं है, इसलिए केपीसीए मानक कर्नेल का उपयोग करते समय कुछ समस्याओं के साथ अच्छे परिणाम नहीं देता है। उदाहरण के लिए, यह स्विस रोल बहुविध पर इन कर्नेल के साथ खराब प्रदर्शन करने के लिए जाना जाता है। हालांकि, हालांकि, प्रदत्त-निर्भर कर्नेल आव्यूह का निर्माण करके कर्नेल पीसीए के विशेष स्थितियों के रूप में कुछ अन्य तरीकों को देखा जा सकता है जो इस तरह की समायोजन में अच्छा प्रदर्शन (उदाहरण के लिए, लाप्लासियन ईजेनमैप्स, एलएलई) करते हैं।

केपीसीए के पास एक आंतरिक प्रतिरूप है, इसलिए इसका उपयोग इसके अंतःस्थापन पर उन बिंदुओं को प्रतिचित्र करने के लिए किया जा सकता है जो प्रशिक्षण के समय उपलब्ध नहीं थे।

प्रधान वक्र और बहुविध
प्रधान वक्र और बहुविध अरैखिक आयामीता न्यूनीकरण के लिए प्राकृतिक ज्यामितीय संरचना देते हैं और स्पष्ट रूप से एक अंत:स्थापित बहुविध का निर्माण करके और बहुविध पर मानक ज्यामितीय प्रक्षेपण का उपयोग करके कूटलेखन द्वारा पीसीए की ज्यामितीय व्याख्या का विस्तार करते हैं। यह दृष्टिकोण मूल रूप से ट्रेवर हेस्टी द्वारा उनके 1984 थीसिस में प्रस्तावित किया गया था, जिसे उन्होंने औपचारिक रूप से 1989 में प्रस्तुत किया था। इस विचार को अनेक लेखकों ने आगे खोजा है। बहुविध की "सरलता" को कैसे परिभाषित किया जाए, यह समस्या पर निर्भर है, हालांकि, इसे सामान्यतः आंतरिक विमीयता और/या बहुविध की सहजता से मापा जाता है। सामान्यतः, प्रधान बहुविध को अनुकूलन समस्या के समाधान के रूप में परिभाषित किया जाता है। उदेश्य फलन में प्रदत्त सन्निकटन की गुणवत्ता और बहुविध बंकन के लिए कुछ दंड शब्द सम्मिलित हैं। लोकप्रिय प्रारंभिक अनुमान रैखिक पीसीए और कोहोनेन के एसओएम द्वारा उत्पन्न होते हैं।

लाप्लासियन आइजन मानचित्र
लाप्लासियन आइजन मानचित्र आयामीता में कमी करने के लिए वर्णक्रमीय प्रविधियों का उपयोग करता है। यह प्रविधि मूलभूत धारणा पर निर्भर करती है कि प्रदत्त उच्च-आयामी समष्टि में निम्न-आयामी बहुविध में स्थित है। यह कलन विधि प्रतिरूप से बाह्य बिंदुओं को अंतःस्थापित नहीं कर सकता है, परन्तु इस क्षमता को जोड़ने के लिए कर्नेल हिल्बर्ट समष्टि का पुनरुत्पादन नियमितीकरण पर आधारित प्रविधि उपस्थित हैं। ऐसी प्रविधियों को अन्य गैर-रैखिक आयामी अवकरण कलन विधि पर भी अनुप्रयुक्त किया जा सकता है।

प्रमुख घटक विश्लेषण जैसी पारंपरिक प्रविधियों प्रदत्त की आंतरिक ज्यामिति पर विचार नहीं करती हैं। लाप्लासियन आइजन मानचित्र प्रदत्त समुच्चय निकटवर्ती की सूचना से एक आलेख बनाता है। प्रत्येक प्रदत्त बिंदु आलेख पर एक बिंदु के रूप में कार्य करता है और बिंदु के मध्य संयोजकता निकटवर्ती बिंदुओं की निकटता द्वारा नियंत्रित होती है (उदाहरण के लिए k-निकटतम निकटवर्ती कलन विधि का उपयोग करके)। इस प्रकार उत्पन्न आलेख को उच्च-आयामी समष्टि में निम्न-आयामी बहुविध के असतत सन्निकटन के रूप में माना जा सकता है। आलेख के आधार पर लागत फलन का न्यूनीकरण यह सुनिश्चित करता है कि बहुविध पर एक-दूसरे के निकट के बिंदुओं को निम्न-आयामी समष्टि में एक-दूसरे के निकट प्रतिचित्र किया जाता है, स्थानीय दूरी को संरक्षित करता है। बहुविध पर लाप्लास-बेल्ट्रामी प्रचालक के ईजेनफलन अंतःस्थापन आयामों के रूप में कार्य करते हैं, क्योंकि सौम्य परिस्थितियों में इस प्रचालक के पास एक गणनीय वर्णक्रम होता है जो कि बहुविध पर वर्ग पूर्णांक फलनों के लिए एक आधार होता है। लाप्लासियन आइजन मानचित्र को ठोस सैद्धांतिक आधार पर रखने का प्रयास कुछ सफलता के साथ मिला है, जैसा कि कुछ गैर-प्रतिबंधात्मक मान्यताओं के अंतर्गत, आलेख लाप्लासियन आव्यूह को लाप्लास-बेल्ट्रामी प्रचालक में अभिसरण करने के लिए दर्शाया गया है क्योंकि अंकों की संख्या अनंत तक जाती है।

आइसो-मानचित्र
आइसो-मानचित्र उत्कृष्ट बहुआयामी सोपानन के साथ फ्लोयड-वॉर्शल कलन विधि का एक संयोजन है। उत्कृष्ट बहुआयामी सोपानन (MDS) सभी बिंदुओं के मध्य युग्म-वार दूरी का एक आव्यूह लेता है और प्रत्येक बिंदु के लिए एक स्थिति की गणना करता है। आइसो-मानचित्र मानता है कि युग्म-वार दूरी केवल निकटवर्ती बिंदुओं के मध्य ही जानी जाती है, और अन्य सभी बिंदुओं के मध्य युग्म-वार दूरी की गणना करने के लिए फ़्लॉइड-वॉर्शल कलन विधि का उपयोग करती है। यह प्रभावी रूप से सभी बिंदुओं के मध्य युग्‍मानूसार अल्पांतरी दूरियों के पूर्ण आव्यूह का अनुमान लगाता है। आइसो-मानचित्र तब सभी बिंदुओं की निम्न-आयामी स्थिति की गणना करने के लिए उत्कृष्ट एमडीएस का उपयोग करता है। सीमाचिह्न आइसो-मानचित्र इस कलन विधि का एक प्रकार है जो कुछ सटीकता की कीमत पर गति बढ़ाने के लिए सीमाचिह्न का उपयोग करता है।

बहुविध अधिगम में, निविष्टि प्रदत्त को निम्न आयामी बहुविध से प्रतिरूप माना जाता है जो उच्च-आयामी सदिश समष्टि के भीतर अंत:स्थापित होता है। एमवीयू के पीछे मुख्य अंतर्ज्ञान बहुविध की स्थानीय रैखिकता का लाभ उठाना है और एक मानचित्रण बनाना है जो अंतर्निहित बहुविध के प्रत्येक बिंदु पर स्थानीय निकटवर्ती को संरक्षित करता है।

स्थानीय-रैखिक अंतःस्थापन
स्थानीय-रैखिक अंतःस्थापन (LLE) को लगभग उसी समय प्रस्तुत किया गया था जब आइसो-मानचित्र को प्रस्तुत किया गया था। आइसो-मानचित्र पर इसके अनेक लाभ हैं, जिसमें विरल आव्यूह कलन विधि का लाभ उठाने के लिए अनुप्रयुक्त किए जाने पर तीव्र अनुकूलन और अनेक समस्याओं के साथ उन्नत परिणाम सम्मिलित हैं। एलएलई भी प्रत्येक बिंदु के निकटतम सहवासियों का एक समुच्चय ढूंढकर प्रारंभ होता है। इसके बाद यह प्रत्येक बिंदु के लिए भारण के एक समुच्चय की गणना करता है जो बिंदु को अपने सहवासियों के रैखिक संयोजन के रूप में सर्वोत्तम रूप से वर्णित करता है। अंत में, यह बिंदुओं के निम्न-आयामी अंतःस्थापन को खोजने के लिए एक ईजेनसदिश-आधारित अनुकूलन प्रविधि का उपयोग करता है, जैसे कि प्रत्येक बिंदु अभी भी अपने सहवासियों के समान रैखिक संयोजन के साथ वर्णित है। एलएलई गैर-समान प्रतिरूप घनत्व को अनुचित तरीके से नियंत्रित करता है क्योंकि भारण को अपवाही से रोकने के लिए कोई निश्चित इकाई नहीं है क्योंकि विभिन्न क्षेत्र प्रतिरूप घनत्व में भिन्न होते हैं। एलएलई का कोई आंतरिक प्रतिरूप नहीं है।

एलएलई अपने सहवासियों Xj के आधार पर एक बिंदु Xi के बैरीसेंट्रिक निर्देशांक की गणना करता है। मूल बिंदु को उसके सहवासियों के भारण आव्यूह Wij द्वारा दिए गए रैखिक संयोजन द्वारा पुनर्निर्मित किया जाता है। पुनर्निर्माण त्रुटि लागत फलन E(W) द्वारा दी गई है


 * $$ E(W) = \sum_i \left|\mathbf{X}_i - \sum_j {\mathbf{W}_{ij}\mathbf{X}_j}\right|^2 $$

भारण Wij बिंदु X के पुनर्निर्माण के पर्यन्त बिंदु Xj के योगदान की मात्रा को संदर्भित करता है। लागत फलन दो बाधाओं के अंतर्गत कम किया गया है: (a) प्रत्येक प्रदत्त बिंदु Xj को केवल अपने सहवासियों से पुनर्निर्मित किया जाता है, इस प्रकार Wij को शून्य होने के लिए विवश किया जाता है यदि बिंदु Xj बिंदु Xi का निकटवर्ती नहीं है और (b) की प्रत्येक पंक्ति का योग भारण आव्यूह 1 के समान है


 * $$ \sum_j {\mathbf{W}_{ij}} = 1 $$

मूल प्रदत्त बिंदुओं को एक D आयामी समष्टि में एकत्र किया जाता है और कलन विधि का लक्ष्य आयामी को कम करना है जैसे कि D >> d है। D आयामी समष्टि में iवें प्रदत्त बिंदुओं को पुनः बनाने वाले वही भारण Wij का उपयोग निम्न d आयामी समष्टि में उसी बिंदु को पुनः बनाने के लिए किया जाएगा। इस विचार के आधार पर निकटवर्ती को संरक्षित करने वाला प्रतिचित्र बनाया जाता है। D आयामी समष्टि में, प्रत्येक बिंदु Xi को लागत फलन को कम करके d आयामी समष्टि में एक बिंदु Yi पर प्रतिचित्र किया जाता है


 * $$ C(Y) = \sum_i \left|\mathbf{Y}_i - \sum_j {\mathbf{W}_{ij}\mathbf{Y}_j}\right|^{2} $$

इस लागत फलन में, पिछले वाले के विपरीत, भारण Wij को स्थिर रखा जाता है और निर्देशांक को अनुकूलित करने के लिए अंक Yi पर न्यूनीकरण किया जाता है। इस न्यूनीकरण की समस्या को एक आव्यूह N X N आइजन मान समस्या (N प्रदत्त बिंदुओं की संख्या होने के नाते) को हल करके हल किया जा सकता है, जिसका निचला d अशून्य आइजन सदिश निर्देशांक का एक लंबकोणीय समुच्चय प्रदान करता है। सामान्यतः यूक्लिडियन दूरी द्वारा मापे गए K निकटतम सहवासियों से प्रदत्त बिंदुओं का पुनर्निर्माण किया जाता है। इस तरह के कार्यान्वयन के लिए कलन विधि में केवल एक मुक्त मापदण्ड K है, जिसे अंतः वैधीकरण द्वारा चुना जा सकता है।

हेसियन स्थानीय-रैखिक अंतःस्थापन (हेसियन एलएलई)
एलएलई की तरह, हेस्सियन एलएलई भी विरल आव्यूह प्रविधियों पर आधारित है। यह एलएलई की तुलना में बहुत अधिक गुणवत्ता वाले परिणाम देता है। दुर्भाग्य से, इसकी एक बहुत ही बहुमूल्य अभिकलनात्मक जटिलता है, इसलिए यह भारी प्रतिरूप बहुविध के लिए उपयुक्त नहीं है। इसका कोई आंतरिक प्रतिरूप नहीं है।

संशोधित स्थानीय-रैखिक अंतःस्थापन (MLLE)
संशोधित एलएलई ((MLLE) एक अन्य एलएलई संस्करण है जो स्थानीय भारण आव्यूह अनुकूलन की समस्या को दूर करने के लिए प्रत्येक निकटवर्ती में अनेक भारों का उपयोग करता है जो एलएलई मानचित्रों में विकृतियों का कारण बनता है। शिथिल रूप से अनेक भारण सशब्द एलएलई द्वारा उत्पादित मूल भारण का स्थानीय लंबकोणीय प्रक्षेपण है। इस नियमित संस्करण के निर्माता स्थानीय स्पर्शरेखा समष्टि संरेखण (LTSA) के लेखक भी हैं, जो एमएलएलई सूत्रीकरण में निहित है, जब यह अनुभव किया जाता है कि प्रत्येक भारण सदिश के लंबकोणीय अनुमानों का वैश्विक अनुकूलन, संक्षेप में, प्रत्येक प्रदत्त बिंदुओं के स्थानीय स्पर्शरेखा रिक्त समष्टि को संरेखित करता है। इस कलन विधि के सही अनुप्रयोग से सैद्धांतिक और अनुभवजन्य निहितार्थ दूरगामी हैं।

स्थानीय स्पर्शरेखा समष्टि संरेखण
एलटीएसए इस अंतर्ज्ञान पर आधारित है कि जब एक बहुविध को सही ढंग से प्रकट किया जाता है, तो बहुविध के सभी स्पर्शरेखा अधिसमतल संरेखित हो जाएंगे। यह प्रत्येक बिंदु के k-निकटतम सहवासियों की गणना करके प्रारंभ होता है। यह प्रत्येक स्थानीय निकटवर्ती में d-प्रथम प्रमुख घटकों की गणना करके प्रत्येक बिंदु पर स्पर्शरेखा समष्टि की गणना करता है। यह तब एक अंतःस्थापन खोजने के लिए अनुकूलित करता है जो स्पर्शरेखा रिक्त समष्टि को संरेखित करता है।

अधिकतम विचरण विकास
अधिकतम भिन्नता विकास, आइसो-मानचित्र और स्थानीय रूप से रेखीय अंतःस्थापन इस धारणा पर निर्भर एक सामान्य अंतर्ज्ञान साझा करते हैं कि यदि बहुविध ठीक से विकास किया जाता है, तो बिंदुओं पर विचरण अधिकतम हो जाता है। इसका प्रारंभिक चरण, जैसे आइसो-मानचित्र और स्थानीय रूप से रैखिक अंतःस्थापन, प्रत्येक बिंदु के k-निकटतम सहवासियों को खोज रहा है। इसके बाद यह सभी गैर-निकटवर्ती बिंदुओं के मध्य की दूरी को अधिकतम करने की समस्या को हल करना चाहता है, इस तरह व्यवरूद्ध किया जाता है कि निकटवर्ती बिंदुओं के मध्य की दूरी संरक्षित रहे। इस कलन विधि का प्राथमिक योगदान इस समस्या को एक अर्ध-निश्चित क्रमदेशन समस्या के रूप में प्रक्षेप की एक प्रविधि है। दुर्भाग्य से, अर्ध-निश्चित क्रमदेशन समाधानकर्ता की उच्च अभिकलनात्मक लागत होती है। स्थानीय रूप से रैखिक अंतःस्थापन की तरह, इसका कोई आंतरिक प्रतिरूप नहीं है।

स्वतः संकेतक
एक स्वतः संकेतक एक अग्रभरण तंत्रिकीय संजाल है जिसे पहचान फलन का अनुमान लगाने के लिए प्रशिक्षित किया जाता है। यही है, इसे मानों के सदिश से उसी सदिश में प्रतिचित्र करने के लिए प्रशिक्षित किया जाता है। जब आयाम अवकरण के उद्देश्यों के लिए उपयोग किया जाता है, तो संजाल में छिपी हुई परतों में से एक में केवल कुछ ही संजाल इकाइयां होती हैं। इस प्रकार, संजाल को सदिश को कम संख्या में आयामों में कोडित करना सीखना चाहिए और फिर इसे मूल समष्टि पर वापस डिकोड करना चाहिए। इस प्रकार, संजाल का पहला भाग एक ऐसा प्रतिरूप है जो उच्च से निम्न-आयामी समष्टि तक प्रतिचित्र करता है, और दूसरी छमाही निम्न से उच्च-आयामी समष्टि तक प्रतिचित्र करता है। हालांकि स्वतः संकेतक का विचार काफी पुराना है, गहन स्वतः संकेतक का प्रशिक्षण हाल ही में प्रतिबंधित बोल्ट्जमैन यंत्रों और चितीयित डीनोइजिंग स्वतः संकेतक के उपयोग के माध्यम से संभव हुआ है।  स्वतः संकेतक से संबंधित न्यूरोस्केल कलन विधि है, जो उच्च-आयामी से अंत:स्थापित समष्टि तक गैर-रैखिक मानचित्रण अधिगम के लिए बहुआयामी सोपानन और सैमॉन मानचित्रण (ऊपर देखें) से प्रेरित प्रतिबल फलनों का उपयोग करता है। न्यूरोस्केल में मानचित्रण त्रिज्यीय आधार फलन संजाल पर आधारित हैं।

गाऊसी प्रक्रिया अव्यक्त चर प्रतिरूप
गाऊसी प्रक्रिया अव्यक्त चर प्रतिरूप (GPLVM) संभाव्य आयामी कमी के तरीके हैं जो उच्च आयामी प्रदत्त के निम्न आयामी गैर-रैखिक अंतःस्थापन को खोजने के लिए गॉसियन प्रक्रियाओं (GP) का उपयोग करते हैं। वे पीसीए के संभाव्य सूत्रीकरण का विस्तार हैं। प्रतिरूप को संभावित रूप से परिभाषित किया गया है और अव्यक्त चर तब उपेक्षित हैं और संभावना को अधिकतम करके मापदण्ड प्राप्त किए जाते हैं। कर्नेल पीसीए की तरह वे एक गैर रेखीय मानचित्रण (गाऊसी प्रक्रिया के रूप में) बनाने के लिए एक कर्नेल फलन का उपयोग करते हैं। हालाँकि, जीपीएलवीएम में मानचित्रण अंत:स्थापित (अव्यक्त) समष्टि से प्रदत्त समष्टि (जैसे घनत्व संजाल और जीटीएम) तक है जबकि कर्नेल पीसीए में यह विपरीत दिशा में है। यह मूल रूप से उच्च आयामी प्रदत्त के प्रत्योक्षकरण के लिए प्रस्तावित किया गया था, परन्तु दो अवलोकन स्थानों के मध्य एक साझा बहुविध प्रतिरूप बनाने के लिए इसका विस्तार किया गया है। जीपीएलवीएम और इसके अनेक रूपों को विशेष रूप से मानव गति मॉडलिंग के लिए प्रस्तावित किया गया है, उदाहरण के लिए, वापस बाधित जीपीएलवीएम, जीपी गत्यात्मक प्रतिरूप (GPDM), संतुलित जीपीडीएम (B-GPDM) और स्थैतिक रूप से बाधित जीपीडीएम हैं। गति विश्लेषण में स्थिति और गति बहुविध के युग्मन प्रभाव को पकड़ने के लिए, एक बहु-परत संयुक्त गति-स्थिति बहुविध प्रस्तावित किया गया था।

टी-वितरित प्रसंभाव्य निकटवर्ती अंतःस्थापन
टी-वितरित प्रसंभाव्य निकटवर्ती अंतःस्थापन (t-SNE) का व्यापक रूप से उपयोग किया जाता है। यह प्रसंभाव्य निकटवर्ती अंतःस्थापन विधियों के वर्गों में से एक है। कलन विधि संभावना की गणना करता है कि उच्च-आयामी समष्टि में प्रदत्त बिंदुओं के युग्म संबंधित हैं, और फिर निम्न-आयामी अंतःस्थापन चुनते हैं जो एक समान वितरण उत्पन्न करते हैं।

संबंधपरक परिप्रेक्ष्य प्रतिचित्र
संबंधपरक परिप्रेक्ष्य प्रतिचित्र एक बहुआयामी सोपानन कलन विधि है। कलन विधि एक संवृत्त बहुविध पर एक बहु-कण गतिशील प्रणाली का अनुकरण करके बहुविध प्रदत्त बिंदुओं का एक विन्यास पाता है, जहां प्रदत्त बिंदुओं को कणों और दूरी (या असमानता) के लिए प्रतिचित्र किया जाता है, एक प्रतिकारक बल का प्रतिनिधित्व करता है। चूंकि बहुविध धीरे-धीरे आकार में बढ़ता है, बहु-कण प्रणाली धीरे-धीरे शांत हो जाती है और विन्यास में परिवर्तित हो जाती है जो प्रदत्त बिंदुओं की दूरी की सूचना को दर्शाती है।

संबंधपरक परिप्रेक्ष्य प्रतिचित्र एक भौतिक प्रतिरूप से प्रेरित था जिसमें सकारात्मक रूप से आवेशित कण एक गेंद की सतह पर स्वतंत्र रूप से चलते हैं। कणों के मध्य कूलम्बम बल द्वारा निर्देशित, कणों का न्यूनतम ऊर्जा विन्यास कणों के मध्य प्रतिकारक बलों की ताकत को प्रतिबिंबित करेगा।

संबंधपरक परिप्रेक्ष्य प्रतिचित्र में प्रस्तुत किया गया था। कलन विधि ने सर्वप्रथम समतल स्थूलक को छवि बहुविध के रूप में उपयोग किया, फिर इसे विस्तारित किया गया है (सॉफ़्टवेयर विशु मानचित्र में अन्य प्रकार के संवृत्त बहुविध का उपयोग करने के लिए, जैसे वृत्त, प्रक्षेपण समष्टि, और क्लेन शीशी, छवि बहुविध के रूप में है।

संसर्ग प्रतिचित्र
संसर्ग प्रतिचित्र एक बिंदु समूह के रूप में बिंदुओं को प्रतिचित्र करने के लिए एक संजाल पर अनेक संसर्ग का उपयोग करते हैं। वैश्विक सोपान प्रतिरूप के स्थिति में प्रसार की गति को सीमा रेखा मापदण्ड $$ t \in [0,1] $$ के लिए, $$ t=0 $$ के साथ समायोजित किया जा सकता है, संसर्ग प्रतिचित्र आइसो-मानचित्र कलन विधि के समान है।

वक्रीय घटक विश्लेषण
वक्रीय घटक विश्लेषण (CCA) बहिर्गत समष्टि में बिंदुओं के विन्यास की खोज करता है जो बहिर्गत समष्टि में छोटी दूरी पर ध्यान केंद्रित करते हुए यथासंभव मूल दूरी को संरक्षित करता है (इसके विपरीत सैमन की मानचित्रण जो मूल समष्टि में छोटी दूरी पर ध्यान केंद्रित करती है)।

यह ध्यान दिया जाना चाहिए कि सीसीए, एक पुनरावृत्त अधिगम के कलन विधि के रूप में, वास्तव में बड़ी दूरी (जैसे सैमन कलन विधि) पर ध्यान केंद्रित करना प्रारंभ करता है, फिर धीरे-धीरे छोटी दूरी पर ध्यान केंद्रित करता है। यदि दोनों के मध्य समझौता करना पड़े तो छोटी दूरी की सूचना बड़ी दूरी की सूचना को अधिलेखित कर देगी।

सीसीए का प्रतिबल फलन उचित ब्रेगमैन विस्तार के योग से संबंधित है।

वक्रीय दूरी विश्लेषण
सीडीए बहुविध उपयुक्त करने के लिए एक स्व-संगठित तंत्रिका संजाल को प्रशिक्षित करता है और इसके अंतःस्थापन में भूगर्भीय दूरी को संरक्षित करने का प्रयास करता है। यह वक्रीय घटक विश्लेषण पर आधारित है (जो सैमन के मानचित्रण को विस्तारित करता है), परन्तु इसके बजाय अल्पांतरी दूरी का उपयोग करता है।

डिफियोमॉर्फिक विमीयता न्यूनीकरण
डिफियोमॉर्फिक विमीयता न्यूनीकरण या डिफियोमैप एक समतल डिफियोमोर्फिक मानचित्रण सीखता है जो प्रदत्त को निम्न-आयामी रैखिक उप-समष्टि पर स्थानांतरित करता है। विधियाँ एक सुचारू समय अनुक्रमित सदिश क्षेत्र के लिए हल करती हैं जैसे कि क्षेत्र के साथ प्रवाह जो प्रदत्त बिंदुओं पर प्रारंभ होता है, एक निम्न-आयामी रैखिक उप-समष्टि पर समाप्त होगा, जिससे आगे और व्युत्क्रम मानचित्रण दोनों के अंतर्गत युग्‍मानूसार अंतर को संरक्षित करने का प्रयास किया जाएगा।

बहुविध संरेखण
बहुविध संरेखण इस धारणा का लाभ उठाता है कि समान जनक प्रक्रियाओं द्वारा उत्पादित अलग-अलग प्रदत्त समुच्चय एक समान अंतर्निहित बहुविध प्रतिनिधित्व साझा करेंगे। प्रत्येक मूल समष्टि से साझा बहुविध तक प्रक्षेपण सीखकर, पत्राचार पुनर्प्राप्त किया जाता है और एक कार्यक्षेत्र से ज्ञान दूसरे में स्थानांतरित किया जा सकता है। अधिकांश बहुविध संरेखण प्रविधि केवल दो प्रदत्त समुच्चयों पर विचार करती है, परन्तु यह अवधारणा स्वेच्छतः अनेक प्रारंभिक प्रदत्त समुच्चयों तक फैली हुई है।

प्रसार मानचित्र
प्रसार मानचित्र ताप प्रसार और यादृच्छिक चाल (मार्कोव श्रृंखला) के मध्य संबंध का लाभ उठाते हैं; बहुविध पर प्रसार प्रचालक और आलेख पर परिभाषित फलनों पर कार्य करने वाले मार्कोव पारगमन आव्यूह के मध्य एक सादृश्य बनाया गया है, जिनके बिंदुओं को बहुविध से प्रतिरूप लिया गया था। विशेष रूप से, प्रदत्त समुच्चय को $$ \mathbf{X} = [x_1,x_2,\ldots,x_n] \in \Omega \subset \mathbf {R^D}$$के द्वारा दर्शाया जाना चाहिए। प्रसार मानचित्र की अंतर्निहित धारणा यह है कि उच्च-आयामी प्रदत्त आयाम $$ \mathbf{d} $$ के निम्न-आयामी बहुविध पर स्थित है। X प्रदत्त समुच्चय का प्रतिनिधित्व करते हैं और $$ \mu $$, X पर प्रदत्त बिंदुओं के वितरण का प्रतिनिधित्व करते हैं। इसके अतिरिक्त, एक कर्नेल को परिभाषित करें जो X में बिंदुओं की समानता की कुछ धारणा का प्रतिनिधित्व करता है। कर्नेल $$ \mathit{k} $$ में निम्नलिखित गुणधर्म हैं।
 * $$k(x,y) = k(y,x), $$

k सममित है,


 * $$ k(x,y) \geq 0\qquad \forall x,y, k $$

k सकारात्मकता को बनाए रखने वाला है।

इस प्रकार कोई व्यक्ति व्यक्तिगत प्रदत्त बिंदुओं को एक आलेख के बिंदुओं के रूप में और कर्नेल k को उस आलेख पर किसी प्रकार की आत्मीयता को परिभाषित करने के रूप में विचार क सकता है। आलेख निर्माण द्वारा सममित है क्योंकि कर्नेल सममित है। यहां यह देखना सरल है कि टपल (X,k) से एक प्रतिवर्ती मार्कोव श्रृंखला का निर्माण किया जा सकता है। यह प्रविधि विभिन्न प्रकार के क्षेत्रों के लिए सामान्य है और इसे आलेख लाप्लासियन के रूप में जाना जाता है।

उदाहरण के लिए, गॉसियन कर्नेल का उपयोग करके आलेख K = (X,E) का निर्माण किया जा सकता है।


 * $$ K_{ij} = \begin{cases}

e^{-\|x_i -x_j\|^2_2/\sigma ^2} & \text{if } x_i \sim x_j \\ 0                         & \text{otherwise} \end{cases} $$ उपरोक्त समीकरण $$ x_i \sim x_j $$ में, $$ x_i $$ दर्शाता है कि $$x_j $$ का निकटतम निकटवर्ती है। उचित रूप से, अल्पांतरी दूरी का उपयोग वास्तव में बहुविध दूरियों को मापने के लिए किया जाना चाहिए। चूंकि बहुविध की सटीक संरचना उपलब्ध नहीं है, निकटतम सहवासियों के लिए अल्पांतरी दूरी यूक्लिडियन दूरी द्वारा अनुमानित है। विकल्प $$ \sigma $$ निकटता की हमारी धारणा को इस अर्थ में संशोधित करता है कि यदि $$ \|x_i - x_j\|_2 \gg \sigma $$ तब $$ K_{ij} = 0 $$ और यदि $$ \|x_i - x_j\|_2 \ll \sigma $$ तब $$ K_{ij} = 1 $$ है। पूर्ववर्ती का अर्थ है कि बहुत कम प्रसार हुआ है जबकि अनुवर्ती का अर्थ है कि प्रसार प्रक्रिया लगभग पूर्ण हो चुका है। चुनने के लिए विभिन्न रणनीतियाँ $$ \sigma $$ में पायी जा सकती हैं।

मार्कोव आव्यूह का निष्ठापूर्वक प्रतिनिधित्व करने के लिए, $$ K $$ को संबंधित डिग्री आव्यूह $$ D $$ द्वारा सामान्यीकृत किया जाना चाहिए:


 * $$ P = D^{-1}K. $$

$$ P $$ अब एक मार्कोव श्रृंखला का प्रतिनिधित्व करता है। $$ P(x_i,x_j) $$ से, $$ x_i $$ से $$ x_j $$ एक बार के चरण में स्थानांतरित होने की संभावना है। इसी प्रकार से पारगमन की संभावना $$ x_i $$ से $$ x_j $$, t समय चरणों $$ P^t (x_i,x_j) $$ द्वारा दिया गया है। यहाँ $$ P^t $$ आव्यूह है, $$ P $$ को स्वयं से t गुणा किया।

मार्कोव आव्यूह $$ P $$ प्रदत्त समुच्चय X की स्थानीय ज्यामिति की कुछ धारणा का गठन करता है। प्रसार मानचित्रों और प्रमुख घटक विश्लेषण के मध्य प्रमुख अंतर यह है कि प्रदत्त के केवल स्थानीय विशेषताओं को प्रसार मानचित्रों में माना जाता है, क्योंकि संपूर्ण प्रदत्त समुच्चय के सहसंबंधों को लेने का विरोध किया जाता है।

$$ K $$ प्रदत्त समुच्चय पर एक यादृच्छिक चाल परिभाषित करता है जिसका अर्थ है कि कर्नेल प्रदत्त समुच्चय के कुछ स्थानीय ज्यामिति को अधिकृत करता है। मार्कोव श्रृंखला कर्नेल मानों के माध्यम से प्रसार की तीव्र और धीमी दिशाओं को परिभाषित करती है। जैसे-जैसे चाल समय के साथ आगे बढ़ता है, स्थानीय ज्यामिति की सूचना गतिशील प्रणाली के स्थानीय पारगमन (अंतर समीकरणों द्वारा परिभाषित) के समान एकत्र होती है। प्रसार का रूपक पारिवारिक प्रसार दूरी $$\{ D_t \}_{ t \in N} $$ की परिभाषा से उत्पन्न होता है।
 * $$ D_t^2(x,y) = \|p_t(x,\cdot) - p_t(y,\cdot)\|^2 $$

निश्चित t के लिए, $$ D_t $$ पथ संयोजकता के आधार पर प्रदत्त समुच्चय के किसी भी दो बिंदुओं के मध्य की दूरी को परिभाषित करता है: $$ D_t(x,y) $$ का मान x से y और इसके विपरीत संयोजित करने वाले अधिक पथ छोटे होंगे, क्योंकि मात्रा $$ D_t(x,y) $$ लंबाई t के सभी पथों का योग सम्मिलित है, $$ D_t $$ अल्पांतरी दूरी की तुलना में प्रदत्त में शोर के प्रति अधिक प्रबल है। $$ D_t $$ दूरी की गणना करते समय बिंदु x और y के मध्य सभी संबंधों को ध्यान में रखता है और केवल यूक्लिडियन दूरी या यहां तक ​​कि भूगर्भीय दूरी की तुलना में निकटता की उन्नत धारणा के रूप में कार्य करता है।

स्थानीय बहुआयामी सोपानन
स्थानीय बहुआयामी सोपानन स्थानीय क्षेत्रों में बहुआयामी सोपानन करता है, और फिर सभी टुकड़ों को एक साथ उपयुक्त करने के लिए उत्तल अनुकूलन का उपयोग करता है।

गैर-रेखीय पीसीए
गैर-रेखीय पीसीए (NLPCA) एक बहु-परत परसेप्ट्रॉन (MLP) को बहुविध उपयुक्त करने, प्रशिक्षित करने के लिए पश्चप्रचार का उपयोग करता है। प्ररूपी एमएलपी प्रशिक्षण के विपरीत, जो केवल भारण को अद्यतन करता है, एनएलपीसीए भारण और निविष्टि दोनों को अद्यतन करता है, अर्थात्, भारण और निविष्टि दोनों को अव्यक्त मान के रूप में माना जाता है। प्रशिक्षण के पश्चात, अव्यक्त निविष्टि देखे गए सदिशों का एक निम्न-आयामी प्रतिनिधित्व है, और एमएलपी उस निम्न-आयामी प्रतिनिधित्व से उच्च-आयामी अवलोकन समष्टि पर प्रतिचित्र करता है।

प्रदत्त-चालित उच्च-आयामी सोपानन
प्रदत्त-संचालित उच्च-आयामी सोपानन (DD-HDS) सैमन के मानचित्रण और वक्रीय घटक विश्लेषण से निकटता से संबंधित है, अतिरिक्त इसके कि (1) यह एक साथ मूल और बहिर्गत स्थान दोनों में छोटी दूरी पर ध्यान केंद्रित करके अवास्तविक निकटवर्ती और रेज़िन बिंदुओं को एक साथ दंडित करता है, और यह (2) यह दूरी वितरण के लिए भारण फलन को अनुकूलित करके माप घटना की एकाग्रता के लिए खाता है।

बहुविध मूर्तिकला
बहुविध मूर्तिकला अंतःस्थापन खोजने के लिए स्नातक किए गए अनुकूलन का उपयोग करता है। अन्य कलन विधि की तरह, यह के-निकटतम सहवासियों की गणना करता है और एक अंतःस्थापन की खोज करने का प्रयास करता है जो स्थानीय निकटवर्ती में संबंधों को संरक्षित करता है। यह धीरे-धीरे उच्च आयामों से विचरण करता है, साथ ही साथ उन संबंधों को बनाए रखने के लिए निचले आयामों में बिंदुओं को समायोजित करता है। यदि सोपानन की दर छोटी है, तो यह बहुत ही सटीक अंतःस्थापन पा सकता है। यह अनेक समस्याओं वाले अन्य कलन विधि की तुलना में उच्च अनुभवजन्य सटीकता का अनुरोध करता है। इसका उपयोग अन्य बहुविध अधिगम वाले कलन विधि से परिणामों को परिष्कृत करने के लिए भी किया जा सकता है। हालांकि, जब तक बहुत धीमी सोपानन दर का उपयोग नहीं किया जाता है, तब तक यह बहुविध प्रकट करने के लिए संघर्ष करता है। इसका कोई प्रतिरूप नहीं है।

क्रम-विसु
क्रम-विसु दूरी के बजाय निकटवर्ती के क्रम को संरक्षित करने के लिए रूपांकित किया गया है। क्रम-विसु विशेष रूप से कठिन फलनों में उपयोगी है (जब दूरी का संरक्षण संतोषजनक रूप से प्राप्त नहीं किया जा सकता है)। वास्तव में, निकटवर्ती की क्रम दूरी की तुलना में कम ज्ञानवर्धक है (क्रम को दूरी से घटाया जा सकता है परन्तु दूरी को क्रम से नहीं घटाया जा सकता है) और इसका संरक्षण इस प्रकार सरल है।

स्थैतिक रूप से व्यवरूद्ध सममितीय अंतःस्थापन
स्थैतिक रूप से व्यवरूद्ध सममितीय अंतःस्थापन (TCIE) एक कलन विधि है जो यूक्लिडियन मापीय के साथ असंगत अल्पान्तरी को निस्यंदन के बाद लगभग अल्पांतरी दूरियों पर आधारित है। जब आइसो-मानचित्र का उपयोग आंतरिक रूप से गैर-अवमुख प्रदत्त को प्रतिचित्र करने के लिए किया जाता है, तो होने वाली विकृतियों को ठीक करने के उद्देश्य से, टीसीआईई अधिक सटीक मानचित्रण प्राप्त करने के लिए भारण न्यूनतम-वर्गों एमडीएस का उपयोग करता है। टीसीआईई कलन विधि पहले प्रदत्त में संभावित सीमा बिंदुओं का पता लगाता है, और अल्पांतरी लंबाई की गणना के पर्यन्त असंगत अल्पांतरी को चिन्हित करता है, जिसे भारित प्रतिबल प्रमुखता में एक छोटा भारण दिया जाता है।

समान बहुविध सन्निकटन और प्रक्षेपण
समरूप बहुविध सन्निकटन और प्रक्षेपण (UMAP) एक नॉनलाइनियर विमीयता न्यूनीकरण प्रविधि है। दृष्टिगत रूप से, यह टी-एसएनई के समान है, परन्तु यह मानता है कि प्रदत्त समान रूप से स्थानीय रूप से जुड़े रीमैनियन बहुविध पर वितरित किया जाता है और यह कि रीमैनियन मापीय स्थानीय रूप से स्थिर या लगभग स्थानीय रूप से स्थिर है।

निकटता मैट्रिक्स पर आधारित विधि
निकटता मैट्रिक्स पर आधारित एक विधि वह है जहां प्रदत्त को समानता आव्यूह या दूरी आव्यूह के रूप में कलन विधि में प्रस्तुत किया जाता है। ये विधियाँ मापीय बहुआयामी सोपानन के व्यापक वर्ग के अंतर्गत आती हैं। निकटता प्रदत्त की गणना कैसे की जाती है, इसमें विविधताएं अंतर होती हैं; उदाहरण के लिए, आइसो-मानचित्र, स्थानीय रूप से रैखिक अंतःस्थापन, अधिकतम विचरण का विकास, और सैममोन का प्रक्षेपण (जो वास्तव में मानचित्रण नहीं है) मापीय बहुआयामी सोपानन विधियों के उदाहरण हैं।

यह भी देखें

 * बहुविध परिकल्पना
 * वर्णक्रमीय उप-बहुविध
 * टेकेंस की प्रमेय
 * व्हिटनी अंतःस्थापन प्रमेय
 * विभेदक विश्लेषण
 * प्रत्यास्थ मानचित्र
 * वैशिष्टय अधिगम
 * विर्धित स्व-संगठित मानचित्र (GSOM)
 * स्व-संगठित मानचित्र (SOM)

बाहरी संबंध

 * Isomap
 * Generative Topographic Mapping
 * Mike Tipping's Thesis
 * Gaussian Process Latent Variable Model
 * Locally Linear Embedding
 * Relational Perspective Map
 * Waffles is an open source C++ library containing implementations of LLE, Manifold Sculpting, and some other manifold learning algorithms.
 * DD-HDS homepage
 * RankVisu homepage
 * Short review of Diffusion Maps
 * Nonlinear PCA by autoencoder neural networks