परसेप्ट्रॉन: Difference between revisions
No edit summary |
No edit summary |
||
| Line 2: | Line 2: | ||
{{Redirect|परसेप्ट्रॉन|1969 की पुस्तक|परसेप्ट्रॉन (पुस्तक)}} | {{Redirect|परसेप्ट्रॉन|1969 की पुस्तक|परसेप्ट्रॉन (पुस्तक)}} | ||
{{Machine learning|पर्यवेक्षित अध्ययन}} | {{Machine learning|पर्यवेक्षित अध्ययन}} | ||
[[ यंत्र अधिगम |यंत्र अधिगम]] में, '''परसेप्ट्रॉन''' (या मैककुलोच-पिट्स न्यूरॉन) द्विआधारी वर्गीकरण के [[पर्यवेक्षित वर्गीकरण|पर्यवेक्षित]] [[पर्यवेक्षित वर्गीकरण|वर्गीकरण]] के लिए एक कलन विधि होती है। [[द्विआधारी वर्गीकरण]] एक फ़ंक्शन होता है जो यह निर्धारित कर सकता है कि संख्याओं के वेक्टर द्वारा दर्शाया गया इनपुट किसी विशिष्ट वर्ग से संबंधित है या संबंधित नहीं है।{{r|largemargin}} यह एक प्रकार का [[ रैखिक वर्गीकारक |रैखिक वर्गीकारक]] होता है, अर्थात एक वर्गीकरण कलन विधि जो [[ फ़ीचर वेक्टर |विशेष वेक्टर]] के साथ वजन के एक समूह को मिलाकर एक [[रैखिक भविष्यवक्ता फ़ंक्शन|रैखिक भविष्यवक्ता फंक्शन]] के आधार पर अपनी भविष्यवाणियां करता | [[ यंत्र अधिगम |यंत्र अधिगम]] में, '''परसेप्ट्रॉन''' (या मैककुलोच-पिट्स न्यूरॉन) द्विआधारी वर्गीकरण के [[पर्यवेक्षित वर्गीकरण|पर्यवेक्षित]] [[पर्यवेक्षित वर्गीकरण|वर्गीकरण]] के लिए एक कलन विधि होती है। [[द्विआधारी वर्गीकरण]] एक फ़ंक्शन होता है जो यह निर्धारित कर सकता है कि संख्याओं के वेक्टर द्वारा दर्शाया गया इनपुट किसी विशिष्ट वर्ग से संबंधित है या संबंधित नहीं है।{{r|largemargin}} यह एक प्रकार का [[ रैखिक वर्गीकारक |रैखिक वर्गीकारक]] होता है, अर्थात एक वर्गीकरण कलन विधि जो [[ फ़ीचर वेक्टर |विशेष वेक्टर]] के साथ वजन के एक समूह को मिलाकर एक [[रैखिक भविष्यवक्ता फ़ंक्शन|रैखिक भविष्यवक्ता फंक्शन]] के आधार पर अपनी भविष्यवाणियां करता है।ka | ||
==इतिहास== | ==इतिहास== | ||
| Line 8: | Line 8: | ||
{{see also|कृत्रिम बुद्धिमत्ता का इतिहास#परसेप्ट्रॉन और कनेक्शनवाद पर आक्रमण|एआई विंटर#1969 में कनेक्शनवाद का परित्याग}} | {{see also|कृत्रिम बुद्धिमत्ता का इतिहास#परसेप्ट्रॉन और कनेक्शनवाद पर आक्रमण|एआई विंटर#1969 में कनेक्शनवाद का परित्याग}} | ||
परसेप्ट्रॉन का आविष्कार 1943 में [[वॉरेन मैकुलोच]] और [[वाल्टर पिट्स]] द्वारा किया गया था।<ref>{{cite journal |last1=McCulloch |first1=W |last2=Pitts |first2=W |title=तंत्रिका गतिविधि में निहित विचारों की एक तार्किक गणना|journal=Bulletin of Mathematical Biophysics |date=1943 |volume=5 |issue=4 |pages=115–133 |doi=10.1007/BF02478259 |url=https://www.bibsonomy.org/bibtex/13e8e0d06f376f3eb95af89d5a2f15957/schaul}}</ref> पहला कार्यान्वयन 1958 में कॉर्नेल एयरोनॉटिकल प्रयोगशाला में [[फ्रैंक रोसेनब्लैट]] द्वारा निर्मित एक यंत्र था,<ref>{{cite journal |last=Rosenblatt |first=Frank |year=1957 |title=The Perceptron—a perceiving and recognizing automaton |journal=Report 85-460-1 |publisher=Cornell Aeronautical Laboratory }}</ref> जिसे संयुक्त राज्य नौसेना अनुसंधान कार्यालय द्वारा वित्त पोषित किया गया था।<ref name="Olazaran">{{cite journal |first=Mikel |last=Olazaran |title=परसेप्ट्रॉन विवाद के आधिकारिक इतिहास का एक समाजशास्त्रीय अध्ययन|journal=Social Studies of Science |volume=26 |issue=3 |year=1996 |jstor=285702|doi=10.1177/030631296026003005 |pages=611–659|s2cid=16786738 }}</ref> | परसेप्ट्रॉन का आविष्कार 1943 में [[वॉरेन मैकुलोच]] और [[वाल्टर पिट्स]] द्वारा किया गया था।<ref>{{cite journal |last1=McCulloch |first1=W |last2=Pitts |first2=W |title=तंत्रिका गतिविधि में निहित विचारों की एक तार्किक गणना|journal=Bulletin of Mathematical Biophysics |date=1943 |volume=5 |issue=4 |pages=115–133 |doi=10.1007/BF02478259 |url=https://www.bibsonomy.org/bibtex/13e8e0d06f376f3eb95af89d5a2f15957/schaul}}</ref> पहला कार्यान्वयन 1958 में कॉर्नेल एयरोनॉटिकल प्रयोगशाला में [[फ्रैंक रोसेनब्लैट]] द्वारा निर्मित एक यंत्र था,<ref>{{cite journal |last=Rosenblatt |first=Frank |year=1957 |title=The Perceptron—a perceiving and recognizing automaton |journal=Report 85-460-1 |publisher=Cornell Aeronautical Laboratory }}</ref> जिसे संयुक्त राज्य नौसेना अनुसंधान कार्यालय द्वारा वित्त पोषित किया गया था।<ref name="Olazaran">{{cite journal |first=Mikel |last=Olazaran |title=परसेप्ट्रॉन विवाद के आधिकारिक इतिहास का एक समाजशास्त्रीय अध्ययन|journal=Social Studies of Science |volume=26 |issue=3 |year=1996 |jstor=285702|doi=10.1177/030631296026003005 |pages=611–659|s2cid=16786738 }}</ref> | ||
[[File:330-PSA-80-60 (USN 710739) (20897323365).jpg|thumb|मार्क 1 परसेप्ट्रॉन का कैमरा प्रणाली।]]परसेप्ट्रॉन का उद्देश्य एक प्रोग्राम के अतिरिक्त एक यंत्र होना था, और जबकि इसका पहला कार्यान्वयन [[आईबीएम 704]] के लिए सॉफ्टवेयर में था, बाद में इसे मार्क 1 परसेप्ट्रॉन के रूप में कस्टम-निर्मित हार्डवेयर में लागू किया गया था। इस यंत्र को [[छवि पहचान]] के लिए डिज़ाइन किया गया था, इसमें 400 फोटोकल्स की एक श्रृंखला थी, जो यादृच्छिक रूप से न्यूरॉन्स से जुड़ी हुई थी। वजन को पोटेंशियोमीटर में एन्कोड किया गया था, और सीखने के समय वज़न | [[File:330-PSA-80-60 (USN 710739) (20897323365).jpg|thumb|मार्क 1 परसेप्ट्रॉन का कैमरा प्रणाली।]]परसेप्ट्रॉन का उद्देश्य एक प्रोग्राम के अतिरिक्त एक यंत्र होना था, और जबकि इसका पहला कार्यान्वयन [[आईबीएम 704]] के लिए सॉफ्टवेयर में था, बाद में इसे मार्क 1 परसेप्ट्रॉन के रूप में कस्टम-निर्मित हार्डवेयर में लागू किया गया था। इस यंत्र को [[छवि पहचान]] के लिए डिज़ाइन किया गया था, इसमें 400 फोटोकल्स की एक श्रृंखला थी, जो यादृच्छिक रूप से न्यूरॉन्स से जुड़ी हुई थी। वजन को पोटेंशियोमीटर में एन्कोड किया गया था, और सीखने के समय वज़न अद्यतन विद्युत मोटर द्वारा किया गया था।<ref name="bishop">{{cite book |first=Christopher M. |last=Bishop |year=2006 |title=पैटर्न मान्यता और मशीन प्रवीणता|publisher=Springer |isbn=0-387-31073-8 }}</ref>{{rp|193}} | ||
1958 में अमेरिकी नौसेना द्वारा आयोजित एक पत्रकार सम्मेलन में, रोसेनब्लैट ने परसेप्ट्रॉन के बारे में विवरण दिया जिससे नवोदित कृत्रिम बुद्धिमत्ता समुदाय के बीच एक विवाद उत्पन्न हो गया, रोसेनब्लैट के विवरणों के आधार पर, न्यूयॉर्क टाइम्स ने परसेप्ट्रॉन को एक विद्युतिए कंप्यूटर का भ्रूण बताया, जिससे नौसेना को उम्मीद थी कि वह चलने, बात करने, देखने, लिखने, खुद को पुन: उत्पन्न करने और अपने अस्तित्व के प्रति सचेत रहने में सक्षम होगा।<ref name="Olazaran"/> | 1958 में अमेरिकी नौसेना द्वारा आयोजित एक पत्रकार सम्मेलन में, रोसेनब्लैट ने परसेप्ट्रॉन के बारे में विवरण दिया जिससे नवोदित कृत्रिम बुद्धिमत्ता समुदाय के बीच एक विवाद उत्पन्न हो गया, रोसेनब्लैट के विवरणों के आधार पर, न्यूयॉर्क टाइम्स ने परसेप्ट्रॉन को एक विद्युतिए कंप्यूटर का भ्रूण बताया, जिससे नौसेना को उम्मीद थी कि वह चलने, बात करने, देखने, लिखने, खुद को पुन: उत्पन्न करने और अपने अस्तित्व के प्रति सचेत रहने में सक्षम होगा।<ref name="Olazaran"/> | ||
| Line 59: | Line 59: | ||
=== चरण === | === चरण === | ||
{{Ordered list | {{Ordered list | ||
| | |वजन आरंभ करता है, वजन को 0 या छोटे यादृच्छिक मान से प्रारंभ किया जा सकता है। नीचे दिए गए उदाहरण में, हम 0 का उपयोग करते है।| प्रत्येक उदाहरण के लिए {{mvar|j}} हमारे प्रशिक्षण समूह में {{mvar|D}}, इनपुट पर निम्नलिखित चरण निष्पादित करता है <math>\mathbf{x}_j </math> और वांछित आउटपुट <math>d_j </math>: | ||
| | |||
{{Ordered list |list_style_type=lower-alpha | {{Ordered list |list_style_type=lower-alpha | ||
| | |वास्तविक आउटपुट की गणना है: | ||
:<math>\begin{align} | :<math>\begin{align} | ||
y_j(t) &= f[\mathbf{w}(t)\cdot\mathbf{x}_j] \\ | y_j(t) &= f[\mathbf{w}(t)\cdot\mathbf{x}_j] \\ | ||
&= f[w_0(t)x_{j,0} + w_1(t)x_{j,1} + w_2(t)x_{j,2} + \dotsb + w_n(t)x_{j,n}] | &= f[w_0(t)x_{j,0} + w_1(t)x_{j,1} + w_2(t)x_{j,2} + \dotsb + w_n(t)x_{j,n}] | ||
\end{align}</math> | \end{align}</math> | ||
| | |वजन अद्यतन है: | ||
:<math>w_i(t+1) = w_i(t) \; \boldsymbol{+} \; r\cdot(d_j - y_j(t)) x_{j,i} </math>, | :<math>w_i(t+1) = w_i(t) \; \boldsymbol{+} \; r\cdot(d_j - y_j(t)) x_{j,i} </math>, सभी सुविधाओं के लिए <math>0 \leq i \leq n</math>, <math>r</math> [[सीखने की दर]] है | ||
}} | }} | ||
| | |[[ऑफ़लाइन सीखने]] के लिए, दूसरे चरण को पुनरावृत्ति त्रुटि होने तक दोहराया जा सकता है <math>\frac{1}{s} \sum_{j=1}^s |d_j - y_j(t)| </math> उपयोगकर्ता-निर्दिष्ट त्रुटि सीमा से कम है <math>\gamma </math>, या पुनरावृत्तियों की एक पूर्व निर्धारित संख्या पूरी हो चुकी है, जहां ''s'' फिर से नमूना समूह का आकार है। | ||
}} | }} | ||
कलन विधि चरण 2 बी में प्रत्येक प्रशिक्षण नमूने के बाद वजन को | कलन विधि चरण 2 बी में प्रत्येक प्रशिक्षण नमूने के बाद वजन को अद्यतन करता है। | ||
[[File:Perceptron example.svg|500px|thumb |right|अधिक प्रशिक्षण उदाहरण जोड़े जाने पर एक परसेप्ट्रॉन अपनी रैखिक सीमा को अद्यतन करता हुआ एक आरेख दिखाता है]] | [[File:Perceptron example.svg|500px|thumb |right|अधिक प्रशिक्षण उदाहरण जोड़े जाने पर एक परसेप्ट्रॉन अपनी रैखिक सीमा को अद्यतन करता हुआ एक आरेख दिखाता है]] | ||
Revision as of 02:20, 2 July 2023
| Part of a series on |
| Machine learning and data mining |
|---|
यंत्र अधिगम में, परसेप्ट्रॉन (या मैककुलोच-पिट्स न्यूरॉन) द्विआधारी वर्गीकरण के पर्यवेक्षित वर्गीकरण के लिए एक कलन विधि होती है। द्विआधारी वर्गीकरण एक फ़ंक्शन होता है जो यह निर्धारित कर सकता है कि संख्याओं के वेक्टर द्वारा दर्शाया गया इनपुट किसी विशिष्ट वर्ग से संबंधित है या संबंधित नहीं है।[1] यह एक प्रकार का रैखिक वर्गीकारक होता है, अर्थात एक वर्गीकरण कलन विधि जो विशेष वेक्टर के साथ वजन के एक समूह को मिलाकर एक रैखिक भविष्यवक्ता फंक्शन के आधार पर अपनी भविष्यवाणियां करता है।ka
इतिहास
परसेप्ट्रॉन का आविष्कार 1943 में वॉरेन मैकुलोच और वाल्टर पिट्स द्वारा किया गया था।[3] पहला कार्यान्वयन 1958 में कॉर्नेल एयरोनॉटिकल प्रयोगशाला में फ्रैंक रोसेनब्लैट द्वारा निर्मित एक यंत्र था,[4] जिसे संयुक्त राज्य नौसेना अनुसंधान कार्यालय द्वारा वित्त पोषित किया गया था।[5]
परसेप्ट्रॉन का उद्देश्य एक प्रोग्राम के अतिरिक्त एक यंत्र होना था, और जबकि इसका पहला कार्यान्वयन आईबीएम 704 के लिए सॉफ्टवेयर में था, बाद में इसे मार्क 1 परसेप्ट्रॉन के रूप में कस्टम-निर्मित हार्डवेयर में लागू किया गया था। इस यंत्र को छवि पहचान के लिए डिज़ाइन किया गया था, इसमें 400 फोटोकल्स की एक श्रृंखला थी, जो यादृच्छिक रूप से न्यूरॉन्स से जुड़ी हुई थी। वजन को पोटेंशियोमीटर में एन्कोड किया गया था, और सीखने के समय वज़न अद्यतन विद्युत मोटर द्वारा किया गया था।[2]: 193
1958 में अमेरिकी नौसेना द्वारा आयोजित एक पत्रकार सम्मेलन में, रोसेनब्लैट ने परसेप्ट्रॉन के बारे में विवरण दिया जिससे नवोदित कृत्रिम बुद्धिमत्ता समुदाय के बीच एक विवाद उत्पन्न हो गया, रोसेनब्लैट के विवरणों के आधार पर, न्यूयॉर्क टाइम्स ने परसेप्ट्रॉन को एक विद्युतिए कंप्यूटर का भ्रूण बताया, जिससे नौसेना को उम्मीद थी कि वह चलने, बात करने, देखने, लिखने, खुद को पुन: उत्पन्न करने और अपने अस्तित्व के प्रति सचेत रहने में सक्षम होगा।[5]
चूँकि परसेप्ट्रोन प्रारंभ में आशाजनक लग रहा था, यह जल्दी ही सिद्ध हो गया कि परसेप्ट्रोन को प्रतिरूप के कई वर्गों को पहचानने के लिए प्रशिक्षित नहीं किया जा सकता है। इसके कारण तंत्रिका संजाल अनुसंधान का क्षेत्र कई वर्षों तक स्थिर रहा, इससे पहले यह माना जाता था कि दो या दो से अधिक परतों वाले एक फीडफॉरवर्ड न्यूरल संजाल (जिसे बहुपरत परसेप्ट्रॉन भी कहा जाता है) में एक परत वाले परसेप्ट्रोन की तुलना में अधिक प्रसंस्करण ऊर्जा होती है।
एकल बहुपरत परसेप्ट्रॉन केवल रैखिक रूप से अलग किए जाने योग्य प्रतिरूप सीखने में सक्षम होता है।[6] कुछ चरण सक्रियण फ़ंक्शन के साथ वर्गीकरण कार्य के लिए, एक एकल नोड में प्रतिरूप बनाने वाले डेटा बिंदुओं को विभाजित करने वाली एक एकल रेखा होती है। अधिक नोड्स अधिक विभाजन रेखाएँ बना सकती है, लेकिन अधिक जटिल वर्गीकरण बनाने के लिए उन रेखाओं को संयोजित करना होता है। परसेप्ट्रॉन की दूसरी परत, या यहां तक कि रैखिक नोड्स, कई अन्यथा गैर-वियोज्य समस्याओं को हल करने के लिए पर्याप्त होता है।
1969 में, मार्विन मिंस्की और सेमुर पैपर्ट की पर्सेप्ट्रॉन (पुस्तक) नामक एक प्रसिद्ध पुस्तक से पता चला कि संजाल के इन वर्गों के लिए एक्सओआर फ़ंक्शन सीखना असंभव था। उन्होंने यह अनुमान लगाया कि एक समान परिणाम बहुपरत परसेप्ट्रॉन संजाल के लिए होता है। चूँकि, यह सच नहीं है, क्योंकि मिन्स्की और पैपर्ट दोनों पहले से ही जानते थे कि बहुपरत परसेप्ट्रॉन एक्सओआर फ़ंक्शन का उत्पादन करने में सक्षम थे। (अधिक जानकारी के लिए परसेप्ट्रॉन (पुस्तक) पर पेज देखें।) फिर भी, अधिकांशतः गलत विधि से प्रचारित किए जाने वाले मिन्स्की/पेपर तंत्रिका संजाल अनुसंधान की रुचि और वित्त पोषण में महत्वपूर्ण गिरावट का कारण बना था। 1980 के दशक में तंत्रिका संजाल अनुसंधान के पुनरुत्थान का अनुभव होने में दस साल और लग गए।[6] इस पाठ को 1987 में परसेप्ट्रॉन - विस्तारित संस्करण के रूप में पुनर्मुद्रित किया गया था जहां मूल पाठ में कुछ त्रुटियां दिखाई गई है और उन्हें ठीक किया गया है।
2022 के एक लेख में कहा गया है कि मार्क 1 परसेप्ट्रॉन इस कलन विधि को फोटो-दुभाषियों के लिए एक उपयोगी उपकरण के रूप में विकसित करने के लिए 1963 से 1966 तक पहले गुप्त चार-वर्षीय एनपीआईसी यूएस राष्ट्रीय फोटोग्राफिक व्याख्या केंद्र प्रयास का हिस्सा थे।[7]
कर्नेल परसेप्ट्रॉन कलन विधि पहले से ही 1964 में एज़रमैन एट अल द्वारा प्रस्तुत किया गया था।[8] सामान्य गैर-वियोज्य स्थिति में परसेप्ट्रॉन कलन विधि के लिए सीमा सीमा की गारंटी सबसे पहले योव दोस्त और रॉबर्ट शापिरे (1998) द्वारा दी गई थी।[1][9]
परसेप्ट्रॉन एक जैविक न्यूरॉन का एक सरलीकृत नमूना है। जबकि तंत्रिका संबंधी व्यवहार को पूरी तरह से समझने के लिए अधिकांशतः जैविक न्यूरॉन नमूना की जटिलता की आवश्यकता होती है, शोध से पता चलता है कि एक परसेप्ट्रॉन जैसा रैखिक नमूना वास्तविक न्यूरॉन्स में देखे गए कुछ व्यवहार उत्पन्न कर सकता है।[10]
परिभाषा
आधुनिक अर्थों में, परसेप्ट्रॉन एक द्विआधारी वर्गीकारक सीखने के लिए एक कलन विधि होती है जिसे रैखिक वर्गीकरण परिभाषा कहा जाता है: एक फ़ंक्शन जो इसके इनपुट को अंकित करता है (एक वास्तविक-मूल्यवान सदिश स्थल) एक आउटपुट मान के लिए (एकल द्विआधारी फ़ंक्शन मान):