ओपन एआई
| File:OpenAI Logo.svg | |
| File:Pioneer Building, San Francisco (2019) -1.jpg Headquarters at the Pioneer Building in San Francisco | |
| Industry | Artificial intelligence |
|---|---|
| Founded | December 10, 2015 |
| Founders |
|
| Headquarters | Pioneer Building, San Francisco, California, U.S.[3][4] |
Key people |
|
| Products | |
Number of employees | c. 375 (2023)[5] |
_-1.jpg){kind=link}
ओपनएआई एक अमेरिकी आर्टिफिशियल इंटेलिजेंस (एआई) अनुसंधान प्रयोगशाला है जिसमें गैर-लाभकारी संगठन ओपनएआई निगमित और इसकी लाभकारी सहायक कंपनी ओपनएआई लिमिटेड पार्टनरशिप सम्मिलित है। ओपनएआई मित्रवत एआई को बढ़ावा देने और विकसित करने के घोषित उद्देश से एआई अनुसंधान करता है। ओपनएआई प्रणाली माइक्रोसॉफ्ट के माइक्रोसॉफ्ट अज़ूरे- आधारित सुपर कंप्यूटर प्लेटफॉर्म पर चलता है।[6][7][8]
ओपनएआई की स्थापना 2015 में इलिया सुतस्कवर, ग्रेग ब्रॉकमैन, ट्रेवर ब्लैकवेल, विकी चेउंग, लेडी कारपैथी, डर्क किंगमा, जेसिका लिविंगस्टन, जॉन शुलमैन, पामेला वागाटा, और वोज्शिएक ज़रेम्बा द्वारा की गई थी, जिसमें सैम ऑल्टमैन और एलोन मस्क प्रारंभिक बोर्ड के सदस्य थे।[9][2][10] माइक्रोसॉफ्ट ने ओपनएआई एलपी को 2019 में $1 बिलियन का निवेश और 2023 में $10 बिलियन का निवेश प्रदान किया।[11][12]
| Part of a series on |
| Artificial intelligence |
|---|
इतिहास
2015–2018: गैर-लाभकारी प्रारंभ
दिसंबर 2015 में, सैम ऑल्टमैन, ग्रेग ब्रॉकमैन, रीड हॉफमैन, जेसिका लिविंगस्टन, पीटर थिएल, एलोन मस्क, अमेज़न वेब सेवाएँ (एडब्ल्यूएस), इंफोसिस और वाईसी अनुसंधान ने ओपनएआई के गठन की घोषणा की और उद्यम के लिए $1 बिलियन से अधिक का वचन दिया था।[13] संगठन ने कहा कि वह अपने पेटेंट और शोध को जनता के लिए खोलकर अन्य संस्थानों और शोधकर्ताओं के साथ स्वतंत्र रूप से सहयोग करेगा।[14][15] ओपनएआई का मुख्यालय सैन फ्रांसिस्को के मिशन डिस्ट्रिक्ट में पायनियर बिल्डिंग (सैन फ्रांसिस्को) में है।[16][4]
वायर्ड (पत्रिका) के अनुसार, ब्रॉकमैन ने डीप लर्निंग मूवमेंट के संस्थापक जनकों में से एक जोशुआ बेंगियो से मुलाकात की और इस क्षेत्र के सर्वश्रेष्ठ शोधकर्ताओं की एक सूची तैयार की।[17] दिसंबर 2015 में ब्रॉकमैन उनमें से नौ को पहले कर्मचारी के रूप में नियुक्त करने में सक्षम था।[17] 2016 में ओपनएआई ने कॉरपोरेट-स्तर (गैर-लाभकारी-स्तर के अतिरिक्त) वेतन का भुगतान किया, किन्तु एआई शोधकर्ताओं के वेतन का भुगतान फेसबुक या गूगल के बराबर नहीं किया।[17]
माइक्रोसॉफ्ट के पीटर ली (कंप्यूटर वैज्ञानिक) ने कहा कि एक शीर्ष एआई शोधकर्ता की लागत शीर्ष राष्ट्रीय फुटबॉल लीग क्वार्टरबैक संभावना की लागत से अधिक है थी।[17] ओपनएआई की क्षमता और मिशन ने इन शोधकर्ताओं को फर्म की ओर आकर्षित किया; गूगल के एक कर्मचारी ने कहा कि वह आंशिक रूप से लोगों के बहुत शक्तिशाली समूह के कारण और बहुत सीमा तक, इसके मिशन के कारण ओपनएआई के लिए गूगल छोड़ने को तैयार था।[17] ब्रॉकमैन ने कहा कि सबसे अच्छी चीज जिसकी मैं कल्पना कर सकता था वह थी मानवता को एक सुरक्षित तरीके से वास्तविक एआई के निर्माण के निकट ले जाना।[17] ओपनएआई के सह-संस्थापक वोज्शिएक ज़रेम्बा ने कहा कि उन्होंने ओपनएआई में सम्मिलित होने के लिए अपने बाजार मूल्य के दो से तीन गुना के सीमावर्ती पागल प्रस्तावों को ठुकरा दिया।[17]
अप्रैल 2016 में, ओपनएआई ने सुदृढीकरण सीखने के अनुसंधान के लिए अपने मंच ओपनएआई जिम का एक सार्वजनिक बीटा जारी किया था।[18] दिसंबर 2016 में, ओपनएआई ने यूनिवर्स जारी किया, जो दुनिया भर में खेलों, वेबसाइटों और अन्य अनुप्रयोगों की आपूर्ति के लिए एआई की सामान्य बुद्धि को मापने और प्रशिक्षित करने के लिए एक सॉफ्टवेयर प्लेटफॉर्म है।.[19][20][21][22]
2017 में ओपनएआई ने अकेले क्लाउड कंप्यूटिंग पर $7.9 मिलियन, या अपने कार्यात्मक खर्चों का एक चौथाई खर्च किया था।[23] इसकी तुलना में, 2017 में डीपमाइंड का कुल खर्च $442 मिलियन था। 2018 की गर्मियों में, केवल ओपनएआई के डोटा 2 बॉट्स को प्रशिक्षित करने के लिए गूगल से कई हफ्तों के लिए 128,000 सीपीयू और 256 जीपीयू किराए पर लेने की आवश्यकता होती है।
2018 में, मस्क ने सेल्फ-ड्राइविंग कारों के लिए टेस्ला के एआई विकास के कारण टेस्ला के सीईओ के रूप में अपनी भूमिका के साथ "संभावित भविष्य के संघर्ष [रुचि]" का हवाला देते हुए अपनी बोर्ड सीट से इस्तीफा दे दिया।[24] सैम ऑल्टमैन का प्रमाण है कि मस्क का मानना था कि ओपनएआई गूगल जैसे अन्य खिलाड़ियों के पीछे पड़ गया था और मस्क ने इसके अतिरिक्त ओपनएआई को स्वयं लेने का प्रस्ताव दिया, जिसे बोर्ड ने अस्वीकार कर दिया। कस्तूरी ने बाद में ओपनएआई छोड़ दिया किन्तु एक दाता बने रहने को प्रमाणित किया, फिर भी उनके जाने के बाद कोई दान नहीं किया।[25]
2019: लाभ के लिए परिवर्तन
2019 में, ओपनएआई ने गैर-लाभकारी से कैप्ड फ़ॉर-प्रॉफ़िट में परिवर्तन किया, जिसमें लाभ किसी भी निवेश के 100 गुना पर छाया हुआ था।[26] ओपनएआई के अनुसार, कैप्ड-प्रॉफिट मॉडल ओपनएआई एलपी को कानूनी रूप से वेंचर फंड से निवेश आकर्षित करने की अनुमति देता है, और इसके अतिरिक्त, कर्मचारियों को कंपनी में साझेदारी देने के लिए, लक्ष्य यह है कि वे कह सकते हैं कि मैं ओपनएआई में जा रहा हूं, किन्तु लंबे समय में टर्म यह एक परिवार के रूप में हमारे लिए नुकसानदेह नहीं होने जा रहा है।[27] कई शीर्ष शोधकर्ता गूगल ब्रेन, डीपमाइंड या फेसबुक के लिए काम करते हैं, जो स्टॉक विकल्प प्रदान करते हैं जो एक गैर-लाभकारी संस्था करने में असमर्थ होगी।[28] परिवर्तन से पहले, ओपनएआई में शीर्ष कर्मचारियों के मुआवजे का सार्वजनिक विवरण कानूनी रूप से आवश्यक था।[29]
कंपनी ने तब अपने कर्मचारियों को इक्विटी (वित्त) वितरित की और माइक्रोसॉफ्ट के साथ भागीदारी की,[30] कंपनी में $1 बिलियन के निवेश पैकेज की घोषणा। ओपनएआई ने अपनी प्रौद्योगिकियों को व्यावसायिक रूप से लाइसेंस देने के अपने विश्वाश की भी घोषणा की।[31] ओपनएआई की योजना पांच वर्षों के अन्दर $1 बिलियन खर्च करने की है, और संभवत: इससे कहीं अधिक तेजी से।[32] ऑल्टमैन ने कहा है कि एक अरब डॉलर भी अपर्याप्त हो सकता है, और आर्टिफिशियल इंटेलिजेंस प्राप्त करने के लिए किसी भी गैर-लाभकारी संगठन की तुलना में प्रयोगशाला को अंततः अधिक पूंजी की आवश्यकता हो सकती है।[33]
एआई के लिए गैर-लाभकारी एलन संस्थान के ओरेन एट्ज़ियोनी द्वारा एक गैर-लाभकारी से एक कैप्ड-प्रॉफिट कंपनी में परिवर्तन को संदेह के साथ देखा गया था, जो इस बात से सहमत थे कि एक गैर-लाभकारी संस्था के लिए शीर्ष शोधकर्ताओं को लुभाना कठिन है, किन्तु कहा कि मैं इस धारणा से असहमत हूं कि एक गैर-लाभकारी संस्था ' टी प्रतिस्पर्धा और ओपनएआई और अन्य द्वारा कम बजट की सफल परियोजनाओं की ओर संकेत किया। यदि बड़ा और उत्तम वित्त पोषित सदैव उत्तम होता, तो आईबीएम अभी भी नंबर एक होता है।
गैर-लाभकारी, ओपनएआई इंक., ओपनएआई एलपी का एकमात्र नियंत्रित हित है। ओपनएआई एलपी, एक लाभदायक कंपनी होने के अतिरिक्त, ओपनएआई इंक. के गैर-लाभकारी चार्टर के लिए एक औपचारिक प्रत्ययी कर्तव्य बनाए रखती है। ओपनएआई इंक. के अधिकांश बोर्ड को ओपनएआई एलपी में वित्तीय साझेदारी रखने से रोक दिया गया है।[27] इसके अतिरिक्त, ओपनएआई एलपी में साझेदारी वाले अल्पसंख्यक सदस्यों को हितों के टकराव के कारण कुछ वोटों से रोक दिया गया है।[28] कुछ शोधकर्ताओं ने तर्क दिया है कि ओपनएआई एलपी का लाभकारी स्थिति में स्विच करना ओपनएआई के एआई के लोकतंत्रीकरण के प्रमाणों के साथ असंगत है।[34]
2020-वर्तमान: चैटजीपीटी, डीएएल-ई और माइक्रोसॉफ्ट के साथ साझेदारी
2020 में, ओपनएआई ने बड़े इंटरनेट डेटासेट पर प्रशिक्षित भाषा मॉडल जीपीटी-3 की घोषणा की थी। जीपीटी-3 का उद्देश्य स्वाभाविक भाषा में प्रश्नों का उत्तर देना है, किन्तु यह भाषाओं के बीच अनुवाद भी कर सकता है और सुसंगत रूप से सुधारित पाठ उत्पन्न कर सकता है। इसने यह भी घोषणा की कि एक संबद्ध एपीआई, जिसे केवल एपीआई नाम दिया गया है, अपने पहले वाणिज्यिक उत्पाद का दिल बनाएगा।[35]
2021 में, ओपनएआई ने डीएएलएल-ई प्रस्तुत किया, जो एक गहन शिक्षण मॉडल है जो प्राकृतिक भाषा विवरणों से डिजिटल चित्र उत्पन्न कर सकता है।[36]
दिसंबर 2022 में, ओपनएआई ने जीपीटी-3.5 पर आधारित अपने नए एआई चैटबॉट, चैटजीपीटी का मुफ्त पूर्वावलोकन लॉन्च करने के बाद व्यापक मीडिया कवरेज प्राप्त किया। ओपनएआई के अनुसार, पूर्वावलोकन को पहले पांच दिनों के अन्दर एक मिलियन से अधिक साइनअप प्राप्त हुए।[37] दिसंबर 2022 में रॉयटर्स द्वारा उद्धृत अनाम स्रोतों के अनुसार, ओपनएआई ने 2023 में $200 मिलियन राजस्व और 2024 में $1 बिलियन राजस्व का अनुमान लगाया था।[38]
जनवरी 2023 तक, ओपनएआई फंडिंग के लिए बातचीत कर रहा था जो कंपनी को $29 बिलियन का मूल्य देगा, 2021 में कंपनी के मूल्य को दोगुना कर देगा।[39] 23 जनवरी, 2023 को, माइक्रोसॉफ्ट ने ओपनएआई में एक नए बहु-वर्षीय 10 बिलियन अमरीकी डालर के निवेश की घोषणा की।[40][41] इस लेन-देन की अफवाहों ने सुझाव दिया कि माइक्रोसॉफ्ट ओपनएआई का 75% मुनाफा तब तक प्राप्त कर सकता है जब तक कि वह अपने निवेश रिटर्न और कंपनी में 49% साझेदारी प्राप्त नहीं कर लेता है।[42]
माना जा रहा है कि यह निवेश ओपनएआई के चैटजीपीटी को बिंग सर्च इंजन में एकीकृत करने के माइक्रोसॉफ्ट के प्रयासों का एक भाग है। गूगल ने इसी प्रकार के एआई एप्लिकेशन (बार्ड (चैटबॉट)) की घोषणा की, चैटजीपीटी लॉन्च होने के बाद, डर था कि चैटजीपीटी सूचना के स्रोत के रूप में गूगल की जगह को खतरे में डाल सकता है।[43][44]
7 फरवरी, 2023 को, माइक्रोसॉफ्ट ने घोषणा की कि वह माइक्रोसॉफ्ट बिंग, माइक्रोसॉफ्ट एज, माइक्रोसॉफ्ट 365 और अन्य उत्पादों में चैटजीपीटी जैसी नींव पर आधारित एआई विधि का निर्माण कर रहा है।[45]
3 मार्च, 2023 को, रीड हॉफमैन ने ओपनएआई में अपनी बोर्ड सीट और ग्रेलॉक पार्टनर्स के माध्यम से एआई प्रौद्योगिकी कंपनियों में अपने निवेश के साथ-साथ सह-संस्थापक के रूप में अपनी भूमिका के बीच हितों के टकराव से बचने की इच्छा का हवाला देते हुए अपनी बोर्ड सीट से इस्तीफा दे दिया। एआई प्रौद्योगिकी स्टार्टअप इन्फ्लेक्शन एआई हॉफमैन ओपनएआई में एक प्रमुख निवेशक माइक्रोसॉफ्ट के बोर्ड में बने रहे।[46]
14 मार्च, 2023 को, ओपनएआई ने जीपीटी-4 को एपीआई (एक प्रतीक्षा सूची के साथ) और चैटजीपीटी प्लस की एक विशेषता के रूप में जारी किया था।[47]
26 अप्रैल, 2023 को, ओपनएआई ने घोषणा की कि पीडब्ल्यूसी ओपनएआई में $1 बिलियन का निवेश करेगा और जीपीटी-4 और माइक्रोसॉफ्ट अजुरे ओपनएआई सेवा का उपयोग करेगा।[48]
प्रतिभागी
.jpg){kind=link}
प्रमुख कर्मचारी:
- सीईओ और सह-संस्थापक:[49] सैम ऑल्टमैन, स्टार्टअप एक्सेलेरेटर वाई कॉम्बिनेटर (कंपनी) के पूर्व अध्यक्ष
- अध्यक्ष और सह-संस्थापक:[50] ग्रेग ब्रॉकमैन, पूर्व सीटीओ, पट्टी (कंपनी) के तीसरे कर्मचारी[51]* मुख्य वैज्ञानिक और सह-संस्थापक: इल्या सुतस्केवर, मशीन लर्निंग के पूर्व गूगल विशेषज्ञ[51]* मुख्य विधिी अधिकारी:[50]मीरा मुराती, पहले छलांग की गति और टेस्ला, इंक.
- मुख्य परिचालन अधिकारी:[50]ब्रैड लाइटकैप, पहले वाई कॉम्बिनेटर (कंपनी) और जेपी मॉर्गन चेस में
ओपनएआई गैर-लाभकारी बोर्ड:
- ग्रेग ब्रॉकमैन
- इल्या सुतस्केवर
- सैम ऑल्टमैन
- एडम डी एंजेलो
- हर्ड होगा
- ताशा मैककौली
- हेलेन टोनर
- शिवोन ज़िलिस
व्यक्तिगत निवेशक:[51]* रीड हॉफमैन, Linkedin के सह-संस्थापक[52]
- पीटर थिएल, पेपैल के सह-संस्थापक[52]* जेसिका लिविंगस्टन, वाई कॉम्बिनेटर की संस्थापक भागीदार
कॉर्पोरेट निवेशक:
- माइक्रोसॉफ्ट[53]
- खोसला वेंचर्स[54]
- इंफोसिस[55]
मकसद
स्टीफन हॉकिंग और स्टुअर्ट जे. रसेल जैसे कुछ वैज्ञानिकों ने चिंता व्यक्त की है कि यदि उन्नत एआई किसी दिन स्वयं को लगातार बढ़ती दर पर फिर से डिजाइन करने की क्षमता प्राप्त कर लेता है, तो एक अजेय खुफिया विस्फोट मानव विलुप्त होने का कारण बन सकता है। सह-संस्थापक मस्क एआई को मानवता के सबसे बड़े अस्तित्वगत खतरे के रूप में दर्शाते हैं।[56] कृत्रिम बुद्धिमत्ता के निहित खतरों को कम करने की मांग करते हुए, ओपनएआई के संस्थापकों ने इसे एक गैर-लाभकारी के रूप में संरचित किया ताकि वे मानवता के लिए सकारात्मक दीर्घकालिक योगदान देने पर इसके शोध पर ध्यान केंद्रित कर सकें।[15] कस्तूरी और ऑल्टमैन ने कहा है कि वे एआई सुरक्षा और आर्टिफिशियल इंटेलिजेंस से अस्तित्वगत जोखिम के बारे में चिंताओं से आंशिक रूप से प्रेरित हैं।[57][58]ओपनएआई का कहना है कि यह थाह करना कठिन है कि मानव-स्तर एआई समाज को कितना लाभ पहुँचा सकता है, और यह समझना भी उतना ही कठिन है कि यदि गलत तरीके से निर्मित या उपयोग किया जाता है तो यह समाज को कितना नुकसान पहुँचा सकता है।[15]सुरक्षा पर अनुसंधान को सुरक्षित रूप से स्थगित नहीं किया जा सकता है: एआई के आश्चर्यजनक इतिहास के कारण, यह भविष्यवाणी करना कठिन है कि कब मानव-स्तरीय एआई पहुंच के अन्दर आ सकता है।[59] ओपनएआई का कहना है कि एआई को व्यक्तिगत मानवीय इच्छाओं का विस्तार होना चाहिए और स्वतंत्रता की भावना में, जितना संभव हो उतना व्यापक और समान रूप से वितरित किया जाना चाहिए।[15]सह-अध्यक्ष सैम ऑल्टमैन को उम्मीद है कि यह दशकों पुरानी परियोजना मानवीय बुद्धिमत्ता से आगे निकल जाएगी।[60]
इंफोसिस के पूर्व सीईओ विशाल सिक्का ने कहा कि एक खुलापन जहां प्रयास आम तौर पर मानवता के अधिक से अधिक हित में परिणाम उत्पन्न करेगा, उनके समर्थन के लिए एक मौलिक आवश्यकता थी, और यह कि ओपनएआई हमारे लंबे समय से चले आ रहे मूल्यों और उनके प्रयास के साथ बहुत अच्छी तरह से संरेखित करता है। उद्देश्यपूर्ण कार्य। रेफरी>{{cite web|author1=Vishal Sikka|title=ओपनएआई: सभी के लिए एआई|url=http://www.infosysblogs.com/infytalk/2015/12/ओपनएआई_एआई_for_all.html%7Cwebsite=InfyTalk%7Cpublisher=Infosys|access-date=December 22, 2015|date=December 14, 2015|url-status=dead|archive-url=https://web.archive.org/web/20151222094518/http://www.infosysblogs.com/infytalk/2015/12/ओपनएआई_एआई_for_all.html%7Carchive-date=December 22, 2015|author1-link=Vishal Sikka}</ref> वायर्ड के कैड मेट्ज़ ने सुझाव दिया है कि Amazon.com जैसे निगम ओपन-सोर्स सॉफ़्टवेयर और डेटा का उपयोग करने की इच्छा से प्रेरित हो सकते हैं ताकि गूगल और Facebook जैसे निगमों के खिलाफ खेल के मैदान को समतल किया जा सके जो मालिकाना डेटा की भारी आपूर्ति करते हैं . ऑल्टमैन का कहना है कि वाई कॉम्बिनेटर कंपनियां अपना डेटा ओपनएआई के साथ साझा करेंगी।[60]
रणनीति
कस्तूरी ने सवाल उठाया: भविष्य अच्छा है यह सुनिश्चित करने के लिए हम सबसे अच्छी चीज क्या कर सकते हैं? हम किनारे पर बैठ सकते हैं या हम नियामक निरीक्षण को प्रोत्साहित कर सकते हैं, या हम ऐसे लोगों के साथ सही संरचना के साथ भाग ले सकते हैं जो एआई को सुरक्षित और मानवता के लिए फायदेमंद तरीके से विकसित करने के बारे में गहराई से परवाह करते हैं। मस्क ने स्वीकार किया कि सदैव कुछ जोखिम होता है कि वास्तव में (दोस्ताना) एआई को आगे बढ़ाने की कोशिश में हम वह चीज बना सकते हैं जिसके बारे में हम चिंतित हैं; फिर भी, सबसे अच्छा बचाव यह है कि अधिक से अधिक लोगों को एआई प्राप्त करने के लिए सशक्त बनाया जाए। यदि सभी के पास एआई शक्तियाँ हैं, तो कोई एक व्यक्ति या व्यक्तियों का एक छोटा समूह नहीं है जिसके पास एआई महाशक्ति हो सकती है।[51] कस्तूरी और ऑल्टमैन की काउंटर-सहज ज्ञान युक्त रणनीति जोखिम को कम करने की कोशिश कर रही है कि एआई सभी को एआई देकर समग्र नुकसान पहुंचाएगा, उन लोगों के बीच विवादास्पद है जो आर्टिफिशियल इंटेलिजेंस से अस्तित्वगत जोखिम से संबंधित हैं। दार्शनिक निक बोस्सोम मस्क के दृष्टिकोण पर संदेह करते हैं: यदि आपके पास एक बटन है जो दुनिया के लिए बुरा काम कर सकता है, तो आप इसे हर किसी को नहीं देना चाहते हैं।[58] विधिी विलक्षणता के बारे में 2016 की एक बातचीत के दौरान, Altman ने कहा कि हम अपने सभी स्रोत कोड जारी करने की योजना नहीं बनाते हैं और एक योजना का उल्लेख किया है जिससे दुनिया के व्यापक स्तर पर एक नए शासन बोर्ड के प्रतिनिधियों का चुनाव किया जा सके। ग्रेग ब्रॉकमैन ने कहा कि अभी हमारा लक्ष्य... सबसे अच्छा काम करना है जो करना है। यह थोड़ा अस्पष्ट है। रेफरी>"सैम ऑल्टमैन का मेनिफेस्ट डेस्टिनी". The New Yorker. No. October 10, 2016. Archived from the original on October 4, 2016. Retrieved October 4, 2016.</ref>
इसके विपरीत, संभावित दुरुपयोग की उपस्थिति में सावधानी बरतने की इच्छा के कारण जीपीटी-2 को रोकने के ओपनएआई के प्रारंभिक निर्णय की खुलेपन के समर्थकों द्वारा आलोचना की गई है। टेक्स्ट जेनरेशन के विशेषज्ञ दिलीप राव ने कहा कि मुझे नहीं लगता [OpenAI] साबित करने में काफी समय बिताया [GPT-2] वास्तव में खतरनाक था। अन्य आलोचकों ने तर्क दिया कि अनुसंधान को दोहराने और प्रतिउपायों के साथ आने में सक्षम होने के लिए खुला प्रकाशन आवश्यक है।[61] हाल ही में, 2022 में, ओपनएआई ने एआई संरेखण के लिए अपना दृष्टिकोण प्रकाशित किया। वे उम्मीद करते हैं कि मानवीय मूल्यों के लिए आर्टिफिशियल इंटेलिजेंस को संरेखित करना वर्तमान एआई प्रणाली को संरेखित करने की तुलना में कठिन है: असंरेखित एजीआई मानवता के लिए पर्याप्त जोखिम पैदा कर सकता है और एजीआई संरेखण समस्या को हल करना इतना कठिन हो सकता है कि इसके लिए सभी मानवता को एक साथ काम करने की आवश्यकता होगी। वे एआई प्रणाली को प्रशिक्षित करने के लिए मानवीय प्रतिक्रिया का उत्तम उपयोग करने का तरीका तलाशते हैं। वे संरेखण अनुसंधान को स्वचालित रूप से स्वचालित करने के लिए एआई का उपयोग करने पर भी विचार करते हैं।[62]
उत्पाद और अनुप्रयोग
As of 2021[update], ओपनएआई का शोध रीइन्फोर्समेंट लर्निंग (RL) पर केंद्रित है।[63] ओपनएआई को DeepMind के एक महत्वपूर्ण प्रतियोगी के रूप में देखा जाता है।[64]
जिम
2016 में घोषित, जिम का उद्देश्य विभिन्न प्रकार के वातावरणों पर एक आसानी से लागू सामान्य-इंटेलिजेंस बेंचमार्क (कंप्यूटिंग) प्रदान करना है - पर्यवेक्षित शिक्षण अनुसंधान में उपयोग किए जाने वाले इमेजनेट लार्ज स्केल विज़ुअल रिकॉग्निशन चैलेंज क