ओपन एआई
| File:OpenAI Logo.svg | |
| File:Pioneer Building, San Francisco (2019) -1.jpg Headquarters at the Pioneer Building in San Francisco | |
| Industry | Artificial intelligence |
|---|---|
| Founded | December 10, 2015 |
| Founders |
|
| Headquarters | Pioneer Building, San Francisco, California, U.S.[3][4] |
Key people |
|
| Products | |
Number of employees | c. 375 (2023)[5] |
ओपनएआई एक अमेरिकी आर्टिफिशियल इंटेलिजेंस (एआई) अनुसंधान प्रयोगशाला है जिसमें गैर-लाभकारी संगठन ओपनएआई निगमित और इसकी लाभकारी सहायक कंपनी ओपनएआई लिमिटेड पार्टनरशिप सम्मिलित है। ओपनएआई मित्रवत एआई को बढ़ावा देने और विकसित करने के घोषित उद्देश से एआई अनुसंधान करता है। ओपनएआई प्रणाली माइक्रोसॉफ्ट के माइक्रोसॉफ्ट अज़ूरे- आधारित सुपर कंप्यूटर प्लेटफॉर्म पर चलता है।[6][7][8]
ओपनएआई की स्थापना 2015 में इलिया सुतस्कवर, ग्रेग ब्रॉकमैन, ट्रेवर ब्लैकवेल, विकी चेउंग, लेडी कारपैथी, डर्क किंगमा, जेसिका लिविंगस्टन, जॉन शुलमैन, पामेला वागाटा, और वोज्शिएक ज़रेम्बा द्वारा की गई थी, जिसमें सैम ऑल्टमैन और एलोन मस्क प्रारंभिक बोर्ड के सदस्य थे।[9][2][10] माइक्रोसॉफ्ट ने ओपनएआई एलपी को 2019 में $1 बिलियन का निवेश और 2023 में $10 बिलियन का निवेश प्रदान किया।[11][12]
| Part of a series on |
| Artificial intelligence |
|---|
इतिहास
2015–2018: गैर-लाभकारी शुरुआत
दिसंबर 2015 में, सैम ऑल्टमैन, ग्रेग ब्रॉकमैन, रीड हॉफमैन, जेसिका लिविंगस्टन, पीटर थिएल, एलोन मस्क, अमेज़न वेब सेवाएँ (एडब्ल्यूएस), इंफोसिस और वाईसी अनुसंधान ने घोषणा की[13] ओपनएआई का गठन किया और उद्यम के लिए $1 बिलियन से अधिक का वचन दिया। संगठन ने कहा कि वह अपने पेटेंट और शोध को जनता के लिए खोलकर अन्य संस्थानों और शोधकर्ताओं के साथ स्वतंत्र रूप से सहयोग करेगा।[14][15]ओपनएआई का मुख्यालय सैन फ्रांसिस्को के मिशन डिस्ट्रिक्ट में पायनियर बिल्डिंग (सैन फ्रांसिस्को) में है।[16][4] वायर्ड (पत्रिका) के अनुसार, ब्रॉकमैन ने ध्यान लगा के पढ़ना या सीखना मूवमेंट के संस्थापक पिताओं में से एक जोशुआ बेंगियो से मुलाकात की और इस क्षेत्र के सर्वश्रेष्ठ शोधकर्ताओं की एक सूची तैयार की।[17] दिसंबर 2015 में ब्रॉकमैन उनमें से नौ को पहले कर्मचारी के रूप में नियुक्त करने में सक्षम था।[17]2016 में ओपनएआई ने कॉरपोरेट-स्तर (गैर-लाभकारी-स्तर के बजाय) वेतन का भुगतान किया, लेकिन AI शोधकर्ताओं के वेतन का भुगतान फेसबुक या Google के बराबर नहीं किया।[17]
माइक्रोसॉफ्ट के पीटर ली (कंप्यूटर वैज्ञानिक) ने कहा कि एक शीर्ष एआई शोधकर्ता की लागत शीर्ष राष्ट्रीय फुटबॉल लीग क्वार्टरबैक संभावना की लागत से अधिक है।[17]ओपनएआई की क्षमता और मिशन ने इन शोधकर्ताओं को फर्म की ओर आकर्षित किया; Google के एक कर्मचारी ने कहा कि वह आंशिक रूप से लोगों के बहुत मजबूत समूह के कारण और बहुत हद तक, इसके मिशन के कारण ओपनएआई के लिए Google छोड़ने को तैयार था।[17]ब्रॉकमैन ने कहा कि सबसे अच्छी चीज जिसकी मैं कल्पना कर सकता था वह थी मानवता को एक सुरक्षित तरीके से वास्तविक एआई के निर्माण के करीब ले जाना।[17]ओपनएआई के सह-संस्थापक वोज्शिएक ज़रेम्बा ने कहा कि उन्होंने ओपनएआई में सम्मिलित होने के लिए अपने बाजार मूल्य के दो से तीन गुना के सीमावर्ती पागल प्रस्तावों को ठुकरा दिया।[17]
अप्रैल 2016 में, ओपनएआई ने सुदृढीकरण सीखने के अनुसंधान के लिए अपने मंच ओपनएआई जिम का एक सार्वजनिक बीटा जारी किया।[18]दिसंबर 2016 में, ओपनएआई ने यूनिवर्स जारी किया, जो दुनिया भर में खेलों, वेबसाइटों और अन्य अनुप्रयोगों की आपूर्ति के लिए AI की सामान्य बुद्धि को मापने और प्रशिक्षित करने के लिए एक सॉफ्टवेयर प्लेटफॉर्म है।.[19][20][21][22]
2017 में ओपनएआई ने अकेले क्लाउड कंप्यूटिंग पर $7.9 मिलियन, या अपने कार्यात्मक खर्चों का एक चौथाई खर्च किया।[23] इसकी तुलना में, 2017 में डीपमाइंड का कुल खर्च $442 मिलियन था। 2018 की गर्मियों में, केवल ओपनएआई के Dota 2 बॉट्स को प्रशिक्षित करने के लिए Google से कई हफ्तों के लिए 128,000 CPU और 256 GPU किराए पर लेने की आवश्यकता होती है।
2018 में, मस्क ने संभावित भविष्य के हितों के टकराव का हवाला देते हुए अपनी बोर्ड सीट से इस्तीफा दे दिया। टेस्ला के टेस्ला ऑटोपायलट के कारण टेस्ला, इंक। के सीईओ के रूप में अपनी भूमिका के साथ संघर्ष [हितों का]। स्व-ड्राइविंग कारों के लिए एआई विकास।[24] सैम ऑल्टमैन का दावा है कि मस्क का मानना था कि ओपनएआई Google जैसे अन्य खिलाड़ियों के पीछे पड़ गया था और मस्क ने इसके बजाय ओपनएआई को खुद लेने का प्रस्ताव दिया, जिसे बोर्ड ने अस्वीकार कर दिया। कस्तूरी ने बाद में ओपनएआई छोड़ दिया लेकिन एक दाता बने रहने का दावा किया, फिर भी उनके जाने के बाद कोई दान नहीं किया। रेफरी>"एलोन मस्क, सैम ऑल्टमैन और ओपनएआई | सेमाफोर का गुप्त इतिहास". www.semafor.com (in English). March 24, 2023. Retrieved March 30, 2023.</ref>
===2019: लाभकारी === के लिए संक्रमण 2019 में, ओपनएआई ने गैर-लाभकारी से कैप्ड फ़ॉर-प्रॉफ़िट में परिवर्तन किया, जिसमें लाभ किसी भी निवेश के 100 गुना पर छाया हुआ था।[25] ओपनएआई के अनुसार, कैप्ड-प्रॉफिट मॉडल ओपनएआई LP को कानूनी रूप से वेंचर फंड से निवेश आकर्षित करने की अनुमति देता है, और इसके अलावा, कर्मचारियों को कंपनी में हिस्सेदारी देने के लिए, लक्ष्य यह है कि वे कह सकते हैं कि मैं ओपनएआई में जा रहा हूं, लेकिन लंबे समय में टर्म यह एक परिवार के रूप में हमारे लिए नुकसानदेह नहीं होने जा रहा है।[26] कई शीर्ष शोधकर्ता Google ब्रेन, डीपमाइंड या फेसबुक के लिए काम करते हैं, जो स्टॉक विकल्प प्रदान करते हैं जो एक गैर-लाभकारी संस्था करने में असमर्थ होगी।[27] परिवर्तन से पहले, ओपनएआई में शीर्ष कर्मचारियों के मुआवजे का सार्वजनिक खुलासा कानूनी रूप से आवश्यक था।[28] कंपनी ने तब अपने कर्मचारियों को इक्विटी (वित्त) वितरित की और माइक्रोसॉफ्ट के साथ भागीदारी की,[29] कंपनी में $1 बिलियन के निवेश पैकेज की घोषणा। ओपनएआई ने अपनी प्रौद्योगिकियों को व्यावसायिक रूप से लाइसेंस देने के अपने इरादे की भी घोषणा की।[30] ओपनएआई की योजना पांच वर्षों के भीतर $1 बिलियन खर्च करने की है, और संभवत: इससे कहीं अधिक तेजी से।[31] ऑल्टमैन ने कहा है कि एक अरब डॉलर भी अपर्याप्त हो सकता है, और कृत्रिम सामान्य बुद्धि प्राप्त करने के लिए किसी भी गैर-लाभकारी संगठन की तुलना में प्रयोगशाला को अंततः अधिक पूंजी की आवश्यकता हो सकती है।[32] एआई के लिए गैर-लाभकारी एलन संस्थान के ओरेन एट्ज़ियोनी द्वारा एक गैर-लाभकारी से एक कैप्ड-प्रॉफिट कंपनी में परिवर्तन को संदेह के साथ देखा गया था, जो इस बात से सहमत थे कि एक गैर-लाभकारी संस्था के लिए शीर्ष शोधकर्ताओं को लुभाना मुश्किल है, लेकिन कहा कि मैं इस धारणा से असहमत हूं कि एक गैर-लाभकारी संस्था ' टी प्रतिस्पर्धा और ओपनएआई और अन्य द्वारा कम बजट की सफल परियोजनाओं की ओर इशारा किया। यदि बड़ा और बेहतर वित्त पोषित हमेशा बेहतर होता, तो आईबीएम अभी भी नंबर एक होता।
गैर-लाभकारी, ओपनएआई Inc., ओपनएआई LP का एकमात्र नियंत्रित हित है। ओपनएआई LP, एक फ़ायदेमंद कंपनी होने के बावजूद, ओपनएआई Inc. के गैर-लाभकारी चार्टर के लिए एक औपचारिक प्रत्ययी कर्तव्य बनाए रखती है। ओपनएआई Inc. के अधिकांश बोर्ड को ओपनएआई LP में वित्तीय हिस्सेदारी रखने से रोक दिया गया है।[26]इसके अलावा, ओपनएआई एलपी में हिस्सेदारी वाले अल्पसंख्यक सदस्यों को हितों के टकराव के कारण कुछ वोटों से रोक दिया गया है।[27]कुछ शोधकर्ताओं ने तर्क दिया है कि ओपनएआई LP का लाभकारी स्थिति में स्विच करना ओपनएआई के AI के लोकतंत्रीकरण के दावों के साथ असंगत है।[33]
===2020-वर्तमान: चैटजीपीटी, डीएएल-ई और माइक्रोसॉफ्ट === के साथ साझेदारी 2020 में, ओपनएआई ने बड़े इंटरनेट डेटासेट पर प्रशिक्षित भाषा मॉडल GPT-3 की घोषणा की। GPT-3 का उद्देश्य स्वाभाविक भाषा में प्रश्नों का उत्तर देना है, लेकिन यह भाषाओं के बीच अनुवाद भी कर सकता है और सुसंगत रूप से सुधारित पाठ उत्पन्न कर सकता है। इसने यह भी घोषणा की कि एक संबद्ध एपीआई, जिसे केवल एपीआई नाम दिया गया है, अपने पहले वाणिज्यिक उत्पाद का दिल बनाएगा।[34]
2021 में, ओपनएआई ने DALL-E पेश किया, जो एक गहन शिक्षण मॉडल है जो प्राकृतिक भाषा विवरणों से डिजिटल चित्र उत्पन्न कर सकता है। रेफरी>"OpenAI ने पाठ से चित्र बनाने के लिए DALL-E की शुरुआत की". VentureBeat. January 5, 2021. Archived from the original on January 5, 2021. Retrieved January 5, 2021.</ref>
दिसंबर 2022 में, ओपनएआई ने GPT-3.5 पर आधारित अपने नए AI चैटबॉट, ChatGPT का मुफ्त पूर्वावलोकन लॉन्च करने के बाद व्यापक मीडिया कवरेज प्राप्त किया। ओपनएआई के अनुसार, पूर्वावलोकन को पहले पांच दिनों के भीतर एक मिलियन से अधिक साइनअप प्राप्त हुए। रेफरी>{{cite news |last1=Roose |first1=Kevin |title=चैटजीपीटी की प्रतिभा और विचित्रता|url=https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |access-date=January 5, 2023 |work=The New York Times |date=December 5, 2022 |archive-date=January 18, 2023 |archive-url=https://web.archive.org/web/20230118134332/https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |url-status=live }</ref> दिसंबर 2022 में रॉयटर्स द्वारा उद्धृत अनाम स्रोतों के अनुसार, ओपनएआई ने 2023 में $200 मिलियन राजस्व और 2024 में $1 बिलियन राजस्व का अनुमान लगाया था। रेफरी>Dastin, Jeffrey; Hu, Krystal; Dave, Paresh; Dave, Paresh (December 15, 2022). "विशेष: चैटजीपीटी के मालिक ओपनएआई ने 2024 तक राजस्व में $1 बिलियन का अनुमान लगाया है". Reuters (in English). Archived from the original on February 3, 2023. Retrieved January 5, 2023.</ref>
जनवरी 2023 तक, ओपनएआई फंडिंग के लिए बातचीत कर रहा था जो कंपनी को $29 बिलियन का मूल्य देगा, 2021 में कंपनी के मूल्य को दोगुना कर देगा। रेफरी>{{Cite web |last=Kruppa |first=Berber Jin and Miles |title=WSJ न्यूज़ एक्सक्लूसिव | $29 बिलियन मूल्यांकन पर निवेशक वार्ता में ChatGPT निर्माता|url=https://www.wsj.com/articles/chatgpt-creator-ओपनएआई-is-in-talks-for-tender-offer-that-would-value-it-at-29-billion-11672949279 |access-date=January 6, 2023 |website=WSJ |language=en-US |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203201104/https://www.wsj.com/articles/chatgpt-creator-ओपनएआई-is-in-talks-for-tender-offer-that-would-value-it-at-29-billion-11672949279 |url-status=live }</ref> 23 जनवरी, 2023 को, माइक्रोसॉफ्ट ने ओपनएआई में एक नए बहु-वर्षीय 10 बिलियन अमरीकी डालर के निवेश की घोषणा की। रेफरी>"Microsoft ChatGPT मेकर OpenAI में निवेश के लिए $10 बिलियन जोड़ता है". Bloomberg.com (in English). January 23, 2023. Archived from the original on January 23, 2023. Retrieved January 23, 2023.</ref>[35] इस सौदे की अफवाहों ने सुझाव दिया कि माइक्रोसॉफ्ट ओपनएआई का 75% मुनाफा तब तक प्राप्त कर सकता है जब तक कि वह अपने निवेश रिटर्न और कंपनी में 49% हिस्सेदारी हासिल नहीं कर लेता।[36] माना जा रहा है कि यह निवेश ओपनएआई के चैटजीपीटी को बिंग सर्च इंजन में एकीकृत करने के माइक्रोसॉफ्ट के प्रयासों का एक हिस्सा है। Google ने इसी तरह के AI एप्लिकेशन (बार्ड (चैटबॉट)) की घोषणा की, चैटजीपीटी लॉन्च होने के बाद, डर था कि चैटजीपीटी सूचना के स्रोत के रूप में Google की जगह को खतरे में डाल सकता है।[37][38] 7 फरवरी, 2023 को, माइक्रोसॉफ्ट ने घोषणा की कि वह माइक्रोसॉफ्ट Bing, माइक्रोसॉफ्ट Edge, माइक्रोसॉफ्ट 365 और अन्य उत्पादों में ChatGPT जैसी नींव पर आधारित AI तकनीक का निर्माण कर रहा है।[39] 3 मार्च, 2023 को, रीड हॉफमैन ने ओपनएआई में अपनी बोर्ड सीट और ग्रेलॉक पार्टनर्स के माध्यम से AI प्रौद्योगिकी कंपनियों में अपने निवेश के साथ-साथ सह-संस्थापक के रूप में अपनी भूमिका के बीच हितों के टकराव से बचने की इच्छा का हवाला देते हुए अपनी बोर्ड सीट से इस्तीफा दे दिया। एआई प्रौद्योगिकी स्टार्टअप इन्फ्लेक्शन एआई। हॉफमैन ओपनएआई में एक प्रमुख निवेशक माइक्रोसॉफ्ट के बोर्ड में बने रहे।[40] 14 मार्च, 2023 को, ओपनएआई ने GPT-4 जारी किया, दोनों एक एपीआई (प्रतीक्षा सूची के साथ) और चैटजीपीटी प्लस की एक विशेषता के रूप में।[41] 26 अप्रैल, 2023 को, ओपनएआई ने घोषणा की कि PwC ओपनएआई में $1 बिलियन का निवेश करेगा और GPT-4 और माइक्रोसॉफ्ट Azure ओपनएआई सेवा का उपयोग करेगा।[42]
प्रतिभागी
प्रमुख कर्मचारी:
- सीईओ और सह-संस्थापक:[43] सैम ऑल्टमैन, स्टार्टअप एक्सेलेरेटर वाई कॉम्बिनेटर (कंपनी) के पूर्व अध्यक्ष
- अध्यक्ष और सह-संस्थापक:[44] ग्रेग ब्रॉकमैन, पूर्व सीटीओ, पट्टी (कंपनी) के तीसरे कर्मचारी[45]* मुख्य वैज्ञानिक और सह-संस्थापक: इल्या सुतस्केवर, मशीन लर्निंग के पूर्व Google विशेषज्ञ[45]* मुख्य तकनीकी अधिकारी:[44]मीरा मुराती, पहले छलांग की गति और टेस्ला, इंक.
- मुख्य परिचालन अधिकारी:[44]ब्रैड लाइटकैप, पहले वाई कॉम्बिनेटर (कंपनी) और जेपी मॉर्गन चेस में
ओपनएआई गैर-लाभकारी बोर्ड:
- ग्रेग ब्रॉकमैन
- इल्या सुतस्केवर
- सैम ऑल्टमैन
- एडम डी एंजेलो
- हर्ड होगा
- ताशा मैककौली
- हेलेन टोनर
- शिवोन ज़िलिस
व्यक्तिगत निवेशक:[45]* रीड हॉफमैन, Linkedin के सह-संस्थापक[46]
- पीटर थिएल, पेपैल के सह-संस्थापक[46]* जेसिका लिविंगस्टन, वाई कॉम्बिनेटर की संस्थापक भागीदार
कॉर्पोरेट निवेशक:
- माइक्रोसॉफ्ट[47]
- खोसला वेंचर्स[48]
- इंफोसिस[49]
मकसद
स्टीफन हॉकिंग और स्टुअर्ट जे. रसेल जैसे कुछ वैज्ञानिकों ने चिंता व्यक्त की है कि यदि उन्नत एआई किसी दिन खुद को लगातार बढ़ती दर पर फिर से डिजाइन करने की क्षमता हासिल कर लेता है, तो एक अजेय खुफिया विस्फोट मानव विलुप्त होने का कारण बन सकता है। सह-संस्थापक मस्क एआई को मानवता के सबसे बड़े अस्तित्वगत खतरे के रूप में दर्शाते हैं।[50] कृत्रिम बुद्धिमत्ता के निहित खतरों को कम करने की मांग करते हुए, ओपनएआई के संस्थापकों ने इसे एक गैर-लाभकारी के रूप में संरचित किया ताकि वे मानवता के लिए सकारात्मक दीर्घकालिक योगदान देने पर इसके शोध पर ध्यान केंद्रित कर सकें।[15] कस्तूरी और ऑल्टमैन ने कहा है कि वे एआई सुरक्षा और कृत्रिम सामान्य बुद्धि से अस्तित्वगत जोखिम के बारे में चिंताओं से आंशिक रूप से प्रेरित हैं।[51][52]ओपनएआई का कहना है कि यह थाह करना कठिन है कि मानव-स्तर AI समाज को कितना लाभ पहुँचा सकता है, और यह समझना भी उतना ही कठिन है कि यदि गलत तरीके से निर्मित या उपयोग किया जाता है तो यह समाज को कितना नुकसान पहुँचा सकता है।[15]सुरक्षा पर अनुसंधान को सुरक्षित रूप से स्थगित नहीं किया जा सकता है: एआई के आश्चर्यजनक इतिहास के कारण, यह भविष्यवाणी करना कठिन है कि कब मानव-स्तरीय एआई पहुंच के भीतर आ सकता है।[53] ओपनएआई का कहना है कि AI को व्यक्तिगत मानवीय इच्छाओं का विस्तार होना चाहिए और स्वतंत्रता की भावना में, जितना संभव हो उतना व्यापक और समान रूप से वितरित किया जाना चाहिए।[15]सह-अध्यक्ष सैम ऑल्टमैन को उम्मीद है कि यह दशकों पुरानी परियोजना मानवीय बुद्धिमत्ता से आगे निकल जाएगी।[54]
इंफोसिस के पूर्व सीईओ विशाल सिक्का ने कहा कि एक खुलापन जहां प्रयास आम तौर पर मानवता के अधिक से अधिक हित में परिणाम उत्पन्न करेगा, उनके समर्थन के लिए एक मौलिक आवश्यकता थी, और यह कि ओपनएआई हमारे लंबे समय से चले आ रहे मूल्यों और उनके प्रयास के साथ बहुत अच्छी तरह से संरेखित करता है। उद्देश्यपूर्ण कार्य। रेफरी>{{cite web|author1=Vishal Sikka|title=ओपनएआई: सभी के लिए एआई|url=http://www.infosysblogs.com/infytalk/2015/12/ओपनएआई_ai_for_all.html%7Cwebsite=InfyTalk%7Cpublisher=Infosys|access-date=December 22, 2015|date=December 14, 2015|url-status=dead|archive-url=https://web.archive.org/web/20151222094518/http://www.infosysblogs.com/infytalk/2015/12/ओपनएआई_ai_for_all.html%7Carchive-date=December 22, 2015|author1-link=Vishal Sikka}</ref> वायर्ड के कैड मेट्ज़ ने सुझाव दिया है कि Amazon.com जैसे निगम ओपन-सोर्स सॉफ़्टवेयर और डेटा का उपयोग करने की इच्छा से प्रेरित हो सकते हैं ताकि Google और Facebook जैसे निगमों के खिलाफ खेल के मैदान को समतल किया जा सके जो मालिकाना डेटा की भारी आपूर्ति करते हैं . ऑल्टमैन का कहना है कि वाई कॉम्बिनेटर कंपनियां अपना डेटा ओपनएआई के साथ साझा करेंगी।[54]
रणनीति
कस्तूरी ने सवाल उठाया: भविष्य अच्छा है यह सुनिश्चित करने के लिए हम सबसे अच्छी चीज क्या कर सकते हैं? हम किनारे पर बैठ सकते हैं या हम नियामक निरीक्षण को प्रोत्साहित कर सकते हैं, या हम ऐसे लोगों के साथ सही संरचना के साथ भाग ले सकते हैं जो एआई को सुरक्षित और मानवता के लिए फायदेमंद तरीके से विकसित करने के बारे में गहराई से परवाह करते हैं। मस्क ने स्वीकार किया कि हमेशा कुछ जोखिम होता है कि वास्तव में (दोस्ताना) एआई को आगे बढ़ाने की कोशिश में हम वह चीज बना सकते हैं जिसके बारे में हम चिंतित हैं; फिर भी, सबसे अच्छा बचाव यह है कि अधिक से अधिक लोगों को एआई प्राप्त करने के लिए सशक्त बनाया जाए। यदि सभी के पास AI शक्तियाँ हैं, तो कोई एक व्यक्ति या व्यक्तियों का एक छोटा समूह नहीं है जिसके पास AI महाशक्ति हो सकती है।[45] कस्तूरी और ऑल्टमैन की काउंटर-सहज ज्ञान युक्त रणनीति जोखिम को कम करने की कोशिश कर रही है कि एआई सभी को एआई देकर समग्र नुकसान पहुंचाएगा, उन लोगों के बीच विवादास्पद है जो कृत्रिम सामान्य बुद्धि से अस्तित्वगत जोखिम से संबंधित हैं। दार्शनिक निक बोस्सोम मस्क के दृष्टिकोण पर संदेह करते हैं: यदि आपके पास एक बटन है जो दुनिया के लिए बुरा काम कर सकता है, तो आप इसे हर किसी को नहीं देना चाहते हैं।[52] तकनीकी विलक्षणता के बारे में 2016 की एक बातचीत के दौरान, Altman ने कहा कि हम अपने सभी स्रोत कोड जारी करने की योजना नहीं बनाते हैं और एक योजना का उल्लेख किया है जिससे दुनिया के व्यापक स्तर पर एक नए शासन बोर्ड के प्रतिनिधियों का चुनाव किया जा सके। ग्रेग ब्रॉकमैन ने कहा कि अभी हमारा लक्ष्य... सबसे अच्छा काम करना है जो करना है। यह थोड़ा अस्पष्ट है। रेफरी>"सैम ऑल्टमैन का मेनिफेस्ट डेस्टिनी". The New Yorker. No. October 10, 2016. Archived from the original on October 4, 2016. Retrieved October 4,