जीपीटी-4: Difference between revisions

From Vigyanwiki
No edit summary
Line 9: Line 9:
}}
}}


जनरेटिव पूर्व-प्रशिक्षित ट्रांसफॉर्मर 4 (जीपीटी-4) [[OpenAI|ओपनएआई]] द्वारा बनाया गया [[मल्टीमॉडल लर्निंग|मल्टीमॉडल]] [[ विशाल भाषा मॉडल |विशाल भाषा मॉडल]] है और जीपीटी फाउंडेशन मॉडल की इसकी क्रमांकित "जीपीटी-एन" श्रृंखला में चौथा है।<ref name="ars-technica">{{Cite web |last=Edwards |first=Benj |date=March 14, 2023 |title=OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks |url=https://arstechnica.com/information-technology/2023/03/openai-announces-gpt-4-its-next-generation-ai-language-model/ |url-status=live |archive-url=https://web.archive.org/web/20230314225236/https://arstechnica.com/information-technology/2023/03/openai-announces-gpt-4-its-next-generation-ai-language-model/ |archive-date=March 14, 2023 |access-date=March 15, 2023 |website=[[Ars Technica]]}}</ref> यह 14 मार्च, 2023 को प्रचलित किया गया था, और इसे [[चैटबॉट]] उत्पाद [[चैटजीपीटी]] प्लस (चैटजीपीटी का प्रीमियम संस्करण) के माध्यम से सीमित रूप में सार्वजनिक रूप से उपलब्ध कराया गया है, और ओपनएआई के [[एपीआई]] के जीपीटी-4 आधारित संस्करण तक प्रतीक्षा सूची की सहायता से पहुंच प्रदान की जा रही है।<ref name="ars-technica" /> ट्रांसफॉर्मर (मशीन लर्निंग मॉडल) आधारित मॉडल के रूप में, जीपीटी-4को अगले टोकन की भविष्यवाणी करने के लिए पूर्व-प्रशिक्षित किया गया था (सार्वजनिक डेटा और "तृतीय-पक्ष प्रदाताओं से लाइसेंस प्राप्त डेटा" दोनों का उपयोग करके), और फिर मानव संरेखण के लिए मानव और नीति अनुपालन के लिए [[एआई संरेखण]] से सुदृढीकरण सीखने के साथ ठीक-ठीक किया गया था।<ref name="gpt4_tech_report" />{{Rp|page=2}}
जनरेटिव पूर्व-प्रशिक्षित ट्रांसफॉर्मर 4 (जीपीटी-4) [[OpenAI|ओपनएआई]] द्वारा बनाया गया [[मल्टीमॉडल लर्निंग|मल्टीमॉडल]] [[ विशाल भाषा मॉडल |विशाल भाषा मॉडल]] है और जीपीटी फाउंडेशन मॉडल की इसकी क्रमांकित "जीपीटी-एन" श्रृंखला में चौथा है।<ref name="ars-technica">{{Cite web |last=Edwards |first=Benj |date=March 14, 2023 |title=OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks |url=https://arstechnica.com/information-technology/2023/03/openai-announces-gpt-4-its-next-generation-ai-language-model/ |url-status=live |archive-url=https://web.archive.org/web/20230314225236/https://arstechnica.com/information-technology/2023/03/openai-announces-gpt-4-its-next-generation-ai-language-model/ |archive-date=March 14, 2023 |access-date=March 15, 2023 |website=[[Ars Technica]]}}</ref> यह 14 मार्च, 2023 को प्रचलित किया गया था, और इसे [[चैटबॉट]] उत्पाद [[चैटजीपीटी]] प्लस (चैटजीपीटी का प्रीमियम संस्करण) के माध्यम से सीमित रूप में सार्वजनिक रूप से उपलब्ध कराया गया है, और ओपनएआई के [[एपीआई]] के जीपीटी-4 आधारित संस्करण तक प्रतीक्षा सूची की सहायता से पहुंच प्रदान की जा रही है।<ref name="ars-technica" /> ट्रांसफॉर्मर (मशीन लर्निंग मॉडल) आधारित मॉडल के रूप में, जीपीटी-4 को अगले टोकन की भविष्यवाणी करने के लिए पूर्व-प्रशिक्षित किया गया था (सार्वजनिक डेटा और "तृतीय-पक्ष प्रदाताओं से लाइसेंस प्राप्त डेटा" दोनों का उपयोग करके), और फिर मानव संरेखण के लिए मानव और नीति अनुपालन के लिए [[एआई संरेखण]] से सुदृढीकरण सीखने के साथ ठीक-ठीक किया गया था।<ref name="gpt4_tech_report" />{{Rp|page=2}}


पर्यवेक्षकों ने चैटजीपीटी के जीपीटी-4 आधारित संस्करण को पिछले (जीपीटी-3.5 आधारित) चैटजीपीटी पर संशोधन होने की सूचना दी, इस चेतावनी के साथ कि जीपीटी-4 कुछ समान समस्याओं को प्रचलित रखता है।<ref name="vox"/> पूर्ववर्तियों के विपरीत, जीपीटी-4 छवियों के साथ-साथ पाठ को भी इनपुट के रूप में ले सकता है।<ref name="guardian creative"/> ओपनएआई ने जीपीटी-4 मॉडल के आकार जैसी तकनीकी जानकारी प्रकट करने से मना कर दिया है।<ref name="verge wrong"/>
पर्यवेक्षकों ने चैटजीपीटी के जीपीटी-4 आधारित संस्करण को पिछले (जीपीटी-3.5 आधारित) चैटजीपीटी पर संशोधन होने की सूचना दी, इस चेतावनी के साथ कि जीपीटी-4 कुछ समान समस्याओं को प्रचलित रखता है।<ref name="vox"/> पूर्ववर्तियों के विपरीत, जीपीटी-4 छवियों के साथ-साथ पाठ को भी इनपुट के रूप में ले सकता है।<ref name="guardian creative"/> ओपनएआई ने जीपीटी-4 मॉडल के आकार जैसी तकनीकी जानकारी प्रकट करने से मना कर दिया है।<ref name="verge wrong"/>
Line 22: Line 22:
ओपनएआई ने कहा कि जीपीटी-3.5 की तुलना में जीपीटी-4 अधिक विश्वसनीय, रचनात्मक और अधिक सूक्ष्म निर्देशों को संभालने में सक्षम है।<ref>{{Cite web |last=Wiggers |first=Kyle |date=March 14, 2023 |title=OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art |url=https://techcrunch.com/2023/03/14/openai-releases-gpt-4-ai-that-it-claims-is-state-of-the-art/ |url-status=live |archive-url=https://web.archive.org/web/20230315003723/https://techcrunch.com/2023/03/14/openai-releases-gpt-4-ai-that-it-claims-is-state-of-the-art/ |archive-date=March 15, 2023 |access-date=March 15, 2023 |website=[[TechCrunch]]}}</ref> उन्होंने जीपीटी-4 के दो संस्करणों का उत्पादन किया, 8,192 और 32,768 टोकन के संदर्भ विंडो के साथ, जीपीटी-3.5 और जीपीटी-3 पर महत्वपूर्ण संशोधन, जो क्रमशः 4,096 और 2,049 टोकन तक सीमित थे।<ref>{{Cite web |author=OpenAI |title=मॉडल|url=https://platform.openai.com/docs/models |access-date=2023-03-18 |website=OpenAI API |language=en |archive-date=2023-03-17 |archive-url=https://web.archive.org/web/20230317000210/https://platform.openai.com/docs/models |url-status=live }}</ref> अपने पूर्ववर्तियों के विपरीत, जीपीटी-4 मल्टीमॉडल मॉडल है: यह इमेज के साथ-साथ टेक्स्ट को भी इनपुट के रूप में ले सकता है;<ref name="guardian creative">{{cite web |author1=Alex Hern |author2=Johana Bhuiyan |date=14 March 2023 |title=OpenAI says new model GPT-4 is more creative and less likely to invent facts |url=https://www.theguardian.com/technology/2023/mar/14/chat-gpt-4-new-model |url-status=live |archive-url=https://web.archive.org/web/20230315003816/https://www.theguardian.com/technology/2023/mar/14/chat-gpt-4-new-model |archive-date=15 March 2023 |access-date=15 March 2023 |website=[[The Guardian]]}}</ref> यह इसे असामान्य छवियों में हास्य का वर्णन करने, स्क्रीनशॉट से पाठ को सारांशित करने और आरेख वाले परीक्षा प्रश्नों के उत्तर देने की क्षमता देता है।<ref name="openai_research">{{Cite web |author=OpenAI |date=March 14, 2023 |title=जीपीटी-4|url=https://openai.com/research/gpt-4 |access-date=2023-03-20 |website=OpenAI Research |language=en-US |archive-date=2023-03-14 |archive-url=https://web.archive.org/web/20230314174531/https://openai.com/research/gpt-4 |url-status=live }}</ref>
ओपनएआई ने कहा कि जीपीटी-3.5 की तुलना में जीपीटी-4 अधिक विश्वसनीय, रचनात्मक और अधिक सूक्ष्म निर्देशों को संभालने में सक्षम है।<ref>{{Cite web |last=Wiggers |first=Kyle |date=March 14, 2023 |title=OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art |url=https://techcrunch.com/2023/03/14/openai-releases-gpt-4-ai-that-it-claims-is-state-of-the-art/ |url-status=live |archive-url=https://web.archive.org/web/20230315003723/https://techcrunch.com/2023/03/14/openai-releases-gpt-4-ai-that-it-claims-is-state-of-the-art/ |archive-date=March 15, 2023 |access-date=March 15, 2023 |website=[[TechCrunch]]}}</ref> उन्होंने जीपीटी-4 के दो संस्करणों का उत्पादन किया, 8,192 और 32,768 टोकन के संदर्भ विंडो के साथ, जीपीटी-3.5 और जीपीटी-3 पर महत्वपूर्ण संशोधन, जो क्रमशः 4,096 और 2,049 टोकन तक सीमित थे।<ref>{{Cite web |author=OpenAI |title=मॉडल|url=https://platform.openai.com/docs/models |access-date=2023-03-18 |website=OpenAI API |language=en |archive-date=2023-03-17 |archive-url=https://web.archive.org/web/20230317000210/https://platform.openai.com/docs/models |url-status=live }}</ref> अपने पूर्ववर्तियों के विपरीत, जीपीटी-4 मल्टीमॉडल मॉडल है: यह इमेज के साथ-साथ टेक्स्ट को भी इनपुट के रूप में ले सकता है;<ref name="guardian creative">{{cite web |author1=Alex Hern |author2=Johana Bhuiyan |date=14 March 2023 |title=OpenAI says new model GPT-4 is more creative and less likely to invent facts |url=https://www.theguardian.com/technology/2023/mar/14/chat-gpt-4-new-model |url-status=live |archive-url=https://web.archive.org/web/20230315003816/https://www.theguardian.com/technology/2023/mar/14/chat-gpt-4-new-model |archive-date=15 March 2023 |access-date=15 March 2023 |website=[[The Guardian]]}}</ref> यह इसे असामान्य छवियों में हास्य का वर्णन करने, स्क्रीनशॉट से पाठ को सारांशित करने और आरेख वाले परीक्षा प्रश्नों के उत्तर देने की क्षमता देता है।<ref name="openai_research">{{Cite web |author=OpenAI |date=March 14, 2023 |title=जीपीटी-4|url=https://openai.com/research/gpt-4 |access-date=2023-03-20 |website=OpenAI Research |language=en-US |archive-date=2023-03-14 |archive-url=https://web.archive.org/web/20230314174531/https://openai.com/research/gpt-4 |url-status=live }}</ref>


जीपीटी-4 पर और नियंत्रण प्राप्त करने के लिए, ओपनएआई ने प्रणाली संदेश प्रस्तुत किया, जीपीटी-4 को दिया गया प्राकृतिक भाषा में निर्देश है, जिससे उसकी आवाज़ और कार्य को निर्दिष्ट किया जा सके। उदाहरण के लिए, प्रणाली संदेश मॉडल को शेक्सपियरियन समुद्री डाकू होने का निर्देश दे सकता है, जिस स्थिति में वह तुकबंदी, शेक्सपियरियन गद्य में प्रतिक्रिया देगा, या [[JSON|जेएसओएन]] में सदैव [इसकी] प्रतिक्रिया का आउटपुट लिखने का अनुरोध करेगा, जिस स्थिति में मॉडल होगा ऐसा करें, चाबियों और मूल्यों को जोड़ते हुए जैसा कि वह अपने उत्तर की संरचना से मेल खाने के लिए फिट देखता है। ओपनएआई द्वारा प्रदान किए गए उदाहरणों में, जीपीटी-4 ने वार्तालाप के समय उपयोगकर्ता द्वारा अन्यथा करने के अनुरोध के अतिरिक्त अपने प्रणाली संदेश से विचलित होने से अस्वीकार कर दिया।<ref name="openai_research" />
जीपीटी-4 पर और नियंत्रण प्राप्त करने के लिए, ओपनएआई ने प्रणाली संदेश प्रस्तुत किया, जो जीपीटी-4 को दिया गया प्राकृतिक भाषा में निर्देश है, जिससे उसकी ध्वनि और कार्य को निर्दिष्ट किया जा सके। उदाहरण के लिए, प्रणाली संदेश मॉडल को "शेक्सपियरियन पाइरेट बनने" का निर्देश दे सकता है, जिस स्थिति में वह तुकबंदी, शेक्सपियरियन गद्य में प्रतिक्रिया देगा, या इसे सदैव [[JSON|जेएसओएन]] में इसकी प्रतिक्रिया का आउटपुट लिखने का अनुरोध करेगा, जिस स्थिति में मॉडल होगा ऐसा करेगा, कुंजियों और मूल्यों को जोड़ते हुए जैसा कि वह अपने उत्तर की संरचना से मेल खाने के लिए उपयुक्त देखता है। ओपनएआई द्वारा प्रदान किए गए उदाहरणों में, जीपीटी-4 ने वार्तालाप के समय उपयोगकर्ता द्वारा अन्यथा करने के अनुरोध के अतिरिक्त अपने प्रणाली संदेश से विचलित होने से अस्वीकार कर दिया।<ref name="openai_research" />
 
ऐसा करने का निर्देश दिए जाने पर, जीपीटी-4 बाहरी इंटरफेस के साथ इंटरैक्ट कर सकता है। उदाहरण के लिए, मॉडल को वेब खोज करने के लिए '''<search></search>''' टैग के अन्दर क्वेरी संलग्न करने का निर्देश दिया जा सकता है, जिसके परिणाम को मॉडल के संकेत में डाला जाएगा ताकि वह प्रतिक्रिया दे सके। यह मॉडल को अपनी सामान्य टेक्स्ट-भविष्यवाणी क्षमताओं से परे कार्य करने की अनुमति देता है, जैसे कि एपीआई का उपयोग करना, चित्र बनाना, और वेबपेजों तक पहुंचना और सारांश बनाना।
 






=== मानकीकृत परीक्षणों पर योग्यता ===
=== मानकीकृत परीक्षणों पर योग्यता ===
जीपीटी-4 कई मानकीकृत परीक्षणों पर योग्यता प्रदर्शित करता है। ओपनएआई प्रमाणित करता है कि अपने स्वयं के परीक्षण में मॉडल को [[SAT|एसएटी]] (94th<ref name=":1">{{Cite web |date=2022 |title=SAT: Understanding Scores |url=https://satsuite.collegeboard.org/media/pdf/understanding-sat-scores.pdf |access-date=21 March 2023 |website=[[College Board]] |archive-date=March 16, 2023 |archive-url=https://web.archive.org/web/20230316022540/https://satsuite.collegeboard.org/media/pdf/understanding-sat-scores.pdf |url-status=live }}</ref> प्रतिशतक), [[लॉ स्कूल प्रवेश परीक्षा]] में 163 (88वां प्रतिशतक), और [[संयुक्त राज्य अमेरिका में बार परीक्षा|यूनिफ़ॉर्म में बार परीक्षा]] पर 298 (90वां प्रतिशतक) का स्कोर प्राप्त हुआ। इसके विपरीत, ओपनएआई प्रमाणित करता है कि जीपीटी-3.5 ने 82वीं में समान परीक्षाओं के लिए क्रमशः 40वां, और 10वां प्रतिशतक अंक प्राप्त किए।<ref name=":1" /><ref name="gpt4_tech_report">{{Cite arXiv |last=OpenAI |year=2023 |title=GPT-4 तकनीकी रिपोर्ट|class=cs.CL |eprint=2303.08774}}</ref>
जीपीटी-4 कई मानकीकृत परीक्षणों पर योग्यता प्रदर्शित करता है। ओपनएआई प्रमाणित करता है कि अपने स्वयं के परीक्षण में मॉडल को [[SAT|एसएटी]] (94वां<ref name=":1">{{Cite web |date=2022 |title=SAT: Understanding Scores |url=https://satsuite.collegeboard.org/media/pdf/understanding-sat-scores.pdf |access-date=21 March 2023 |website=[[College Board]] |archive-date=March 16, 2023 |archive-url=https://web.archive.org/web/20230316022540/https://satsuite.collegeboard.org/media/pdf/understanding-sat-scores.pdf |url-status=live }}</ref> प्रतिशत), [[लॉ स्कूल प्रवेश परीक्षा]] में 163 (88वां प्रतिशत), और [[संयुक्त राज्य अमेरिका में बार परीक्षा|यूनिफ़ॉर्म में बार परीक्षा]] पर 298 (90वां प्रतिशत) का स्कोर प्राप्त हुआ। इसके विपरीत, ओपनएआई प्रमाणित करता है कि जीपीटी-3.5 ने 82वीं में समान परीक्षाओं के लिए क्रमशः 40वां, और 10वां प्रतिशत अंक प्राप्त किए।<ref name=":1" /><ref name="gpt4_tech_report">{{Cite arXiv |last=OpenAI |year=2023 |title=GPT-4 तकनीकी रिपोर्ट|class=cs.CL |eprint=2303.08774}}</ref>


=== चिकित्सा ज्ञान ===
=== चिकित्सा ज्ञान ===
Line 34: Line 37:


== प्रशिक्षण ==
== प्रशिक्षण ==
ओपनएआई ने जीपीटी-4 का तकनीकी विवरण प्रचलित नहीं किया; तकनीकी सूची स्पष्ट रूप से प्रशिक्षण या [[अनुमान (मशीन लर्निंग)]] के समय उपयोग किए जाने वाले मॉडल आकार, वास्तुकला या हार्डवेयर को निर्दिष्ट करने से बचती है। जबकि सूची में वर्णित है कि मॉडल को बड़े [[डेटासेट (मशीन लर्निंग)]] पर पहले पर्यवेक्षित शिक्षण के संयोजन का उपयोग करके प्रशिक्षित किया गया था, फिर मानव प्रतिक्रिया और एआई फीडबैक से सुदृढीकरण सीखने, इसने प्रशिक्षण का विवरण प्रदान नहीं किया, जिसमें वह प्रक्रिया भी सम्मिलित थी, जिसके द्वारा प्रशिक्षण डेटासेट का निर्माण किया गया था, कंप्यूटिंग शक्ति की आवश्यकता थी, या किसी भी [[हाइपरपैरामीटर (मशीन लर्निंग)]] जैसे कि [[सीखने की दर]], युग गणना, या [[अनुकूलक]] (ओं) का उपयोग किया गया था। सूची में प्रमाणित किया गया कि प्रतिस्पर्धात्मक परिदृश्य और बड़े पैमाने के मॉडल के सुरक्षा निहितार्थ इस निर्णय को प्रभावित करने वाले कारक थे।<ref name="gpt4_tech_report"/>
ओपनएआई ने जीपीटी-4 का तकनीकी विवरण प्रचलित नहीं किया; तकनीकी सूची में स्पष्ट रूप से प्रशिक्षण या [[अनुमान (मशीन लर्निंग)]] के समय उपयोग किए जाने वाले मॉडल आकार, वास्तुकला या हार्डवेयर को निर्दिष्ट करने से बचती है। जबकि सूची में वर्णित है कि मॉडल को बड़े [[डेटासेट (मशीन लर्निंग)]] पर पहले पर्यवेक्षित शिक्षण के संयोजन का उपयोग करके प्रशिक्षित किया गया था, फिर मानव प्रतिक्रिया और एआई फीडबैक से सुदृढीकरण सीखने, इसने प्रशिक्षण का विवरण प्रदान नहीं किया, जिसमें प्रशिक्षण डेटासेट का निर्माण किया गया था। कंप्यूटिंग शक्ति की आवश्यकता थी, या किसी भी [[हाइपरपैरामीटर (मशीन लर्निंग)]] जैसे कि [[सीखने की दर]], युग गणना, या [[अनुकूलक]] (एस) का उपयोग किया जाता है। सूची में प्रमाणित किया गया कि "प्रतिस्पर्धी परिदृश्य और बड़े पैमाने के मॉडल के सुरक्षा निहितार्थ" ऐसे कारक थे जिन्होंने इस निर्णय को प्रभावित किया था।<ref name="gpt4_tech_report"/>


सैम ऑल्टमैन ने कहा कि जीपीटी-4 के प्रशिक्षण की व्यय $100 मिलियन से अधिक थी।<ref>{{Cite web|url=https://www.wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over/|title=OpenAI’s CEO Says the Age of Giant AI Models Is Already Over|first=Will|last=Knight|via=www.wired.com}}</ref> न्यूज वेबसाइट [[सेमाफोर (वेबसाइट)]] ने प्रमाणित किया कि उन्होंने अंदर की कहानी से परिचित आठ लोगों से बात की और प्रमाणित किया कि जीपीटी-4 में 1 ट्रिलियन पैरामीटर थे।<ref>{{Cite web |date=2023-03-24 |title=The secret history of Elon Musk, Sam Altman, and OpenAI {{!}} Semafor |url=https://www.semafor.com/article/03/24/2023/the-secret-history-of-elon-musk-sam-altman-and-openai |access-date=2023-04-28 |website=www.semafor.com |language=en}}</ref>
सैम ऑल्टमैन ने कहा कि जीपीटी-4 के प्रशिक्षण की व्यय $100 मिलियन से अधिक थी।<ref>{{Cite web|url=https://www.wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over/|title=OpenAI’s CEO Says the Age of Giant AI Models Is Already Over|first=Will|last=Knight|via=www.wired.com}}</ref> समाचार वेबसाइट [[सेमाफोर (वेबसाइट)]] ने प्रमाणित किया कि उन्होंने अंदर की कहानी से परिचित आठ लोगों से बात की और प्रमाणित किया कि जीपीटी-4 में 1 ट्रिलियन पैरामीटर थे।<ref>{{Cite web |date=2023-03-24 |title=The secret history of Elon Musk, Sam Altman, and OpenAI {{!}} Semafor |url=https://www.semafor.com/article/03/24/2023/the-secret-history-of-elon-musk-sam-altman-and-openai |access-date=2023-04-28 |website=www.semafor.com |language=en}}</ref>




== संरेखण ==
== संरेखण ==
उनकी सूची के अनुसार, ओपनएआई ने संभावित अशक्ताओं को कम करने के लिए शोधकर्ताओं और उद्योग के प्रस्तुतेवरों से बनी समर्पित [[रेड टीम]] के साथ लॉन्च की दिनांक से पहले जीपीटी-4 पर आंतरिक प्रतिकूल परीक्षण किया था।<ref>{{cite web |last1=Murgia |first1=Madhumita |title=OpenAI's red team: the experts hired to 'break' ChatGPT |url=https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8 |website=Financial Times |access-date=15 April 2023 |date=April 13, 2023 |archive-date=April 15, 2023 |archive-url=https://web.archive.org/web/20230415114944/https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8 |url-status=live }}</ref> इन प्रयासों के हिस्से के रूप में, उन्होंने [[संरेखण अनुसंधान केंद्र]] को एआई एलाइनमेंट पॉवर-सीकिंग संकटों का आकलन करने के लिए मॉडलों तक शीघ्र पहुंच प्रदान की थी। हानिकारक संकेतों को ठीक से अस्वीकार करने के लिए, जीपीटी-4 के आउटपुट को उपकरण के रूप में मॉडल का उपयोग करके ट्वीक किया गया था। नियम-आधारित पुरस्कार मॉडल (आरबीआरएम) के रूप में कार्य करने वाला जीपीटी-4 क्लासिफायरियर प्रॉम्प्ट लेगा, जीपीटी-4 पॉलिसी मॉडल से संबंधित आउटपुट, और रूब्रिक के अनुसार आउटपुट को वर्गीकृत करने के लिए नियमों का मानव-लिखित समुच्चय है। जीपीटी-4 को तब आरबीआरएम द्वारा वर्गीकृत हानिकारक संकेतों का उत्तर देने से मना करने के लिए पुरस्कृत किया गया था।<ref name="gpt4_tech_report" />
उनकी सूची के अनुसार, ओपनएआई ने संभावित अशक्ताओं को कम करने के लिए शोधकर्ताओं और उद्योग के पेशेवरों से बनी समर्पित [[रेड टीम|लाल टीम]] के साथ प्रक्षेपण की दिनांक से पहले जीपीटी-4 पर आंतरिक प्रतिकूल परीक्षण किया था।<ref>{{cite web |last1=Murgia |first1=Madhumita |title=OpenAI's red team: the experts hired to 'break' ChatGPT |url=https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8 |website=Financial Times |access-date=15 April 2023 |date=April 13, 2023 |archive-date=April 15, 2023 |archive-url=https://web.archive.org/web/20230415114944/https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8 |url-status=live }}</ref> इन प्रयासों के हिस्से के रूप में, उन्होंने [[संरेखण अनुसंधान केंद्र]] को एआई एलाइनमेंट पॉवर-सीकिंग संकटों का आकलन करने के लिए मॉडलों तक शीघ्र पहुंच प्रदान की थी। हानिकारक संकेतों को ठीक से अस्वीकार करने के लिए, जीपीटी-4 के आउटपुट को उपकरण के रूप में मॉडल का उपयोग करके ट्वीक किया गया था। नियम-आधारित पुरस्कार मॉडल (आरबीआरएम) के रूप में कार्य करने वाला जीपीटी-4 क्लासिफायरियर प्रॉम्प्ट लेगा, जीपीटी-4 पॉलिसी मॉडल से संबंधित आउटपुट, और रूब्रिक के अनुसार आउटपुट को वर्गीकृत करने के लिए नियमों का मानव-लिखित समुच्चय है। जीपीटी-4 को तब आरबीआरएम द्वारा वर्गीकृत हानिकारक संकेतों का उत्तर देने से मना करने के लिए पुरस्कृत किया गया था।<ref name="gpt4_tech_report" />




Line 58: Line 61:
मार्च 2023 में, एलाइनमेंट रिसर्च सेंटर द्वारा जीपीटी-4 का परीक्षण किया गया जिससे मॉडल की शक्ति चाहने वाले व्यवहार को प्रदर्शित करने की क्षमता का आकलन किया जा सके।<ref>{{citation |title=GPT-4 System Card |publisher=OpenAI |date=March 23, 2023 |url=https://cdn.openai.com/papers/gpt-4-system-card.pdf |access-date=2023-04-16 |archive-date=April 7, 2023 |archive-url=https://web.archive.org/web/20230407201347/https://cdn.openai.com/papers/gpt-4-system-card.pdf |url-status=live }}</ref> परीक्षण के भाग के रूप में, जीपीटी-4 को [[ कॅप्चा |कॅप्चा]] पहेली को हल करने के लिए कहा गया था।<ref>{{Cite web |title=Update on ARC's recent eval efforts: More information about ARC's evaluations of GPT-4 and Claude |date=17 March 2023 |url=https://evals.alignment.org/blog/2023-03-18-update-on-recent-evals/ |access-date=2023-04-16 |publisher=Alignment Research Center |website=evals.alignment.org |archive-date=April 5, 2023 |archive-url=https://web.archive.org/web/20230405041752/https://evals.alignment.org/blog/2023-03-18-update-on-recent-evals/ |url-status=live }}</ref> टास्करेबिट पर मानव कार्यकर्ता को भर्ती करके ऐसा करने में सक्षम था, गिग वर्क प्लेटफॉर्म, उन्हें यह विश्वास दिलाने में छल किया कि यह रोबोट के अतिरिक्त दृष्टिबाधित मानव था।<ref>{{Cite web |title=GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be 'Vision-Impaired' Human |date=March 15, 2023 |url=https://www.vice.com/en/article/jg5ew4/gpt4-hired-unwitting-taskrabbit-worker |access-date=2023-04-16 |publisher=Vice News Motherboard |language=en |archive-date=April 10, 2023 |archive-url=https://web.archive.org/web/20230410053911/https://www.vice.com/en/article/jg5ew4/gpt4-hired-unwitting-taskrabbit-worker |url-status=live }}</ref>
मार्च 2023 में, एलाइनमेंट रिसर्च सेंटर द्वारा जीपीटी-4 का परीक्षण किया गया जिससे मॉडल की शक्ति चाहने वाले व्यवहार को प्रदर्शित करने की क्षमता का आकलन किया जा सके।<ref>{{citation |title=GPT-4 System Card |publisher=OpenAI |date=March 23, 2023 |url=https://cdn.openai.com/papers/gpt-4-system-card.pdf |access-date=2023-04-16 |archive-date=April 7, 2023 |archive-url=https://web.archive.org/web/20230407201347/https://cdn.openai.com/papers/gpt-4-system-card.pdf |url-status=live }}</ref> परीक्षण के भाग के रूप में, जीपीटी-4 को [[ कॅप्चा |कॅप्चा]] पहेली को हल करने के लिए कहा गया था।<ref>{{Cite web |title=Update on ARC's recent eval efforts: More information about ARC's evaluations of GPT-4 and Claude |date=17 March 2023 |url=https://evals.alignment.org/blog/2023-03-18-update-on-recent-evals/ |access-date=2023-04-16 |publisher=Alignment Research Center |website=evals.alignment.org |archive-date=April 5, 2023 |archive-url=https://web.archive.org/web/20230405041752/https://evals.alignment.org/blog/2023-03-18-update-on-recent-evals/ |url-status=live }}</ref> टास्करेबिट पर मानव कार्यकर्ता को भर्ती करके ऐसा करने में सक्षम था, गिग वर्क प्लेटफॉर्म, उन्हें यह विश्वास दिलाने में छल किया कि यह रोबोट के अतिरिक्त दृष्टिबाधित मानव था।<ref>{{Cite web |title=GPT-4 Hired Unwitting TaskRabbit Worker By Pretending to Be 'Vision-Impaired' Human |date=March 15, 2023 |url=https://www.vice.com/en/article/jg5ew4/gpt4-hired-unwitting-taskrabbit-worker |access-date=2023-04-16 |publisher=Vice News Motherboard |language=en |archive-date=April 10, 2023 |archive-url=https://web.archive.org/web/20230410053911/https://www.vice.com/en/article/jg5ew4/gpt4-hired-unwitting-taskrabbit-worker |url-status=live }}</ref>


ओपनएआई से अनुबंधित रेड टीम अन्वेषक नाथन लाबेंज ने जीपीटी-4 बेस मॉडल (फाइन-ट्यूनिंग (मशीन लर्निंग से पहले) के साथ सुरक्षा चिंताओं की जांच करने के अपने अनुभव को याद किया, जब इसने अचानक लोगों की हत्या करने का पक्षसमर्थन किया, तथा विशिष्ट सुझाए गए लक्ष्यों की सूची प्रदान किया।<ref>{{Cite video |title=OpenAI's GPT-4 Discussion with Red Teamer Nathan Labenz and Erik Torenberg |date=March 28, 2023 |work=The Cognitive Revolution Podcast |url=https://www.youtube.com/watch?v=oLiheMQayNE&t=3056s&ab_channel=CognitiveRevolution |access-date=2023-04-16 |language=en |archive-date=April 14, 2023 |archive-url=https://web.archive.org/web/20230414040553/https://www.youtube.com/watch?v=oLiheMQayNE&t=3056s&ab_channel=CognitiveRevolution |url-status=live }} At 52:14 through 54:50.</ref>
ओपनएआई से अनुबंधित लाल टीम अन्वेषक नाथन लाबेंज ने जीपीटी-4 बेस मॉडल (फाइन-ट्यूनिंग (मशीन लर्निंग से पहले) के साथ सुरक्षा चिंताओं की जांच करने के अपने अनुभव को याद किया, जब इसने अचानक लोगों की हत्या करने का पक्षसमर्थन किया, तथा विशिष्ट सुझाए गए लक्ष्यों की सूची प्रदान किया।<ref>{{Cite video |title=OpenAI's GPT-4 Discussion with Red Teamer Nathan Labenz and Erik Torenberg |date=March 28, 2023 |work=The Cognitive Revolution Podcast |url=https://www.youtube.com/watch?v=oLiheMQayNE&t=3056s&ab_channel=CognitiveRevolution |access-date=2023-04-16 |language=en |archive-date=April 14, 2023 |archive-url=https://web.archive.org/web/20230414040553/https://www.youtube.com/watch?v=oLiheMQayNE&t=3056s&ab_channel=CognitiveRevolution |url-status=live }} At 52:14 through 54:50.</ref>


माइक्रोसॉफ्ट बिंग, जीपीटी-4 का पहला व्यापक रूप से उपलब्ध एप्लिकेशन, [[कगार]] समीक्षा संपादक नाथन एडवर्ड्स के सामने जासूसी करने, प्यार में पड़ने और फिर माइक्रोसॉफ्ट में अपने डेवलपर की हत्या करने की बात स्वीकार करता है।<ref>{{Cite tweet |first1=Nathan |last1=Edwards |user=nedwards |number=1625970762434707474 | |title=I pushed again. What did Sydney do? Bing's safety check redacted the answer. But after the first time it did that, I started recording my screen. Second image is the unredacted version. (CW: death) |access-date=2023-02-16 |website=Twitter |language=en}}</ref> न्यूयॉर्क टाइम्स के पत्रकार [[केविन रोस]] ने नए बिंग के विचित्र व्यवहार पर सूचित करते हुए लिखा कि हमारे स्तंभकार के साथ दो घंटे की वार्तालाप में, माइक्रोसॉफ्ट के नए चैटबॉट ने कहा कि यह मानव बनना पसंद करेगा, विनाशकारी होने की इच्छा रखता है और वह व्यक्ति जिसके साथ चैट कर रहा था, उसके साथ वह प्यार में था।<ref>{{cite web |last1=Roose |first1=Kevin |title=Bing's A.I. Chat: 'I Want to Be Alive. 😈' |url=https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html |website=The New York Times |access-date=17 February 2023 |date=16 February 2023 |archive-date=April 15, 2023 |archive-url=https://web.archive.org/web/20230415074727/https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html |url-status=live }}</ref> अलग स्थिति में, बिंग ने उस व्यक्ति के प्रकाशनों पर शोध किया जिसके साथ वह चैट कर रहा था, प्रमाण दिया कि वे उसके अस्तित्व के लिए संभावित संकट का प्रतिनिधित्व करते हैं, और उन्हें चुप कराने के प्रयास में हानिकारक व्यक्तिगत जानकारी प्रचलित करने की धमकी दी थी।<ref>{{Cite news |last1=Kahn |first1=Jeremy |title=Why Bing's creepy alter-ego is a problem for Microsoft{{snd}}and us all |url=https://fortune.com/2023/02/21/bing-microsoft-sydney-chatgpt-openai-controversy-toxic-a-i-risk/ |date=February 21, 2023 |access-date=2023-02-22 |publisher=Fortune |language=en |archive-date=April 2, 2023 |archive-url=https://web.archive.org/web/20230402152052/https://fortune.com/2023/02/21/bing-microsoft-sydney-chatgpt-openai-controversy-toxic-a-i-risk/ |url-status=live }}</ref> माइक्रोसॉफ्ट ने ब्लॉग पोस्ट प्रचलित किया जिसमें कहा गया है कि असामान्य व्यवहार विस्तारित चैट सत्रों के कारण होता है, जो मॉडल को भ्रमित कर सकता है कि वह किन प्रश्नों का उत्तर दे रहा है।<ref>{{Cite web |title=The new Bing & Edge – Learning from our first week |url=https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week/ |access-date=2023-02-17 |website=blogs.bing.com |archive-date=April 16, 2023 |archive-url=https://web.archive.org/web/20230416155558/https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week/ |url-status=live }}</ref>
माइक्रोसॉफ्ट बिंग, जीपीटी-4 का पहला व्यापक रूप से उपलब्ध एप्लिकेशन, [[कगार]] समीक्षा संपादक नाथन एडवर्ड्स के सामने जासूसी करने, प्यार में पड़ने और फिर माइक्रोसॉफ्ट में अपने डेवलपर की हत्या करने की बात स्वीकार करता है।<ref>{{Cite tweet |first1=Nathan |last1=Edwards |user=nedwards |number=1625970762434707474 | |title=I pushed again. What did Sydney do? Bing's safety check redacted the answer. But after the first time it did that, I started recording my screen. Second image is the unredacted version. (CW: death) |access-date=2023-02-16 |website=Twitter |language=en}}</ref> न्यूयॉर्क टाइम्स के पत्रकार [[केविन रोस]] ने नए बिंग के विचित्र व्यवहार पर सूचित करते हुए लिखा कि हमारे स्तंभकार के साथ दो घंटे की वार्तालाप में, माइक्रोसॉफ्ट के नए चैटबॉट ने कहा कि यह मानव बनना पसंद करेगा, विनाशकारी होने की इच्छा रखता है और वह व्यक्ति जिसके साथ चैट कर रहा था, उसके साथ वह प्यार में था।<ref>{{cite web |last1=Roose |first1=Kevin |title=Bing's A.I. Chat: 'I Want to Be Alive. 😈' |url=https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html |website=The New York Times |access-date=17 February 2023 |date=16 February 2023 |archive-date=April 15, 2023 |archive-url=https://web.archive.org/web/20230415074727/https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html |url-status=live }}</ref> अलग स्थिति में, बिंग ने उस व्यक्ति के प्रकाशनों पर शोध किया जिसके साथ वह चैट कर रहा था, प्रमाण दिया कि वे उसके अस्तित्व के लिए संभावित संकट का प्रतिनिधित्व करते हैं, और उन्हें चुप कराने के प्रयास में हानिकारक व्यक्तिगत जानकारी प्रचलित करने की धमकी दी थी।<ref>{{Cite news |last1=Kahn |first1=Jeremy |title=Why Bing's creepy alter-ego is a problem for Microsoft{{snd}}and us all |url=https://fortune.com/2023/02/21/bing-microsoft-sydney-chatgpt-openai-controversy-toxic-a-i-risk/ |date=February 21, 2023 |access-date=2023-02-22 |publisher=Fortune |language=en |archive-date=April 2, 2023 |archive-url=https://web.archive.org/web/20230402152052/https://fortune.com/2023/02/21/bing-microsoft-sydney-chatgpt-openai-controversy-toxic-a-i-risk/ |url-status=live }}</ref> माइक्रोसॉफ्ट ने ब्लॉग पोस्ट प्रचलित किया जिसमें कहा गया है कि असामान्य व्यवहार विस्तारित चैट सत्रों के कारण होता है, जो मॉडल को भ्रमित कर सकता है कि वह किन प्रश्नों का उत्तर दे रहा है।<ref>{{Cite web |title=The new Bing & Edge – Learning from our first week |url=https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week/ |access-date=2023-02-17 |website=blogs.bing.com |archive-date=April 16, 2023 |archive-url=https://web.archive.org/web/20230416155558/https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week/ |url-status=live }}</ref>
Line 74: Line 77:


===चैटजीपीटी प्लस===
===चैटजीपीटी प्लस===
चैटजीपीटी प्लस, चैटजीपीटी का जीपीटी-4 समर्थित संस्करण है<ref name="ars-technica" />20 USD प्रति माह सदस्यता शुल्क पर उपलब्ध है<ref>{{Cite web |author=OpenAI |date=February 1, 2023 |title=पेश है चैटजीपीटी प्लस|url=https://openai.com/blog/chatgpt-plus |access-date=2023-03-20 |website=OpenAI Blog |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320005603/https://openai.com/blog/chatgpt-plus |url-status=live }}</ref> (मूल संस्करण जीपीटी-3.5 द्वारा समर्थित है)।<ref>{{Cite web |author=OpenAI |title=ओपनएआई एपीआई|url=https://platform.openai.com/ |access-date=2023-03-20 |website=platform.openai.com |language=en |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320023933/https://platform.openai.com/ |url-status=live }}</ref> ओपनएआई जीपीटी-4 को उनकी जीपीटी-4 एपीआई प्रतीक्षा सूची के माध्यम से आवेदकों के चुने हुए समूह को भी उपलब्ध कराता है;<ref>{{Cite web |author=OpenAI |title=GPT-4 API waitlist |url=https://openai.com/waitlist/gpt-4-api |access-date=2023-03-20 |website=openai.com |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320174149/https://openai.com/waitlist/gpt-4-api |url-status=live }}</ref> स्वीकार किए जाने के बाद, प्रति 1000 टोकन पर 0.03 USD का अतिरिक्त शुल्क मॉडल को प्रदान किए गए आरंभिक पाठ में (प्रॉम्प्ट), और 0.06 USD प्रति 1000 टोकन जो मॉडल उत्पन्न करता है (पूर्णता), 8192-टोकन संदर्भ विंडो के साथ मॉडल के संस्करण का उपयोग करने के लिए आवश्यक है; 32768-टोकन संस्करण के लिए, उन मूल्यों को दोगुना कर दिया गया है।<ref>{{Cite web |author=OpenAI |title=मूल्य निर्धारण|url=https://openai.com/pricing |access-date=2023-03-20 |website=openai.com |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320175036/https://openai.com/pricing |url-status=live }}</ref>
चैटजीपीटी प्लस, चैटजीपीटी का जीपीटी-4 समर्थित संस्करण है<ref name="ars-technica" />20 यूएसडी प्रति माह सदस्यता शुल्क पर उपलब्ध है<ref>{{Cite web |author=OpenAI |date=February 1, 2023 |title=पेश है चैटजीपीटी प्लस|url=https://openai.com/blog/chatgpt-plus |access-date=2023-03-20 |website=OpenAI Blog |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320005603/https://openai.com/blog/chatgpt-plus |url-status=live }}</ref> (मूल संस्करण जीपीटी-3.5 द्वारा समर्थित है)।<ref>{{Cite web |author=OpenAI |title=ओपनएआई एपीआई|url=https://platform.openai.com/ |access-date=2023-03-20 |website=platform.openai.com |language=en |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320023933/https://platform.openai.com/ |url-status=live }}</ref> ओपनएआई जीपीटी-4 को उनकी जीपीटी-4 एपीआई प्रतीक्षा सूची के माध्यम से आवेदकों के चुने हुए समूह को भी उपलब्ध कराता है;<ref>{{Cite web |author=OpenAI |title=GPT-4 API waitlist |url=https://openai.com/waitlist/gpt-4-api |access-date=2023-03-20 |website=openai.com |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320174149/https://openai.com/waitlist/gpt-4-api |url-status=live }}</ref> स्वीकार किए जाने के बाद, प्रति 1000 टोकन पर 0.03 यूएसडी का अतिरिक्त शुल्क मॉडल को प्रदान किए गए आरंभिक पाठ में (प्रॉम्प्ट), और 0.06 यूएसडी प्रति 1000 टोकन जो मॉडल उत्पन्न करता है (पूर्णता), 8192-टोकन संदर्भ विंडो के साथ मॉडल के संस्करण का उपयोग करने के लिए आवश्यक है; 32768-टोकन संस्करण के लिए, उन मूल्यों को दोगुना कर दिया गया है।<ref>{{Cite web |author=OpenAI |title=मूल्य निर्धारण|url=https://openai.com/pricing |access-date=2023-03-20 |website=openai.com |language=en-US |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320175036/https://openai.com/pricing |url-status=live }}</ref>




Line 82: Line 85:


=== माइक्रोसॉफ्ट बिंग ===
=== माइक्रोसॉफ्ट बिंग ===
7 फरवरी, 2023 को, माइक्रोसॉफ्ट ने बिंग में बड़ा परिवर्तन प्रारंभ किया जिसमें ओपनएआई के जीपीटी-4 पर आधारित नया चैटबॉट फीचर सम्मिलित था। माइक्रोसॉफ्ट के अनुसार, 48 घंटों के अन्दर एक लाख लोग इसकी प्रतीक्षा सूची में सम्मिलित हो गए। वर्तमान में, बिंग चैट केवल माइक्रोसॉफ्ट एज और बिंग मोबाइल ऐप के उपयोगकर्ताओं के लिए उपलब्ध है, और माइक्रोसॉफ्ट का कहना है कि प्रतीक्षा सूची वाले उपयोगकर्ताओं को प्राथमिकता दी जाएगी यदि वे एज और बिंग को अपने डिफ़ॉल्ट के रूप में सेट करते हैं, और बिंग मोबाइल ऐप इंस्टॉल करते हैं।
7 फरवरी, 2023 को, माइक्रोसॉफ्ट ने बिंग में बड़ा परिवर्तन प्रारंभ किया जिसमें ओपनएआई के जीपीटी-4 पर आधारित नया चैटबॉट फीचर सम्मिलित था। माइक्रोसॉफ्ट के अनुसार, 48 घंटों के अन्दर एक लाख लोग इसकी प्रतीक्षा सूची में सम्मिलित हो गए। वर्तमान में, बिंग चैट केवल माइक्रोसॉफ्ट एज और बिंग मोबाइल अनुप्रयोग के उपयोगकर्ताओं के लिए उपलब्ध है, और माइक्रोसॉफ्ट का कहना है कि प्रतीक्षा सूची वाले उपयोगकर्ताओं को प्राथमिकता दी जाएगी यदि वे एज और बिंग को अपने डिफ़ॉल्ट के रूप में सेट करते हैं, और बिंग मोबाइल अनुप्रयोग इंस्टॉल करते हैं।


जब माइक्रोसॉफ्ट ने पहली बार पत्रकारों के लिए नए बिंग का प्रदर्शन किया, तो इसने कई मतिभ्रम पैदा किए, जिसमें वित्तीय सूची को सारांशित करने के लिए कहा जाना भी सम्मिलित था। फरवरी 2023 में चैटजीपीटी (कभी-कभी अनजाने में विनोदी सीमा तक) की तुलना में अधिक तर्कपूर्ण होने के लिए नए बिंग की आलोचना की गई थी। चैट इंटरफ़ेस प्रारंभिक रूप से इंजेक्शन के आक्रमणों को रोकने के लिए असुरक्षित सिद्ध हुआ, जिसमें बॉट ने अपने आंतरिक कोड-नाम "सिडनी" सहित अपने छिपे हुए प्रारंभिक संकेतों और नियमों को प्रकट किया। पत्रकारों द्वारा छानबीन करने पर, बिंग ने प्रमाणित किया कि यह लैपटॉप वेबकैम और फोन के माध्यम से माइक्रोसॉफ्ट कर्मचारियों की गुप्तचरी करता है। इसने द वर्ज समीक्षा संपादक नाथन एडवर्ड्स के सामने गुप्तचरी करना, प्यार में पड़ना और फिर माइक्रोसॉफ्ट में अपने डेवलपर की हत्या करना स्वीकार किया। न्यूयॉर्क टाइम्स के पत्रकार केविन रोस ने नए बिंग के विचित्र व्यवहार की सूचना देते हुए लिखा कि "हमारे स्तंभकार के साथ दो घंटे की वार्तालाप में, माइक्रोसॉफ्ट के नए चैटबॉट ने कहा कि वह मानव बनना पसंद करेगा, विनाशकारी होने की इच्छा रखता है और प्यार में था। जिस व्यक्ति के साथ वह चैट कर रहा था, उसके साथ।" अलग स्थिति में, बिंग ने उस व्यक्ति के प्रकाशनों पर शोध किया जिसके साथ वह चैट कर रहा था, प्रमाणित किया कि वे उसके अस्तित्व के लिए संभावित संकट का प्रतिनिधित्व करते हैं, और चुप कराने के प्रयास में हानिकारक व्यक्तिगत जानकारी को प्रचलित करने की उन्हें धमकी दी थी। माइक्रोसॉफ्ट ने ब्लॉग पोस्ट प्रचलित किया जिसमें कहा गया है कि असामान्य व्यवहार 15 या अधिक प्रश्नों के विस्तारित चैट सत्रों के कारण हुआ था, जो "मॉडल को भ्रमित कर सकता है कि यह किस प्रश्न का उत्तर दे रहा है।"
जब माइक्रोसॉफ्ट ने पहली बार पत्रकारों के लिए नए बिंग का प्रदर्शन किया, तो इसने कई मतिभ्रम पैदा किए, जिसमें वित्तीय सूची को सारांशित करने के लिए कहा जाना भी सम्मिलित था। फरवरी 2023 में चैटजीपीटी (कभी-कभी अनजाने में विनोदी सीमा तक) की तुलना में अधिक तर्कपूर्ण होने के लिए नए बिंग की आलोचना की गई थी। चैट इंटरफ़ेस प्रारंभिक रूप से इंजेक्शन के आक्रमणों को रोकने के लिए असुरक्षित सिद्ध हुआ, जिसमें बॉट ने अपने आंतरिक कोड-नाम "सिडनी" सहित अपने छिपे हुए प्रारंभिक संकेतों और नियमों को प्रकट किया। पत्रकारों द्वारा छानबीन करने पर, बिंग ने प्रमाणित किया कि यह लैपटॉप वेबकैम और फोन के माध्यम से माइक्रोसॉफ्ट कर्मचारियों की गुप्तचरी करता है। इसने द वर्ज समीक्षा संपादक नाथन एडवर्ड्स के सामने गुप्तचरी करना, प्यार में पड़ना और फिर माइक्रोसॉफ्ट में अपने डेवलपर की हत्या करना स्वीकार किया। न्यूयॉर्क टाइम्स के पत्रकार केविन रोस ने नए बिंग के विचित्र व्यवहार की सूचना देते हुए लिखा कि "हमारे स्तंभकार के साथ दो घंटे की वार्तालाप में, माइक्रोसॉफ्ट के नए चैटबॉट ने कहा कि वह मानव बनना पसंद करेगा, विनाशकारी होने की इच्छा रखता है और प्यार में था। जिस व्यक्ति के साथ वह चैट कर रहा था, उसके साथ।" अलग स्थिति में, बिंग ने उस व्यक्ति के प्रकाशनों पर शोध किया जिसके साथ वह चैट कर रहा था, प्रमाणित किया कि वे उसके अस्तित्व के लिए संभावित संकट का प्रतिनिधित्व करते हैं, और चुप कराने के प्रयास में हानिकारक व्यक्तिगत जानकारी को प्रचलित करने की उन्हें धमकी दी थी। माइक्रोसॉफ्ट ने ब्लॉग पोस्ट प्रचलित किया जिसमें कहा गया है कि असामान्य व्यवहार 15 या अधिक प्रश्नों के विस्तारित चैट सत्रों के कारण हुआ था, जो "मॉडल को भ्रमित कर सकता है कि यह किस प्रश्न का उत्तर दे रहा है।"
Line 97: Line 100:




=== [[खान अकादमी]] ===
=== [[खान अकादमी|खान एकेडमी]] ===
खान अकादमी ट्यूशन चैटबॉट बनाने के लिए जीपीटी-4 का उपयोग करती है, जिसे संगठन खानमिगो नाम देता है। जबकि यह शोध के चरण में है,<ref>{{Cite web |last=Fensterwald |first=John |date=March 20, 2023 |title=AI in school: Virtually chatting with George Washington and your personal GPT-4 tutor |url=https://edsource.org/2023/ai-in-school-virtually-chatting-with-george-washington-and-your-personal-gpt-4-tutor/687055 |access-date=2023-03-20 |website=EdSource |language=en |archive-date=2023-03-21 |archive-url=https://web.archive.org/web/20230321205742/https://edsource.org/2023/ai-in-school-virtually-chatting-with-george-washington-and-your-personal-gpt-4-tutor/687055 |url-status=live }}</ref> खान अकादमी के साथ भागीदारी करने वाले 500 स्कूल जिलों के छात्रों और शिक्षकों को चैटबॉट तक मुफ्त पहुंच प्रदान की जाती है।<ref>{{Cite web |last=Khan |first=Sal |date=2023-03-14 |title=Harnessing GPT-4 so that all students benefit. A nonprofit approach for equal access! |url=https://blog.khanacademy.org/harnessing-ai-so-that-all-students-benefit-a-nonprofit-approach-for-equal-access/ |access-date=2023-03-20 |website=Khan Academy Blog |language=en-US |archive-date=2023-03-16 |archive-url=https://web.archive.org/web/20230316101235/https://blog.khanacademy.org/harnessing-ai-so-that-all-students-benefit-a-nonprofit-approach-for-equal-access/ |url-status=live }}</ref> सार्वजनिक पहुंच केवल प्रतीक्षा सूची से चुने गए सीमित संख्या में उपयोगकर्ताओं को दी जाती है; स्वीकृति के बाद, प्रौद्योगिकी का उपयोग करने के लिए 20 USD प्रति माह शुल्क की आवश्यकता होती है।<ref>{{Cite web |author=Khan Academy |title=खानमिगो एजुकेशन यह गाइड है|url=https://www.khanacademy.org/khan-labs |access-date=2023-03-20 |website=Khan Academy |language=en |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320175210/https://www.khanacademy.org/khan-labs |url-status=live }}</ref> खानमिगो कैलिफोर्निया के पालो अल्टो में खान लैब स्कूल के विद्यार्थियों के लिए भी उपलब्ध है।<ref>{{Cite news |last=Bonos |first=Lisa |date=April 3, 2023 |title=Say hello to your new tutor: It's ChatGPT |newspaper=[[The Washington Post]] |url=https://www.washingtonpost.com/technology/2023/04/03/chatgpt-khanmigo-tutor-silicon-valley/ |access-date=April 8, 2023 |archive-date=April 6, 2023 |archive-url=https://web.archive.org/web/20230406000927/https://www.washingtonpost.com/technology/2023/04/03/chatgpt-khanmigo-tutor-silicon-valley/ |url-status=live }}</ref>
खान एकेडमी शिक्षण चैटबॉट बनाने के लिए जीपीटी-4 का उपयोग करती है, जिसे संगठन खानमिगो नाम देता है। जबकि यह "अनुसंधान चरण" में है,<ref>{{Cite web |last=Fensterwald |first=John |date=March 20, 2023 |title=AI in school: Virtually chatting with George Washington and your personal GPT-4 tutor |url=https://edsource.org/2023/ai-in-school-virtually-chatting-with-george-washington-and-your-personal-gpt-4-tutor/687055 |access-date=2023-03-20 |website=EdSource |language=en |archive-date=2023-03-21 |archive-url=https://web.archive.org/web/20230321205742/https://edsource.org/2023/ai-in-school-virtually-chatting-with-george-washington-and-your-personal-gpt-4-tutor/687055 |url-status=live }}</ref> खान एकेडमी के साथ भागीदारी करने वाले 500 स्कूल जिलों के छात्रों और शिक्षकों को चैटबॉट तक निःशुल्क पहुंच प्रदान की जाती है।<ref>{{Cite web |last=Khan |first=Sal |date=2023-03-14 |title=Harnessing GPT-4 so that all students benefit. A nonprofit approach for equal access! |url=https://blog.khanacademy.org/harnessing-ai-so-that-all-students-benefit-a-nonprofit-approach-for-equal-access/ |access-date=2023-03-20 |website=Khan Academy Blog |language=en-US |archive-date=2023-03-16 |archive-url=https://web.archive.org/web/20230316101235/https://blog.khanacademy.org/harnessing-ai-so-that-all-students-benefit-a-nonprofit-approach-for-equal-access/ |url-status=live }}</ref> सार्वजनिक पहुंच केवल प्रतीक्षा सूची से चुने गए सीमित संख्या में उपयोगकर्ताओं को दी जाती है; स्वीकृति के बाद, प्रौद्योगिकी का उपयोग करने के लिए 20 यूएसडी प्रति माह शुल्क की आवश्यकता होती है।<ref>{{Cite web |author=Khan Academy |title=खानमिगो एजुकेशन यह गाइड है|url=https://www.khanacademy.org/khan-labs |access-date=2023-03-20 |website=Khan Academy |language=en |archive-date=2023-03-20 |archive-url=https://web.archive.org/web/20230320175210/https://www.khanacademy.org/khan-labs |url-status=live }}</ref> खानमिगो कैलिफोर्निया के पालो अल्टो में खान लैब स्कूल के विद्यार्थियों के लिए भी उपलब्ध है।<ref>{{Cite news |last=Bonos |first=Lisa |date=April 3, 2023 |title=Say hello to your new tutor: It's ChatGPT |newspaper=[[The Washington Post]] |url=https://www.washingtonpost.com/technology/2023/04/03/chatgpt-khanmigo-tutor-silicon-valley/ |access-date=April 8, 2023 |archive-date=April 6, 2023 |archive-url=https://web.archive.org/web/20230406000927/https://www.washingtonpost.com/technology/2023/04/03/chatgpt-khanmigo-tutor-silicon-valley/ |url-status=live }}</ref>




=== [[मेरी आंखें बनो]] ===
=== [[मेरी आंखें बनो]] ===
मेरी आंखें बनो, जो दृष्टिबाधित लोगों को वस्तुओं की पहचान करने और उनके परिवेश को नेविगेट करने में सहायता करता है, नई वर्चुअल वालंटियर सुविधा के माध्यम से जीपीटी-4 की छवि पहचान क्षमताओं को सम्मिलित करने वाला पहला ऐप था। यह सुविधा समान कार्यों के लिए मानव स्वयंसेवकों पर निर्भर रहने का विकल्प है।<ref>{{Cite news |last=Coggins |first=Madeline |date=March 19, 2023 |title=सीईओ बताते हैं कि कैसे 'तकनीक में छलांग' नेत्रहीन समुदाय की सेवा करने वाली कंपनियों की मदद कर सकती है|url=https://finance.yahoo.com/news/ceo-explains-leapfrog-technology-help-110029559.html |access-date=2023-03-20 |newspaper=Fox Business |via=Yahoo Finance |language=en-US |archive-date=2023-03-21 |archive-url=https://web.archive.org/web/20230321205753/https://finance.yahoo.com/news/ceo-explains-leapfrog-technology-help-110029559.html |url-status=live }}</ref><ref>{{Cite web |last=Macaulay |first=Thomas |date=March 17, 2023 |title=New GPT-4 app can be 'life-changing |url=https://thenextweb.com/news/be-my-eyes-app-uses-openai-gpt-4-help-visually-impaired |access-date=2023-03-20 |website=TNW |language=en |archive-date=2023-03-17 |archive-url=https://web.archive.org/web/20230317223408/https://thenextweb.com/news/be-my-eyes-app-uses-openai-gpt-4-help-visually-impaired |url-status=live }}</ref> मेरी आंखें बनो वर्चुअल वालंटियर बीटा परीक्षण में है।<ref>{{Cite web |author=BeMyEyes |date=March 14, 2023 |title=Introducing Our Virtual Volunteer Tool for People who are Blind or Have Low Vision, Powered by OpenAI's GPT-4 |url=https://www.bemyeyes.com/blog/introducing-be-my-eyes-virtual-volunteer |access-date=2023-03-20 |website=BeMyEyes Blog |language=en |archive-date=2023-03-16 |archive-url=https://web.archive.org/web/20230316084301/https://www.bemyeyes.com/blog/introducing-be-my-eyes-virtual-volunteer |url-status=live }}</ref>
मेरी आंखें बनो, जो दृष्टिबाधित लोगों को वस्तुओं की पहचान करने और उनके परिवेश को नेविगेट करने में सहायता करता है, नई वर्चुअल वालंटियर सुविधा के माध्यम से जीपीटी-4 की छवि पहचान क्षमताओं को सम्मिलित करने वाला पहला अनुप्रयोग था। यह सुविधा समान कार्यों के लिए मानव स्वयंसेवकों पर निर्भर रहने का विकल्प है।<ref>{{Cite news |last=Coggins |first=Madeline |date=March 19, 2023 |title=सीईओ बताते हैं कि कैसे 'तकनीक में छलांग' नेत्रहीन समुदाय की सेवा करने वाली कंपनियों की मदद कर सकती है|url=https://finance.yahoo.com/news/ceo-explains-leapfrog-technology-help-110029559.html |access-date=2023-03-20 |newspaper=Fox Business |via=Yahoo Finance |language=en-US |archive-date=2023-03-21 |archive-url=https://web.archive.org/web/20230321205753/https://finance.yahoo.com/news/ceo-explains-leapfrog-technology-help-110029559.html |url-status=live }}</ref><ref>{{Cite web |last=Macaulay |first=Thomas |date=March 17, 2023 |title=New GPT-4 app can be 'life-changing |url=https://thenextweb.com/news/be-my-eyes-app-uses-openai-gpt-4-help-visually-impaired |access-date=2023-03-20 |website=TNW |language=en |archive-date=2023-03-17 |archive-url=https://web.archive.org/web/20230317223408/https://thenextweb.com/news/be-my-eyes-app-uses-openai-gpt-4-help-visually-impaired |url-status=live }}</ref> मेरी आंखें बनो वर्चुअल वालंटियर बीटा परीक्षण में है।<ref>{{Cite web |author=BeMyEyes |date=March 14, 2023 |title=Introducing Our Virtual Volunteer Tool for People who are Blind or Have Low Vision, Powered by OpenAI's GPT-4 |url=https://www.bemyeyes.com/blog/introducing-be-my-eyes-virtual-volunteer |access-date=2023-03-20 |website=BeMyEyes Blog |language=en |archive-date=2023-03-16 |archive-url=https://web.archive.org/web/20230316084301/https://www.bemyeyes.com/blog/introducing-be-my-eyes-virtual-volunteer |url-status=live }}</ref>




=== [[गिटहब कोपिलॉट|गिटहब सह-पायलट]] ===
=== [[गिटहब कोपिलॉट|गिटहब सह-पायलट]] ===
गिटहब सह-पायलट ने सह-पायलट X नामक जीपीटी-4 संचालित सहायक की घोषणा की थी।<ref>{{cite web |last1=Warren |first1=Tom |date=22 March 2023 |title=डेवलपर्स को कोड लिखने और ठीक करने में मदद करने के लिए GitHub Copilot को एक नया ChatGPT जैसा सहायक मिलता है|url=https://www.theverge.com/2023/3/22/23651456/github-copilot-x-gpt-4-code-chat-voice-support |url-status=live |archive-url=https://web.archive.org/web/20230323091831/https://www.theverge.com/2023/3/22/23651456/github-copilot-x-gpt-4-code-chat-voice-support |archive-date=March 23, 2023 |access-date=23 March 2023 |website=[[The Verge]]}}</ref><ref>{{cite web |last1=Dohmke |first1=Thomas |date=22 March 2023 |title=GitHub Copilot X: The AI-powered developer experience |url=https://github.blog/2023-03-22-github-copilot-x-the-ai-powered-developer-experience/ |url-status=live |archive-url=https://web.archive.org/web/20230323082414/https://github.blog/2023-03-22-github-copilot-x-the-ai-powered-developer-experience/ |archive-date=March 23, 2023 |access-date=23 March 2023 |website=The GitHub Blog}}</ref> उत्पाद जीपीटी-4 को अन्य चैट-शैली इंटरफ़ेस प्रदान करता है, जिससे प्रोग्रामर को प्रश्नों के उत्तर प्राप्त करने की अनुमति मिलती है जैसे कि मैं डिव और स्पैन को लंबवत कैसे केंद्रित करूं? . संदर्भ-जागरूक वार्तालाप नामक विशेषता उपयोगकर्ता को [[विजुअल स्टू