एल्गोरिदम का विनियमन

एल्गोरिदम का विनियमन या एल्गोरिथम विनियमन, विशेष रूप से कृत्रिम बुद्धि और मशीन सीखने में एल्गोरिदम के प्रचार और विनियमन के लिए कानूनों, नियमों और सार्वजनिक क्षेत्र की नीतियों का निर्माण है।  एआई एल्गोरिदम के सबसेट के लिए, कृत्रिम बुद्धिमत्ता के नियमन शब्द का उपयोग किया जाता है। कृत्रिम बुद्धिमत्ता (एआई) के लिए नियामक और नीतिगत परिदृश्य यूरोपीय संघ सहित वैश्विक स्तर पर न्यायालयों में एक उभरता हुआ मुद्दा है। एआई को प्रोत्साहित करने और संबद्ध जोखिमों को प्रबंधित करने, लेकिन चुनौतीपूर्ण दोनों के लिए एआई का विनियमन आवश्यक माना जाता है। एक अन्य उभरता हुआ विषय ब्लॉकचेन एल्गोरिदम का विनियमन है (स्मार्ट अनुबंधों का उपयोग विनियमित होना चाहिए) और एआई एल्गोरिदम के विनियमन के साथ इसका उल्लेख किया गया है। कई देशों ने उच्च आवृत्ति व्यापार के नियम बनाए हैं, जो एआई एल्गोरिदम के दायरे में तकनीकी प्रगति के कारण स्थानांतरित हो रहे हैं।

एल्गोरिदम के नियमन की प्रेरणा एल्गोरिदम पर नियंत्रण खोने की आशंका है, जिसका प्रभाव मानव जीवन पर बढ़ता है। स्वचालित क्रेडिट स्कोर गणना के मामले में कई देशों ने पहले ही नियम लागू कर दिए हैं- स्पष्टीकरण का अधिकार उन एल्गोरिदम के लिए अनिवार्य है। उदाहरण के लिए, IEEE ने नैतिक मुद्दों और संभावित भविष्य के उपयोगकर्ताओं के मूल्यों को स्पष्ट रूप से संबोधित करने के लिए एक नया मानक विकसित करना शुरू कर दिया है। आपराधिक न्याय [11] से लेकर स्वास्थ्य देखभाल [12] तक विविध डोमेन में एल्गोरिदम के उपयोग के संबंध में पूर्वाग्रह, पारदर्शिता और नैतिकता संबंधी चिंताएँ उभर कर सामने आई हैं - कई लोगों को डर है कि कृत्रिम बुद्धिमत्ता जाति, वर्ग, लिंग और कामुकता के साथ सम्मिलित सामाजिक असमानताओं को दोहरा सकती है। लाइनें। स्वास्थ्य सेवा के लिए रेफरी>{{Cite journal|last=Ledford|first=Heidi|date=2019-10-24|title=स्वास्थ्य-देखभाल एल्गोरिदम में नस्लीय पूर्वाग्रह से प्रभावित लाखों काले लोग|url=https://www.nature.com/articles/d41586-019-03228-6%7Cjournal=Nature%7Clanguage=en%7Cvolume=574%7Cissue=7780%7Cpages=608–609%7Cdoi=10.1038/d41586-019-03228-6%7Cpmid=31664201 |bibcode=2019Natur.574..608L |s2cid=204943000 }

सार्वजनिक चर्चा
2016 में, जॉय बूलमविनी ने कला और अनुसंधान के माध्यम से कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों के बारे में जागरूकता बढ़ाने के लिए पक्षपाती चेहरे का पता लगाने वाले सॉफ़्टवेयर के साथ एक व्यक्तिगत अनुभव के बाद एल्गोरिथम जस्टिस लीग की स्थापना की।

2017 में एलोन मस्क ने कृत्रिम सामान्य बुद्धि से अस्तित्वगत जोखिम के संदर्भ में एल्गोरिदम के नियमन की वकालत की।  एनपीआर के अनुसार, टेस्ला के सीईओ सरकारी जांच की वकालत करने के लिए "स्पष्ट रूप से रोमांचित नहीं थे" जो उनके अपने उद्योग को प्रभावित कर सकता था, लेकिन उनका मानना ​​​​था कि बिना निरीक्षण के पूरी तरह से जाने का जोखिम बहुत अधिक है: "आम तौर पर जिस तरह से नियम स्थापित किए जाते हैं, जब ए बहुत सारी बुरी चीजें होती हैं, एक सार्वजनिक आक्रोश है, और कई वर्षों के बाद उस उद्योग को विनियमित करने के लिए एक नियामक एजेंसी की स्थापना की गई है। इसमें हमेशा के लिए लग जाता है। यह, अतीत में, बुरा रहा है लेकिन ऐसा कुछ नहीं है जो अस्तित्व के लिए एक मौलिक जोखिम का प्रतिनिधित्व करता है। सभ्यता की."

जवाब में, कुछ राजनेताओं ने एक ऐसी तकनीक को विनियमित करने के ज्ञान के बारे में संदेह व्यक्त किया जो अभी भी विकास में है। एआई और रोबोटिक्स को विनियमित करने के लिए यूरोपीय संघ के सांसदों द्वारा मस्क और फरवरी 2017 के प्रस्तावों पर प्रतिक्रिया देते हुए, इंटेल के सीईओ ब्रायन क्रज़ानिच ने तर्क दिया है कि कृत्रिम बुद्धिमत्ता अपनी प्रारंभिक अवस्था में है और यह तकनीक को विनियमित करने के लिए बहुत जल्दी है। प्रौद्योगिकी को ही विनियमित करने की कोशिश करने के बजाय, कुछ विद्वान एल्गोरिदम के परीक्षण और पारदर्शिता के लिए आवश्यकताओं सहित सामान्य मानदंडों को विकसित करने का सुझाव देते हैं, संभवतः कुछ प्रकार की वारंटी के संयोजन में। एआई विकास को विनियमित करने के लिए एक वैश्विक शासन बोर्ड के विकास के लिए एक सुझाव दिया गया है। 2020 में, यूरोपीय संघ ने एआई को बढ़ावा देने और विनियमित करने के लिए अपना मसौदा रणनीति पत्र प्रकाशित किया।

एल्गोरिथम मौन मिलीभगत एक कानूनी रूप से संदिग्ध एंटीट्रस्ट अभ्यास है जो एल्गोरिदम के माध्यम से किया जाता है, जिस पर अदालतें मुकदमा चलाने में सक्षम नहीं हैं। यह खतरा यूरोपीय संघ, अमेरिका और उससे आगे के वैज्ञानिकों और नियामकों को चिंतित करता है। यूरोपीय आयुक्त मार्गरेट वेस्टेगर ने 16 मार्च, 2017 को "एल्गोरिदम और मिलीभगत" पर अपने भाषण में एल्गोरिथम टैसिट मिलीभगत के एक प्रारंभिक उदाहरण का उल्लेख किया, जिसका वर्णन इस प्रकार है:

"कुछ साल पहले, दो कंपनियां द मेकिंग ऑफ ए फ्लाई नामक एक पाठ्यपुस्तक बेच रही थीं। उन विक्रेताओं में से एक ने एक एल्गोरिदम का इस्तेमाल किया जो अनिवार्य रूप से अपने प्रतिद्वंद्वी की कीमत से मेल खाता था। उस प्रतिद्वंद्वी के पास एक एल्गोरिदम था जो हमेशा पहले की तुलना में 27% अधिक कीमत निर्धारित करता था। इसका परिणाम यह हुआ कि कीमतें ऊपर की ओर बढ़ती रहीं, जब तक कि अंत में किसी ने यह नहीं देखा कि क्या चल रहा था, और कीमत को मैन्युअल रूप से समायोजित किया। उस समय तक, किताब 23 मिलियन डॉलर प्रति प्रति के लिए बेच रही थी - या नहीं, बेच रही थी।

2018 में, नीदरलैंड्स ने एक एल्गोरिथम सिस्टम SyRI (सिस्टीम रिसिको इंडिकैटी) को नियोजित किया ताकि नागरिकों का पता लगाया जा सके कि वे कल्याणकारी धोखाधड़ी करने के लिए उच्च जोखिम में हैं, जो चुपचाप हजारों लोगों को जांचकर्ताओं के पास भेज देता है। इससे जनता का विरोध हुआ। हेग की जिला अदालत ने मानव अधिकारों पर यूरोपीय सम्मेलन (ईसीएचआर) के अनुच्छेद 8 का हवाला देते हुए एसवाईआरआई को बंद कर दिया।

2020 में, यूके में छात्रों को परीक्षा ग्रेड प्रदान करने वाले एल्गोरिदम ने "एल्गोरिदम भाड़ में जाओ" के बैनर तले खुला विरोध किया। यह विरोध सफल रहा और ग्रेड वापस ले लिए गए।

कार्यान्वयन
एआई कानून और नियमों को तीन मुख्य विषयों में विभाजित किया जा सकता है, अर्थात् स्वायत्त खुफिया प्रणालियों का शासन, सिस्टम के लिए जिम्मेदारी और उत्तरदायित्व, और गोपनीयता और सुरक्षा मुद्दे। एआई के प्रबंधन और विनियमन के लिए सार्वजनिक क्षेत्र की रणनीतियों का विकास स्थानीय, राष्ट्रीय, [26] और अंतर्राष्ट्रीय स्तर और सार्वजनिक सेवा प्रबंधन से कानून प्रवर्तन तक, विभिन्न क्षेत्रों में तेजी से आवश्यक समझा गया है। वित्तीय क्षेत्र, रोबोटिक्स, सेना, और अंतरराष्ट्रीय कानून। कई चिंताएँ हैं कि इन क्षेत्रों में एआई की पर्याप्त दृश्यता और निगरानी नहीं है। वित्तीय क्षेत्र में, उदाहरण के लिए, वित्तीय संस्थानों के गैर-सार्वजनिक डेटा का ऑडिट करते समय उपभोक्ता वित्तीय सुरक्षा ब्यूरो को स्रोत कोड और एल्गोरिदम की अधिक बारीकी से जांच करने के लिए कहा गया है।

संयुक्त राज्य अमेरिका में, 7 जनवरी, 2019 को, 'कृत्रिम बुद्धिमत्ता में अमेरिकी नेतृत्व बनाए रखना' पर एक कार्यकारी आदेश के बाद, व्हाइट हाउस के विज्ञान और प्रौद्योगिकी नीति कार्यालय ने कृत्रिम बुद्धिमत्ता अनुप्रयोगों के नियमन के लिए एक मसौदा मार्गदर्शन जारी किया, जिसमें इसके लिए दस सिद्धांत शामिल हैं। संयुक्त राज्य अमेरिका की एजेंसियां ​​एआई को विनियमित करने या न करने का निर्णय लेती हैं। जवाब में, राष्ट्रीय मानक और प्रौद्योगिकी संस्थान ने एक स्थिति पत्र जारी किया है, कृत्रिम बुद्धिमत्ता पर राष्ट्रीय सुरक्षा आयोग ने एक अंतरिम रिपोर्ट प्रकाशित की है और रक्षा नवाचार बोर्ड ने एआई के नैतिक उपयोग पर सिफारिशें जारी की हैं।

अप्रैल 2016 में, दो दशकों से अधिक समय में पहली बार, यूरोपीय संसद ने व्यक्तिगत जानकारी के संग्रह, भंडारण और उपयोग के लिए व्यापक नियमों का एक सेट अपनाया, सामान्य डेटा संरक्षण विनियमन (जीडीपीआर)1 (यूरोपीय संघ, संसद और परिषद 2016) एल्गोरिथम निर्णयों के लिए स्पष्टीकरण प्राप्त करने के लिए नागरिकों के अधिकार पर जीडीपीआर की नीति एल्गोरिथम डिज़ाइन में मानवीय व्याख्या के अत्यधिक महत्व पर प्रकाश डालती है।

2016 में, चीन ने पूरी तरह से स्वायत्त हथियारों की संभावना को संबोधित करने के लिए सम्मिलित अंतरराष्ट्रीय कानून की पर्याप्तता पर सवाल उठाते हुए एक स्थिति पत्र प्रकाशित किया, इस मुद्दे को उठाने के लिए संयुक्त राष्ट्र सुरक्षा परिषद का पहला स्थायी सदस्य बन गया, और वैश्विक विनियमन के प्रस्तावों की ओर अग्रसर हुआ। संयुक्त राज्य अमेरिका में कृत्रिम बुद्धिमत्ता पर राष्ट्रीय सुरक्षा आयोग द्वारा सुरक्षा संबंधी एआई को विनियमित करने के लिए मार्गदर्शन प्रदान किया जाता है।

2017 में, यूके व्हीकल टेक्नोलॉजी एंड एविएशन बिल एक बिना बीमा वाले स्वचालित वाहन के मालिक पर स्वयं ड्राइविंग करते समय देयता लगाता है और उन मामलों के लिए प्रावधान करता है जहां मालिक ने वाहन में "अनधिकृत परिवर्तन" किया है या अपने सॉफ़्टवेयर को अपडेट करने में विफल रहा है। आगे के नैतिक मुद्दे तब उत्पन्न होते हैं, उदाहरण के लिए, एक चालक रहित कार एक पैदल यात्री से बचने के लिए मुड़ जाती है और एक घातक दुर्घटना का कारण बनती है।

2021 में, यूरोपीय आयोग ने कृत्रिम बुद्धिमत्ता एक्ट का प्रस्ताव रखा।

एल्गोरिथम प्रमाणन
एल्गोरिदम को विनियमित करने की एक विधि के रूप में एल्गोरिदम प्रमाणीकरण की एक अवधारणा उभर रही है। एल्गोरिथम प्रमाणन में ऑडिटिंग शामिल है कि क्या जीवन चक्र 1 के दौरान उपयोग किया गया एल्गोरिथम प्रोटोकॉल की आवश्यकताओं के अनुरूप है (उदाहरण के लिए, शुद्धता, पूर्णता, स्थिरता और सटीकता के लिए); 2) मानकों, प्रथाओं और सम्मेलनों को संतुष्ट करता है; और 3) सही समस्या को हल करता है (उदाहरण के लिए, सही ढंग से मॉडल भौतिक कानून), और परिचालन वातावरण में इच्छित उपयोग और उपयोगकर्ता की जरूरतों को पूरा करता है।

ब्लॉकचैन एल्गोरिदम का विनियमन
ब्लॉकचेन सिस्टम लेन-देन के पारदर्शी और निश्चित रिकॉर्ड प्रदान करते हैं और इसके द्वारा यूरोपीय जीडीपीआर के लक्ष्य का खंडन करते हैं, जो व्यक्तियों को उनके निजी डेटा पर पूर्ण नियंत्रण देना है।

डिजिटल अर्थव्यवस्था के विकास पर डिक्री को लागू करके, बेलोरूस स्मार्ट अनुबंधों को वैध बनाने वाला पहला देश बन गया है। बेलारूसी वकील डेनिस एलेनिकोव को डिक्री द्वारा पेश की गई एक स्मार्ट अनुबंध कानूनी अवधारणा का लेखक माना जाता है।  मजबूत तर्क हैं कि सम्मिलित अमेरिकी राज्य कानून पहले से ही स्मार्ट अनुबंधों की प्रवर्तनीयता के लिए एक ठोस आधार हैं - एरिज़ोना, नेवादा, ओहियो और टेनेसी ने विशेष रूप से ब्लॉकचैन-आधारित अनुबंधों की प्रवर्तनीयता की अनुमति देने के लिए अपने कानूनों में संशोधन किया है।

रोबोट और स्वायत्त एल्गोरिदम का विनियमन
रोबोट और स्वायत्त एल्गोरिदम को विनियमित करने के प्रस्ताव हैं। इसमे शामिल है:


 * दक्षिण कोरियाई सरकार का 2007 में रोबोट एथिक्स चार्टर का प्रस्ताव;
 * पांच नैतिक "डिजाइनरों, बिल्डरों, और रोबोट के उपयोगकर्ताओं के लिए सिद्धांत" के यूके इंजीनियरिंग और भौतिक विज्ञान अनुसंधान परिषद से 2011 का एक प्रस्ताव;
 * एल्गोरिथम पारदर्शिता और जवाबदेही के लिए एसोसिएशन फॉर कंप्यूटिंग मशीनरी के सात सिद्धांत, 2017 में प्रकाशित। <रेफरी नाम = ट्रेलेवन 32–40 />

लोकप्रिय संस्कृति में
1942 में, लेखक इसहाक असिमोव ने रोबोटिक्स के काल्पनिक तीन नियमों को प्रस्तुत करके एल्गोरिदम के नियमन को संबोधित किया: विनियमन का मुख्य विकल्प एक प्रतिबंध है, और एल्गोरिदम पर प्रतिबंध लगाने की वर्तमान में अत्यधिक संभावना नहीं है। हालांकि, फ्रैंक हर्बर्ट के ड्यून (फ्रैंचाइज़) में, दून ब्रह्मांड के संगठन#थिंकिंग मशीन कृत्रिम बुद्धि के लिए एक सामूहिक शब्द है, जिसे बटलर जिहाद के रूप में जाने जाने वाले विद्रोह के बाद पूरी तरह से नष्ट कर दिया गया और प्रतिबंधित कर दिया गया: जिहाद, बटलरियन: (महान विद्रोह भी देखें) - कंप्यूटर, सोचने वाली मशीनों और जागरूक रोबोटों के खिलाफ धर्मयुद्ध 201 ई.पू. और 108 बी.जी. में संपन्न हुआ। इसकी मुख्य आज्ञा ऑरेंज कैथोलिक बाइबिल|ओ.सी. बाइबिल के रूप में आप मानव मन की समानता में एक मशीन नहीं बनाएंगे। 
 * 1) एक रोबोट किसी इंसान को घायल नहीं कर सकता है या निष्क्रियता के माध्यम से एक इंसान को नुकसान पहुंचाने की अनुमति देता है।
 * 2) एक रोबोट को आदेशों का पालन करना चाहिए given it [sic] मनुष्यों द्वारा, सिवाय इसके कि जहां इस तरह के आदेश पहले कानून के साथ संघर्ष करेंगे।
 * 3) एक रोबोट को अपने अस्तित्व की रक्षा तब तक करनी चाहिए जब तक कि इस तरह की सुरक्षा पहले या दूसरे कानून के साथ संघर्ष न करे।

यह भी देखें

 * एल्गोरिथम पारदर्शिता
 * एल्गोरिथम उत्तरदायित्व
 * कृत्रिम बुद्धिमत्ता
 * कृत्रिम बुद्धिमत्ता हथियारों की दौड़
 * सरकार में कृत्रिम बुद्धिमत्ता
 * कृत्रिम बुद्धिमत्ता की नैतिकता
 * एल्गोरिदम द्वारा सरकार
 * गोपनीयता कानून