एल्गोरिदम का विनियमन

एल्गोरिदम का विनियमन, या कलन विधि  विनियमन, विशेष रूप से कृत्रिम बुद्धि और मशीन सीखने में एल्गोरिदम के प्रचार और विनियमन के लिए कानूनों, नियमों और सार्वजनिक क्षेत्र की नीतियों का निर्माण है।   एआई एल्गोरिदम के सबसेट के लिए, आर्टिफिशियल इंटेलिजेंस के नियमन शब्द का उपयोग किया जाता है। आर्टिफिशियल इंटेलिजेंस (एआई) के लिए विनियामक और नीतिगत परिदृश्य यूरोपीय संघ सहित विश्व स्तर पर न्यायालयों में एक उभरता हुआ मुद्दा है। एआई को प्रोत्साहित करने और संबंधित जोखिमों को प्रबंधित करने, लेकिन चुनौतीपूर्ण दोनों के लिए एआई का विनियमन आवश्यक माना जाता है। एक अन्य उभरता हुआ विषय  ब्लॉकचैन  एल्गोरिदम का विनियमन है (स्मार्ट अनुबंधों का उपयोग विनियमित होना चाहिए) और एआई एल्गोरिदम के विनियमन के साथ इसका उल्लेख किया गया है। कई देशों ने उच्च-आवृत्ति व्यापार # विनियमन और प्रवर्तन लागू किया है, जो एआई एल्गोरिदम के दायरे में तकनीकी प्रगति के कारण स्थानांतरित हो रहा है। एल्गोरिदम के नियमन की प्रेरणा एआई नियंत्रण समस्या की आशंका है, जिसका मानव जीवन पर प्रभाव बढ़ता है। स्वचालित क्रेडिट स्कोर गणना के मामले में कई देशों ने पहले ही नियम लागू कर दिए हैं - स्पष्टीकरण का अधिकार उन एल्गोरिदम के लिए अनिवार्य है। उदाहरण के लिए, IEEE ने नैतिक मुद्दों और संभावित भविष्य के उपयोगकर्ताओं के मूल्यों को स्पष्ट रूप से संबोधित करने के लिए एक नया मानक विकसित करना शुरू कर दिया है। आपराधिक न्याय से लेकर विभिन्न डोमेन में एल्गोरिदम के उपयोग के संबंध में पूर्वाग्रह, पारदर्शिता और नैतिकता संबंधी चिंताएं सामने आई हैं रेफरी> स्वास्थ्य सेवा के लिए रेफरी>{{Cite journal|last=Ledford|first=Heidi|date=2019-10-24|title=स्वास्थ्य-देखभाल एल्गोरिदम में नस्लीय पूर्वाग्रह से प्रभावित लाखों काले लोग|url=https://www.nature.com/articles/d41586-019-03228-6|journal=Nature|language=en|volume=574|issue=7780|pages=608–609|doi=10.1038/d41586-019-03228-6|pmid=31664201 |bibcode=2019Natur.574..608L |s2cid=204943000 } —कई लोगों को डर है कि कृत्रिम बुद्धि नस्ल, वर्ग, लिंग और कामुकता के आधार पर मौजूदा सामाजिक असमानताओं को दोहरा सकती है।

सार्वजनिक चर्चा
2016 में, जॉय बूलमविनी ने कला और अनुसंधान के माध्यम से कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों के बारे में जागरूकता बढ़ाने के लिए पक्षपाती चेहरे का पता लगाने वाले सॉफ़्टवेयर के साथ एक व्यक्तिगत अनुभव के बाद एल्गोरिथम जस्टिस लीग की स्थापना की। 2017 में एलोन मस्क ने कृत्रिम सामान्य बुद्धि से अस्तित्वगत जोखिम के संदर्भ में एल्गोरिदम के नियमन की वकालत की।  नेशनल पब्लिक रेडियो के अनुसार, टेस्ला, इंक. के सीईओ स्पष्ट रूप से सरकारी जांच की वकालत करने के लिए रोमांचित नहीं थे जो उनके अपने उद्योग को प्रभावित कर सकता था, लेकिन उनका मानना ​​था कि निरीक्षण के बिना पूरी तरह से जाने का जोखिम बहुत अधिक है: आम तौर पर जिस तरह से नियम स्थापित किए जाते हैं वह है जब बुरी चीजें होती हैं, तो सार्वजनिक आक्रोश होता है, और कई वर्षों के बाद उस उद्योग को विनियमित करने के लिए एक नियामक एजेंसी की स्थापना की जाती है। यह हमेशा के लिए लेता है। वह, अतीत में, बुरा रहा है, लेकिन ऐसा कुछ नहीं है जो सभ्यता के अस्तित्व के लिए एक मौलिक जोखिम का प्रतिनिधित्व करता हो।

जवाब में, कुछ राजनेताओं ने एक ऐसी तकनीक को विनियमित करने के ज्ञान के बारे में संदेह व्यक्त किया जो अभी भी विकास में है। एआई और रोबोटिक्स को विनियमित करने के लिए यूरोपीय संघ के सांसदों द्वारा मस्क और फरवरी 2017 के प्रस्तावों पर प्रतिक्रिया देते हुए, इंटेल के सीईओ ब्रायन क्रज़निच ने तर्क दिया है कि कृत्रिम बुद्धिमत्ता अपनी प्रारंभिक अवस्था में है और यह तकनीक को विनियमित करने के लिए बहुत जल्दी है। प्रौद्योगिकी को स्वयं विनियमित करने की कोशिश करने के बजाय, कुछ विद्वान एल्गोरिदम के परीक्षण और पारदर्शिता के लिए आवश्यकताओं सहित सामान्य मानदंडों को विकसित करने का सुझाव देते हैं, संभवतः कुछ प्रकार की वारंटी के संयोजन में। एआई विकास को विनियमित करने के लिए एक वैश्विक शासन बोर्ड के विकास के लिए एक सुझाव दिया गया है। 2020 में, यूरोपीय संघ ने एआई को बढ़ावा देने और विनियमित करने के लिए अपना मसौदा रणनीति पत्र प्रकाशित किया।

एल्गोरिथम टैसिट मिलीभगत एक कानूनी रूप से संदिग्ध एंटीट्रस्ट अभ्यास है जो एल्गोरिदम के माध्यम से प्रतिबद्ध है, जिस पर अदालतें मुकदमा चलाने में सक्षम नहीं हैं। यह खतरा यूरोपीय संघ, अमेरिका और उससे आगे के वैज्ञानिकों और नियामकों को चिंतित करता है। यूरोपीय आयुक्त मार्गरेट वेस्टेगर ने 16 मार्च, 2017 को एल्गोरिथम और मिलीभगत पर अपने भाषण में एल्गोरिथम टैसिट मिलीभगत के एक प्रारंभिक उदाहरण का उल्लेख किया, जिसका वर्णन इस प्रकार है: कुछ साल पहले, दो कंपनियां द मेकिंग ऑफ अ फ्लाई नामक एक पाठ्यपुस्तक बेच रही थीं। उन विक्रेताओं में से एक ने एक एल्गोरिदम का इस्तेमाल किया जो अनिवार्य रूप से अपने प्रतिद्वंद्वी की कीमत से मेल खाता था। उस प्रतिद्वंद्वी के पास एक एल्गोरिदम था जो हमेशा पहले की तुलना में 27% अधिक कीमत निर्धारित करता था। इसका परिणाम यह हुआ कि कीमतें ऊपर की ओर बढ़ती रहीं, जब तक कि किसी ने यह नहीं देखा कि क्या चल रहा था, और कीमत को मैन्युअल रूप से समायोजित किया। उस समय तक, पुस्तक 23 मिलियन डॉलर प्रति प्रति के लिए बेच रही थी - या बल्कि, नहीं बेच रही थी। 

2018 में, नीदरलैंड ने एक एल्गोरिथम प्रणाली SyRI (सिस्टीम रिसिको इंडिकैटी) को नियोजित किया ताकि नागरिकों का पता लगाया जा सके कि वे कल्याणकारी धोखाधड़ी करने के लिए उच्च जोखिम में हैं, जिसने चुपचाप हजारों लोगों को जांचकर्ताओं को फ़्लैग किया। इससे जनता का विरोध हुआ। हेग की जिला अदालत ने मानव अधिकारों पर यूरोपीय कन्वेंशन (ECHR) के अनुच्छेद 8 का संदर्भ देते हुए SyRI को बंद कर दिया। 2020 में, यूके में छात्रों को परीक्षा ग्रेड प्रदान करने वाले एल्गोरिदम ने एल्गोरिथम भाड़ में जाओ के बैनर तले खुले विरोध को जन्म दिया। यह विरोध सफल रहा और ग्रेड वापस ले लिए गए।

कार्यान्वयन
एआई कानून और विनियमों को तीन मुख्य विषयों में विभाजित किया जा सकता है, अर्थात् स्वायत्त खुफिया प्रणालियों का शासन, सिस्टम के लिए जिम्मेदारी और उत्तरदायित्व, और गोपनीयता और सुरक्षा मुद्दे। एआई के प्रबंधन और विनियमन के लिए सार्वजनिक क्षेत्र की रणनीतियों का विकास स्थानीय, राष्ट्रीय स्तर पर तेजी से आवश्यक समझा गया है। और अंतरराष्ट्रीय स्तर और विभिन्न क्षेत्रों में, लोक सेवा प्रबंधन से कानून प्रवर्तन के लिए, वित्तीय क्षेत्र, रोबोटिक्स, फौज, और अंतरराष्ट्रीय कानून। कई चिंताएँ हैं कि इन क्षेत्रों में एआई की पर्याप्त दृश्यता और निगरानी नहीं है। वित्तीय क्षेत्र में, उदाहरण के लिए, वित्तीय संस्थानों के गैर-सार्वजनिक डेटा के ऑडिट आयोजित करते समय उपभोक्ता वित्तीय संरक्षण ब्यूरो को स्रोत कोड और एल्गोरिदम की अधिक बारीकी से जांच करने के लिए कॉल किया गया है। संयुक्त राज्य अमेरिका में, 7 जनवरी, 2019 को, 'आर्टिफिशियल इंटेलिजेंस में अमेरिकी नेतृत्व बनाए रखना' पर एक कार्यकारी आदेश के बाद, व्हाइट हाउस के विज्ञान और प्रौद्योगिकी नीति कार्यालय ने आर्टिफिशियल इंटेलिजेंस अनुप्रयोगों के नियमन के लिए एक मसौदा मार्गदर्शन जारी किया, जिसमें इसके लिए दस सिद्धांत शामिल हैं। संयुक्त राज्य अमेरिका की एजेंसियां ​​एआई को विनियमित करने के लिए और कैसे तय करती हैं। जवाब में, राष्ट्रीय मानक और प्रौद्योगिकी संस्थान ने एक स्थिति पत्र जारी किया है, आर्टिफिशियल इंटेलिजेंस पर राष्ट्रीय सुरक्षा आयोग ने एक अंतरिम रिपोर्ट प्रकाशित की है, और डिफेंस इनोवेशन बोर्ड ने एआई के नैतिक उपयोग पर सिफारिशें जारी की हैं। अप्रैल 2016 में, दो दशकों से अधिक समय में पहली बार, यूरोपीय संसद ने व्यक्तिगत जानकारी के संग्रह, भंडारण और उपयोग के लिए व्यापक नियमों का एक सेट अपनाया, सामान्य डेटा संरक्षण विनियमन (GDPR)1 (यूरोपीय संघ, संसद और परिषद 2016)। [6] एल्गोरिथम निर्णयों के लिए स्पष्टीकरण प्राप्त करने के लिए नागरिकों के अधिकार पर GDPR की नीति एल्गोरिथम डिज़ाइन में मानव व्याख्या के दबाव के महत्व पर प्रकाश डालती है। 2016 में, चीन ने घातक स्वायत्त हथियार की संभावना को संबोधित करने के लिए मौजूदा अंतरराष्ट्रीय कानून की पर्याप्तता पर सवाल उठाते हुए एक स्थिति पत्र प्रकाशित किया, इस मुद्दे को उठाने के लिए संयुक्त राष्ट्र सुरक्षा परिषद का पहला स्थायी सदस्य बन गया, और आर्टिफिशियल इंटेलिजेंस हथियारों की दौड़ के लिए अग्रणी। संयुक्त राज्य अमेरिका में, आर्टिफिशियल इंटेलिजेंस पर राष्ट्रीय सुरक्षा आयोग द्वारा सुरक्षा संबंधी एआई को विनियमित करने पर मार्गदर्शन प्रदान किया जाता है। 2017 में, यूके व्हीकल टेक्नोलॉजी एंड एविएशन बिल एक बिना बीमा वाले स्वचालित वाहन के मालिक पर स्वयं ड्राइविंग करते समय देयता लगाता है और उन मामलों के लिए प्रावधान करता है जहां मालिक ने वाहन में "अनधिकृत परिवर्तन" किया है या अपने सॉफ़्टवेयर को अपडेट करने में विफल रहा है। आगे के नैतिक मुद्दे तब उत्पन्न होते हैं, जब, उदाहरण के लिए, एक चालक रहित कार एक पैदल यात्री से बचने के लिए तैरती है और एक घातक दुर्घटना का कारण बनती है। 2021 में, यूरोपीय आयोग ने आर्टिफिशियल इंटेलिजेंस एक्ट का प्रस्ताव रखा।

एल्गोरिथम प्रमाणन
एल्गोरिदम को विनियमित करने की एक विधि के रूप में एल्गोरिदम प्रमाणीकरण की एक अवधारणा उभर रही है। एल्गोरिथम प्रमाणन में ऑडिटिंग शामिल है कि क्या जीवन चक्र 1 के दौरान उपयोग किया गया एल्गोरिथम प्रोटोकॉल की आवश्यकताओं के अनुरूप है (उदाहरण के लिए, शुद्धता, पूर्णता, स्थिरता और सटीकता के लिए); 2) मानकों, प्रथाओं और सम्मेलनों को संतुष्ट करता है; और 3) सही समस्या को हल करता है (उदाहरण के लिए, सही ढंग से मॉडल भौतिक कानून), और परिचालन वातावरण में इच्छित उपयोग और उपयोगकर्ता की जरूरतों को पूरा करता है।

ब्लॉकचैन एल्गोरिदम का विनियमन
ब्लॉकचेन सिस्टम लेन-देन के पारदर्शी और निश्चित रिकॉर्ड प्रदान करते हैं और इसके द्वारा यूरोपीय GDPR के लक्ष्य का खंडन करते हैं, जो व्यक्तियों को उनके निजी डेटा पर पूर्ण नियंत्रण देना है। डिजिटल अर्थव्यवस्था के विकास पर डिक्री को लागू करके, बेलोरूस स्मार्ट अनुबंधों को वैध बनाने वाला पहला देश बन गया है। बेलारूसी वकील डेनिस एलेनिकोव को डिक्री द्वारा पेश की गई एक स्मार्ट अनुबंध कानूनी अवधारणा का लेखक माना जाता है।  मजबूत तर्क हैं कि मौजूदा अमेरिकी राज्य कानून पहले से ही स्मार्ट अनुबंधों की प्रवर्तनीयता के लिए एक ठोस आधार हैं -  एरिज़ोना, नेवादा, ओहियो और टेनेसी ने विशेष रूप से ब्लॉकचेन-आधारित अनुबंधों की प्रवर्तनीयता की अनुमति देने के लिए अपने कानूनों में संशोधन किया है।

रोबोट और स्वायत्त एल्गोरिदम का विनियमन
रोबोट और स्वायत्त एल्गोरिदम को विनियमित करने के प्रस्ताव हैं। इसमे शामिल है:


 * दक्षिण कोरियाई सरकार का 2007 में रोबोट एथिक्स चार्टर का प्रस्ताव;
 * पांच नैतिक "डिजाइनरों, बिल्डरों, और रोबोट के उपयोगकर्ताओं के लिए सिद्धांत" के यूके इंजीनियरिंग और भौतिक विज्ञान अनुसंधान परिषद से 2011 का एक प्रस्ताव;
 * एल्गोरिथम पारदर्शिता और जवाबदेही के लिए एसोसिएशन फॉर कंप्यूटिंग मशीनरी के सात सिद्धांत, 2017 में प्रकाशित। <रेफरी नाम = ट्रेलेवन 32–40 />

लोकप्रिय संस्कृति में
1942 में, लेखक इसहाक असिमोव ने रोबोटिक्स के काल्पनिक तीन नियमों को प्रस्तुत करके एल्गोरिदम के नियमन को संबोधित किया: विनियमन का मुख्य विकल्प एक प्रतिबंध है, और एल्गोरिदम पर प्रतिबंध लगाने की वर्तमान में अत्यधिक संभावना नहीं है। हालांकि, फ्रैंक हर्बर्ट के ड्यून (फ्रैंचाइज़) में, दून ब्रह्मांड के संगठन#थिंकिंग मशीन कृत्रिम बुद्धि के लिए एक सामूहिक शब्द है, जिसे बटलर जिहाद के रूप में जाने जाने वाले विद्रोह के बाद पूरी तरह से नष्ट कर दिया गया और प्रतिबंधित कर दिया गया: जिहाद, बटलरियन: (महान विद्रोह भी देखें) - कंप्यूटर, सोचने वाली मशीनों और जागरूक रोबोटों के खिलाफ धर्मयुद्ध 201 ई.पू. और 108 बी.जी. में संपन्न हुआ। इसकी मुख्य आज्ञा ऑरेंज कैथोलिक बाइबिल|ओ.सी. बाइबिल के रूप में आप मानव मन की समानता में एक मशीन नहीं बनाएंगे। 
 * 1) एक रोबोट किसी इंसान को घायल नहीं कर सकता है या निष्क्रियता के माध्यम से एक इंसान को नुकसान पहुंचाने की अनुमति देता है।
 * 2) एक रोबोट को आदेशों का पालन करना चाहिए given it [sic] मनुष्यों द्वारा, सिवाय इसके कि जहां इस तरह के आदेश पहले कानून के साथ संघर्ष करेंगे।
 * 3) एक रोबोट को अपने अस्तित्व की रक्षा तब तक करनी चाहिए जब तक कि इस तरह की सुरक्षा पहले या दूसरे कानून के साथ संघर्ष न करे।

यह भी देखें

 * एल्गोरिथम पारदर्शिता
 * एल्गोरिथम जवाबदेही
 * कृत्रिम होशियारी
 * आर्टिफिशियल इंटेलिजेंस हथियारों की दौड़
 * सरकार में कृत्रिम बुद्धि
 * कृत्रिम बुद्धि की नैतिकता
 * एल्गोरिदम द्वारा सरकार
 * गोपनीयता कानून