एल्गोरिदम का विनियमन

एल्गोरिदम का विनियमन या एल्गोरिथम विनियमन, विशेष रूप से कृत्रिम बुद्धिमत्ता और यंत्र शिक्षण में एल्गोरिदम के प्रचार और विनियमन के लिए नियमों और सार्वजनिक क्षेत्र की नीतियों का निर्माण है।  एआई एल्गोरिदम के उपसमुदाय के लिए, कृत्रिम बुद्धिमत्ता के विनियमन शब्द का उपयोग किया जाता है। कृत्रिम बुद्धिमत्ता (एआई) के लिए नियामक और नीतिगत परिदृश्य यूरोपीय संघ सहित वैश्विक स्तर पर न्यायालयों में एक विकसित समस्या है। एआई को प्रोत्साहित करने और संबद्ध जोखिमों को प्रबंधित करने या चुनौतीपूर्ण दोनों के लिए एआई का विनियमन आवश्यक माना जाता है। एक अन्य विकसित विषय ब्लॉकचेन एल्गोरिदम का विनियमन है। विकसित अनुबंधों का उपयोग विनियमित और एआई एल्गोरिदम के विनियमन के साथ इसका उल्लेख किया गया है। कई देशों ने उच्च आवृत्ति व्यापार के नियम बनाए हैं, जो एआई एल्गोरिदम की स्थिति में तकनीकी प्रगति के कारण स्थानांतरित हो रहे हैं।

एल्गोरिदम के विनियमन की प्रेरणा एल्गोरिदम पर नियंत्रण खोने की आशंका है, जिसका प्रभाव मानव जीवन पर बढ़ता है। स्वचालित क्रेडिट प्राप्तांक गणना की स्थिति में कई देशों ने पहले ही नियम प्रयुक्त कर दिए हैं जिनके स्पष्टीकरण का अधिकार उन एल्गोरिदम के लिए अनिवार्य है। उदाहरण के लिए इलेक्ट्रिकल और इलेक्ट्रॉनिक इंजीनियरिंग संस्थान ने नैतिक नियमों और संभावित भविष्य के उपयोगकर्ताओं के मूल्यों को स्पष्ट रूप से संबोधित करने के लिए एक नया मानक विकसित करना प्रारम्भ कर दिया है। आपराधिक न्याय से लेकर स्वास्थ्य सर्वेक्षण तक विविध डोमेन में एल्गोरिदम के उपयोग के संबंध में पूर्वाग्रह, पारदर्शिता और नैतिकता संबंधी चिंताएँ विकसित होकर सामने आई हैं। कई लोगों को डर है कि कृत्रिम बुद्धिमत्ता जाति, वर्ग, लिंग और लैंगिकता के साथ सम्मिलित सामाजिक असमानताओं को दोहरा सकती है।

सार्वजनिक चर्चा
2016 में जॉय बूलमविनी ने कला और अनुसंधान के माध्यम से कृत्रिम बुद्धिमत्ता के सामाजिक निहितार्थों के विषय में जागरूकता बढ़ाने के लिए पक्षपातपूर्ण पहचान का पता लगाने वाले सॉफ़्टवेयर के साथ एक व्यक्तिगत अनुभव के बाद एल्गोरिथम जस्टिस लीग की स्थापना की। 2017 में एलोन मस्क ने कृत्रिम सामान्य बुद्धिमत्ता से अस्तित्वगत जोखिम के संदर्भ में एल्गोरिदम के नियमन की जांच किया।  एनपीआर के अनुसार, टेस्ला के सीईओ सरकारी जांच करने के लिए "स्पष्ट रूप से रोमांचित नहीं थे" जो उनके अपने उद्योग को प्रभावित कर सकता था, लेकिन उनका मानना ​​​​था कि बिना निरीक्षण के पूरी तरह से जाने का जोखिम बहुत अधिक है। सामान्यतः इस प्रकार के नियम स्थापित किए जाते हैं, जब एक वस्तु बहुत अस्पष्ट होती हैं या एक सार्वजनिक रूप से आक्रोश होती है और कई वर्षों के बाद उस उद्योग को विनियमित करने के लिए एक नियामक संस्था की स्थापना की गई है। इसमें यह सदैव के लिए प्रयुक्त हो जाता है। यह अतीत में अस्पष्ट रहा है लेकिन ऐसा कुछ नहीं है जो अस्तित्व के लिए एक मौलिक जोखिम का प्रतिनिधित्व करता है।

राजनीतिक कार्यकर्ताओं ने एक ऐसी तकनीक को विनियमित करने के ज्ञान के विषय में संदेह व्यक्त किया जो अभी भी विकास में है। एआई और रोबोटिक को विनियमित करने के लिए यूरोपीय संघ के सांसदों द्वारा मस्क और फरवरी 2017 के प्रस्तावों पर प्रतिक्रिया देते हुए, इंटेल के सीईओ ब्रायन क्रज़ानिच ने तर्क दिया है कि कृत्रिम बुद्धिमत्ता अपनी प्रारंभिक अवस्था में है और यह तकनीक को विनियमित करने के लिए बहुत सक्षम है। प्रौद्योगिकी को विनियमित करने की कोशिश करने के अतिरिक्त कुछ विद्वान एल्गोरिदम के परीक्षण और पारदर्शिता के लिए आवश्यकताओं सहित सामान्य मानदंडों को विकसित करने का सुझाव देते हैं, संभवतः कुछ प्रकार के दायित्व के संयोजन में एआई विकास को विनियमित करने के लिए एक वैश्विक शासन बोर्ड के विकास के लिए एक सुझाव दिया गया है। 2020 में यूरोपीय संघ ने एआई को बढ़ावा देने और विनियमित करने के लिए अपना एक योजना पत्र प्रकाशित किया है।

एल्गोरिथम निहित नियमों रूप से संदिग्ध अविश्वास अभ्यास है जो एल्गोरिदम के माध्यम से किया जाता है, जिस पर न्यायालय मुकदमा चलाने में सक्षम नहीं हैं। यह जिखिम यूरोपीय संघ, अमेरिका और उससे आगे के वैज्ञानिकों और नियामकों को चिंतित करता है। यूरोपीय आयुक्त मार्गरेट वेस्टेगर ने 16 मार्च 2017 को "एल्गोरिदम और निहित नियम" पर अपने भाषण में एल्गोरिथम निहित नियमों के एक प्रारंभिक उदाहरण का उल्लेख किया है जिसका वर्णन इस प्रकार है:

कुछ वर्षों पहले दो संस्थाएं द मेकिंग ऑफ ए फ्लाई नामक एक पाठ्यपुस्तक बेच रही थीं। उन विक्रेताओं में से एक ने एक एल्गोरिदम का उपयोग किया जो अनिवार्य रूप से अपने प्रतियोगी की कीमत के अनुरूप था। उस प्रतियोगी के पास एक एल्गोरिदम था जो पहले की तुलना में 27% अधिक कीमत निर्धारित करता था। इसका परिणाम यह हुआ कि कीमतें ऊपर की ओर बढ़ती रहीं, जब तक कि अंत में किसी ने यह नहीं देखा कि क्या चल रहा था और कीमत को मैन्युअल रूप से समायोजित किया था। उस समय तक पुस्तक 23 मिलियन डॉलर मे बिक रही थी।

2018 में नीदरलैंड्स ने एक एल्गोरिथम प्रणाली सीरिया (प्रणाली रिसिको संकेतक) को नियोजित किया ताकि नागरिकों का पता लगाया जा सके कि वे कल्याणकारी अपराध करने के लिए उच्च जोखिम में हैं, जिसने शांतिपूर्वक हजारों लोगों को जांचकर्ताओं के पास भेजा है। इससे जनता का विरोध हुआ। हेग की जिला न्यायालय ने मानव अधिकारों पर यूरोपीय अधिवेशन (ईसीएचआर) के अनुच्छेद 8 का प्रमाण देते हुए एसवाईआरआई को स्थगित कर दिया था।

2020 में यूके में छात्रों को परीक्षा ग्रेड प्रदान करने वाले एल्गोरिदम ने इस धारणा का विरोध किया था। लेकिन यह विरोध सफल रहा और ग्रेड वापस ले लिए गए थे।

कार्यान्वयन
एआई नियम और अधिनियम को तीन मुख्य विषयों में अर्थात् स्वायत्त बुद्धिमत्ता प्रणालियों का शासन, प्रणाली के लिए उत्तरदायित्व और गोपनीयता की सुरक्षा समस्या मे विभाजित किया जा सकता है। एआई के प्रबंधन और विनियमन के लिए सार्वजनिक क्षेत्र की योजनाओं का विकास स्थानीय राष्ट्रीय और अंतर्राष्ट्रीय स्तर और सार्वजनिक सेवा प्रबंधन से विनियमन प्रवर्तन तक विभिन्न क्षेत्रों में आवश्यक समझा गया है। वित्तीय क्षेत्र, रोबोटिक्स, सेना, और अंतरराष्ट्रीय नियम की कई चिंताएँ हैं कि इन क्षेत्रों में एआई की पर्याप्त दृश्यता और सर्वेक्षण नहीं है। वित्तीय क्षेत्र में उदाहरण के लिए, वित्तीय संस्थानों के गैर-सार्वजनिक डेटा का संरक्षण करते समय उपभोक्ता वित्तीय सुरक्षा ब्यूरो को स्रोत कोड और एल्गोरिदम की अधिक सूक्ष्मता से जांच करने के लिए कहा गया है।

संयुक्त राज्य अमेरिका में 7 जनवरी 2019 को कृत्रिम बुद्धिमत्ता में अमेरिकी नेतृत्व बनाए रखने पर एक कार्यकारी आदेश के बाद व्हाइट हाउस के विज्ञान और प्रौद्योगिकी नीति कार्यालय ने कृत्रिम बुद्धिमत्ता अनुप्रयोगों के विनियमन के लिए एक अधिनियम मार्गदर्शन प्रस्तुत किया है। जिसमें इसके लिए दस सिद्धांत सम्मिलित हैं। संयुक्त राज्य अमेरिका की संस्था ​​एआई को विनियमित करने या न करने का निर्णय लेती हैं। जवाब में राष्ट्रीय मानक और प्रौद्योगिकी संस्थान ने एक स्थिति पत्र प्रस्तुत किया है। कृत्रिम बुद्धिमत्ता पर राष्ट्रीय सुरक्षा आयोग ने एक अंतरिम रिपोर्ट प्रकाशित की है और रक्षा नवीनीकरण बोर्ड ने एआई के नैतिक उपयोग पर अनुशंसा प्रस्तुत की है।

अप्रैल 2016 में दो दशकों से अधिक समय में पहली बार यूरोपीय संसद ने व्यक्तिगत जानकारी के संग्रह भंडारण और उपयोग के लिए व्यापक नियमों के एक समूह को स्वीकृत किया है। सामान्य डेटा संरक्षण विनियमन जीडीपीआर-1 (यूरोपीय संघ, संसद और परिषद 2016) एल्गोरिथम निर्णयों के लिए या स्पष्टीकरण प्राप्त करने के लिए नागरिकों के अधिकार पर जीडीपीआर की नीति एल्गोरिथम डिज़ाइन में मानवीय व्याख्या के अत्यधिक महत्व पर प्रकाश डालती है।

2016 में चीन ने पूरी तरह से स्वायत्त बुद्धिमत्ता की संभावना को संबोधित करने के लिए सम्मिलित अंतर्राष्ट्रीय नियम की पर्याप्तता पर सवाल उठाते हुए एक स्थिति पत्र प्रकाशित किया है। इस समस्या को हल करने के लिए यह संयुक्त राष्ट्र सुरक्षा परिषद का पहला स्थायी सदस्य बन गया है और वैश्विक विनियमन के प्रस्तावों की ओर अग्रसर हुआ है। संयुक्त राज्य अमेरिका में कृत्रिम बुद्धिमत्ता पर राष्ट्रीय सुरक्षा आयोग द्वारा सुरक्षा संबंधी एआई को विनियमित करने के लिए मार्गदर्शन प्रदान किया जाता है।

2017 में यूके व्हीकल टेक्नोलॉजी और विमानन बिल एक बिना बीमा वाले स्वचालित वाहन के मालिक पर स्वयं परिचालन करते समय कर लगता है और उन स्थितियों के लिए प्रावधान करता है जहां मालिक ने वाहन में "अनधिकृत परिवर्तन" किया है या अपने सॉफ़्टवेयर को अपडेट करने में विफल रहा है। आगे नैतिक समस्या तब उत्पन्न होती हैं जब उदाहरण के लिए एक स्वचालित कार एक पैदल यात्री से बचने के लिए चलती है और एक घातक दुर्घटना का कारण बनती है। 2021 में यूरोपीय आयोग ने कृत्रिम बुद्धिमत्ता अधिवेशन का प्रस्ताव रखा था।

एल्गोरिथम प्रमाणन
एल्गोरिदम को विनियमित करने की एक विधि के रूप में एल्गोरिदम प्रमाणीकरण की एक अवधारणा विकसित हो रही है। एल्गोरिथम प्रमाणन में ऑडिटिंग सम्मिलित है कि क्या जीवन चक्र 1 के समय उपयोग किया गया एल्गोरिथम प्रोटोकॉल की आवश्यकताओं के अनुरूप है। उदाहरण के लिए शुद्धता, पूर्णता, स्थिरता के लिए मानकों, प्रथाओं और सम्मेलनों को संतुष्ट करता है। और सही समस्या को हल करता है उदाहरण के लिए सही रूप से मॉडल भौतिक नियम और परिचालन वातावरण में इच्छित उपयोग और उपयोगकर्ता की आवश्यकताओ को पूरा करता है।

ब्लॉकचैन एल्गोरिदम का विनियमन
ब्लॉकचेन प्रणाली लेन-देन के पारदर्शी और निश्चित रिकॉर्ड प्रदान करती हैं और इसके द्वारा यूरोपीय जीडीपीआर के लक्ष्य का खंडन करती हैं जो व्यक्तियों को उनके निजी डेटा पर पूर्ण नियंत्रण देना है।

डिजिटल अर्थव्यवस्था के विकास पर डिक्री को प्रयुक्त करके बेलोरूस स्मार्ट अनुबंधों को वैध बनाने वाला पहला देश बन गया है। बेलारूसी वकील डेनिस एलेनिकोव को डिक्री द्वारा प्रस्तुत की गई एक स्मार्ट अनुबंध नियम अवधारणा का लेखक माना जाता है।  जिंका तर्क यह है कि सम्मिलित अमेरिकी राज्य विनियमन पहले से ही स्मार्ट अनुबंधों की प्रवर्तनीयता के लिए एक ठोस आधार हैं। एरिज़ोना, नेवादा, ओहियो और टेनेसी ने विशेष रूप से ब्लॉकचैन-आधारित अनुबंधों की प्रवर्तनीयता की स्वीकृति देने के लिए अपने विनियमों में संशोधन किया है।

रोबोट और स्वायत्त एल्गोरिदम का विनियमन
रोबोट और स्वायत्त एल्गोरिदम को विनियमित करने के कई प्रस्ताव हैं। इसमे कुछ निम्नलिखित सम्मिलित है:


 * दक्षिण कोरियाई सरकार का 2007 में रोबोट एथिक्स चार्टर का प्रस्ताव।
 * पांच नैतिक "डिजाइनरों, निर्माताओं और रोबोट के उपयोगकर्ताओं के लिए सिद्धांत" के यूके इंजीनियरिंग और भौतिक विज्ञान अनुसंधान परिषद से 2011 का प्रस्ताव।
 * एल्गोरिथम पारदर्शिता और उत्तरदायित्व के लिए कंप्यूटिंग मशीनरी संगठन के सात सिद्धांत 2017 में प्रकाशित हुए।

लोकप्रिय संस्कृति में
1942 में लेखक इसहाक असिमोव ने रोबोटिक्स के काल्पनिक तीन नियमों को प्रस्तुत करके एल्गोरिदम के विनियमन को संबोधित किया है: विनियमन का मुख्य विकल्प एक प्रतिबंध है और एल्गोरिदम पर प्रतिबंध लगाने की वर्तमान में अत्यधिक संभावना नहीं है। हालांकि, फ्रैंक हर्बर्ट के ड्यून ब्रह्मांड में, यंत्र शिक्षण कृत्रिम बुद्धिमत्ता के लिए एक सामूहिक शब्द है, जिसे बटलरियन जिहाद के रूप में जाने वाले विद्रोह के बाद पूरी तरह से नष्ट कर दिया गया और प्रतिबंधित कर दिया गया है।
 * 1) रोबोट किसी इंसान को घायल नहीं कर सकता है या निष्क्रियता के माध्यम से एक इंसान को हानि पहुंचाने की स्वीकृति देता है।
 * 2) रोबोट को मनुष्यों द्वारा दिए गए अनुक्रमों का अनुसरण करना चाहिए लेकिन उन स्थितियों के जहां ऐसे अनुक्रम पहले नियम के साथ संघर्ष करते हैं।
 * 3) रोबोट को अपने अस्तित्व की रक्षा तब तक करनी चाहिए जब तक कि इस प्रकार की सुरक्षा पहले या दूसरे अनुक्रम के साथ संघर्ष न करे।

बटलरियन जिहाद, (महान विद्रोह भी देखें) - कंप्यूटर, यंत्र शिक्षण और जागरूक रोबोटों के विरुद्ध धर्मयुद्ध 201 बीजी और 108 बीजी में संपन्न हुआ। इसका मुख्य अनुक्रम ओ.सी में बना हुआ है। बाइबिल के रूप में आप मानव मन की समानता में एक मशीन नहीं बना सकते हैं।

यह भी देखें

 * एल्गोरिथम पारदर्शिता
 * एल्गोरिथम उत्तरदायित्व
 * कृत्रिम बुद्धिमत्ता
 * कृत्रिम बुद्धिमत्ता शस्त्रीकरण
 * सरकार में कृत्रिम बुद्धिमत्ता
 * कृत्रिम बुद्धिमत्ता की नैतिकता
 * सरकार द्वारा एल्गोरिदम
 * गोपनीय नियम