स्वचालित निर्णय-निर्धारण

From Vigyanwiki

स्वचालित निर्णय-निर्धारण (एडीएम) में मानव निरीक्षण के अलग-अलग परिमाण के साथ सार्वजनिक प्रशासन, व्यवसाय, स्वास्थ्य, शिक्षा, नियम, रोजगार, परिवहन, मीडिया और मनोरंजन या हस्तक्षेप सहित कई संदर्भों में निर्णय लेने के लिए डेटा मशीनों और एल्गोरिदम का उपयोग सम्मिलित है। एडीएम में डेटाबेस, टेक्स्ट, सोशल मीडिया, संवेदक, छवि या भाषण जैसे कई स्रोतों से बड़े पैमाने पर आँकड़ा सम्मिलित होता है, जिसे कंप्यूटर सॉफ्टवेयर, एल्गोरिदम, मशीन लर्निंग, प्राकृतिक भाषा प्रसंस्करण, कृत्रिम बुद्धिमत्ता, गुप्त और रोबोटिक सहित विभिन्न तकनीकों का उपयोग करके संसाधित किया जाता है। कई संदर्भों में स्वचालित निर्णय निर्धारण प्रणालियों (एडीएमएस) का बढ़ता उपयोग मानव समाज के लिए तकनीकी नियम, नैतिक, सामाजिक, शैक्षिक, आर्थिक और स्वास्थ्य परिणामों पर विचार करने के लिए कई लाभ और चुनौतियों को प्रस्तुत करता है।[1][2][3]

संक्षिप्त विवरण

स्वचालन स्तर के आधार पर एडीएम की विभिन्न परिभाषाएँ हैं। कुछ परिभाषाओं से पता चलता है कि एडीएम में मानव इनपुट के अतिरिक्त विशुद्ध रूप से तकनीकी साधनों के माध्यम से किए गए निर्णय जैसे कि यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (अनुच्छेद 22) सम्मिलित हैं।[4] हालांकि एडीएम प्रौद्योगिकी और अनुप्रयोग निर्णय समर्थन प्रणाली से लेकर कई रूप ले सकते हैं जो मानव निर्णय-निर्माताओं को प्रतिकृया करने के लिए प्रयास करते हैं, जिन्हें कभी-कभी संवर्धित बुद्धिमत्ता या 'साझा निर्णय निर्धारण' के रूप में जाना जाता है, पूरी तरह से स्वचालित निर्णय निर्धारण की प्रक्रिया जो मानव साझेदारी के अतिरिक्त व्यक्तियों या संगठनों की ओर से निर्णय लेती है।[5] स्वचालित निर्णय निर्धारण वाली प्रणालियों में उपयोग किए जाने वाले मॉडल कृत्रिम बुद्धि और कृत्रिम तंत्रिका नेटवर्क (डीएनएन) के माध्यम से जांच सूची और निर्णय निर्धारण के रूप में सरल हो सकते हैं।

1950 के दशक के बाद से कंप्यूटर जटिल, अस्पष्ट और अत्यधिक कुशल कार्यों जैसे छवि और भाषण मान्यता, खेल, वैज्ञानिक चिकित्सा विश्लेषण और कई डेटा स्रोतों में अनुमान लगाने की क्षमता रखने के लिए आधारिक प्रसंस्करण करने में सक्षम होने से चले गए हैं। एडीएम समाज के सभी क्षेत्रों और मनोरंजन से लेकर परिवहन तक कई विविध डोमेन को तीव्रता से निर्मित किया जा रहा है। एडीएम प्रणाली (एडीएमएस) में कई निर्णय बिंदु, आँकड़ा समूह और प्रौद्योगिकियाँ (एडीएमटी) सम्मिलित हो सकती हैं और एक बड़ी प्रशासनिक या तकनीकी प्रणाली को आपराधिक न्याय प्रणालियों या व्यावसायिक प्रक्रिया के भीतर प्रयुक्त की जा सकता हैं।

डेटा

स्वचालित निर्णय निर्धारण में एक इनपुट के रूप में डेटा का उपयोग या तो एक प्रक्रिया मॉडल या एल्गोरिथ्म के भीतर या नए मॉडल सीखने और उत्पन्न करने के लिए किया जाता है।[6] एडीएम प्रणालियाँ सिस्टम के लक्ष्यों और संदर्भों के आधार पर डेटा प्रकारों और स्रोतों की एक विस्तृत श्रृंखला का उपयोग और संबद्ध कर सकती हैं, उदाहरण के लिए स्वचालित कारों और रोबोटिक के लिए संवेदक डेटा, सुरक्षा प्रणालियों के लिए डेटा पहचान, सार्वजनिक प्रशासन के लिए जनसांख्यिकीय और वित्तीय डेटा, स्वास्थ्य में चिकित्सा रिकॉर्ड में आपराधिक डेटा सम्मिलित है। इसमें कभी-कभी बड़ी मात्रा में डेटा और कंप्यूटिंग क्षमता सम्मिलित हो सकती है।

डेटा गुणवत्ता

एडीएम सिस्टम में उपलब्ध और उपयोग किए जाने योग्य डेटा की गुणवत्ता परिणामों के लिए मौलिक है और कई कारणों से प्रायः अत्यधिक समस्याग्रस्त होती है। डेटा समूह प्रायः अत्यधिक परिवर्तनशील होते हैं, बड़े पैमाने पर डेटा को निगमों या सरकारों द्वारा गोपनीयता या सुरक्षा कारणों से प्रतिबंधित, अपूर्ण, पूर्वाग्रहित, समय या प्रसारण क्षेत्र की स्थिति में सीमित विभिन्न तरीकों से शर्तों को मापने, वर्णन करने या कई अन्य कारणों से नियंत्रित किया जा सकता है।

मशीनों को डेटा से सीखने के लिए प्रायः अधिक पुस्तक संग्रह की आवश्यकता होती है जिसे प्राप्त करना या गणना करना जटिल हो सकता है। हालांकि जहां उपलब्ध है वहां छाती के एक्स-रे के निदान में उदाहरण के लिए महत्वपूर्ण सफलताएं प्रदान की गई हैं।[7]

एडीएम प्रौद्योगिकी

स्वचालित निर्णय निर्धारण वाली एडीएम प्रौद्योगिकी सॉफ्टवेयर-कोडित डिजिटल प्रणाली हैं जो स्वचालित निर्णय निर्धारण वाली प्रणालियों के कार्य में योगदान करते हुए इनपुट डेटा को आउटपुट डेटा में अनुवाद को स्वचालित करती हैं।[6] एडीएम अनुप्रयोगों और प्रणालियों में उपयोग की जाने वाली तकनीकों की एक विस्तृत श्रृंखला है।

एडीएम प्रौद्योगिकी में निम्नलिखित आधारिक कम्प्यूटेशनल संचालन सम्मिलित हैं:

  • खोज (1-2-1, 1-2, डेटा सहसंबंधन या संयोजन)
  • सहसंबंधन (दो अलग-अलग वस्तुएं)
  • गणितीय गणना (सूत्र)

मूल्यांकन और समूहीकरण के लिए एडीएमटी एडीएम प्रौद्योगिकी

अंतरिक्ष और प्रवाह से संबंधित एडीएम प्रौद्योगिकी

  • सामाजिक नेटवर्क विश्लेषण
  • मानचित्रण
  • परिसंचरण

जटिल डेटा स्वरूपों के प्रसंस्करण के लिए एडीएम प्रौद्योगिकी

अन्य एडीएम प्रौद्योगिकियां:

मशीन लर्निंग (यंत्र शिक्षण)

Main article: मशीन लर्निंग

मशीन लर्निंग (एमएल) में अनुभव से सीखने और समस्याओं को हल करने के लिए बड़े डेटा समूह और उदाहरणों के माध्यम से कंप्यूटर प्रोग्राम का प्रशिक्षण सम्मिलित है।[2] मशीन लर्निंग का उपयोग डेटा उत्पन्न करने और उसका विश्लेषण करने के साथ-साथ एल्गोरिथम की गणना करने के लिए किया जा सकता है। छवि और वाक् पहचान, अनुवाद, टेक्स्ट, डेटा और अनुरूपण पर प्रायुक्त किया गया है। जबकि मशीन लर्निंग कुछ समय के लिए आसपास रहा है। यह तंत्रिका नेटवर्क (डीएनएन) के प्रशिक्षण में हाल की सफलताओं के कारण तीव्रता से शक्तिशाली होता जा रहा है और जीपीयू सहसंसाधक और क्लाउड कंप्यूटिंग के साथ डेटा भंडारण क्षमता और कम्प्यूटेशनल क्षमता में प्रभावकारी वृद्धि हुई है।[2]

आधारिक मॉडल पर आधारित मशीन लर्निंग सिस्टम तंत्रिका नेटवर्क पर चलते हैं और बड़ी मात्रा में सामान्य डेटा जैसे टेक्स्ट और छवियों पर एकल विशाल प्रणाली को प्रशिक्षित करने के लिए पैटर्न मिलान का उपयोग करते हैं। प्रारम्भिक मॉडल में प्रत्येक नई समस्या के लिए ध्वनि से प्रारम्भ करने की प्रवृत्ति थी। हालांकि 2020 के प्रारम्भ से कई नई समस्याओं के अनुकूल होने में सक्षम हैं।[8] इन तकनीकों के उदाहरणों में मुक्त एआई का डीएएलएल-ई (छवि निर्माण प्रोग्राम) और उनके विभिन्न जीपीटी भाषा मॉडल और गूगल का पीएएलएम भाषा मॉडल प्रोग्राम सम्मिलित हैं।

अनुप्रयोग

एडीएम का उपयोग सार्वजनिक और निजी दोनों क्षेत्रों के संगठनों द्वारा मानव निर्णय को परिवर्तित करने या बढ़ाने के लिए कई कारणों से किया जा रहा है, जिसमें निरंतरता बढ़ाने, दक्षता में सुधार करने, लागत कम करने और जटिल समस्याओं के नए समाधानों को सक्षम करने में सहायता करना सम्मिलित है।[9]

तर्क

तर्क की गुणवत्ता का आकलन करने के लिए प्रौद्योगिकी के उपयोग में अनुसंधान और विकास चल रहा है।[10][11][12] तर्कपूर्ण निबंधों का आकलन[13][14] और निर्णायक तर्क इन तर्क तकनीकों के संभावित अनुप्रयोग शिक्षा और समाज तक विस्तृत हैं।[15][16][17][18] इस संबंध में जिन परिदृश्यों पर विचार किया जाना है उनमें संवादी, गणितीय, वैज्ञानिक, व्याख्यात्मक, नियतात्मक और राजनीतिक तर्क-वितर्क और मूल्यांकन सम्मिलित है।

नियम

विश्व की राष्ट्रीय नियम प्रणालियों की सूची में कई संदर्भों में न्यायाधीशों, जनसेवकों और पुलिस अधिकारियों के मानवीय निर्णय को पूरक या परिवर्तित करने के लिए एल्गोरिथम उपकरण जैसे जोखिम मूल्यांकन उपकरण (आरएआई) का उपयोग किया जा रहा है।[19] संयुक्त राज्य अमेरिका में आरएआई का उपयोग पूर्व-परीक्षण निरोध और सजा के परिणाम में पुनरावृत्ति के जोखिम का पूर्वानुमान प्राप्तांक उत्पन्न करने के लिए किया जा रहा है।[20] कैदियों के लिए पैरोल का मूल्यांकन और भविष्य के अपराध के लिए "हॉट स्पॉट" का पूर्वानुमान करने के लिए इन अंकों के परिणामस्वरूप स्वत: प्रभाव हो सकता है।[21][22][23] या न्याय प्रणाली के भीतर अधिकारियों द्वारा किए गए निर्णयों को सूचित करने के लिए उपयोग किया जा सकता है।[19] कनाडा में 2014 से एडीएम का उपयोग आव्रजन अधिकारियों द्वारा संचालित कुछ गतिविधियों को स्वचालित करने और कुछ अप्रवासी नागरिक और दर्शक अनुप्रयोगों के मूल्यांकन का समर्थन करने के लिए किया गया है।[24]

अर्थशास्त्र

स्वचालित व्यापार प्रणाली अनुक्रम से खरीदने और बेचने के लिए कंप्यूटर प्रोग्राम का उपयोग करते हैं और स्वचालित रूप से विणपन केंद्र या विनिमय को क्रम से प्रस्तुत करते हैं। कंप्यूटर प्रोग्राम स्वचालित रूप से ट्रेडिंग योजनयों का उपयोग करके नियमों के पूर्वनिर्धारित समूह के आधार पर क्रम को उत्पन्न कर सकते हैं जो तकनीकी विश्लेषण, उन्नत सांख्यिकीय और गणितीय संगणना या अन्य इलेक्ट्रॉनिक स्रोतों से इनपुट पर आधारित हैं।

व्यवसाय

सतत लेखापरीक्षा

निरंतर लेखापरीक्षा प्रक्रियाओं को स्वचालित करने के लिए उन्नत विश्लेषणात्मक उपकरणों का उपयोग किया जाता है। इसका उपयोग निजी क्षेत्र में व्यावसायिक उद्यमों द्वारा और सार्वजनिक क्षेत्र में सरकारी संगठनों और नगर पालिकाओं द्वारा किया जा सकता है।[25] जैसा कि कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का विकास प्रारम्भ है, लेखाकार और लेखा परीक्षक तीव्रता से परिष्कृत एल्गोरिदम का उपयोग कर सकते हैं जो निर्णय लेते हैं जैसे कि यह निर्धारित करना कि क्या असंगत है, क्या उपयोगकर्ताओं को सूचित करना है और उपयोगकर्ताओं को दिए गए कार्यों को कैसे प्राथमिकता देना है।

मीडिया और मनोरंजन

डिजिटल मीडिया, मनोरंजन प्लेटफॉर्म और सूचना सेवाएं जनसांख्यिकीय जानकारी, पिछले चयनों, सहयोगी फ़िल्टरिंग या सामग्री-आधारित फ़िल्टरिंग के आधार पर स्वचालित अनुशंसा प्रणाली के माध्यम से दर्शकों को तीव्रता से सामग्री प्रदान करती हैं।[26] इसमें संगीत और वीडियो प्लेटफॉर्म, प्रकाशन, स्वास्थ्य सूचना, उत्पाद डेटाबेस और खोज इंजन सम्मिलित हैं। कई संस्तुतिकर्ता प्रणाली अनुशंसाओं को स्वीकृत करने में उपयोगकर्ताओं को कुछ संस्थाए भी प्रदान करती हैं और प्रणाली उपयोगकर्ता के कार्यों के आधार पर डेटा-संचालित एल्गोरिथम पुनर्निवेशन लूप सम्मिलित करती हैं।[5]

2020 में मुक्त-एआई और गूगल जैसी संस्थाओ द्वारा बड़े पैमाने पर मशीन लर्निंग भाषा मॉडल और छवि निर्माण प्रोग्राम विकसित किए जा रहे हैं जिनकी पहुंच प्रतिबंधित है। हालांकि विज्ञापन, कॉपी राइटिंग, भंडारण कल्पनाए, पत्रकारिता और नियम जैसे अन्य क्षेत्रों के रूप में और आरेख डिज़ाइन जैसे क्षेत्रों में उनके व्यापक प्रसार की संभावना है।[8]

विज्ञापन

ऑनलाइन विज्ञापन कई डिजिटल मीडिया प्लेटफार्मों, वेबसाइटों और खोज इंजनों के साथ घनिष्ठ रूप से जुड़ा हुआ है और इसमें प्रायः विविध स्वरूपों में प्रदर्शन विज्ञापनों की स्वचालित संचालन सम्मिलित होता है। 'प्रोग्रामेटिक' ऑनलाइन विज्ञापन में प्रत्यक्ष मानव निर्णय लेने के अतिरिक्त सॉफ्टवेयर के माध्यम से वेबसाइटों और प्लेटफार्मों पर डिजिटल विज्ञापन की बिक्री और वितरण को स्वचालित करना सम्मिलित है।[26] इसे कभी-कभी जलप्रपात मॉडल के रूप में जाना जाता है जिसमें विभिन्न प्रणालियों और विंडोज के चरणों का एक क्रम सम्मिलित होता है। प्रकाशक और डेटा प्रबंधन प्लेटफ़ॉर्म, उपयोगकर्ता डेटा, विज्ञापन सर्वर और उनके वितरण डेटा, विस्तृत सूची प्रबंधन प्रणाली, विज्ञापन व्यापारी और विज्ञापन विनियम सम्मिलित है।[26] इस प्रणाली के साथ विभिन्न समस्याए हैं जिनमें विज्ञापनदाताओं के लिए पारदर्शिता की कमी, असत्यापित मेट्रिक्स, विज्ञापन स्थानों पर नियंत्रण की कमी, औपचारिक नियंत्रण और गोपनीयता संबंधी चिंताएँ सम्मिलित हैं।[26] विज्ञापनों को नापसंद करने वाले इंटरनेट उपयोगकर्ताओं ने विज्ञापन अवरोधक तकनीकों जैसे गणना उपाय अपनाए हैं जो उपयोगकर्ताओं को वेबसाइटों और कुछ इंटरनेट अनुप्रयोगों से अवांछित विज्ञापन को स्वचालित रूप से फ़िल्टर करने की स्वीकृति देते हैं। 2017 में, 24% ऑस्ट्रेलियाई इंटरनेट उपयोगकर्ताओं के पास विज्ञापन अवरोधक थे।[27]

स्वास्थ्य

पश्च लर्निंग कृत्रिम बुद्धिमत्ता छवि मॉडल कंप्यूटर सहायता प्राप्त निदान हैं। एक्स-रे की समीक्षा करने और आंखों की स्थिति चित्‍तीदर विपोषण का पता लगाने के लिए उपयोग किया जाता है।

सामाजिक सेवाएं

सरकार ने 2000 के दशक के प्रारम्भ से अधिक कुशल प्रशासन और सामाजिक सेवाएं प्रदान करने के लिए डिजिटल तकनीकों को प्रयुक्त है। जिन्हें प्रायः डिजिटल-सरकार कहा जाता है। विश्व में कई सरकारें अब रूपरेखा और लक्षित नीतियों और सेवाओं के लिए स्वचालित, एल्गोरिथम सिस्टम का उपयोग कर रही हैं, जिसमें जोखिमों के आधार पर एल्गोरिथम पुलिसिंग, एयरपोर्ट स्क्रीनिंग जैसे लोगों के संरक्षण सॉर्टिंग, बाल संरक्षण में जोखिम रूपरेखा के आधार पर सेवाएं प्रदान करना, रोजगार सेवाएं प्रदान करना और शासन करना सम्मिलित है।[28] सामाजिक सेवाओं में एडीएम का एक महत्वपूर्ण अनुप्रयोग पूर्वानुमान विश्लेषण के उपयोग से संबंधित है। उदाहरण के लिए बाल संरक्षण में दुर्व्यवहार/उपेक्षा से बच्चों के लिए जोखिम की पूर्वानुमान पुलिस और आपराधिक न्याय में अपराध या अपराध का पूर्वानुमान, कल्याण का पूर्वानुमान अनुपालन प्रणालियों में कर जोखिम, रोजगार सेवाओं में दीर्घकालिक बेरोजगारी सम्मिलित है। ऐतिहासिक रूप से ये प्रणालियाँ मानक सांख्यिकीय विश्लेषणों पर आधारित थीं। हालाँकि 2000 के दशक की प्रारम्भ से मशीन लर्निंग तीव्रता से विकसित और सक्रिय हो गई है। सामाजिक सेवाओं में एडीएम के उपयोग के साथ प्रमुख समस्याओं में पूर्वाग्रह, निष्पक्षता, उत्तरदायित्व और व्याख्यात्मकता सम्मिलित है जो निर्णय के कारणों के आसपास पारदर्शिता को संदर्भित करती है और जिस आधार पर एक मशीन ने निर्णय लिया है, उसकी व्याख्या करने की क्षमता उदाहरण के लिए ऑस्ट्रेलिया की संघीय सामाजिक सुरक्षा वितरण संस्था, सेंटरलिंक ने ऋण का पता लगाने और एकत्र करने के लिए एक स्वचालित प्रक्रिया को विकसित और कार्यान्वित किया, जिसके कारण गलत तरीके से ऋण वसूली की कई स्थितियाँ सामने आयी है, जिनको रोबोडेट योजना के रूप में जाना जाने लगा है।[29][28]

परिवहन और गतिशीलता

परिवह और स्वचालित गतिशीलता (सीएएम) में स्वायत्त वाहन जैसे कि स्वचालित कार और परिवहन के अन्य रूप सम्मिलित हैं जो वाहन के मानव नियंत्रण के विभिन्न दृष्टिकोण को परिवर्तित करने के लिए स्वचालित निर्णय निर्धारण वाली प्रणाली का उपयोग करते हैं। यह स्तर 0 (पूर्ण मानव चालन) से लेकर स्तर 5 (पूर्णतः स्वायत्त) तक हो सकता है।[2] स्तर 5 पर मशीन डेटा मॉडल और भू-स्थानिक मानचित्रण और वास्तविक समय संवेदक और पर्यावरण के प्रसंस्करण के आधार पर वाहन को नियंत्रित करने के निर्णय लेने में सक्षम है। 2021 में 1 से 3 के स्तर वाली कारें पहले से ही बाजार में उपलब्ध हैं। 2016 में जर्मन सरकार ने 'स्वचालित और परिवहन चालन पर नैतिकता आयोग' की स्थापना की, जिसने परिवहन और स्वचालित वाहनों (सीएवी) को विकसित करने का उत्तरदायित्व किया है यदि प्रणाली मानव की तुलना में चालन (जोखिम का संतुलन) कम दुर्घटनाओं का कारण बनती है। इसने स्वचालित और परिवहन चालन के अनुकूलन के लिए 20 नैतिक नियम भी प्रदान किए है।[30] 2020 में सीएएम पर यूरोपीय आयोग की योजनाओ ने प्रयास किया कि उन्हें सड़क दुर्घटनाओं को कम करने और उत्सर्जन को कम करने के लिए यूरोप में अपनाया जाना चाहिए, हालांकि स्वचालित कार भी दुर्घटनाओं की स्थिति में दायित्व और नैतिक निर्णय लेने की स्थिति में कई नीति, सुरक्षा और नियमों की समस्या को उत्पन्न करती हैं। साथ ही गोपनीयता के कारण भी यदि एवी को व्यापक रूप से अपनाया जाना है तो स्वायत्त वाहनों में विश्वास के कारण और उनकी सुरक्षा के विषय में समुदाय की चिंता प्रमुख कारक हैं।[31]

संरक्षण

संवेदक, कैमरा, ऑनलाइन लेन-देन और सोशल मीडिया के माध्यम से स्वचालित डिजिटल डेटा संग्रह ने सरकार और वाणिज्यिक क्षेत्रों में संरक्षण प्रथाओं और संस्थानों के वास्तविक पैमाने और लक्ष्यों का अपेक्षाकृत विस्तार किया है।[32] जिसके परिणामस्वरूप संदिग्धों की लक्षित क्रमादेश से समग्र जनसंख्या का संरक्षण करने की क्षमता में एक बड़ा परिवर्तन आया है।[33] स्वचालित डेटा संग्रह के परिणामस्वरूप अब क्रमादेश के स्तर को क्रमादेश पूंजीवाद या क्रमादेश अर्थव्यवस्था के रूप में वर्णित किया गया है, जिस प्रकार से डिजिटल मीडिया में बड़े पैमाने पर नियंत्रण और प्रत्येक प्रभाव पर डेटा का संचय सम्मिलित है।

नैतिक और विधिक निहितार्थ

स्वचालित निर्णय निर्धारण वाली प्रणालियों के कई सामाजिक, नैतिक और विधिक निहितार्थ हैं। विकसित कई चिंताओं में पारदर्शिता की कमी और दूरी की प्रतिस्पर्धात्मकता, गोपनीयता और क्रमादेश पर आक्रामक, डेटा और एल्गोरिथम पूर्वाग्रह के कारण प्रणालीगत पूर्वाग्रह और असमानता को बढ़ाना, बौद्धिक संपदा अधिकार, मीडिया प्लेटफॉर्म के माध्यम से गलत सूचना का प्रसार, प्रशासनिक समानता, जोखिम और बेरोजगारी सम्मिलित हैं।[34][35] जैसा कि एडीएम अधिक सर्वव्यापी हो जाता है और सूचना समाजों में सुशासन सुनिश्चित करने के लिए नैतिक चुनौतियों का समाधान करने की अधिक आवश्यकता होती है।[36]

एडीएम प्रणाली प्रायः मशीन लर्निंग और एल्गोरिदम पर आधारित होती हैं जिनका आसानी से विश्लेषण नहीं किया जा सकता है। जिससे समस्याए होती है कि वे 'ब्लैक बॉक्स' सिस्टम हैं जो पारदर्शी या उत्तरदायी नहीं हैं।[2] कनाडा में नागरिक प्रयोगशाला की एक रिपोर्ट विभिन्न क्षेत्रों में एडीएम के अनुप्रयोग के एक महत्वपूर्ण मानवाधिकार विश्लेषण के लिए तर्क देती है ताकि यह सुनिश्चित किया जा सके कि स्वचालित निर्णय निर्धारण का उपयोग अधिकारों के उल्लंघन में न हो, जिसमें समानता के अधिकार और गैर-भेदभाव की स्वतंत्रता, अनुप्रयोग, अभिव्यक्ति, धर्म, संघ गोपनीयता अधिकार व्यक्ति के जीवन, स्वतंत्रता और सुरक्षा के अधिकार सम्मिलित है।[24]

एडीएम की वैधानिक प्रतिक्रियाओं में सम्मिलित हैं:

  • यूरोपीय संघ सामान्य डेटा संरक्षण विनियमन (यूरोपीय संघ) 2016 में प्रस्तुत किया गया था यूरोपीय संघ (ईयू) में डेटा संरक्षण और गोपनीयता पर यूरोपीय संघ के नियम में एक विनियमन है जो अनुच्छेद 22(1) डेटा विषयों के निर्णय के अधीन नहीं होने के अधिकार को स्थापित करता है। जिसके नियम या अन्य महत्वपूर्ण प्रभाव होते हैं जो पूरी तरह से स्वचालित व्यक्तिगत निर्णय लेने पर आधारित होते हैं।[37][38] जीडीपीआर में स्पष्टीकरण के अधिकार पर कुछ नियम भी सम्मिलित हैं। हालांकि उपयुक्त समय और प्रकृति वर्तमान में यूरोपीय संघ के न्यायालय द्वारा समीक्षा के अधीन है। इन प्रावधानों को पहली बार जीडीपीआर में प्रस्तुत नहीं किया गया था, लेकिन 1995 में डेटा संरक्षण निर्देश और 1978 के फ्रांसीसी विधिक, लोई सूचनात्मक और स्वतंत्रता के बाद से पूरे यूरोप में एक समान रूप में सम्मिलित हैं।[39] इसी प्रकार युगांडा, मोरक्को और अमेरिकी राज्य वर्जीनिया सहित विश्व के कई अन्य न्यायालयों के डेटा संरक्षण निर्देश में अलग-अलग संलग्न अधिकारों और दायित्वों के साथ समय और शब्दों के प्रावधान सम्मिलित हैं।[40]
  • सार्वजनिक क्षेत्र के स्वचालित निर्णयों की व्याख्या के अधिकार फ्रांसीसी लोई पोर यूने रेपुब्लिक न्यूमेरिक के अंतर्गत 'एल्गोरिथम उपचार' बनाते हैं।

अभिनत त्रुटि

एडीएम निम्न से उत्पन्न एल्गोरिथम बायस को सम्मिलित कर सकता है:

  • डेटा स्रोत, जहां डेटा इनपुट उनके संग्रह या चयन में अभिनत त्रुटि हैं।[35]
  • एल्गोरिद्म की तकनीकी डिज़ाइन, उदाहरण के लिए जहां यह अनुमान लगाया गया है कि कोई व्यक्ति कैसे व्यवहार करता है।[41]
  • आकस्मिक अभिनत त्रुटि, जहां अप्रत्याशित परिस्थितियों में एडीएम का अनुप्रयोग एक अभिनत त्रुटि परिणाम बनाता है।[41]

स्पष्टीकरण

पूर्वाग्रहित गलत डेटा या एल्गोरिदम के प्रश्न और चिंताओ की कुछ एडीएम ब्लैक बॉक्स प्रौद्योगिकियां हैं जो मानव जांच या पूछताछ के लिए पूर्णतः स्थगित हैं। जिनको व्याख्यात्मकता के कारण या स्वचालित निर्णयों और एआई के स्पष्टीकरण के अधिकार के रूप में संदर्भित किया है। इसे व्याख्या योग्य कृत्रिम बुद्धिमत्ता (एक्सएआई) या व्‍याख्‍या-सापेक्ष्‍य कृत्रिम बुद्धिमत्ता के रूप में भी जाना जाता है, जिसमें समाधान के परिणामों का विश्लेषण किया जा सकता है और मनुष्यों द्वारा समझा जा सकता है। एक्सएआई एल्गोरिदम को तीन सिद्धांतों पारदर्शिता, व्याख्यात्मकता और सापेक्ष्‍यता का अनुसरण करने के लिए माना जाता है।

सूचना असममित

स्वचालित निर्णय निर्धारण से उन व्यक्तियों के बीच सूचना असममित बढ़ सकती है, जिनका डेटा सिस्टम में या उस डेटा से जानकारी प्राप्त करने में सक्षम प्लेटफ़ॉर्म और निर्णय निर्धारण प्रणालियाँ मे प्रयुक्त होता है इसके दूसरी ओर यह देखा गया है कि वित्तीय व्यापार में दो कृत्रिम बुद्धिमान अभिकर्ता के बीच सूचना असममित दो मानव अभिकर्ता या मानव और मशीन अभिकर्ता के बीच की तुलना में अपेक्षाकृत बहुत कम हो सकती है।[42]

अनुसंधान क्षेत्र

कई शैक्षणिक क्षेत्रों और विषयों में व्यापार, कंप्यूटर विज्ञान, मानव कंप्यूटर अन्तःक्रिया (एचसीआई), नियम, लोक प्रशासन, मीडिया और संचार सहित एडीएम के विकास, अनुप्रयोग और निहितार्थ पर तीव्रता से ध्यान दिया जा रहा है। अनुसंधान प्रणालियों और प्लेटफार्मों के माध्यम से मीडिया डेटा और एल्गोरिथम संचालित समाचार, वीडियो और अन्य डेटा का स्वचालन मीडिया अध्ययनों में शैक्षणिक अनुसंधान का एक प्रमुख केंद्र है।[26]

निष्पक्षता, उत्तरदायित्व और पारदर्शिता पर एसीएम अधिवेशन (एफएसीसीटी) की स्थापना 2018 में सामाजिक-तकनीकी प्रणालियों के संदर्भ में पारदर्शिता और व्याख्यात्मकता का अध्ययन करने के लिए की गई थी, जिनमें से कई में एडीएम और कृत्रिम बुद्धिमत्ताएँ सम्मिलित हैं।

एडीएम की जांच करने वाले प्रमुख अनुसंधान केंद्रों में निम्नलिखित सम्मिलित हैं:

यह भी देखें

संदर्भ

  1. ↑ Marabelli, Marco; Newell, Sue; Handunge, Valerie (2021). "The lifecycle of algorithmic decision-making systems: Organizational choices and ethical challenges". Journal of Strategic Information Systems. 30 (1): 1-15. Retrieved November 1, 2022.
  2. ↑ 2.0 2.1 2.2 2.3 2.4 Larus, James; Hankin, Chris; Carson, Siri Granum; Christen, Markus; Crafa, Silvia; Grau, Oliver; Kirchner, Claude; Knowles, Bran; McGettrick, Andrew; Tamburri, Damian Andrew; Werthner, Hannes (2018). When Computers Decide: European Recommendations on Machine-Learned Automated Decision Making. New York: Association for Computing Machinery. doi:10.1145/3185595.
  3. ↑ Mökander, Jakob; Morley, Jessica; Taddeo, Mariarosaria; Floridi, Luciano (2021-07-06). "Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations". Science and Engineering Ethics (in English). 27 (4): 44. arXiv:2110.10980. doi:10.1007/s11948-021-00319-4. ISSN 1471-5546. PMC 8260507. PMID 34231029.
  4. ↑ UK Information Commissioner's Office (2021-09-24). यूके जनरल डेटा प्रोटेक्शन रेगुलेशन (यूके जीडीपीआर) के लिए गाइड (Report) (in English). Information Commissioner's Office UK. Archived from the original on 2018-12-21. Retrieved 2021-10-05.
  5. ↑ 5.0 5.1 Araujo, Theo; Helberger, Natali; Kruikemeier, Sanne; de Vreese, Claes H. (2020-09-01). "In AI we trust? Perceptions about automated decision-making by artificial intelligence" (PDF). AI & Society (in English). 35 (3): 611–623. doi:10.1007/s00146-019-00931-w. hdl:11245.1/b73d4d3f-8ab9-4b63-b8a8-99fb749ab2c5. ISSN 1435-5655. S2CID 209523258.
  6. ↑ 6.0 6.1 Algorithm Watch (2020). Automating Society 2019. Algorithm Watch (Report) (in English). Retrieved 2022-02-28.
  7. ↑ Seah, Jarrel C Y; Tang, Cyril H M; Buchlak, Quinlan D; Holt, Xavier G; Wardman, Jeffrey B; Aimoldin, Anuar; Esmaili, Nazanin; Ahmad, Hassan; Pham, Hung; Lambert, John F; Hachey, Ben (August 2021). "Effect of a comprehensive deep-learning model on the accuracy of chest x-ray interpretation by radiologists: a retrospective, multireader multicase study". The Lancet Digital Health. 3 (8): e496–e506. doi:10.1016/s2589-7500(21)00106-0. ISSN 2589-7500. PMID 34219054. S2CID 235735320.
  8. ↑ 8.0 8.1 Snoswell, Aaron J.; Hunter, Dan (13 April 2022). "Robots are creating images and telling jokes. 5 things to know about foundation models and the next generation of AI" (in English). The Conversation. Retrieved 2022-04-21.
  9. ↑ Taddeo, Mariarosaria; Floridi, Luciano (2018-08-24). "एआई अच्छे के लिए एक ताकत कैसे हो सकता है". Science (in English). 361 (6404): 751–752. Bibcode:2018Sci...361..751T. doi:10.1126/science.aat5991. ISSN 0036-8075. PMID 30139858. S2CID 52075037.
  10. ↑ Wachsmuth, Henning; Naderi, Nona; Hou, Yufang; Bilu, Yonatan; Prabhakaran, Vinodkumar; Thijm, Tim; Hirst, Graema; Stein, Benno (2017). "प्राकृतिक भाषा में कम्प्यूटेशनल तर्क गुणवत्ता मूल्यांकन" (PDF). Proceedings of the 15th Conference of the European Chapter of the Association for Computational Linguistics. pp. 176–187.
  11. ↑ Wachsmuth, Henning; Naderi, Nona; Habernal, Ivan; Hou, Yufang; Hirst, Graeme; Gurevych, Iryna; Stein, Benno (2017). "Argumentation quality assessment: Theory vs. practice" (PDF). Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics. pp. 250–255.
  12. ↑ Gretz, Shai; Friedman, Roni; Cohen-Karlik, Edo; Toledo, Assaf; Lahav, Dan; Aharonov, Ranit; Slonim, Noam (2020). "A large-scale dataset for argument quality ranking: Construction and analysis". Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 34. pp. 7805–7813.
  13. ↑ Green, Nancy (2013). "छात्र तर्कों के स्वचालित विश्लेषण की ओर". International Conference on Artificial Intelligence in Education. Springer. pp. 591–594.
  14. ↑ Persing, Isaac; Ng, Vincent (2015). "छात्र निबंधों में मॉडलिंग तर्क शक्ति" (PDF). Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing. pp. 543–552.
  15. ↑ Brilman, Maarten; Scherer, Stefan (2015). "सफल वाद-विवाद करने वालों का एक मल्टीमॉडल प्रेडिक्टिव मॉडल या मैंने कैसे वोटों को प्रभावित करना सीखा". Proceedings of the 23rd ACM international conference on Multimedia. pp. 149–158.
  16. ↑ Potash, Peter; Rumshisky, Anna (2017). "Towards debate automation: a recurrent model for predicting debate winners" (PDF). Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing. pp. 2465–2475.
  17. ↑ Santos, Pedro; Gurevych, Iryna (2018). "राजनीतिक बहसों में दर्शकों की छाप की बहुविध भविष्यवाणी". Proceedings of the 20th International Conference on Multimodal Interaction. pp. 1–6.
  18. ↑ Wang, Lu; Beauchamp, Nick; Shugars, Sarah; Qin, Kechen (2017). "Winning on the merits: The joint effects of content and style on debate outcomes". Transactions of the Association for Computational Linguistics. MIT Press. 5: 219–232. doi:10.1162/tacl_a_00057. S2CID 27803846.
  19. ↑ 19.0 19.1 Chohlas-Wood, Alex (2020). आपराधिक न्याय में जोखिम मूल्यांकन उपकरणों को समझना. Brookings Institution.
  20. ↑ Angwin, Julia; Larson, Jeff; Mattu, Surya (23 May 2016). "मशीन पूर्वाग्रह". ProPublica (in English). Archived from the original on 2021-10-04. Retrieved 2021-10-04.
  21. ↑ Nissan, Ephraim (2017-08-01). "डिजिटल तकनीक और आर्टिफिशियल इंटेलिजेंस का लॉयरिंग, जजिंग, पुलिसिंग और कानून प्रवर्तन पर वर्तमान और दूरदर्शितापूर्ण प्रभाव". AI & Society (in English). 32 (3): 441–464. doi:10.1007/s00146-015-0596-5. ISSN 1435-5655. S2CID 21115049.
  22. ↑ Dressel, Julia; Farid, Hany (2018). "वैराग्यवाद की भविष्यवाणी करने की सटीकता, निष्पक्षता और सीमाएं". Science Advances. 4 (1): eaao5580. Bibcode:2018SciA....4.5580D. doi:10.1126/sciadv.aao5580. PMC 5777393. PMID 29376122.
  23. ↑ Ferguson, Andrew Guthrie (2017). The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement. New York: NYU Press. ISBN 9781479869978.
  24. ↑ 24.0 24.1 Molnar, Petra; Gill, Lex (2018). Bots at the Gate: A Human Rights Analysis of Automated Decision-Making in Canada's Immigration and Refugee System (in Canadian English). Citizen Lab and International Human Rights Program (Faculty of Law, University of Toronto).
  25. ↑ Ezzamouri, Naoual; Hulstijn, Joris (2018). "नगर पालिकाओं में सतत निगरानी और लेखा परीक्षा". Proceedings of the 19th Annual International Conference on Digital Government Research: Governance in the Data Age. pp. 1–10.
  26. ↑ 26.0 26.1 26.2 26.3 26.4 Thomas, Julian (2018). "Programming, filtering, adblocking: advertising and media automation". Media International Australia (in English). 166 (1): 34–43. doi:10.1177/1329878X17738787. ISSN 1329-878X. S2CID 149139944. Q110607881.
  27. ↑ Newman, N; Fletcher, R; Kalogeropoulos, A (2017). रॉयटर्स संस्थान डिजिटल समाचार रिपोर्ट (Report) (in British English). Reuters Institute for the Study of Journalism. Archived from the original on 2013-08-17. Retrieved 2022-01-19.
  28. ↑ 28.0 28.1 Henman, Paul (2019-01-02). "Of algorithms, Apps and advice: digital social policy and service delivery". Journal of Asian Public Policy (in English). 12 (1): 71–89. doi:10.1080/17516234.2018.1495885. ISSN 1751-6234. S2CID 158229201.
  29. ↑ Henman, Paul (2017). "The Computer Says 'Debt': Towards A Critical Sociology Of Algorithms And Algorithmic Governance". Data for Policy 2017: Government by Algorithm? Conference, London. doi:10.5281/ZENODO.884116.
  30. ↑ Federal Ministry of Transport and Digital Infrastructures. ऑटोमेटेड और कनेक्टेड ड्राइविंग पर एथिक्स कमीशन की पूरी रिपोर्ट. www.bmvi.de (Report). German Government. Archived from the original on 2017-09-04. Retrieved 2021-11-23.
  31. ↑ Raats, Kaspar; Fors, Vaike; Pink, Sarah (2020-09-01). "Trusting autonomous vehicles: An interdisciplinary approach". Transportation Research Interdisciplinary Perspectives (in English). 7: 100201. doi:10.1016/j.trip.2020.100201. ISSN 2590-1982. S2CID 225261480.
  32. ↑ Andrejevic, Mark (2021). "Automated surveillance". डिजिटल मीडिया और संचार की रूटलेज हैंडबुक. Leah A. Lievrouw, Brian Loader. Abingdon, Oxon: Taylor and Francis. ISBN 978-1-315-61655-1. OCLC 1198978596.
  33. ↑ Pasquale, Frank (2016). Black box society: the secret algorithms that control money and information. Cambridge, Massachusetts: Harvard University Press. ISBN 978-0-674-97084-7. OCLC 946975299.
  34. ↑ Eubanks, Virginia (2018). Automating inequality: how high-tech tools profile, police, and punish the poor (First ed.). New York, NY. ISBN 978-1-250-07431-7. OCLC 1013516195.{{cite book}}: CS1 maint: location missing publisher (link)
  35. ↑ 35.0 35.1 No label or title -- debug: Q48816548, Wikidata Q48816548
  36. ↑ Cath, Corinne (2018-11-28). "Governing artificial intelligence: ethical, legal and technical opportunities and challenges". Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 376 (2133): 20180080. Bibcode:2018RSPTA.37680080C. doi:10.1098/rsta.2018.0080. PMC 6191666. PMID 30322996.
  37. ↑ "EUR-Lex - 32016R0679 - EN - EUR-Lex". eur-lex.europa.eu (in English). Retrieved 2021-09-13.
  38. ↑ Brkan, Maja (2017-06-12). "सामान्य डेटा संरक्षण विनियमन के तहत एआई-समर्थित निर्णय लेना". Proceedings of the 16th Edition of the International Conference on Articial Intelligence and Law. ICAIL '17. London, United Kingdom: Association for Computing Machinery: 3–8. doi:10.1145/3086512.3086513. ISBN 978-1-4503-4891-1. S2CID 23933541.
  39. ↑ Court of Justice of the European Union. "Request for a preliminary ruling from the Verwaltungsgericht Wien (Austria) lodged on 16 March 2022 – CK (Case C-203/22)".
  40. ↑ loi informatique et libertés [fr].<ref>= एडवर्ड्स 46-54 >{{Cite journal |last1=Edwards |first1=Lilian |last2=Veale |first2=Michael |date=May 2018 |title=एल्गोरिथम को गुलाम बनाना: "स्पष्टीकरण के अधिकार" से "बेहतर निर्णय के अधिकार" तक?|url=https://ieeexplore.ieee.org/document/8395080 |journal=IEEE Security & Privacy |volume=16 |issue=3 |pages=46–54 |doi=10.1109/MSP.2018.2701152 |s2cid=4049746 |issn=1540-7993}। रेफरी>Binns, Reuben; Veale, Michael (2021-12-20). "क्या यह आपका अंतिम निर्णय है? मल्टी-स्टेज प्रोफाइलिंग, चयनात्मक प्रभाव और GDPR का अनुच्छेद 22". International Data Privacy Law (in English). 11 (4): 320. doi:10.1093/idpl/ipab020. ISSN 2044-3994.<nowiki</nowiki><nowiki>
  41. ↑ 41.0 41.1 Friedman, Batya; Nissenbaum, Helen (July 1996). "कंप्यूटर सिस्टम में पक्षपात". ACM Transactions on Information Systems (in English). 14 (3): 330–347. doi:10.1145/230538.230561. ISSN 1046-8188. S2CID 207195759.
  42. ↑ Marwala, Tshilidzi (2017). Artificial intelligence and economic theory: Skynet in the market. Evan Hurwitz. Cham. ISBN 978-3-319-66104-9. OCLC 1004620876.{{cite book}}: CS1 maint: location missing publisher (link)
Retrieved from ‘https://www.vigyanwiki.in/index.php?title=स्वचालित_निर्णय-निर्धारण&oldid=201097’