स्वचालित निर्णय-निर्धारण

स्वचालित निर्णय लेना(एडीएम) में डेटा, मशीनों और एल्गोरिदम का उपयोग सम्मिलित है, जिसमें सार्वजनिक प्रशासन, व्यवसाय, स्वास्थ्य, शिक्षा, कानून, रोजगार, परिवहन, मीडिया और मनोरंजन सहित कई संदर्भों में निर्णय लेने के लिए मानव की अलग-अलग डिग्री होती है। निरीक्षण या हस्तक्षेप। एडीएम में डेटाबेस, टेक्स्ट, सोशल मीडिया, सेंसर, इमेज या स्पीच जैसे कई स्रोतों से बड़े पैमाने पर डेटा सम्मिलित होता है, जिसे कंप्यूटर सॉफ्टवेयर, एल्गोरिदम, मशीन लर्निंग, प्राकृतिक भाषा प्रसंस्करण, कृत्रिम होशियारी, संवर्धित सहित विभिन्न तकनीकों का उपयोग करके संसाधित किया जाता है। खुफिया और रोबोटिक्स। कई संदर्भों में स्वचालित निर्णय लेने वाली प्रणालियों (एडीएमएस) का बढ़ता उपयोग मानव समाज के लिए तकनीकी, कानूनी, नैतिक, सामाजिक, शैक्षिक, आर्थिक और स्वास्थ्य परिणामों पर विचार करने के लिए कई लाभ और चुनौतियां प्रस्तुत करता है।

सिंहावलोकन
सम्मिलित स्वचालन के स्तर के आधार पर एडीएम की विभिन्न परिभाषाएँ हैं। कुछ परिभाषाओं से पता चलता है कि एडीएम में मानव इनपुट के बिना विशुद्ध रूप से तकनीकी साधनों के माध्यम से किए गए निर्णय सम्मिलित हैं जैसे कि यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (अनुच्छेद 22)। हालांकि, एडीएम प्रौद्योगिकियां और अनुप्रयोग निर्णय समर्थन प्रणाली से लेकर कई रूप ले सकते हैं जो मानव निर्णय-निर्माताओं को कार्रवाई करने के लिए सिफारिशें करते हैं, जिन्हें कभी-कभी संवर्धित बुद्धिमत्ता [5] या 'साझा निर्णय लेने' के रूप में जाना जाता है, पूरी तरह से स्वचालित निर्णय लेने की प्रक्रिया जो मानव भागीदारी के बिना व्यक्तियों या संगठनों की ओर से निर्णय लेती है। स्वचालित निर्णय लेने वाली प्रणालियों में उपयोग किए जाने वाले मॉडल कृत्रिम बुद्धि और कृत्रिम तंत्रिका नेटवर्क (डीएनएन) के माध्यम से चेकलिस्ट और निर्णय पेड़ के रूप में सरल हो सकते हैं।

1950 के दशक के बाद से कंप्यूटर जटिल, अस्पष्ट और अत्यधिक कुशल कार्यों जैसे छवि और भाषण मान्यता, गेमप्ले, वैज्ञानिक और चिकित्सा विश्लेषण और कई डेटा स्रोतों में अनुमान लगाने की क्षमता रखने के लिए बुनियादी प्रसंस्करण करने में सक्षम होने से चले गए हैं। एडीएम अब समाज के सभी क्षेत्रों और मनोरंजन से लेकर परिवहन तक कई विविध डोमेन में तेजी से तैनात किया जा रहा है।

एक एडीएम प्रणाली (एडीएमएस) में कई निर्णय बिंदु, डेटा सेट और प्रौद्योगिकियाँ (एडीएमटी) सम्मिलित हो सकती हैं और एक बड़ी प्रशासनिक या तकनीकी प्रणाली जैसे आपराधिक न्याय प्रणाली या व्यावसायिक प्रक्रिया के भीतर बैठ सकती हैं।

डेटा
स्वचालित निर्णय लेने में एक इनपुट के रूप में डेटा का उपयोग सम्मिलित होता है, या तो एक प्रक्रिया, मॉडल या एल्गोरिथम के भीतर विश्लेषण किया जाता है, या सीखने और नए मॉडल बनाने के लिए। एडीएम प्रणालियाँ सिस्टम के लक्ष्यों और संदर्भों के आधार पर डेटा प्रकारों और स्रोतों की एक विस्तृत श्रृंखला का उपयोग और कनेक्ट कर सकती हैं, उदाहरण के लिए सेल्फ-ड्राइविंग कारों और रोबोटिक्स के लिए सेंसर डेटा, सुरक्षा प्रणालियों के लिए पहचान डेटा, सार्वजनिक प्रशासन के लिए जनसांख्यिकीय और वित्तीय डेटा, स्वास्थ्य में चिकित्सा रिकॉर्ड, कानून में आपराधिक रिकॉर्ड। इसमें कभी-कभी बड़ी मात्रा में डेटा और कंप्यूटिंग शक्ति सम्मिलित हो सकती है।

डेटा गुणवत्ता
एडीएम सिस्टम में उपलब्ध और उपयोग किए जाने योग्य डेटा की गुणवत्ता परिणामों के लिए मौलिक है और कई कारणों से अक्सर अत्यधिक समस्याग्रस्त होती है। डेटासेट अक्सर अत्यधिक परिवर्तनशील होते हैं, बड़े पैमाने पर डेटा को निगमों या सरकारों द्वारा नियंत्रित किया जा सकता है, गोपनीयता या सुरक्षा कारणों से प्रतिबंधित, अधूरा, पक्षपाती, समय या कवरेज के मामले में सीमित, विभिन्न तरीकों से शर्तों को मापने और वर्णन करने और कई अन्य मुद्दे।

डेटा से सीखने के लिए मशीनों के लिए, अक्सर बड़े कॉर्पस की आवश्यकता होती है जिसे प्राप्त करना या गणना करना जटिल हो सकता है, हालांकि जहां उपलब्ध है वहां महत्वपूर्ण सफलताएं प्रदान की हैं, उदाहरण के लिए छाती के एक्स-रे के निदान में।।

एडीएम टेक्नोलॉजीज
स्वचालित निर्णय लेने वाली प्रौद्योगिकियां (एडीएमटी) सॉफ्टवेयर-कोडित डिजिटल उपकरण हैं जो स्वचालित निर्णय लेने वाली प्रणालियों के कार्य में योगदान करते हुए इनपुट डेटा को आउटपुट डेटा में अनुवाद को स्वचालित करती हैं। एडीएम अनुप्रयोगों और प्रणालियों में उपयोग की जाने वाली तकनीकों की एक विस्तृत श्रृंखला है।

एडीएमटीs में बुनियादी कम्प्यूटेशनल ऑपरेशन सम्मिलित हैं


 * खोज (1-2-1, 1-2-कई, डेटा मिलान/मर्ज सम्मिलित है)
 * मिलान (दो अलग-अलग चीजें)
 * गणितीय गणना (सूत्र)

मूल्यांकन और समूहीकरण के लिए एडीएमटीs:


 * उपयोगकर्ता रूपरेखा
 * सिफारिश प्रणाली
 * क्लस्टर विश्लेषण
 * वर्गीकरण
 * फ़ीचर लर्निंग
 * भविष्य कहनेवाला विश्लेषण (पूर्वानुमान सम्मिलित है)

अंतरिक्ष और प्रवाह से संबंधित एडीएमटीs:


 * सोशल नेटवर्क विश्लेषण (लिंक भविष्यवाणी सम्मिलित है)
 * मैपिंग
 * मार्ग

एडीएमटीs जटिल डेटा स्वरूपों के प्रसंस्करण के लिए


 * डिजिटल इमेज प्रोसेसिंग
 * ऑडियो प्रोसेसिंग
 * नेचुरल लैंग्वेज प्रोसेसिंग | नेचुरल लैंग्वेज प्रोसेसिंग (एनएलपी)

अन्य ए.डी.एम.टी


 * व्यापार नियम प्रबंधन प्रणाली
 * समय श्रृंखला
 * असंगति का पता लगाये
 * मॉडलिंग और सिमुलेशन | मॉडलिंग / सिमुलेशन

मशीन लर्निंग
मशीन लर्निंग (एमएल) में अनुभव से सीखने और समस्याओं को हल करने के लिए बड़े डेटा सेट और उदाहरणों के माध्यम से कंप्यूटर प्रोग्राम का प्रशिक्षण सम्मिलित है। मशीन लर्निंग का उपयोग डेटा उत्पन्न करने और उसका विश्लेषण करने के साथ-साथ एल्गोरिथम गणना करने के लिए किया जा सकता है और छवि और वाक् पहचान, अनुवाद, पाठ, डेटा और सिमुलेशन पर लागू किया गया है। जबकि मशीन लर्निंग कुछ समय के लिए आसपास रहा है, यह गहरे तंत्रिका नेटवर्क (डीएनएन) के प्रशिक्षण में हाल की सफलताओं के कारण तेजी से शक्तिशाली होता जा रहा है, और जीपीयू कोप्रोसेसरों और क्लाउड कंप्यूटिंग के साथ डेटा भंडारण क्षमता और कम्प्यूटेशनल शक्ति में नाटकीय वृद्धि हुई है।

फाउंडेशन मॉडल पर आधारित मशीन लर्निंग सिस्टम गहरे तंत्रिका नेटवर्क पर चलते हैं और बड़ी मात्रा में सामान्य डेटा जैसे पाठ और छवियों पर एकल विशाल प्रणाली को प्रशिक्षित करने के लिए पैटर्न मिलान का उपयोग करते हैं। शुरुआती मॉडल में प्रत्येक नई समस्या के लिए खरोंच से शुरू करने की प्रवृत्ति थी, हालांकि 2020 की शुरुआत से कई नई समस्याओं के अनुकूल होने में सक्षम हैं। इन तकनीकों के उदाहरणों में Open AI का DALL-E (एक छवि निर्माण कार्यक्रम) और उनके विभिन्न GPT भाषा मॉडल और Google का PaLM भाषा मॉडल कार्यक्रम सम्मिलित हैं।

अनुप्रयोग
एडीएम का उपयोग सार्वजनिक और निजी दोनों क्षेत्रों के संगठनों द्वारा मानव निर्णय लेने को बदलने या बढ़ाने के लिए कई कारणों से किया जा रहा है, जिसमें निरंतरता बढ़ाने, दक्षता में सुधार करने, लागत कम करने और जटिल समस्याओं के नए समाधानों को सक्षम करने में मदद करना सम्मिलित है।

बहस
तर्क की गुणवत्ता का आकलन करने के लिए प्रौद्योगिकी के उपयोग में अनुसंधान और विकास चल रहा है,  तर्कपूर्ण निबंधों का आकलन  और निर्णायक बहसें।    इन तर्क तकनीकों के संभावित अनुप्रयोग शिक्षा और समाज तक फैले हुए हैं। इस संबंध में जिन परिदृश्यों पर विचार किया जाना है, उनमें संवादी, गणितीय, वैज्ञानिक, व्याख्यात्मक, कानूनी और राजनीतिक तर्क-वितर्क और वाद-विवाद का मूल्यांकन और मूल्यांकन सम्मिलित है।

कानून
दुनिया भर की राष्ट्रीय कानूनी प्रणालियों की सूची में, कई संदर्भों में न्यायाधीशों, सिविल सेवकों और पुलिस अधिकारियों के मानवीय निर्णय को पूरक या बदलने के लिए एल्गोरिथम उपकरण जैसे जोखिम मूल्यांकन उपकरण (RAI) का उपयोग किया जा रहा है। संयुक्त राज्य अमेरिका में RAI का उपयोग पूर्व-परीक्षण निरोध और सजा के फैसले में पुनरावृत्ति के जोखिम की भविष्यवाणी करने के लिए स्कोर उत्पन्न करने के लिए किया जा रहा है कैदियों के लिए पैरोल का मूल्यांकन और भविष्य के अपराध के लिए "हॉट स्पॉट" की भविष्यवाणी करने के लिए।  इन अंकों के परिणामस्वरूप स्वत: प्रभाव हो सकता है या न्याय प्रणाली के भीतर अधिकारियों द्वारा किए गए निर्णयों को सूचित करने के लिए उपयोग किया जा सकता है। कनाडा में 2014 से एडीएम का उपयोग आव्रजन अधिकारियों द्वारा संचालित कुछ गतिविधियों को स्वचालित करने और कुछ आप्रवासी और आगंतुक अनुप्रयोगों के मूल्यांकन का समर्थन करने के लिए किया गया है।

अर्थशास्त्र
ऑटोमेटेड ट्रेडिंग सिस्टम ऑर्डर खरीदने और बेचने के लिए कंप्यूटर प्रोग्राम का उपयोग करते हैं और स्वचालित रूप से मार्केट सेंटर या एक्सचेंजों को ऑर्डर सबमिट करते हैं। कंप्यूटर प्रोग्राम स्वचालित रूप से ट्रेडिंग रणनीतियों का उपयोग करके नियमों के पूर्वनिर्धारित सेट के आधार पर आदेश उत्पन्न कर सकते हैं जो तकनीकी विश्लेषण, उन्नत सांख्यिकीय और गणितीय संगणना, या अन्य इलेक्ट्रॉनिक स्रोतों से इनपुट पर आधारित हैं।

सतत लेखापरीक्षा
निरंतर ऑडिटिंग ऑडिटिंग प्रक्रियाओं को स्वचालित करने के लिए उन्नत विश्लेषणात्मक उपकरणों का उपयोग करती है। इसका उपयोग निजी क्षेत्र में व्यावसायिक उद्यमों द्वारा और सार्वजनिक क्षेत्र में सरकारी संगठनों और नगर पालिकाओं द्वारा किया जा सकता है। जैसा कि आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग का विकास जारी है, लेखाकार और लेखा परीक्षक तेजी से परिष्कृत एल्गोरिदम का उपयोग कर सकते हैं जो निर्णय लेते हैं जैसे कि यह निर्धारित करना कि क्या असंगत है, क्या कर्मियों को सूचित करना है, और कर्मियों को सौंपे गए कार्यों को कैसे प्राथमिकता देना है।

मीडिया और मनोरंजन
डिजिटल मीडिया, मनोरंजन प्लेटफॉर्म और सूचना सेवाएं जनसांख्यिकीय जानकारी, पिछले चयनों, सहयोगी फ़िल्टरिंग या सामग्री-आधारित फ़िल्टरिंग के आधार पर स्वचालित अनुशंसा प्रणाली के माध्यम से दर्शकों को तेजी से सामग्री प्रदान करती हैं। इसमें संगीत और वीडियो प्लेटफॉर्म, प्रकाशन, स्वास्थ्य सूचना, उत्पाद डेटाबेस और सर्च इंजन सम्मिलित हैं। कई सिफ़ारिशकर्ता प्रणालियाँ अनुशंसाओं को स्वीकार करने में उपयोगकर्ताओं को कुछ एजेंसी भी प्रदान करती हैं और सिस्टम उपयोगकर्ता के कार्यों के आधार पर डेटा-संचालित एल्गोरिथम फीडबैक लूप सम्मिलित करती हैं।

2020 में OpenAI और Google जैसी कंपनियों द्वारा बड़े पैमाने पर मशीन लर्निंग लैंग्वेज मॉडल और इमेज क्रिएशन प्रोग्राम विकसित किए जा रहे हैं, जिनकी पहुंच प्रतिबंधित है, हालांकि विज्ञापन, कॉपी राइटिंग, स्टॉक इमेजरी और ग्राफिक डिज़ाइन जैसे क्षेत्रों में उनके व्यापक प्रसार की संभावना है। पत्रकारिता और कानून जैसे अन्य क्षेत्रों के रूप में।

विज्ञापन
ऑनलाइन विज्ञापन कई डिजिटल मीडिया प्लेटफार्मों, वेबसाइटों और खोज इंजनों के साथ घनिष्ठ रूप से जुड़ा हुआ है और इसमें अक्सर विविध स्वरूपों में प्रदर्शन विज्ञापनों की स्वचालित डिलीवरी सम्मिलित होती है। 'प्रोग्रामेटिक' ऑनलाइन विज्ञापन में प्रत्यक्ष मानव निर्णय लेने के बजाय सॉफ्टवेयर के माध्यम से वेबसाइटों और प्लेटफार्मों पर डिजिटल विज्ञापन की बिक्री और वितरण को स्वचालित करना सम्मिलित है। इसे कभी-कभी जलप्रपात मॉडल के रूप में जाना जाता है जिसमें विभिन्न प्रणालियों और खिलाड़ियों के चरणों का एक क्रम सम्मिलित होता है: प्रकाशक और डेटा प्रबंधन प्लेटफ़ॉर्म, उपयोगकर्ता डेटा, विज्ञापन सर्वर और उनके वितरण डेटा, इन्वेंट्री प्रबंधन प्रणाली, विज्ञापन व्यापारी और विज्ञापन एक्सचेंज। इस प्रणाली के साथ विभिन्न मुद्दे हैं जिनमें विज्ञापनदाताओं के लिए पारदर्शिता की कमी, असत्यापित मेट्रिक्स, विज्ञापन स्थानों पर नियंत्रण की कमी, ऑडियंस ट्रैकिंग और गोपनीयता संबंधी चिंताएँ सम्मिलित हैं। विज्ञापनों को नापसंद करने वाले इंटरनेट उपयोगकर्ताओं ने विज्ञापन अवरोधक तकनीकों जैसे काउंटर उपाय अपनाए हैं जो उपयोगकर्ताओं को वेबसाइटों और कुछ इंटरनेट अनुप्रयोगों से अवांछित विज्ञापन को स्वचालित रूप से फ़िल्टर करने की स्वीकृति देते हैं। 2017 में, 24% ऑस्ट्रेलियाई इंटरनेट उपयोगकर्ताओं के पास विज्ञापन अवरोधक थे।

स्वास्थ्य
डीप लर्निंग एआई इमेज मॉडल कंप्यूटर एडेड निदान हैं। एक्स-रे की समीक्षा करने और आंखों की स्थिति मैक्यूलर डिजनरेशन का पता लगाने के लिए उपयोग किया जाता है।

सामाजिक सेवाएं
सरकारें 2000 के दशक की शुरुआत से अधिक कुशल प्रशासन और सामाजिक सेवाएं प्रदान करने के लिए डिजिटल तकनीकों को लागू कर रही हैं, जिन्हें अक्सर ई-सरकार कहा जाता है। दुनिया भर में कई सरकारें अब प्रोफाइलिंग और लक्षित नीतियों और सेवाओं के लिए स्वचालित, एल्गोरिथम सिस्टम का उपयोग कर रही हैं, जिसमें जोखिमों के आधार पर एल्गोरिथम पुलिसिंग, एयरपोर्ट स्क्रीनिंग जैसे लोगों की निगरानी सॉर्टिंग, बाल संरक्षण में जोखिम प्रोफाइल के आधार पर सेवाएं प्रदान करना, रोजगार सेवाएं प्रदान करना और शासन करना सम्मिलित है। बेरोजगार। सामाजिक सेवाओं में एडीएम का एक महत्वपूर्ण अनुप्रयोग भविष्य कहनेवाला विश्लेषण के उपयोग से संबंधित है - उदाहरण के लिए बाल संरक्षण में दुर्व्यवहार/उपेक्षा से बच्चों के लिए जोखिम की भविष्यवाणी, पुलिस और आपराधिक न्याय में अपराध या अपराध की भविष्यवाणी, कल्याण की भविष्यवाणी/ अनुपालन प्रणालियों में कर धोखाधड़ी, रोजगार सेवाओं में दीर्घकालिक बेरोजगारी की भविष्यवाणी। ऐतिहासिक रूप से ये प्रणालियाँ मानक सांख्यिकीय विश्लेषणों पर आधारित थीं, हालाँकि 2000 के दशक की शुरुआत से मशीन लर्निंग तेजी से विकसित और तैनात की गई है। सामाजिक सेवाओं में एडीएम के उपयोग के साथ प्रमुख मुद्दों में पूर्वाग्रह, निष्पक्षता, उत्तरदायित्व और व्याख्यात्मकता सम्मिलित है जो निर्णय के कारणों के आसपास पारदर्शिता को संदर्भित करता है और जिस आधार पर एक मशीन ने निर्णय लिया है, उसकी व्याख्या करने की क्षमता। उदाहरण के लिए, ऑस्ट्रेलिया की संघीय सामाजिक सुरक्षा वितरण एजेंसी, सेंटरलिंक ने ऋण का पता लगाने और एकत्र करने के लिए एक स्वचालित प्रक्रिया विकसित और कार्यान्वित की, जिसके कारण गलत तरीके से ऋण वसूली के कई मामले सामने आए, जिसे रोबोडेट योजना के रूप में जाना जाने लगा।

परिवहन और गतिशीलता
कनेक्टेड और ऑटोमेटेड मोबिलिटी (सीएएम) में स्वायत्त वाहन जैसे कि सेल्फ ड्राइविंग कार और परिवहन के अन्य रूप सम्मिलित हैं जो वाहन के मानव नियंत्रण के विभिन्न पहलुओं को बदलने के लिए स्वचालित निर्णय लेने वाली प्रणाली का उपयोग करते हैं। [31] यह स्तर 0 (पूर्ण मानव ड्राइविंग) से लेकर स्तर 5 (पूर्णतः स्वायत्त) तक हो सकता है। स्तर 5 पर मशीन डेटा मॉडल और भू-स्थानिक मानचित्रण और रीयल-टाइम सेंसर और पर्यावरण के प्रसंस्करण के आधार पर वाहन को नियंत्रित करने के निर्णय लेने में सक्षम है। 2021 में 1 से 3 के स्तर वाली कारें पहले से ही बाजार में उपलब्ध हैं। 2016 में जर्मन सरकार ने 'स्वचालित और कनेक्टेड ड्राइविंग पर नैतिकता आयोग' की स्थापना की, जिसने कनेक्टेड और स्वचालित वाहनों (CAV) को विकसित करने की सिफारिश की, यदि सिस्टम मानव की तुलना में कम दुर्घटनाओं का कारण बनता है। ड्राइवर (जोखिम का सकारात्मक संतुलन)। इसने स्वचालित और कनेक्टेड ड्राइविंग के अनुकूलन के लिए 20 नैतिक नियम भी प्रदान किए। 2020 में सीएएम पर यूरोपीय आयोग की रणनीति ने सिफारिश की कि उन्हें सड़क दुर्घटनाओं को कम करने और उत्सर्जन को कम करने के लिए यूरोप में अपनाया जाना चाहिए, हालांकि स्व-ड्राइविंग कार भी दुर्घटनाओं के मामले में दायित्व और नैतिक निर्णय लेने के मामले में कई नीति, सुरक्षा और कानूनी मुद्दों को उठाती हैं।, साथ ही गोपनीयता के मुद्दे भी यदि एवी को व्यापक रूप से अपनाया जाना है तो स्वायत्त वाहनों में विश्वास के मुद्दे और उनकी सुरक्षा के बारे में समुदाय की चिंता प्रमुख कारक हैं।

निगरानी
सेंसर, कैमरा, ऑनलाइन लेन-देन और सोशल मीडिया के माध्यम से स्वचालित डिजिटल डेटा संग्रह ने सरकार और वाणिज्यिक क्षेत्रों में निगरानी प्रथाओं और संस्थानों के दायरे, पैमाने और लक्ष्यों का काफी विस्तार किया है। परिणामस्वरूप संदिग्धों की लक्षित निगरानी से पूरी आबादी की निगरानी करने की क्षमता में एक बड़ा बदलाव आया है। स्वचालित डेटा संग्रह के परिणामस्वरूप अब निगरानी के स्तर को निगरानी पूंजीवाद या निगरानी अर्थव्यवस्था के रूप में वर्णित किया गया है, जिस तरह से डिजिटल मीडिया में बड़े पैमाने पर ट्रैकिंग और हर बातचीत पर डेटा का संचय सम्मिलित है।

नैतिक और कानूनी मुद्दे
स्वचालित निर्णय लेने वाली प्रणालियों के कई सामाजिक, नैतिक और कानूनी निहितार्थ हैं। उठाई गई चिंताओं में पारदर्शिता की कमी और फैसलों की प्रतिस्पर्धात्मकता, गोपनीयता और निगरानी पर घुसपैठ, डेटा और एल्गोरिथम पूर्वाग्रह के कारण प्रणालीगत पूर्वाग्रह और असमानता को बढ़ाना, बौद्धिक संपदा अधिकार, मीडिया प्लेटफॉर्म के माध्यम से गलत सूचना का प्रसार, प्रशासनिक भेदभाव, जोखिम और जिम्मेदारी, बेरोजगारी और सम्मिलित हैं। कई अन्य। जैसा कि एडीएम अधिक सर्वव्यापी हो जाता है, सूचना समाजों में सुशासन सुनिश्चित करने के लिए नैतिक चुनौतियों का समाधान करने की अधिक आवश्यकता है।

एडीएम सिस्टम अक्सर मशीन लर्निंग और एल्गोरिदम पर आधारित होते हैं जिन्हें आसानी से देखा या विश्लेषण नहीं किया जा सकता है, जिससे चिंता होती है कि वे 'ब्लैक बॉक्स' सिस्टम हैं जो पारदर्शी या जवाबदेह नहीं हैं।

कनाडा में सिटीजन लैब की एक रिपोर्ट विभिन्न क्षेत्रों में एडीएम के अनुप्रयोग के एक महत्वपूर्ण मानवाधिकार विश्लेषण के लिए तर्क देती है ताकि यह सुनिश्चित किया जा सके कि स्वचालित निर्णय लेने का उपयोग अधिकारों के उल्लंघन में न हो, जिसमें समानता के अधिकार और गैर-भेदभाव की स्वतंत्रता सम्मिलित है। आंदोलन, अभिव्यक्ति, धर्म, और संघ गोपनीयता अधिकार और व्यक्ति के जीवन, स्वतंत्रता और सुरक्षा के अधिकार।

एडीएम को विधायी प्रतिक्रियाओं में सम्मिलित हैं:


 * यूरोपीय संघ सामान्य डेटा संरक्षण विनियमन (यूरोपीय संघ), 2016 में पेश किया गया, यूरोपीय संघ (ईयू) में डेटा संरक्षण और गोपनीयता पर यूरोपीय संघ के कानून में एक विनियमन है। अनुच्छेद 22(1) डेटा विषयों के निर्णय के अधीन नहीं होने के अधिकार को स्थापित करता है, जिसके कानूनी या अन्य महत्वपूर्ण प्रभाव होते हैं, जो पूरी तरह से स्वचालित व्यक्तिगत निर्णय लेने पर आधारित होते हैं। जीडीपीआर में स्पष्टीकरण के अधिकार पर कुछ नियम भी सम्मिलित हैं, हालांकि इनका सटीक दायरा और प्रकृति वर्तमान में यूरोपीय संघ के न्यायालय द्वारा समीक्षा के अधीन है। [41] इन प्रावधानों को पहली बार GDPR में पेश नहीं किया गया था, लेकिन 1995 में डेटा प्रोटेक्शन डायरेक्टिव और 1978 के फ्रांसीसी कानून, लोई इंफॉर्मेटिक एट लिबर्टेस [fr] के बाद से पूरे यूरोप में एक समान रूप में सम्मिलित हैं। इसी तरह युगांडा, मोरक्को और अमेरिकी राज्य वर्जीनिया सहित दुनिया भर के कई अन्य न्यायालयों के डेटा संरक्षण निर्देश में अलग-अलग संलग्न अधिकारों और दायित्वों के साथ दायरे और शब्दों के प्रावधान सम्मिलित हैं।
 * फ्रांसीसी लोई पोर यूने रेपुब्लिक न्यूमेरिक के तहत 'एल्गोरिदमिक ट्रीटमेंट' बनाने वाले सार्वजनिक क्षेत्र के स्वचालित निर्णयों की व्याख्या के अधिकार <रेफरी नाम = एडवर्ड्स 46–54 />

पूर्वाग्रह
एडीएम निम्न से उत्पन्न एल्गोरिथम बायस को सम्मिलित कर सकता है:
 * डेटा स्रोत, जहां डेटा इनपुट उनके संग्रह या चयन में पक्षपाती हैं
 * एल्गोरिद्म का तकनीकी डिज़ाइन, उदाहरण के लिए जहां यह अनुमान लगाया गया है कि कोई व्यक्ति कैसे व्यवहार करेगा
 * आकस्मिक पूर्वाग्रह, जहां अप्रत्याशित परिस्थितियों में एडीएम का आवेदन एक पक्षपाती परिणाम बनाता है

स्पष्टीकरण
पक्षपाती या गलत डेटा या एल्गोरिदम के प्रश्न और चिंताएं कि कुछ एडीएम ब्लैक बॉक्स प्रौद्योगिकियां हैं, मानव जांच या पूछताछ के लिए बंद हैं, ने व्याख्यात्मकता के मुद्दे या स्वचालित निर्णयों और एआई के स्पष्टीकरण के अधिकार के रूप में संदर्भित किया है। इसे एक्सप्लेनेबल एआई (एक्सएआई) या इंटरप्रेटेबल एआई के रूप में भी जाना जाता है, जिसमें समाधान के परिणामों का विश्लेषण किया जा सकता है और मनुष्यों द्वारा समझा जा सकता है। XAI एल्गोरिदम को तीन सिद्धांतों - पारदर्शिता, व्याख्यात्मकता और व्याख्यात्मकता का पालन करने के लिए माना जाता है।

सूचना विषमता
स्वचालित निर्णय लेने से उन व्यक्तियों के बीच सूचना विषमता बढ़ सकती है, जिनका डेटा सिस्टम में फीड होता है और उस डेटा से जानकारी प्राप्त करने में सक्षम प्लेटफ़ॉर्म और निर्णय लेने वाली प्रणालियाँ। दूसरी ओर यह देखा गया है कि वित्तीय व्यापार में दो कृत्रिम बुद्धिमान एजेंटों के बीच सूचना विषमता दो मानव एजेंटों या मानव और मशीन एजेंटों के बीच की तुलना में बहुत कम हो सकती है।

अनुसंधान क्षेत्र
कई शैक्षणिक विषयों और क्षेत्रों में व्यापार, कंप्यूटर विज्ञान, मानव कंप्यूटर इंटरैक्शन (एचसीआई), कानून, लोक प्रशासन, और मीडिया और संचार सहित एडीएम के विकास, अनुप्रयोग और निहितार्थ पर तेजी से ध्यान दिया जा रहा है। खोज प्रणालियों और प्लेटफार्मों के माध्यम से मीडिया सामग्री और एल्गोरिथम संचालित समाचार, वीडियो और अन्य सामग्री का स्वचालन मीडिया अध्ययनों में अकादमिक अनुसंधान का एक प्रमुख केंद्र है।

निष्पक्षता, जवाबदेही और पारदर्शिता पर ACM सम्मेलन (ACM FAccT) की स्थापना 2018 में सामाजिक-तकनीकी प्रणालियों के संदर्भ में पारदर्शिता और व्याख्यात्मकता का अध्ययन करने के लिए की गई थी, जिनमें से कई में एडीएम और AI सम्मिलित हैं।

एडीएम की जांच करने वाले प्रमुख अनुसंधान केंद्रों में सम्मिलित हैं:
 * एल्गोरिथम वॉच, जर्मनी
 * स्वचालित निर्णय लेने और समाज के लिए एआरसी सेंटर ऑफ एक्सीलेंस, ऑस्ट्रेलिया
 * सिटीजन लैब, कनाडा
 * सूचना विज्ञान यूरोप

यह भी देखें

 * स्वचालित निर्णय समर्थन
 * एल्गोरिथम पूर्वाग्रह
 * निर्णय लेने वाला सॉफ्टवेयर
 * निर्णय प्रबंधन
 * कृत्रिम बुद्धिमत्ता की नैतिकता
 * एल्गोरिथम द्वारा सरकार
 * यंत्र अधिगम
 * अनुशंसा प्रणाली