स्वचालित निर्णय-निर्धारण

स्वचालित निर्णय-निर्धारण (एडीएम) में मानव निरीक्षण के अलग-अलग परिमाण के साथ सार्वजनिक प्रशासन, व्यवसाय, स्वास्थ्य, शिक्षा, नियम, रोजगार, परिवहन, मीडिया और मनोरंजन या हस्तक्षेप सहित कई संदर्भों में निर्णय लेने के लिए डेटा मशीनों और एल्गोरिदम का उपयोग सम्मिलित है। एडीएम में डेटाबेस, टेक्स्ट, सोशल मीडिया, संवेदक, छवि या भाषण जैसे कई स्रोतों से बड़े पैमाने पर डेटा सम्मिलित होता है, जिसे कंप्यूटर सॉफ्टवेयर, एल्गोरिदम, मशीन लर्निंग, प्राकृतिक भाषा प्रसंस्करण, कृत्रिम बुद्धिमत्ता, गुप्त और रोबोटिक सहित विभिन्न तकनीकों का उपयोग करके संसाधित किया जाता है। कई संदर्भों में स्वचालित निर्णय निर्धारण प्रणालियों (एडीएमएस) का बढ़ता उपयोग मानव समाज के लिए तकनीकी, नियम, नैतिक, सामाजिक, शैक्षिक, आर्थिक और स्वास्थ्य परिणामों पर विचार करने के लिए कई लाभ और चुनौतियों को प्रस्तुत करता है।

संक्षिप्त विवरण
स्वचालन स्तर के आधार पर एडीएम की विभिन्न परिभाषाएँ हैं। कुछ परिभाषाओं से पता चलता है कि एडीएम में मानव इनपुट के अतिरिक्त विशुद्ध रूप से तकनीकी साधनों के माध्यम से किए गए निर्णय जैसे कि यूरोपीय संघ के सामान्य डेटा संरक्षण विनियमन (अनुच्छेद 22) सम्मिलित हैं। हालांकि एडीएम प्रौद्योगिकी और अनुप्रयोग निर्णय समर्थन प्रणाली से लेकर कई रूप ले सकते हैं जो मानव निर्णय-निर्माताओं को प्रतिकृया करने के लिए प्रयास करते हैं, जिन्हें कभी-कभी संवर्धित बुद्धिमत्ता या 'साझा निर्णय निर्धारण' के रूप में जाना जाता है, पूरी तरह से स्वचालित निर्णय निर्धारण की प्रक्रिया जो मानव साझेदारी के अतिरिक्त व्यक्तियों या संगठनों की ओर से निर्णय लेती है। स्वचालित निर्णय निर्धारण वाली प्रणालियों में उपयोग किए जाने वाले मॉडल कृत्रिम बुद्धि और कृत्रिम तंत्रिका नेटवर्क (डीएनएन) के माध्यम से जांच सूची और निर्णय निर्धारण के रूप में सरल हो सकते हैं।

1950 के दशक के बाद से कंप्यूटर जटिल, अस्पष्ट और अत्यधिक कुशल कार्यों जैसे छवि और भाषण मान्यता, गेम, वैज्ञानिक चिकित्सा विश्लेषण और कई डेटा स्रोतों में अनुमान लगाने की क्षमता रखने के लिए आधारिक प्रसंस्करण करने में सक्षम होने से चले गए हैं। एडीएम समाज के सभी क्षेत्रों और मनोरंजन से लेकर परिवहन तक कई विविध डोमेन को तीव्रता से निर्मित किया जा रहा है। एडीएम प्रणाली (एडीएमएस) में कई निर्णय बिंदु, डेटा समूह और प्रौद्योगिकियाँ (एडीएमटी) सम्मिलित हो सकती हैं और एक बड़ी प्रशासनिक या तकनीकी प्रणाली को आपराधिक न्याय प्रणाली या व्यावसायिक प्रक्रिया के भीतर प्रयुक्त की जा सकता हैं।

डेटा
स्वचालित निर्णय निर्धारण में एक इनपुट के रूप में डेटा का उपयोग या तो एक प्रक्रिया मॉडल या एल्गोरिथ्म के भीतर या नए मॉडल सीखने और उत्पन्न करने के लिए किया जाता है। एडीएम प्रणालियाँ सिस्टम के लक्ष्यों और संदर्भों के आधार पर डेटा प्रकारों और स्रोतों की एक विस्तृत श्रृंखला का उपयोग और संबद्ध कर सकती हैं, उदाहरण के लिए स्वचालित कारों और रोबोटिक के लिए संवेदक डेटा, सुरक्षा प्रणालियों के लिए पहचान डेटा, सार्वजनिक प्रशासन के लिए जनसांख्यिकीय और वित्तीय डेटा, स्वास्थ्य में चिकित्सा रिकॉर्ड में आपराधिक डेटा सम्मिलित है। इसमें कभी-कभी बड़ी मात्रा में डेटा और कंप्यूटिंग क्षमता सम्मिलित हो सकती है।

डेटा गुणवत्ता
एडीएम सिस्टम में उपलब्ध और उपयोग किए जाने योग्य डेटा की गुणवत्ता परिणामों के लिए मौलिक है और कई कारणों से प्रायः अत्यधिक समस्याग्रस्त होती है। डेटा समूह प्रायः अत्यधिक परिवर्तनशील होते हैं, बड़े पैमाने पर डेटा को निगमों या सरकारों द्वारा गोपनीयता या सुरक्षा कारणों से प्रतिबंधित, अपूर्ण, पूर्वाग्रहित, समय या प्रसारण क्षेत्र की स्थिति में सीमित विभिन्न तरीकों से शर्तों को मापने, वर्णन करने या कई अन्य कारणों से नियंत्रित किया जा सकता है।

मशीनों को डेटा से सीखने के लिए प्रायः अधिक पुस्तक संग्रह की आवश्यकता होती है जिसे प्राप्त करना या गणना करना जटिल हो सकता है। हालांकि जहां उपलब्ध है वहां छाती के एक्स-रे के निदान में उदाहरण के लिए महत्वपूर्ण सफलताएं प्रदान की गई हैं।

एडीएम प्रौद्योगिकी
स्वचालित निर्णय निर्धारण वाली एडीएम प्रौद्योगिकी सॉफ्टवेयर-कोडित डिजिटल प्रणाली हैं जो स्वचालित निर्णय निर्धारण वाली प्रणालियों के कार्य में योगदान करते हुए इनपुट डेटा को आउटपुट डेटा में अनुवाद को स्वचालित करती हैं। एडीएम अनुप्रयोगों और प्रणालियों में उपयोग की जाने वाली तकनीकों की एक विस्तृत श्रृंखला है।

एडीएम प्रौद्योगिकी में निम्नलिखित आधारिक कम्प्यूटेशनल संचालन सम्मिलित हैं:


 * खोज (1-2-1, 1-2, डेटा सुमेलन या संयोजन)
 * सुमेलन (दो अलग-अलग वस्तुएं)
 * गणितीय गणना (सूत्र)

मूल्यांकन और समूहीकरण के लिए एडीएमटी एडीएम प्रौद्योगिकी:


 * उपयोगकर्ता रूपरेखा
 * संस्तुतिकर्ता प्रणाली
 * क्लस्टर विश्लेषण
 * वर्गीकरण
 * विश्लेषण प्रशिक्षण
 * पूर्वसूचक विश्लेषण (पूर्वानुमान करना)

अंतरिक्ष और प्रवाह से संबंधित एडीएम प्रौद्योगिकी:


 * सामाजिक नेटवर्क विश्लेषण
 * मानचित्रण
 * परिसंचरण

जटिल डेटा स्वरूपों के प्रसंस्करण के लिए एडीएम प्रौद्योगिकी:


 * डिजिटल प्रतिबिंब प्रसंस्करण
 * ऑडियो प्रसंस्करण
 * प्राकृतिक भाषा प्रसंस्करण (एनएलपी)

अन्य एडीएम प्रौद्योगिकियां:


 * व्यापार नियम प्रबंधन प्रणाली
 * समय श्रृंखला
 * असंगति पहचान
 * मॉडलिंग या अनुरूपण

मशीन लर्निंग
मशीन लर्निंग (एमएल) में अनुभव से सीखने और समस्याओं को हल करने के लिए बड़े डेटा समूह और उदाहरणों के माध्यम से कंप्यूटर प्रोग्राम का प्रशिक्षण सम्मिलित है। मशीन लर्निंग का उपयोग डेटा उत्पन्न करने और उसका विश्लेषण करने के साथ-साथ एल्गोरिथम की गणना करने के लिए किया जा सकता है। छवि और वाक् पहचान, अनुवाद, टेक्स्ट, डेटा और अनुरूपण पर प्रायुक्त किया गया है। जबकि मशीन लर्निंग कुछ समय के लिए आसपास रहा है। यह तंत्रिका नेटवर्क (डीएनएन) के प्रशिक्षण में हाल की सफलताओं के कारण तीव्रता से शक्तिशाली होता जा रहा है और जीपीयू सहसंसाधक और क्लाउड कंप्यूटिंग के साथ डेटा भंडारण क्षमता और कम्प्यूटेशनल शक्ति में प्रभावकारी वृद्धि हुई है।

आधारिक मॉडल पर आधारित मशीन लर्निंग सिस्टम तंत्रिका नेटवर्क पर चलते हैं और बड़ी मात्रा में सामान्य डेटा जैसे टेक्स्ट और छवियों पर एकल विशाल प्रणाली को प्रशिक्षित करने के लिए पैटर्न मिलान का उपयोग करते हैं। प्रारम्भिक मॉडल में प्रत्येक नई समस्या के लिए ध्वनि से प्रारम्भ करने की प्रवृत्ति थी। हालांकि 2020 के प्रारम्भ से कई नई समस्याओं के अनुकूल होने में सक्षम हैं। इन तकनीकों के उदाहरणों में मुक्त एआई का डीएएलएल-ई (छवि निर्माण प्रोग्राम) और उनके विभिन्न जीपीटी भाषा मॉडल और गूगल का पीएएलएम भाषा मॉडल प्रोग्राम सम्मिलित हैं।

अनुप्रयोग
एडीएम का उपयोग सार्वजनिक और निजी दोनों क्षेत्रों के संगठनों द्वारा मानव निर्णय को परिवर्तित करने या बढ़ाने के लिए कई कारणों से किया जा रहा है, जिसमें निरंतरता बढ़ाने, दक्षता में सुधार करने, लागत कम करने और जटिल समस्याओं के नए समाधानों को सक्षम करने में सहायता करना सम्मिलित है।

तर्क
तर्क की गुणवत्ता का आकलन करने के लिए प्रौद्योगिकी के उपयोग में अनुसंधान और विकास चल रहा है।  तर्कपूर्ण निबंधों का आकलन  और निर्णायक तर्क इन तर्क तकनीकों के संभावित अनुप्रयोग शिक्षा और समाज तक विस्तृत हैं।    इस संबंध में जिन परिदृश्यों पर विचार किया जाना है उनमें संवादी, गणितीय, वैज्ञानिक, व्याख्यात्मक, नियतात्मक और राजनीतिक तर्क-वितर्क और मूल्यांकन सम्मिलित है।

नियम
विश्व की राष्ट्रीय नियम प्रणालियों की सूची में कई संदर्भों में न्यायाधीशों, जनसेवकों और पुलिस अधिकारियों के मानवीय निर्णय को पूरक या परिवर्तित करने के लिए एल्गोरिथम उपकरण जैसे जोखिम मूल्यांकन उपकरण (आरएआई) का उपयोग किया जा रहा है। संयुक्त राज्य अमेरिका में आरएआई का उपयोग पूर्व-परीक्षण निरोध और सजा के परिणाम में पुनरावृत्ति के जोखिम का पूर्वानुमान प्राप्तांक उत्पन्न करने के लिए किया जा रहा है। कैदियों के लिए पैरोल का मूल्यांकन और भविष्य के अपराध के लिए "हॉट स्पॉट" का पूर्वानुमान करने के लिए इन अंकों के परिणामस्वरूप स्वत: प्रभाव हो सकता है।  या न्याय प्रणाली के भीतर अधिकारियों द्वारा किए गए निर्णयों को सूचित करने के लिए उपयोग किया जा सकता है। कनाडा में 2014 से एडीएम का उपयोग आव्रजन अधिकारियों द्वारा संचालित कुछ गतिविधियों को स्वचालित करने और कुछ अप्रवासी नागरिक और दर्शक अनुप्रयोगों के मूल्यांकन का समर्थन करने के लिए किया गया है।

अर्थशास्त्र
स्वचालित व्यापार प्रणाली अनुक्रम से खरीदने और बेचने के लिए कंप्यूटर प्रोग्राम का उपयोग करते हैं और स्वचालित रूप से विणपन केंद्र या विनिमय को क्रम से प्रस्तुत करते हैं। कंप्यूटर प्रोग्राम स्वचालित रूप से ट्रेडिंग योजनयों का उपयोग करके नियमों के पूर्वनिर्धारित समूह के आधार पर क्रम को उत्पन्न कर सकते हैं जो तकनीकी विश्लेषण, उन्नत सांख्यिकीय और गणितीय संगणना या अन्य इलेक्ट्रॉनिक स्रोतों से इनपुट पर आधारित हैं।

सतत लेखापरीक्षा
निरंतर लेखापरीक्षा प्रक्रियाओं को स्वचालित करने के लिए उन्नत विश्लेषणात्मक उपकरणों का उपयोग किया जाता है। इसका उपयोग निजी क्षेत्र में व्यावसायिक उद्यमों द्वारा और सार्वजनिक क्षेत्र में सरकारी संगठनों और नगर पालिकाओं द्वारा किया जा सकता है। जैसा कि कृत्रिम बुद्धिमत्ता और मशीन लर्निंग का विकास प्रारम्भ है, लेखाकार और लेखा परीक्षक तीव्रता से परिष्कृत एल्गोरिदम का उपयोग कर सकते हैं जो निर्णय लेते हैं जैसे कि यह निर्धारित करना कि क्या असंगत है, क्या उपयोगकर्ताओं को सूचित करना है और उपयोगकर्ताओं को दिए गए कार्यों को कैसे प्राथमिकता देना है।

मीडिया और मनोरंजन
डिजिटल मीडिया, मनोरंजन प्लेटफॉर्म और सूचना सेवाएं जनसांख्यिकीय जानकारी, पिछले चयनों, सहयोगी फ़िल्टरिंग या सामग्री-आधारित फ़िल्टरिंग के आधार पर स्वचालित अनुशंसा प्रणाली के माध्यम से दर्शकों को तीव्रता से सामग्री प्रदान करती हैं। इसमें संगीत और वीडियो प्लेटफॉर्म, प्रकाशन, स्वास्थ्य सूचना, उत्पाद डेटाबेस और खोज इंजन सम्मिलित हैं। कई संस्तुतिकर्ता प्रणाली अनुशंसाओं को स्वीकृत करने में उपयोगकर्ताओं को कुछ संस्थाए भी प्रदान करती हैं और प्रणाली उपयोगकर्ता के कार्यों के आधार पर डेटा-संचालित एल्गोरिथम पुनर्निवेशन लूप सम्मिलित करती हैं।

2020 में मुक्त-एआई और गूगल जैसी संस्थाओ द्वारा बड़े पैमाने पर मशीन लर्निंग भाषा मॉडल और छवि निर्माण प्रोग्राम विकसित किए जा रहे हैं जिनकी पहुंच प्रतिबंधित है। हालांकि विज्ञापन, कॉपी राइटिंग, भंडारण कल्पनाए, पत्रकारिता और नियम जैसे अन्य क्षेत्रों के रूप में और आरेख डिज़ाइन जैसे क्षेत्रों में उनके व्यापक प्रसार की संभावना है।

विज्ञापन
ऑनलाइन विज्ञापन कई डिजिटल मीडिया प्लेटफार्मों, वेबसाइटों और खोज इंजनों के साथ घनिष्ठ रूप से जुड़ा हुआ है और इसमें प्रायः विविध स्वरूपों में प्रदर्शन विज्ञापनों की स्वचालित संचालन सम्मिलित होता है। 'प्रोग्रामेटिक' ऑनलाइन विज्ञापन में प्रत्यक्ष मानव निर्णय लेने के अतिरिक्त सॉफ्टवेयर के माध्यम से वेबसाइटों और प्लेटफार्मों पर डिजिटल विज्ञापन की बिक्री और वितरण को स्वचालित करना सम्मिलित है। इसे कभी-कभी जलप्रपात मॉडल के रूप में जाना जाता है जिसमें विभिन्न प्रणालियों और विंडोज के चरणों का एक क्रम सम्मिलित होता है। प्रकाशक और डेटा प्रबंधन प्लेटफ़ॉर्म, उपयोगकर्ता डेटा, विज्ञापन सर्वर और उनके वितरण डेटा, विस्तृत सूची प्रबंधन प्रणाली, विज्ञापन व्यापारी और विज्ञापन विनियम सम्मिलित है। इस प्रणाली के साथ विभिन्न समस्याए हैं जिनमें विज्ञापनदाताओं के लिए पारदर्शिता की कमी, असत्यापित मेट्रिक्स, विज्ञापन स्थानों पर नियंत्रण की कमी, औपचारिक नियंत्रण और गोपनीयता संबंधी चिंताएँ सम्मिलित हैं। विज्ञापनों को नापसंद करने वाले इंटरनेट उपयोगकर्ताओं ने विज्ञापन अवरोधक तकनीकों जैसे गणना उपाय अपनाए हैं जो उपयोगकर्ताओं को वेबसाइटों और कुछ इंटरनेट अनुप्रयोगों से अवांछित विज्ञापन को स्वचालित रूप से फ़िल्टर करने की स्वीकृति देते हैं। 2017 में, 24% ऑस्ट्रेलियाई इंटरनेट उपयोगकर्ताओं के पास विज्ञापन अवरोधक थे।

स्वास्थ्य
पश्च लर्निंग कृत्रिम बुद्धिमत्ता छवि मॉडल कंप्यूटर सहायता प्राप्त निदान हैं। एक्स-रे की समीक्षा करने और आंखों की स्थिति चित्‍तीदर विपोषण का पता लगाने के लिए उपयोग किया जाता है।

सामाजिक सेवाएं
सरकार ने 2000 के दशक के प्रारम्भ से अधिक कुशल प्रशासन और सामाजिक सेवाएं प्रदान करने के लिए डिजिटल तकनीकों को प्रयुक्त है। जिन्हें प्रायः डिजिटल-सरकार कहा जाता है। विश्व में कई सरकारें अब रूपरेखा और लक्षित नीतियों और सेवाओं के लिए स्वचालित, एल्गोरिथम सिस्टम का उपयोग कर रही हैं, जिसमें जोखिमों के आधार पर एल्गोरिथम पुलिसिंग, एयरपोर्ट स्क्रीनिंग जैसे लोगों के संरक्षण सॉर्टिंग, बाल संरक्षण में जोखिम रूपरेखा के आधार पर सेवाएं प्रदान करना, रोजगार सेवाएं प्रदान करना और शासन करना सम्मिलित है। सामाजिक सेवाओं में एडीएम का एक महत्वपूर्ण अनुप्रयोग पूर्वानुमान विश्लेषण के उपयोग से संबंधित है। उदाहरण के लिए बाल संरक्षण में दुर्व्यवहार/उपेक्षा से बच्चों के लिए जोखिम की पूर्वानुमान पुलिस और आपराधिक न्याय में अपराध या अपराध का पूर्वानुमान, कल्याण का पूर्वानुमान अनुपालन प्रणालियों में कर जोखिम, रोजगार सेवाओं में दीर्घकालिक बेरोजगारी सम्मिलित है। ऐतिहासिक रूप से ये प्रणालियाँ मानक सांख्यिकीय विश्लेषणों पर आधारित थीं। हालाँकि 2000 के दशक की प्रारम्भ से मशीन लर्निंग तीव्रता से विकसित और सक्रिय हो गई है। सामाजिक सेवाओं में एडीएम के उपयोग के साथ प्रमुख समस्याओं में पूर्वाग्रह, निष्पक्षता, उत्तरदायित्व और व्याख्यात्मकता सम्मिलित है जो निर्णय के कारणों के आसपास पारदर्शिता को संदर्भित करती है और जिस आधार पर एक मशीन ने निर्णय लिया है, उसकी व्याख्या करने की क्षमता उदाहरण के लिए ऑस्ट्रेलिया की संघीय सामाजिक सुरक्षा वितरण संस्था, सेंटरलिंक ने ऋण का पता लगाने और एकत्र करने के लिए एक स्वचालित प्रक्रिया को विकसित और कार्यान्वित किया, जिसके कारण गलत तरीके से ऋण वसूली की कई स्थितियाँ सामने आयी है और जिनको रोबोडेट योजना के रूप में जाना जाने लगा है।

परिवहन और गतिशीलता
परिवह और स्वचालित गतिशीलता (सीएएम) में स्वायत्त वाहन जैसे कि स्वचालित कार और परिवहन के अन्य रूप सम्मिलित हैं जो वाहन के मानव नियंत्रण के विभिन्न दृष्टिकोण को परिवर्तित करने के लिए स्वचालित निर्णय निर्धारण वाली प्रणाली का उपयोग करते हैं। यह स्तर 0 (पूर्ण मानव चालन) से लेकर स्तर 5 (पूर्णतः स्वायत्त) तक हो सकता है। स्तर 5 पर मशीन डेटा मॉडल और भू-स्थानिक मानचित्रण और वास्तविक समय संवेदक और पर्यावरण के प्रसंस्करण के आधार पर वाहन को नियंत्रित करने के निर्णय लेने में सक्षम है। 2021 में 1 से 3 के स्तर वाली कारें पहले से ही बाजार में उपलब्ध हैं। 2016 में जर्मन सरकार ने 'स्वचालित और परिवहन चालन पर नैतिकता आयोग' की स्थापना की, जिसने परिवहन और स्वचालित वाहनों (सीएवी) को विकसित करने का उत्तरदायित्व किया है यदि प्रणाली मानव की तुलना में चालन (जोखिम का संतुलन) कम दुर्घटनाओं का कारण बनती है। इसने स्वचालित और परिवहन चालन के अनुकूलन के लिए 20 नैतिक नियम भी प्रदान किए है। 2020 में सीएएम पर यूरोपीय आयोग की योजनाओ ने प्रयास किया कि उन्हें सड़क दुर्घटनाओं को कम करने और उत्सर्जन को कम करने के लिए यूरोप में अपनाया जाना चाहिए, हालांकि स्वचालित कार भी दुर्घटनाओं की स्थिति में दायित्व और नैतिक निर्णय लेने की स्थिति में कई नीति, सुरक्षा और नियमों की समस्या को उत्पन्न करती हैं। साथ ही गोपनीयता के कारण भी यदि एवी को व्यापक रूप से अपनाया जाना है तो स्वायत्त वाहनों में विश्वास के कारण और उनकी सुरक्षा के विषय में समुदाय की चिंता प्रमुख कारक हैं।

संरक्षण
संवेदक, कैमरा, ऑनलाइन लेन-देन और सोशल मीडिया के माध्यम से स्वचालित डिजिटल डेटा संग्रह ने सरकार और वाणिज्यिक क्षेत्रों में संरक्षण प्रथाओं और संस्थानों के वास्तविक पैमाने और लक्ष्यों का अपेक्षाकृत विस्तार किया है। जिसके परिणामस्वरूप संदिग्धों की लक्षित क्रमादेश से समग्र जनसंख्या का संरक्षण करने की क्षमता में एक बड़ा परिवर्तन आया है। स्वचालित डेटा संग्रह के परिणामस्वरूप अब क्रमादेश के स्तर को क्रमादेश पूंजीवाद या क्रमादेश अर्थव्यवस्था के रूप में वर्णित किया गया है, जिस प्रकार से डिजिटल मीडिया में बड़े पैमाने पर नियंत्रण और प्रत्येक प्रभाव पर डेटा का संचय सम्मिलित है।

नैतिक और विधिक निहितार्थ
स्वचालित निर्णय निर्धारण वाली प्रणालियों के कई सामाजिक, नैतिक और विधिक निहितार्थ हैं। विकसित कई चिंताओं में पारदर्शिता की कमी और दूरी की प्रतिस्पर्धात्मकता, गोपनीयता और क्रमादेश पर आक्रामक, डेटा और एल्गोरिथम पूर्वाग्रह के कारण प्रणालीगत पूर्वाग्रह और असमानता को बढ़ाना, बौद्धिक संपदा अधिकार, मीडिया प्लेटफॉर्म के माध्यम से गलत सूचना का प्रसार, प्रशासनिक समानता, जोखिम और बेरोजगारी सम्मिलित हैं। जैसा कि एडीएम अधिक सर्वव्यापी हो जाता है और सूचना समाजों में सुशासन सुनिश्चित करने के लिए नैतिक चुनौतियों का समाधान करने की अधिक आवश्यकता होती है।

एडीएम प्रणाली प्रायः मशीन लर्निंग और एल्गोरिदम पर आधारित होती हैं जिनका आसानी से विश्लेषण नहीं किया जा सकता है। जिससे समस्याए होती है कि वे 'ब्लैक बॉक्स' सिस्टम हैं जो पारदर्शी या उत्तरदायी नहीं हैं। कनाडा में नागरिक प्रयोगशाला की एक रिपोर्ट विभिन्न क्षेत्रों में एडीएम के अनुप्रयोग के एक महत्वपूर्ण मानवाधिकार विश्लेषण के लिए तर्क देती है ताकि यह सुनिश्चित किया जा सके कि स्वचालित निर्णय निर्धारण का उपयोग अधिकारों के उल्लंघन में न हो, जिसमें समानता के अधिकार और गैर-भेदभाव की स्वतंत्रता, अनुप्रयोग, अभिव्यक्ति, धर्म, संघ गोपनीयता अधिकार व्यक्ति के जीवन, स्वतंत्रता और सुरक्षा के अधिकार सम्मिलित है।

एडीएम की वैधानिक प्रतिक्रियाओं में सम्मिलित हैं:


 * यूरोपीय संघ सामान्य डेटा संरक्षण विनियमन (यूरोपीय संघ) 2016 में प्रस्तुत किया गया था यूरोपीय संघ (ईयू) में डेटा संरक्षण और गोपनीयता पर यूरोपीय संघ के नियम में एक विनियमन है जो अनुच्छेद 22(1) डेटा विषयों के निर्णय के अधीन नहीं होने के अधिकार को स्थापित करता है। जिसके नियम या अन्य महत्वपूर्ण प्रभाव होते हैं जो पूरी तरह से स्वचालित व्यक्तिगत निर्णय लेने पर आधारित होते हैं। जीडीपीआर में स्पष्टीकरण के अधिकार पर कुछ नियम भी सम्मिलित हैं। हालांकि उपयुक्त समय और प्रकृति वर्तमान में यूरोपीय संघ के न्यायालय द्वारा समीक्षा के अधीन है। इन प्रावधानों को पहली बार जीडीपीआर में प्रस्तुत नहीं किया गया था, लेकिन 1995 में डेटा संरक्षण निर्देश और 1978 के फ्रांसीसी विधिक, लोई सूचनात्मक और स्वतंत्रता के बाद से पूरे यूरोप में एक समान रूप में सम्मिलित हैं। इसी प्रकार युगांडा, मोरक्को और अमेरिकी राज्य वर्जीनिया सहित विश्व के कई अन्य न्यायालयों के डेटा संरक्षण निर्देश में अलग-अलग संलग्न अधिकारों और दायित्वों के साथ समय और शब्दों के प्रावधान सम्मिलित हैं।
 * सार्वजनिक क्षेत्र के स्वचालित निर्णयों की व्याख्या के अधिकार फ्रांसीसी लोई पोर यूने रेपुब्लिक न्यूमेरिक के अंतर्गत 'एल्गोरिथम उपचार' बनाते हैं।

अभिनत त्रुटि
एडीएम निम्न से उत्पन्न एल्गोरिथम बायस को सम्मिलित कर सकता है:
 * डेटा स्रोत, जहां डेटा इनपुट उनके संग्रह या चयन में अभिनत त्रुटि हैं।
 * एल्गोरिद्म की तकनीकी डिज़ाइन, उदाहरण के लिए जहां यह अनुमान लगाया गया है कि कोई व्यक्ति कैसे व्यवहार करता है।
 * आकस्मिक अभिनत त्रुटि, जहां अप्रत्याशित परिस्थितियों में एडीएम का अनुप्रयोग एक अभिनत त्रुटि परिणाम बनाता है।

स्पष्टीकरण
पूर्वाग्रहित गलत डेटा या एल्गोरिदम के प्रश्न और चिंताओ की कुछ एडीएम ब्लैक बॉक्स प्रौद्योगिकियां हैं जो मानव जांच या पूछताछ के लिए पूर्णतः स्थगित हैं। जिनको व्याख्यात्मकता के कारण या स्वचालित निर्णयों और एआई के स्पष्टीकरण के अधिकार के रूप में संदर्भित किया है। इसे व्याख्या योग्य कृत्रिम बुद्धिमत्ता (एक्सएआई) या व्‍याख्‍या-सापेक्ष्‍य कृत्रिम बुद्धिमत्ता के रूप में भी जाना जाता है, जिसमें समाधान के परिणामों का विश्लेषण किया जा सकता है और मनुष्यों द्वारा समझा जा सकता है। एक्सएआई एल्गोरिदम को तीन सिद्धांतों पारदर्शिता, व्याख्यात्मकता और सापेक्ष्‍यता का अनुसरण करने के लिए माना जाता है।

सूचना असममित
स्वचालित निर्णय निर्धारण से उन व्यक्तियों के बीच सूचना असममित बढ़ सकती है, जिनका डेटा सिस्टम में या उस डेटा से जानकारी प्राप्त करने में सक्षम प्लेटफ़ॉर्म और निर्णय निर्धारण प्रणालियाँ मे प्रयुक्त होता है इसके दूसरी ओर यह देखा गया है कि वित्तीय व्यापार में दो कृत्रिम बुद्धिमान अभिकर्ता के बीच सूचना असममित दो मानव अभिकर्ता या मानव और मशीन अभिकर्ता के बीच की तुलना में अपेक्षाकृत बहुत कम हो सकती है।

अनुसंधान क्षेत्र
कई शैक्षणिक क्षेत्रों और विषयों में व्यापार, कंप्यूटर विज्ञान, मानव कंप्यूटर अन्तःक्रिया (एचसीआई), नियम, लोक प्रशासन, मीडिया और संचार सहित एडीएम के विकास, अनुप्रयोग और निहितार्थ पर तीव्रता से ध्यान दिया जा रहा है। अनुसंधान प्रणालियों और प्लेटफार्मों के माध्यम से मीडिया डेटा और एल्गोरिथम संचालित समाचार, वीडियो और अन्य डेटा का स्वचालन मीडिया अध्ययनों में शैक्षणिक अनुसंधान का एक प्रमुख केंद्र है।

निष्पक्षता, उत्तरदायित्व और पारदर्शिता पर एसीएम अधिवेशन (एफएसीसीटी) की स्थापना 2018 में सामाजिक-तकनीकी प्रणालियों के संदर्भ में पारदर्शिता और व्याख्यात्मकता का अध्ययन करने के लिए की गई थी, जिनमें से कई में एडीएम और कृत्रिम बुद्धिमत्ताएँ सम्मिलित हैं।

एडीएम की जांच करने वाले प्रमुख अनुसंधान केंद्रों में निम्नलिखित सम्मिलित हैं:
 * एल्गोरिथम वॉच, जर्मनी
 * स्वचालित निर्णय निर्धारण और समाज के लिए एआरसी उत्कृष्टता का केंद्र, ऑस्ट्रेलिया
 * स्थानिक प्रयोगशाला, कनाडा
 * सूचना विज्ञान, यूरोप

यह भी देखें

 * स्वचालित निर्णय समर्थन
 * एल्गोरिथम पूर्वाग्रह
 * स्वचालित निर्णय निर्धारण सॉफ्टवेयर
 * निर्णय प्रबंधन
 * कृत्रिम बुद्धिमत्ता की नैतिकता
 * सरकार द्वारा एल्गोरिथम
 * यंत्र शिक्षण
 * संस्तुति प्रणाली