स्वचालित निर्णय-निर्धारण

स्वचालित निर्णय लेने (ADM) में अलग-अलग डिग्री के साथ कलन विधि, व्यवसाय, स्वास्थ्य, शिक्षा, कानून, रोजगार, परिवहन, मीडिया और मनोरंजन द्वारा सरकार सहित कई संदर्भों में निर्णय लेने के लिए डेटा, मशीनों और एल्गोरिदम का उपयोग शामिल है। मानव निरीक्षण या हस्तक्षेप की। ADM में डेटाबेस, टेक्स्ट, सोशल मीडिया, सेंसर, इमेज या स्पीच जैसे कई स्रोतों से बड़े पैमाने पर डेटा शामिल होता है, जिसे कंप्यूटर सॉफ्टवेयर, एल्गोरिदम,  यंत्र अधिगम ,  प्राकृतिक भाषा प्रसंस्करण ,  कृत्रिम होशियारी , संवर्धित सहित विभिन्न तकनीकों का उपयोग करके संसाधित किया जाता है। खुफिया और रोबोटिक्स। कई संदर्भों में स्वचालित निर्णय लेने वाली प्रणालियों (ADMS) का बढ़ता उपयोग मानव समाज के लिए तकनीकी, कानूनी, नैतिक, सामाजिक, शैक्षिक, आर्थिक और स्वास्थ्य परिणामों पर विचार करने के लिए कई लाभ और चुनौतियां प्रस्तुत करता है।

सिंहावलोकन
शामिल स्वचालन के स्तर के आधार पर ADM की विभिन्न परिभाषाएँ हैं। कुछ परिभाषाओं से पता चलता है कि ADM में मानव इनपुट के बिना विशुद्ध रूप से तकनीकी साधनों के माध्यम से लिए गए निर्णय शामिल हैं, जैसे कि ईयू का सामान्य डेटा संरक्षण विनियम (अनुच्छेद 22)। हालाँकि, ADM प्रौद्योगिकियाँ और अनुप्रयोग निर्णय समर्थन प्रणाली से लेकर कई रूप ले सकते हैं। निर्णय-समर्थन प्रणालियाँ जो मानव निर्णय लेने वालों के लिए कार्रवाई करने के लिए सिफारिशें करती हैं, जिन्हें कभी-कभी संवर्धित बुद्धिमत्ता के रूप में जाना जाता है। या 'साझा निर्णय लेना', पूरी तरह से स्वचालित निर्णय लेने की प्रक्रिया जो व्यक्तियों या संगठनों की ओर से मानवीय भागीदारी के बिना निर्णय लेती है। स्वचालित निर्णय लेने वाली प्रणालियों में उपयोग किए जाने वाले मॉडल कृत्रिम बुद्धि और गहरे कृत्रिम तंत्रिका नेटवर्क (डीएनएन) के माध्यम से चेकलिस्ट और निर्णय पेड़ के रूप में सरल हो सकते हैं।

1950 के दशक के बाद से कंप्यूटर जटिल, अस्पष्ट और अत्यधिक कुशल कार्यों जैसे छवि और भाषण मान्यता, गेमप्ले, वैज्ञानिक और चिकित्सा विश्लेषण और कई डेटा स्रोतों में अनुमान लगाने की क्षमता रखने के लिए बुनियादी प्रसंस्करण करने में सक्षम होने से चले गए हैं। एडीएम अब समाज के सभी क्षेत्रों और मनोरंजन से लेकर परिवहन तक कई विविध डोमेन में तेजी से तैनात किया जा रहा है।

एक ADM प्रणाली (ADMS) में कई निर्णय बिंदु, डेटा सेट और प्रौद्योगिकियाँ (ADMT) शामिल हो सकती हैं और एक बड़ी प्रशासनिक या तकनीकी प्रणाली जैसे आपराधिक न्याय प्रणाली या व्यावसायिक प्रक्रिया के भीतर बैठ सकती हैं।

डेटा
स्वचालित निर्णय लेने में एक इनपुट के रूप में डेटा का उपयोग शामिल होता है, या तो एक प्रक्रिया, मॉडल या एल्गोरिथम के भीतर विश्लेषण किया जाता है, या नए मॉडल सीखने और उत्पन्न करने के लिए। ADM प्रणालियाँ सिस्टम के लक्ष्यों और संदर्भों के आधार पर डेटा प्रकारों और स्रोतों की एक विस्तृत श्रृंखला का उपयोग और कनेक्ट कर सकती हैं, उदाहरण के लिए सेल्फ-ड्राइविंग कारों और रोबोटिक्स के लिए सेंसर डेटा, सुरक्षा प्रणालियों के लिए पहचान डेटा, सार्वजनिक प्रशासन के लिए जनसांख्यिकीय और वित्तीय डेटा, स्वास्थ्य में चिकित्सा रिकॉर्ड, कानून में आपराधिक रिकॉर्ड। इसमें कभी-कभी बड़ी मात्रा में डेटा और कंप्यूटिंग शक्ति शामिल हो सकती है।

डेटा गुणवत्ता
ADM सिस्टम में उपलब्ध और उपयोग किए जाने योग्य डेटा की गुणवत्ता परिणामों के लिए मौलिक है और कई कारणों से अक्सर अत्यधिक समस्याग्रस्त होती है। डेटासेट अक्सर अत्यधिक परिवर्तनशील होते हैं, बड़े पैमाने पर डेटा को निगमों या सरकारों द्वारा नियंत्रित किया जा सकता है, गोपनीयता या सुरक्षा कारणों से प्रतिबंधित, अपूर्ण, पक्षपाती, समय या कवरेज के मामले में सीमित, विभिन्न तरीकों से शर्तों को मापने और वर्णन करने और कई अन्य मुद्दे।

मशीनों को डेटा से सीखने के लिए, अक्सर बड़े कॉर्पस की आवश्यकता होती है जिसे प्राप्त करना या गणना करना मुश्किल हो सकता है, हालांकि जहां उपलब्ध हो, वहां महत्वपूर्ण सफलताएं प्रदान की हैं, उदाहरण के लिए छाती के एक्स-रे के निदान में।

एडीएम टेक्नोलॉजीज
स्वचालित निर्णय लेने वाली प्रौद्योगिकियाँ (ADMT) सॉफ्टवेयर-कोडित डिजिटल उपकरण हैं जो स्वचालित निर्णय लेने वाली प्रणालियों के कार्य में योगदान करते हुए, आउटपुट डेटा में इनपुट डेटा के अनुवाद को स्वचालित करते हैं। एडीएम अनुप्रयोगों और प्रणालियों में उपयोग की जाने वाली तकनीकों की एक विस्तृत श्रृंखला है।

ADMTs में बुनियादी कम्प्यूटेशनल ऑपरेशन शामिल हैं


 * खोज (1-2-1, 1-2-कई, डेटा मिलान/मर्ज शामिल है)
 * मिलान (दो अलग-अलग चीजें)
 * गणितीय गणना (सूत्र)

मूल्यांकन और समूहीकरण के लिए ADMTs:


 * उपयोगकर्ता रूपरेखा
 * सिफारिश प्रणाली
 * क्लस्टर विश्लेषण
 * वर्गीकरण
 * फ़ीचर लर्निंग
 * भविष्य कहनेवाला विश्लेषण (पूर्वानुमान शामिल है)

अंतरिक्ष और प्रवाह से संबंधित ADMTs:


 * सोशल नेटवर्क विश्लेषण (लिंक भविष्यवाणी शामिल है)
 * मैपिंग
 * मार्ग

ADMTs जटिल डेटा स्वरूपों के प्रसंस्करण के लिए


 * डिजिटल इमेज प्रोसेसिंग
 * ऑडियो प्रोसेसिंग
 * नेचुरल लैंग्वेज प्रोसेसिंग | नेचुरल लैंग्वेज प्रोसेसिंग (NLP)

अन्य ए.डी.एम.टी


 * व्यापार नियम प्रबंधन प्रणाली
 * समय श्रृंखला
 * असंगति का पता लगाये
 * मॉडलिंग और सिमुलेशन | मॉडलिंग / सिमुलेशन

मशीन लर्निंग
मशीन लर्निंग (एमएल) में अनुभव से सीखने और समस्याओं को हल करने के लिए बड़े डेटा सेट और उदाहरणों के संपर्क के माध्यम से कंप्यूटर प्रोग्राम का प्रशिक्षण शामिल है। मशीन लर्निंग का उपयोग डेटा उत्पन्न करने और उसका विश्लेषण करने के साथ-साथ एल्गोरिथम गणना करने के लिए किया जा सकता है और छवि और वाक् पहचान, अनुवाद, पाठ, डेटा और सिमुलेशन पर लागू किया गया है। जबकि मशीन लर्निंग कुछ समय के लिए आसपास रहा है, यह गहरे तंत्रिका नेटवर्क (DNNs) के प्रशिक्षण में हाल की सफलताओं के कारण तेजी से शक्तिशाली होता जा रहा है, और GPU कोप्रोसेसर और क्लाउड कंप्यूटिंग के साथ डेटा भंडारण क्षमता और कम्प्यूटेशनल शक्ति में नाटकीय वृद्धि हुई है।

फाउंडेशन मॉडल पर आधारित मशीन लर्निंग सिस्टम गहरे तंत्रिका नेटवर्क पर चलते हैं और बड़ी मात्रा में सामान्य डेटा जैसे पाठ और छवियों पर एकल विशाल प्रणाली को प्रशिक्षित करने के लिए पैटर्न मिलान का उपयोग करते हैं। शुरुआती मॉडल प्रत्येक नई समस्या के लिए खरोंच से शुरू करने की प्रवृत्ति रखते थे, हालांकि 2020 की शुरुआत से कई नई समस्याओं के अनुकूल होने में सक्षम हैं। इन तकनीकों के उदाहरणों में OpenAI|Open AI का DALL-E (एक छवि निर्माण कार्यक्रम) और उनके विभिन्न जनरेटिव पूर्व-प्रशिक्षित ट्रांसफार्मर भाषा मॉडल और Google का PaLM भाषा मॉडल कार्यक्रम शामिल हैं।

अनुप्रयोग
ADM का उपयोग सार्वजनिक और निजी दोनों क्षेत्रों के संगठनों द्वारा मानव निर्णय लेने को बदलने या बढ़ाने के लिए कई कारणों से किया जा रहा है, जिसमें निरंतरता बढ़ाने, दक्षता में सुधार करने, लागत कम करने और जटिल समस्याओं के नए समाधानों को सक्षम करने में मदद करना शामिल है।

बहस
तर्क गुणवत्ता का आकलन करने के लिए प्रौद्योगिकी के उपयोग में अनुसंधान और विकास चल रहा है,  तर्कपूर्ण निबंधों का आकलन करें  और न्यायाधीश बहस।    इन तर्क प्रौद्योगिकी के संभावित अनुप्रयोग शिक्षा और समाज तक फैले हुए हैं। इस संबंध में जिन परिदृश्यों पर विचार किया जाना है, उनमें तर्क सिद्धांत का मूल्यांकन और मूल्यांकन शामिल है#बातचीत तर्कशास्त्र, तर्कवाद सिद्धांत#गणितीय तर्कशास्त्र, तर्कशास्त्र सिद्धांत#वैज्ञानिक तर्कशास्त्र, तर्क सिद्धांत#व्याख्यात्मक तर्कशास्त्र, तर्कशास्त्र सिद्धांत#कानूनी तर्कशास्त्र, और तर्क सिद्धांत# राजनीतिक तर्क तर्क और बहस।

कानून
दुनिया भर में राष्ट्रीय कानूनी प्रणालियों की सूची में, कई संदर्भों में न्यायाधीशों, सिविल सेवकों और पुलिस अधिकारियों के मानवीय निर्णय को पूरक या बदलने के लिए एल्गोरिथम उपकरण जैसे जोखिम मूल्यांकन उपकरण (RAI) का उपयोग किया जा रहा है। संयुक्त राज्य अमेरिका में RAI का उपयोग पूर्व-परीक्षण निरोध और सजा के निर्णयों में पुनरावृत्ति के जोखिम की भविष्यवाणी करने के लिए स्कोर उत्पन्न करने के लिए किया जा रहा है, कैदियों के लिए पैरोल का मूल्यांकन करना और भविष्य के अपराध के लिए हॉट स्पॉट की भविष्यवाणी करना।  इन अंकों के परिणामस्वरूप स्वत: प्रभाव हो सकता है या न्याय प्रणाली के भीतर अधिकारियों द्वारा किए गए निर्णयों को सूचित करने के लिए उपयोग किया जा सकता है। कनाडा में ADM का उपयोग 2014 से आव्रजन अधिकारियों द्वारा संचालित कुछ गतिविधियों को स्वचालित करने और कुछ आप्रवासी और आगंतुक अनुप्रयोगों के मूल्यांकन का समर्थन करने के लिए किया गया है।

अर्थशास्त्र
स्वचालित ट्रेडिंग सिस्टम ऑर्डर खरीदने और बेचने के लिए कंप्यूटर प्रोग्राम का उपयोग करते हैं और स्वचालित रूप से [[शेयर बाजार ]] या स्टॉक एक्सचेंज को ऑर्डर सबमिट करते हैं। कंप्यूटर प्रोग्राम स्वचालित रूप से ट्रेडिंग रणनीतियों का उपयोग करके नियमों के पूर्वनिर्धारित सेट के आधार पर आदेश उत्पन्न कर सकते हैं जो तकनीकी विश्लेषण, उन्नत सांख्यिकीय और गणितीय संगणना, या अन्य इलेक्ट्रॉनिक स्रोतों से इनपुट पर आधारित हैं।

सतत लेखापरीक्षा
निरंतर अंकेक्षण िंग ऑडिट प्रक्रियाओं को स्वचालित करने के लिए उन्नत विश्लेषणात्मक उपकरणों का उपयोग करती है। इसका उपयोग निजी क्षेत्र में व्यावसायिक उद्यमों द्वारा और सार्वजनिक क्षेत्र में सरकारी संगठनों और नगर पालिकाओं द्वारा किया जा सकता है। जैसा कि आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग का विकास जारी है, लेखाकार और लेखा परीक्षक तेजी से परिष्कृत एल्गोरिदम का उपयोग कर सकते हैं जो निर्णय लेते हैं जैसे कि यह निर्धारित करना कि क्या असंगत है, क्या कर्मियों को सूचित करना है, और कर्मियों को सौंपे गए कार्यों को कैसे प्राथमिकता देना है।

मीडिया और मनोरंजन
डिजिटल मीडिया, मनोरंजन प्लेटफॉर्म और सूचना सेवाएं जनसांख्यिकीय जानकारी, पिछले चयन, सहयोगी फ़िल्टरिंग या सामग्री-आधारित फ़िल्टरिंग के आधार पर स्वचालित अनुशंसा प्रणाली के माध्यम से दर्शकों को तेजी से सामग्री प्रदान करती हैं। इसमें संगीत और वीडियो प्लेटफॉर्म, प्रकाशन, स्वास्थ्य सूचना, उत्पाद डेटाबेस और सर्च इंजन शामिल हैं। कई सिफ़ारिशकर्ता प्रणालियाँ अनुशंसाओं को स्वीकार करने में उपयोगकर्ताओं को कुछ एजेंसी भी प्रदान करती हैं और सिस्टम उपयोगकर्ता के कार्यों के आधार पर डेटा-संचालित एल्गोरिथम फीडबैक लूप शामिल करती हैं। 2020 में OpenAI और Google जैसी कंपनियों द्वारा बड़े पैमाने पर मशीन लर्निंग लैंग्वेज मॉडल और इमेज क्रिएशन प्रोग्राम विकसित किए जा रहे हैं, जिनकी पहुंच प्रतिबंधित है, हालांकि विज्ञापन, कॉपी राइटिंग, स्टॉक इमेजरी और ग्राफिक डिज़ाइन जैसे क्षेत्रों में उनके व्यापक प्रसार की संभावना है। पत्रकारिता और कानून जैसे अन्य क्षेत्रों के रूप में।

विज्ञापन
ऑनलाइन विज्ञापन कई डिजिटल मीडिया प्लेटफार्मों, वेबसाइटों और खोज इंजनों के साथ घनिष्ठ रूप से जुड़ा हुआ है और इसमें अक्सर विविध स्वरूपों में प्रदर्शन विज्ञापनों की स्वचालित डिलीवरी शामिल होती है। 'प्रोग्रामेटिक' ऑनलाइन विज्ञापन में प्रत्यक्ष मानव निर्णय लेने के बजाय सॉफ्टवेयर के माध्यम से वेबसाइटों और प्लेटफार्मों पर डिजिटल विज्ञापन की बिक्री और वितरण को स्वचालित करना शामिल है। इसे कभी-कभी जलप्रपात मॉडल के रूप में जाना जाता है जिसमें विभिन्न प्रणालियों और खिलाड़ियों के चरणों का एक क्रम शामिल होता है: प्रकाशक और डेटा प्रबंधन प्लेटफ़ॉर्म, उपयोगकर्ता डेटा, विज्ञापन सर्वर और उनके वितरण डेटा, इन्वेंट्री प्रबंधन प्रणाली, विज्ञापन व्यापारी और विज्ञापन एक्सचेंज। इस प्रणाली के साथ विभिन्न मुद्दे हैं जिनमें विज्ञापनदाताओं के लिए पारदर्शिता की कमी, अविश्वसनीय मेट्रिक्स, विज्ञापन स्थानों पर नियंत्रण की कमी, ऑडियंस ट्रैकिंग और गोपनीयता संबंधी चिंताएँ शामिल हैं। विज्ञापनों को नापसंद करने वाले इंटरनेट उपयोगकर्ताओं ने विज्ञापन अवरोधक तकनीकों जैसे काउंटर उपाय अपनाए हैं जो उपयोगकर्ताओं को वेबसाइटों और कुछ इंटरनेट अनुप्रयोगों से अवांछित विज्ञापन को स्वचालित रूप से फ़िल्टर करने की अनुमति देते हैं। 2017 में, 24% ऑस्ट्रेलियाई इंटरनेट उपयोगकर्ताओं के पास विज्ञापन अवरोधक थे।

स्वास्थ्य
डीप लर्निंग एआई इमेज मॉडल कंप्यूटर एडेड निदान  हैं। एक्स-रे की समीक्षा करने और आंखों की स्थिति मैक्यूलर डिजनरेशन का पता लगाने के लिए उपयोग किया जाता है।

सामाजिक सेवाएं
सरकारें 2000 के दशक की शुरुआत से अधिक कुशल प्रशासन और सामाजिक सेवाएं प्रदान करने के लिए डिजिटल तकनीकों को लागू कर रही हैं, जिन्हें अक्सर ई-सरकार कहा जाता है। दुनिया भर में कई सरकारें अब प्रोफाइलिंग और लक्षित नीतियों और सेवाओं के लिए स्वचालित, एल्गोरिथम सिस्टम का उपयोग कर रही हैं, जिसमें जोखिमों के आधार पर एल्गोरिथम पुलिसिंग, एयरपोर्ट स्क्रीनिंग जैसे लोगों की निगरानी सॉर्टिंग, बाल संरक्षण में जोखिम प्रोफाइल के आधार पर सेवाएं प्रदान करना, रोजगार सेवाएं प्रदान करना और शासन करना शामिल है। बेरोज़गार। सामाजिक सेवाओं में ADM का एक महत्वपूर्ण अनुप्रयोग भविष्य कहनेवाला विश्लेषण के उपयोग से संबंधित है - उदाहरण के लिए बाल संरक्षण में दुर्व्यवहार/उपेक्षा से बच्चों के लिए जोखिम की भविष्यवाणी, पुलिस और आपराधिक न्याय में अपराध या अपराध की भविष्यवाणी, कल्याण की भविष्यवाणी/ अनुपालन प्रणालियों में कर धोखाधड़ी, रोजगार सेवाओं में दीर्घकालिक बेरोजगारी की भविष्यवाणी। ऐतिहासिक रूप से ये प्रणालियाँ मानक सांख्यिकीय विश्लेषणों पर आधारित थीं, हालाँकि 2000 के दशक की शुरुआत से मशीन लर्निंग तेजी से विकसित और तैनात की गई है। सामाजिक सेवाओं में एडीएम के उपयोग के साथ प्रमुख मुद्दों में पूर्वाग्रह, निष्पक्षता, उत्तरदायित्व और व्याख्यात्मक कृत्रिम बुद्धि शामिल है जो किसी निर्णय के कारणों के आसपास पारदर्शिता को संदर्भित करता है और जिस आधार पर एक मशीन ने निर्णय लिया है, उसकी व्याख्या करने की क्षमता। उदाहरण के लिए, ऑस्ट्रेलिया की संघीय सामाजिक सुरक्षा वितरण एजेंसी, Centrelink, ने ऋण का पता लगाने और एकत्र करने के लिए एक स्वचालित प्रक्रिया विकसित और कार्यान्वित की, जिसके कारण गलत तरीके से ऋण वसूली के कई मामले सामने आए, जिसे रोबोडेब्ट योजना योजना के रूप में जाना जाने लगा।

परिवहन और गतिशीलता
कनेक्टेड और स्वचालित गतिशीलता (सीएएम) में वाहन स्वचालन शामिल है जैसे स्वयं सेल्फ ड्राइविंग कार और परिवहन के अन्य रूप जो वाहन के मानव नियंत्रण के विभिन्न पहलुओं को बदलने के लिए स्वचालित निर्णय लेने वाली प्रणालियों का उपयोग करते हैं। यह स्तर 0 (पूर्ण मानव ड्राइविंग) से लेकर स्तर 5 (पूरी तरह से स्वायत्त) तक हो सकता है। स्तर 5 पर मशीन डेटा मॉडल और भू-स्थानिक मानचित्रण और रीयल-टाइम सेंसर और पर्यावरण के प्रसंस्करण के आधार पर वाहन को नियंत्रित करने के निर्णय लेने में सक्षम है। 2021 में 1 से 3 के स्तर वाली कारें पहले से ही बाजार में उपलब्ध हैं। 2016 में जर्मन सरकार ने 'स्वचालित और कनेक्टेड ड्राइविंग पर नैतिकता आयोग' की स्थापना की, जिसने कनेक्टेड और स्वचालित वाहनों (CAV) को विकसित करने की सिफारिश की, यदि सिस्टम मानव की तुलना में कम दुर्घटनाओं का कारण बनता है। ड्राइवर (जोखिम का सकारात्मक संतुलन)। इसने स्वचालित और कनेक्टेड ड्राइविंग के अनुकूलन के लिए 20 नैतिक नियम भी प्रदान किए। 2020 में सीएएम पर यूरोपीय आयोग की रणनीति ने सिफारिश की कि उन्हें सड़क दुर्घटनाओं को कम करने और उत्सर्जन को कम करने के लिए यूरोप में अपनाया जाना चाहिए, हालांकि स्व-ड्राइविंग कार भी दुर्घटनाओं के मामले में दायित्व और नैतिक निर्णय लेने के मामले में कई नीति, सुरक्षा और कानूनी मुद्दों को उठाती हैं।, साथ ही गोपनीयता के मुद्दे। यदि एवी को व्यापक रूप से अपनाया जाना है तो स्वायत्त वाहनों में विश्वास के मुद्दे और उनकी सुरक्षा के बारे में सामुदायिक चिंताएं प्रमुख कारक हैं।

निगरानी
सेंसर, कैमरा, ऑनलाइन लेन-देन और सोशल मीडिया के माध्यम से स्वचालित डिजिटल डेटा संग्रह ने सरकार और वाणिज्यिक क्षेत्रों में निगरानी प्रथाओं और संस्थानों के दायरे, पैमाने और लक्ष्यों का काफी विस्तार किया है। परिणामस्वरूप संदिग्धों की लक्षित निगरानी से पूरी आबादी की निगरानी करने की क्षमता में एक बड़ा बदलाव आया है। स्वचालित डेटा संग्रह के परिणामस्वरूप अब निगरानी के स्तर को निगरानी पूंजीवाद या निगरानी अर्थव्यवस्था के रूप में वर्णित किया गया है, जिस तरह से डिजिटल मीडिया में बड़े पैमाने पर ट्रैकिंग और हर बातचीत पर डेटा का संचय शामिल है।

नैतिक और कानूनी मुद्दे
स्वचालित निर्णय लेने वाली प्रणालियों के कई सामाजिक, नैतिक और कानूनी निहितार्थ हैं। उठाई गई चिंताओं में पारदर्शिता की कमी और फैसलों की प्रतिस्पर्धात्मकता, गोपनीयता और निगरानी पर घुसपैठ, डेटा और एल्गोरिथम पूर्वाग्रह के कारण प्रणालीगत पूर्वाग्रह और असमानता को बढ़ाना, बौद्धिक संपदा अधिकार, मीडिया प्लेटफॉर्म के माध्यम से गलत सूचना का प्रसार, प्रशासनिक भेदभाव, जोखिम और जिम्मेदारी, बेरोजगारी और शामिल हैं। कई दूसरे। जैसे-जैसे ADM अधिक सर्वव्यापी होता जाता है, सूचना समाजों में सुशासन सुनिश्चित करने के लिए नैतिक चुनौतियों का समाधान करने की अधिक आवश्यकता होती है। ADM सिस्टम अक्सर मशीन लर्निंग और एल्गोरिदम पर आधारित होते हैं जिन्हें आसानी से देखा या विश्लेषण नहीं किया जा सकता है, जिससे चिंता होती है कि वे 'ब्लैक बॉक्स' सिस्टम हैं जो पारदर्शी या जवाबदेह नहीं हैं।

कनाडा में सिटीजन लैब की एक रिपोर्ट विभिन्न क्षेत्रों में ADM के अनुप्रयोग के एक महत्वपूर्ण मानवाधिकार विश्लेषण के लिए तर्क देती है ताकि यह सुनिश्चित किया जा सके कि स्वचालित निर्णय लेने का उपयोग अधिकारों के उल्लंघन में न हो, जिसमें समानता और गैर-भेदभाव के अधिकार शामिल हैं; आंदोलन, अभिव्यक्ति, धर्म और संघ की स्वतंत्रता; गोपनीयता के अधिकार और व्यक्ति के जीवन, स्वतंत्रता और सुरक्षा के अधिकार।

एडीएम को विधायी प्रतिक्रियाओं में शामिल हैं:


 * सामान्य डेटा संरक्षण विनियमन | यूरोपीय सामान्य डेटा संरक्षण विनियमन (जीडीपीआर), 2016 में पेश किया गया, यूरोपीय संघ (ईयू) में डेटा संरक्षण और गोपनीयता पर यूरोपीय संघ के कानून में एक विनियमन (यूरोपीय संघ) है। अनुच्छेद 22(1) डेटा विषयों के निर्णयों के अधीन नहीं होने के अधिकार को सुनिश्चित करता है, जिनके कानूनी या अन्य महत्वपूर्ण प्रभाव होते हैं, जो पूरी तरह से स्वत: व्यक्तिगत निर्णय लेने पर आधारित होते हैं। जीडीपीआर में स्पष्टीकरण के अधिकार पर कुछ नियम भी शामिल हैं, हालांकि इनका सटीक दायरा और प्रकृति वर्तमान में यूरोपीय संघ के न्यायालय द्वारा समीक्षा के अधीन है। इन प्रावधानों को पहली बार GDPR में पेश नहीं किया गया था, लेकिन 1995 में डेटा संरक्षण निर्देश और 1978 के फ्रांसीसी कानून के बाद से पूरे यूरोप में एक समान रूप में मौजूद हैं। .<रेफरी नाम= एडवर्ड्स 46-54 >{{Cite journal |last1=Edwards |first1=Lilian |last2=Veale |first2=Michael |date=May 2018 |title=एल्गोरिथम को गुलाम बनाना: "स्पष्टीकरण के अधिकार" से "बेहतर निर्णय के अधिकार" तक?|url=https://ieeexplore.ieee.org/document/8395080 |journal=IEEE Security & Privacy |volume=16 |issue=3 |pages=46–54 |doi=10.1109/MSP.2018.2701152 |s2cid=4049746 |issn=1540-7993}। रेफरी>
 * एक डिजिटल गणराज्य के लिए फ्रांसीसी कानून के तहत 'एल्गोरिदमिक उपचार' बनाने वाले सार्वजनिक क्षेत्र के स्वचालित निर्णयों की व्याख्या के अधिकार। <रेफरी नाम = एडवर्ड्स 46–54 />

पूर्वाग्रह
ADM निम्न से उत्पन्न एल्गोरिथम बायस को शामिल कर सकता है:
 * डेटा स्रोत, जहां डेटा इनपुट उनके संग्रह या चयन में पक्षपाती हैं * एल्गोरिद्म का तकनीकी डिज़ाइन, उदाहरण के लिए जहां यह अनुमान लगाया गया है कि कोई व्यक्ति कैसे व्यवहार करेगा
 * आकस्मिक पूर्वाग्रह, जहां अप्रत्याशित परिस्थितियों में एडीएम का आवेदन एक पक्षपाती परिणाम बनाता है

स्पष्टीकरण
पक्षपातपूर्ण या गलत डेटा या एल्गोरिदम के प्रश्न और चिंताएं कि कुछ एडीएम ब्लैक बॉक्स तकनीकें हैं, मानव जांच या पूछताछ के लिए बंद हैं, ने व्याख्यात्मकता के मुद्दे या स्वचालित निर्णयों और एआई के स्पष्टीकरण के अधिकार के रूप में संदर्भित किया है। इसे एक्सप्लेनेबल आर्टिफिशियल इंटेलिजेंस (XAI) या इंटरप्रेटेबल AI के रूप में भी जाना जाता है, जिसमें समाधान के परिणामों का विश्लेषण किया जा सकता है और मनुष्यों द्वारा समझा जा सकता है। XAI एल्गोरिदम को तीन सिद्धांतों - पारदर्शिता, व्याख्यात्मकता और व्याख्यात्मकता का पालन करने के लिए माना जाता है।

सूचना विषमता
स्वचालित निर्णय लेने से उन व्यक्तियों के बीच सूचना विषमता बढ़ सकती है, जिनका डेटा सिस्टम में फीड होता है और उस डेटा से जानकारी प्राप्त करने में सक्षम प्लेटफ़ॉर्म और निर्णय लेने वाली प्रणालियाँ। दूसरी ओर यह देखा गया है कि वित्तीय व्यापार में दो कृत्रिम बुद्धिमान एजेंटों के बीच सूचना विषमता दो मानव एजेंटों या मानव और मशीन एजेंटों के बीच की तुलना में बहुत कम हो सकती है।

अनुसंधान क्षेत्र
कई शैक्षणिक विषयों और क्षेत्रों में व्यापार, कंप्यूटर विज्ञान, मानव-कंप्यूटर इंटरैक्शन (एचसीआई), कानून, लोक प्रशासन, और मीडिया और संचार सहित एडीएम के विकास, अनुप्रयोग और निहितार्थों पर तेजी से ध्यान दिया जा रहा है। खोज प्रणालियों और प्लेटफार्मों के माध्यम से मीडिया सामग्री और एल्गोरिथम संचालित समाचार, वीडियो और अन्य सामग्री का स्वचालन मीडिया अध्ययनों में अकादमिक शोध का एक प्रमुख केंद्र है।

निष्पक्षता, जवाबदेही और पारदर्शिता पर ACM सम्मेलन|निष्पक्षता, जवाबदेही और पारदर्शिता पर ACM सम्मेलन (ACM FAccT) की स्थापना 2018 में सामाजिक-तकनीकी प्रणालियों के संदर्भ में पारदर्शिता और व्याख्यात्मकता का अध्ययन करने के लिए की गई थी, जिनमें से कई में ADM और AI शामिल हैं।

ADM की जांच करने वाले प्रमुख अनुसंधान केंद्रों में शामिल हैं:
 * एल्गोरिथम वॉच, जर्मनी
 * स्वचालित निर्णय लेने और समाज के लिए एआरसी सेंटर ऑफ एक्सीलेंस, ऑस्ट्रेलिया
 * सिटीजन लैब, कनाडा
 * सूचना विज्ञान यूरोप

यह भी देखें

 * स्वचालित निर्णय समर्थन
 * एल्गोरिथम पूर्वाग्रह
 * निर्णय लेने वाला सॉफ्टवेयर
 * निर्णय प्रबंधन
 * कृत्रिम बुद्धिमत्ता की नैतिकता
 * एल्गोरिथम द्वारा सरकार
 * यंत्र अधिगम
 * अनुशंसा प्रणाली