आर्टिफिशियल इंटेलिजेंस (एआई) शोधकर्ताओं को नैतिकता सीखनी चाहिए और उसका पालन करना चाहिए

आर्टिफिशियल इंटेलिजेंस (एआई) शोधकर्ताओं को नैतिकता सीखनी चाहिए और उसका पालन करना चाहिए

कृत्रिम बुद्धि और स्वायत्त तकनीकों को इकट्ठा करने वाले वैज्ञानिक अपने काम पर पड़ने वाले प्रभाव की एक ठोस नैतिक समझ चाहते हैं।

100 से अधिक प्रौद्योगिकी अग्रदूतों ने हाल ही में संयुक्त राष्ट्र को घातक स्वायत्त हथियारों, या "हत्यारे रोबोट" के विषय के बारे में एक खुला पत्र जारी किया।

ये लोग, उदाहरण के लिए, उद्यमी एलोन मस्क के साथ-साथ कई रोबोटिक्स फर्मों के निर्माता, 2015 में शुरू किए गए प्रयास का एक हिस्सा हैं। पत्र में हथियारों की दौड़ को समाप्त करने का आह्वान किया गया था, जिसमें दावा किया गया था कि यह "तीसरी क्रांति" हो सकती है। युद्ध, बारूद और परमाणु हथियारों के बाद"।

संयुक्त राष्ट्र के पास प्रदर्शन करने के लिए एक हिस्सा है, लेकिन इन प्रणालियों के निकट भविष्य के लिए जिम्मेदारी भी प्रयोगशाला से शुरू करने की जरूरत है। हमारे एआई शोधकर्ताओं को प्रशिक्षित करने वाली शिक्षा प्रणाली को उन्हें नैतिकता के साथ-साथ कोडिंग में भी प्रशिक्षित करने की आवश्यकता है।

AI . में स्वायत्तता

स्वायत्त प्रणालियाँ अपने लिए निर्णय ले सकती हैं, जिसमें लोगों द्वारा न्यूनतम या कोई इनपुट नहीं होता है। यह रोबोट और इसी तरह के उपकरणों की प्रभावशीलता को बहुत बढ़ाता है।

एक उदाहरण के रूप में, एक स्वायत्त शिपिंग ड्रोन को केवल शिपिंग पते की आवश्यकता होती है, और फिर खुद के लिए काम कर सकता है कि लेने के लिए सबसे अच्छा मार्ग - रास्ते में आने वाली किसी भी बाधा पर काबू पाने के लिए, उदाहरण के लिए, प्रतिकूल मौसम या जिज्ञासु सीगल का झुंड .

स्वायत्त प्रणालियों के लिए अनुसंधान का एक शानदार सौदा रहा है, और शिपिंग ड्रोन अब अमेज़ॅन जैसी कंपनियों द्वारा विकसित किए जा रहे हैं। स्पष्ट रूप से, उसी तकनीक का उपयोग आसानी से ऐसी डिलीवरी करने के लिए किया जा सकता है जो किताबों या भोजन की तुलना में काफी तेज है।

ड्रोन भी छोटे, सस्ते और अधिक मजबूत होते जा रहे हैं, जिसका अर्थ है कि यह जल्द ही हजारों ड्रोनों की उड़ान सेनाओं के उत्पादन और तैनाती के लिए प्राप्त करने योग्य होगा।

इस तरह के हथियार कार्यक्रमों की तैनाती की क्षमता, मुख्य रूप से व्यक्तिगत प्रबंधन से अलग हो गई, ने संयुक्त राष्ट्र को "इन खतरों से हम सभी को बचाने के लिए एक रास्ता खोजने" का आग्रह करते हुए पत्र को प्रेरित किया।

नैतिकता और औचित्य

इन हथियार प्रणालियों के बारे में आपकी राय चाहे जो भी हो, यह मुद्दा एआई अनुसंधान में नैतिक मुद्दों पर विचार करने की आवश्यकता पर प्रकाश डालता है।

गणित के अधिकांश क्षेत्रों की तरह, ग्रह के ज्ञान में योगदान देने के लिए आवश्यक गहराई प्राप्त करने के लिए एक विशिष्ट विषय पर ध्यान केंद्रित करने की आवश्यकता होती है। अक्सर शोधकर्ता तुलनात्मक रूप से संकीर्ण क्षेत्रों के विशेषज्ञ होते हैं और नैतिकता या नैतिक तर्क में किसी औपचारिक निर्देश की कमी हो सकती है।

ठीक इसी प्रकार के तर्क की आवश्यकता बढ़ती जा रही है। एक उदाहरण के रूप में, चालक रहित ऑटोमोबाइल, जिनका अमेरिका में परीक्षण किया जा रहा है, को संभावित रूप से हानिकारक परिस्थितियों के बारे में निर्णय लेने में सक्षम होना होगा।

उदाहरण के लिए, यदि कोई बिल्ली अप्रत्याशित रूप से सड़क पार करती है तो वह कैसे प्रतिक्रिया दे सकती है? क्या यह बुद्धिमानी है कि बिल्ली के ऊपर से दौड़ें, या यहाँ तक कि उसे रोकने के लिए तेज़ी से मुड़ें, जिससे कार में सवार लोगों को नुकसान पहुँचे?

उम्मीद है, ये उदाहरण दुर्लभ होंगे, लेकिन निर्णय लेने के लिए कार को आपके दिमाग में कुछ विशिष्ट सिद्धांतों से लैस करना होगा। मेलबर्न में हाल ही में आर्टिफिशियल इंटेलिजेंस (IJCAI) पर अंतर्राष्ट्रीय संयुक्त सम्मेलन में अपना पेपर "रिस्पॉन्सिबल ऑटोनॉमी" भेजते समय वर्जीनिया डिग्नम ने इसे रखा:

चालक रहित कार में नैतिकता होगी; सवाल यह है कि नैतिकता किसकी है?

नवीन सुंदर गोविंदराजुलु और सेल्मर ब्रिंग्सजॉर्ड द्वारा "डबल इफेक्ट के सिद्धांत को स्वचालित करना" पेपर में एक समान विषय का पता लगाया गया था।

दोहरे प्रभाव का सिद्धांत नैतिक मुद्दों के बारे में तर्क करने का एक साधन है, जैसे कि कुछ परिस्थितियों में आत्मरक्षा के लिए सबसे अच्छा, और इसका श्रेय 13 वीं शताब्दी के कैथोलिक विद्वान थॉमस एक्विनास को दिया जाता है।

डबल इम्पैक्ट नाम एक महान प्रभाव (जैसे किसी की जान बचाना) के साथ-साथ एक बुरे प्रभाव (इस प्रक्रिया में किसी और को नुकसान पहुंचाना) से आता है। यह पैदल चलने वालों को नीचे गिराने वाली कार पर ड्रोन शूटिंग जैसी गतिविधियों को सही ठहराने का एक तरीका हो सकता है।

शिक्षा के लिए इसका क्या अर्थ है?

एआई अनुसंधान के भीतर चर्चा के लिए एक विषय के रूप में नैतिकता के उद्भव से पता चलता है कि हमें इस बात पर भी विचार करना चाहिए कि हम विद्यार्थियों को एक ऐसी दुनिया के लिए कैसे तैयार करते हैं जिसमें स्वायत्त प्रणाली तेजी से आम हो रही है।

"टी-आकार" वाले व्यक्तियों की मांग हाल ही में शुरू की गई है। फर्म वर्तमान में न केवल तकनीकी मोटाई (टी के ऊर्ध्वाधर स्ट्रोक) के एक विशेष क्षेत्र के साथ, बल्कि पेशेवर क्षमताओं और व्यक्तिगत विशेषताओं (फ्लैट स्ट्रोक) के साथ विद्वानों की तलाश कर रहे हैं। संयुक्त रूप से, वे विभिन्न दृष्टिकोणों से मुद्दों को देख सकते हैं और बहु-विषयक टीमों में प्रभावी ढंग से कार्य कर सकते हैं।

कंप्यूटर विज्ञान और तुलनीय क्षेत्रों में अधिकांश स्नातक पाठ्यक्रमों में पेशेवर नैतिकता और अभ्यास पर एक पाठ्यक्रम शामिल है। ये आम तौर पर बौद्धिक संपदा, कॉपीराइट, पेटेंट और गोपनीयता के मुद्दों पर केंद्रित होते हैं, जो निश्चित रूप से महत्वपूर्ण हैं।

हालांकि, आईजेसीएआई में चर्चा से यह स्पष्ट प्रतीत होता है कि व्यापक नैतिक समस्याओं पर अतिरिक्त सामग्री की उभरती हुई आवश्यकता है।

विषयों में कम से कम 2 बुराइयों का पता लगाने के लिए रणनीतियां, आपराधिक उपेक्षा जैसे कानूनी सिद्धांत और ग्रह पर प्रौद्योगिकियों के ऐतिहासिक प्रभाव शामिल हो सकते हैं।

मुख्य बिंदु यह है कि विद्यार्थियों को शुरू से ही अपने काम में नैतिक और सामाजिक दृष्टिकोण को शामिल करने की अनुमति दी जाए। इसके अतिरिक्त, नैतिक चिंताओं को कैसे शामिल किया जाता है, यह प्रदर्शित करने के लिए अनुसंधान प्रस्तावों की आवश्यकता उचित लगती है।

चूंकि एआई रोजमर्रा की जिंदगी में अधिक व्यापक और गहराई से अंतर्निहित हो गया है, इसलिए यह बहुत महत्वपूर्ण है कि प्रौद्योगिकीविद उस समाज को समझें जहां वे रहते हैं और उनकी रचनाओं का इसके बारे में क्या प्रभाव हो सकता है।