कक्षा 6.C40/24.C40 (कम्प्यूटिंग की नैतिकता) की एक बैठक के दौरान, प्रोफेसर आर्मंडो सोलर-लेज़ामा अपने छात्रों के लिए एक ही असंभव सवाल है कि वह अक्सर खुद को उस शोध में पूछता है जो वह MIT में कंप्यूटर असिस्टेड प्रोग्रामिंग समूह के साथ ले जाता है।
“हम कैसे सुनिश्चित करते हैं कि एक मशीन वह करती है जो हम चाहते हैं, और केवल हम क्या चाहते हैं?”
इस समय, कुछ लोग जेनेरिक एआई के स्वर्ण युग पर विचार करते हैं, यह एक जरूरी नए प्रश्न की तरह लग सकता है। लेकिन एमआईटी में कंप्यूटिंग के प्रतिष्ठित प्रोफेसर सोलर-लेज़ामा, यह इंगित करने के लिए जल्दी है कि यह संघर्ष ही मानव जाति के रूप में पुराना है।
वह राजा मिडास के ग्रीक मिथक को फिर से शुरू करना शुरू कर देता है, जो सम्राट था, जिसे उसने ठोस सोने में छुआ से कुछ भी बदलने के लिए ईश्वरीय शक्ति दी थी। मुख्य रूप से, जब मिडास ने गलती से हर किसी को गिल्ड स्टोन में प्यार किया, तो यह इच्छा वापस आ गई।
“सावधान रहें कि आप क्या मांगते हैं क्योंकि यह उन तरीकों से प्रदान किया जा सकता है जिनकी आप उम्मीद नहीं करते हैं,” वे कहते हैं, उनके छात्रों को चेतावनी देते हुए, उनमें से कई गणितज्ञों और प्रोग्रामर की आकांक्षा रखते हैं।
दानेदार काले और सफेद तस्वीरों की स्लाइड साझा करने के लिए एमआईटी अभिलेखागार में खुदाई करते हुए, वह प्रोग्रामिंग के इतिहास का वर्णन करता है। हम 1970 के दशक के Pygmalion मशीन के बारे में सुनते हैं, जिसमें 90 के दशक के कंप्यूटर सॉफ़्टवेयर के लिए अविश्वसनीय रूप से विस्तृत संकेतों की आवश्यकता होती है, जो इंजीनियरों के वर्षों की टीमों और कार्यक्रम के लिए 800-पृष्ठ दस्तावेज़ लेता है।
अपने समय में उल्लेखनीय रहते हुए, इन प्रक्रियाओं को उपयोगकर्ताओं तक पहुंचने में बहुत लंबा समय लगा। उन्होंने सहज खोज, खेल और नवाचार के लिए कोई जगह नहीं छोड़ी।
सोलर-लेज़ामा आधुनिक मशीनों के निर्माण के जोखिमों के बारे में बात करता है जो हमेशा प्रोग्रामर के संकेतों या लाल रेखाओं का सम्मान नहीं करते हैं, और जो जीवन को बचाने के रूप में नुकसान को सटीक करने में समान रूप से सक्षम हैं।
टाइटस रोस्लर, इलेक्ट्रिकल इंजीनियरिंग में एक वरिष्ठ प्रमुख, जानबूझकर सिर हिलाता है। रोस्लर स्वायत्त वाहनों की नैतिकता पर अपना अंतिम पेपर लिख रहा है और तौलना जो नैतिक रूप से जिम्मेदार होता है जब एक काल्पनिक रूप से हिट होता है और एक पैदल यात्री को मारता है। उनके तर्क तकनीकी अग्रिमों के पीछे धारणाओं को अंतर्निहित करते हैं, और कई मान्य दृष्टिकोणों पर विचार करते हैं। यह उपयोगितावाद के दर्शन सिद्धांत पर झुकता है। रोस्लर बताते हैं, “मोटे तौर पर, उपयोगितावाद के अनुसार, सबसे बड़ी संख्या में लोगों के लिए सबसे अच्छा लाता है।”
एमआईटी दार्शनिक ब्रैड स्को, जिनके साथ सोलर-लेज़ामा विकसित हुआ और टीम को शिक्षित कर रहा है, आगे ले जाता है, आगे ले जाता है और नोट्स लेता है।
एक वर्ग जो तकनीकी और दार्शनिक विशेषज्ञता की मांग करता है
कम्प्यूटिंग की नैतिकता, 2024 में पहली बार पेश की गई, कंप्यूटिंग शिक्षा के लिए कॉमन ग्राउंड के माध्यम से बनाई गई थी, MIT Schwarzman College of Computing की एक पहल है जो कई विभागों को एक साथ विकसित करने और सिखाने के लिए नए पाठ्यक्रमों को लाती है और नए कार्यक्रमों को लॉन्च करती है जो अन्य विषयों के साथ कंप्यूटिंग को मिश्रित करते हैं।
प्रशिक्षक वैकल्पिक व्याख्यान दिन। स्को, द लॉरेंस एस। रॉकफेलर प्रोफेसर ऑफ फिलॉसफी, आज के नैतिक मुद्दों के व्यापक निहितार्थों की जांच के लिए अपने अनुशासन के लेंस को लाता है, जबकि सोलर-लेज़ामा, जो एमआईटी के कंप्यूटर विज्ञान और कृत्रिम बुद्धिमत्ता प्रयोगशाला के एसोसिएट निदेशक और मुख्य परिचालन अधिकारी भी हैं, उनके माध्यम से परिप्रेक्ष्य प्रदान करते हैं।
स्को और सोलर-लेज़ामा एक दूसरे के व्याख्यान में भाग लेते हैं और जवाब में अपने अनुवर्ती वर्ग सत्रों को समायोजित करते हैं। वास्तविक समय में एक दूसरे से सीखने के तत्व का परिचय अधिक गतिशील और उत्तरदायी वर्ग वार्तालापों के लिए किया गया है। दर्शन या कंप्यूटर विज्ञान से स्नातक छात्रों के साथ सप्ताह के विषय को तोड़ने के लिए एक पाठ और एक जीवंत चर्चा पाठ्यक्रम सामग्री को जोड़ती है।
“एक बाहरी व्यक्ति यह सोच सकता है कि यह एक वर्ग होने जा रहा है जो यह सुनिश्चित करेगा कि एमआईटी द्वारा दुनिया में भेजे जाने वाले इन नए कंप्यूटर प्रोग्रामर हमेशा सही काम करते हैं,” स्को कहते हैं। हालांकि, कक्षा को जानबूझकर छात्रों को एक अलग कौशल सेट सिखाने के लिए डिज़ाइन किया गया है।
एक प्रभावशाली सेमेस्टर-लंबे पाठ्यक्रम बनाने के लिए निर्धारित किया गया है, जो सही या गलत के बारे में छात्रों से अधिक व्याख्यान देने से अधिक था, दर्शन प्रोफेसर कैस्पर हरे ने कंप्यूटिंग के सामाजिक और नैतिक जिम्मेदारियों के एक सहयोगी डीन के रूप में उनकी भूमिका में कंप्यूटिंग की नैतिकता के लिए विचार की कल्पना की। हरे ने स्कोव और सोलर-लेज़ामा को प्रमुख प्रशिक्षकों के रूप में भर्ती किया, क्योंकि उन्हें पता था कि वे इससे अधिक गहरा कुछ कर सकते हैं।
“इस वर्ग में आने वाले सवालों के बारे में गहराई से सोचने के लिए तकनीकी और दार्शनिक दोनों विशेषज्ञता की आवश्यकता होती है। एमआईटी में अन्य वर्ग नहीं हैं जो दोनों को साइड-बाय-साइड करते हैं,” स्को कहते हैं।
ठीक यही बात है कि सीनियर एलेक वेस्टओवर ने दाखिला लिया। गणित और कंप्यूटर विज्ञान डबल मेजर बताते हैं, “बहुत से लोग इस बारे में बात कर रहे हैं कि एआई का प्रक्षेपवक्र पांच साल में कैसे दिखेगा। मुझे लगा कि एक कक्षा लेना महत्वपूर्ण है जो मुझे इसके बारे में अधिक सोचने में मदद करेगा।”
वेस्टओवर का कहना है कि वह नैतिकता में रुचि और गलत से सही को अलग करने की इच्छा के कारण दर्शन के लिए तैयार है। गणित की कक्षाओं में, उन्होंने एक समस्या कथन लिखना सीखा है और इस बात पर तुरंत स्पष्टता प्राप्त की है कि वह सफलतापूर्वक इसे हल कर रहा है या नहीं। हालांकि, कंप्यूटिंग की नैतिकता में, उन्होंने सीखा है कि “मुश्किल दार्शनिक प्रश्नों” के लिए लिखित तर्क कैसे करें, जिनका एक भी सही उत्तर नहीं हो सकता है।
उदाहरण के लिए, “एक समस्या जिसके बारे में हम चिंतित हो सकते हैं, क्या होता है अगर हम शक्तिशाली एआई एजेंटों का निर्माण करते हैं जो कोई भी काम कर सकता है जो एक मानव कर सकता है?” वेस्टओवर पूछता है। “अगर हम इन एआई के साथ उस डिग्री के साथ बातचीत कर रहे हैं, तो क्या हमें उन्हें वेतन देना चाहिए? हमें इस बात की कितनी परवाह है कि वे क्या चाहते हैं?”
कोई आसान जवाब नहीं है, और वेस्टओवर मानता है कि वह भविष्य में कार्यस्थल में कई अन्य दुविधाओं का सामना करेगा।
“तो, क्या इंटरनेट दुनिया को नष्ट कर रहा है?”
सेमेस्टर एआई जोखिम में एक गहरी गोता लगाने के साथ शुरू हुआ, या “क्या एआई मानवता के लिए एक अस्तित्वगत जोखिम पैदा करता है,” स्वतंत्र इच्छा को अनपैक करते हुए, हमारे दिमाग को अनिश्चितता के तहत निर्णय कैसे लेते हैं, और दीर्घकालिक देनदारियों के बारे में बहस करते हैं, और एआई के विनियमन के बारे में बहस करते हैं। एक दूसरी, लंबी इकाई ने “इंटरनेट, वर्ल्ड वाइड वेब और तकनीकी निर्णयों के सामाजिक प्रभाव” पर शून्य किया। शब्द का अंत गोपनीयता, पूर्वाग्रह और मुक्त भाषण को देखता है।
एक वर्ग का विषय उत्तेजक रूप से पूछने के लिए समर्पित था: “तो, क्या इंटरनेट दुनिया को नष्ट कर रहा है?”
सीनियर केटलीन ओगो कोर्स 6-9 (कम्प्यूटेशन एंड कॉग्निशन) में पढ़ाई कर रहे हैं। ऐसे वातावरण में होने के नाते जहां वह इस प्रकार के मुद्दों की जांच कर सकती है, ठीक है कि पाठ्यक्रम में नामांकित स्व-वर्णित “प्रौद्योगिकी संशय” क्यों।
एक माँ के साथ बढ़ते हुए जो बिगड़ा हुआ है और एक विकासात्मक विकलांगता के साथ एक छोटी बहन की सुनवाई कर रही है, ओगो डिफ़ॉल्ट परिवार का सदस्य बन गया, जिसकी भूमिका तकनीकी सहायता या कार्यक्रम iPhones के लिए प्रदाताओं को कॉल करने के लिए थी। उसने अपने कौशल को एक अंशकालिक नौकरी तय करने वाले सेल फोन में ले गया, जिसने उसे गणना में गहरी रुचि विकसित करने और एमआईटी के लिए एक मार्ग विकसित करने का मार्ग प्रशस्त किया। हालांकि, अपने पहले वर्ष में एक प्रतिष्ठित ग्रीष्मकालीन फैलोशिप ने उनके सवाल को इस बात के पीछे की नैतिकता बनाई कि उपभोक्ताओं को उस तकनीक से कैसे प्रभावित किया गया जो वह कार्यक्रम में मदद कर रही थी।
“जो कुछ मैंने प्रौद्योगिकी के साथ किया है, वह लोगों, शिक्षा और व्यक्तिगत संबंध के दृष्टिकोण से है,” ओगो कहते हैं। “यह एक आला है जिसे मैं प्यार करता हूं। सार्वजनिक नीति, प्रौद्योगिकी और संस्कृति के आसपास मानविकी कक्षाएं लेना मेरे बड़े जुनून में से एक है, लेकिन यह पहला कोर्स है जिसे मैंने लिया है जिसमें एक दर्शन प्रोफेसर भी शामिल है।”
अगले हफ्ते, स्को एआई में पूर्वाग्रह की भूमिका पर व्याख्यान देता है, और ओगो, जो अगले साल कार्यबल में प्रवेश कर रहा है, लेकिन अंततः संबंधित मुद्दों को विनियमित करने पर ध्यान केंद्रित करने के लिए लॉ स्कूल में भाग लेने की योजना है, सवाल पूछने या चार बार काउंटरपॉइंट साझा करने के लिए अपना हाथ उठाता है।
स्को, एक विवादास्पद एआई सॉफ्टवेयर की जांच करने में खुदाई करता है, जो इस संभावना की भविष्यवाणी करने के लिए एक एल्गोरिथ्म का उपयोग करता है कि अपराधों के आरोपी लोग फिर से अपराध करेंगे। 2018 के एक प्रोपब्लिका के लेख के अनुसार, कम्पास को भविष्य के अपराधियों के रूप में काले प्रतिवादियों को ध्वजांकित करने की संभावना थी और यह दर से दो बार झूठी सकारात्मकता दी गई थी क्योंकि यह श्वेत प्रतिवादियों को हुआ था।
वर्ग सत्र यह निर्धारित करने के लिए समर्पित है कि क्या लेख इस निष्कर्ष को वारंट करता है कि कम्पास प्रणाली पक्षपाती है और इसे बंद कर दिया जाना चाहिए। ऐसा करने के लिए, स्को निष्पक्षता पर दो अलग -अलग सिद्धांतों का परिचय देता है:
“मूल निष्पक्षता यह विचार है कि एक विशेष परिणाम निष्पक्ष या अनुचित हो सकता है,” वे बताते हैं। “प्रक्रियात्मक निष्पक्षता इस बारे में है कि क्या प्रक्रिया जिसके द्वारा एक परिणाम उत्पन्न होता है वह उचित है।” निष्पक्षता के विभिन्न प्रकार के परस्पर विरोधी मानदंड तब पेश किए जाते हैं, और वर्ग चर्चा करता है जो प्रशंसनीय थे, और उन्होंने कम्पास प्रणाली के बारे में किन निष्कर्षों को वारंट किया।
बाद में, दोनों प्रोफेसर सोलर-लेज़ामा के कार्यालय में ऊपर जाते हैं, ताकि उस दिन व्यायाम कैसे हुआ हो।
“कौन जानता है?” सोलर-लेज़ामा कहते हैं। “हो सकता है कि अब से पांच साल बाद, हर कोई इस बात पर हंस पाएगा कि कैसे लोग एआई के अस्तित्व के जोखिम के बारे में चिंतित थे। लेकिन इस वर्ग के माध्यम से चलने वाले विषयों में से एक मैं मीडिया प्रवचन से परे इन बहसों के लिए सीख रहा हूं और इन मुद्दों के बारे में कठोरता से सोचने की तह तक पहुंच रहा है।”
। Roessler (T) कैस्पर हरे (T) Alek Westover (T) Caitlin Ogoe
