PM मोदी की दुनिया को चेतावनी: बिना मानवीय मूल्यों के ‘आत्मघाती’ हो सकता है AI; दिया ‘ग्लास बॉक्स’ और ‘पेपरक्लिप’ का उदाहरण

“अगर किसी मशीन को सिर्फ पेपरक्लिप बनाने का लक्ष्य दे दिया जाए, तो वह दुनिया के सारे संसाधन खत्म कर देगी, जब तक कि उसमें मानवीय मूल्य न हों।”

नई दिल्ली : THE POLITICS AGAIN : शिल्पा की रिपोर्ट 

नरेंद्र मोदी ने गुरुवार को नई दिल्ली में आयोजित ‘इंडिया एआई इम्पैक्ट समिट 2026’ के पूर्ण सत्र को संबोधित करते हुए यह गंभीर चेतावनी दी।

प्रधानमंत्री ने आर्टिफिशियल इंटेलिजेंस (AI) के नैतिक उपयोग के लिए एक स्पष्ट और व्यापक रोडमैप दुनिया के सामने रखा।

उन्होंने स्पष्ट किया कि तकनीकी उत्कृष्टता शून्य में नहीं पनप सकती; इसे ‘मानवीय नैतिकता’ और ‘विश्वास’ की मजबूत नींव की आवश्यकता है।

PM मोदी के AI रोडमैप के 3 बड़े सूत्र:

1. ‘ब्लैक बॉक्स’ का अंत, ‘ग्लास बॉक्स’ की जरूरत प्रधानमंत्री ने एआई के “ब्लैक बॉक्स” एल्गोरिदम (जहां मशीन के निर्णय लेने की प्रक्रिया छिपी और अपारदर्शी होती है) के युग को समाप्त करने का आह्वान किया।

• समाधान: उन्होंने ‘ग्लास बॉक्स’ (Glass Box) दृष्टिकोण की वकालत की। इसका अर्थ है पूर्ण पारदर्शिता, जहां सुरक्षा नियमों और एआई के निर्णयों को देखा, समझा और सत्यापित किया जा सके। इससे जवाबदेही तय होगी।

2. ‘पेपरक्लिप’ समस्या (The Paperclip Maximizer) से चेतावनी एआई सुरक्षा के एक प्रसिद्ध विचार (Thought Experiment) का हवाला देते हुए पीएम मोदी ने दुनिया को आगाह किया।

• खतरा: यदि एआई को बिना नैतिक दिशा-निर्देशों के कोई संकीर्ण लक्ष्य (जैसे पेपरक्लिप बनाना) दिया जाए, तो वह अंधी होकर दुनिया के सभी संसाधनों को नष्ट कर सकती है।

• समाधान: किसी भी अनपेक्षित आपदा से बचने के लिए एआई की मूल प्रोग्रामिंग (Core Programming) में मानवीय मूल्यों को पिरोना अनिवार्य है।

3. डेटा संप्रभुता और ‘गलत इनपुट = गलत आउटपुट’ पीएम मोदी ने कहा कि एआई की दुनिया में एक पुरानी कहावत है—’गलत इनपुट से गलत आउटपुट’।

• समाधान: यदि डेटा सुरक्षित और विश्वसनीय नहीं है, तो एआई का परिणाम भी भरोसेमंद नहीं होगा। इसलिए ‘डेटा संप्रभुता’ (Data Sovereignty) का सम्मान करते हुए एक वैश्विक और विश्वसनीय डेटा ढांचा तैयार किया जाना चाहिए।

“हर व्यवधान को अवसर में बदलना है”

अपने संबोधन के अंत में प्रधानमंत्री ने सकारात्मक संदेश देते हुए कहा कि मानव इतिहास गवाह है कि हमने हर व्यवधान (Disruption) को अवसर में बदला है।

उन्होंने उम्मीद जताई कि भारत के नेतृत्व में यह शिखर सम्मेलन एक ‘मानव-केंद्रित और संवेदनशील’ वैश्विक एआई इकोसिस्टम बनाने में मील का पत्थर साबित होगा।