सरकार बच्चों और अन्य संवेदनशील उपयोगकर्ताओं को उभरते जोखिमों से बचाते हुए, जिम्मेदारीपूर्ण और सुरक्षित तरीके से एआई नवाचार और डिजिटल प्लेटफार्मों के विकास को बढ़ावा देने के लिए प्रतिबद्ध

सरकार विशेष रूप से बच्चों के लिए शिक्षा, सूचना और सेवाओं तक पहुंच बढ़ाने में उभरती डिजिटल प्रौद्योगिकियों की परिवर्तनकारी क्षमता को पहचानती है। साथ ही, सरकार इससे जुड़े जोखिमों से भी अवगत है, जिनमें हानिकारक सामग्री का सामना करना, साइबरबुलिंग और अत्यधिक स्क्रीन समय और डिजिटल निर्भरता से संबंधित मुद्दे शामिल हैं, इसलिए डिजिटल वातावरण में बच्चों की सुरक्षा के लिए उचित उपाय अत्‍यंत आवश्यक हैं।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय से प्राप्त जानकारी के अनुसार, सरकार ने सूचना प्रौद्योगिकी अधिनियम, 2000, सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 (संशोधित रूप में), और डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 के तहत एक व्यापक कानूनी और नियामक ढांचा स्थापित किया है ताकि बच्चों सहित उपयोगकर्ताओं के लिए एक सुरक्षित, संरक्षित और जवाबदेह ऑनलाइन वातावरण सुनिश्चित किया जा सके।

सूचना प्रौद्योगिकी अधिनियम, 2000, सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 के साथ पढ़ा जाए, जैसा कि समय-समय पर संशोधित किया गया है, एक सुरक्षित और जवाबदेह ऑनलाइन वातावरण सुनिश्चित करने के लिए एक व्यापक कानूनी ढांचा प्रदान करता है।

इस अधिनियम में साइबर अपराधों से निपटने के लिए विशिष्ट दंडात्मक प्रावधान शामिल हैं, जिनमें कंप्यूटर से संबंधित अपराध (धारा 43 को धारा 66 के साथ पढ़ा जाए), पहचान की चोरी (धारा 66सी), प्रतिरूपण द्वारा धोखाधड़ी (धारा 66डी), निजता का उल्लंघन (धारा 66ई), और अश्लील, यौन रूप से स्पष्ट या बाल यौन शोषण सामग्री का प्रकाशन या प्रसारण (धारा 67, 67ए और 67बी) शामिल हैं। इसमें गैरकानूनी सामग्री को ब्लॉक करने (धारा 69ए), अपराधों में सहायता करने (धारा 84बी) का भी प्रावधान है, और कानून प्रवर्तन एजेंसियों को अपराधों की जांच करने और उचित कार्रवाई करने का अधिकार दिया गया है (धारा 78 और 80)।

इसके अलावा, यह अधिनियम, सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 के साथ मिलकर, ऑनलाइन गैरकानूनी और हानिकारक सामग्री की मेजबानी या प्रसारण को रोकने के लिए एक मजबूत ढांचा स्थापित करता है और सोशल मीडिया प्लेटफॉर्म सहित मध्यस्थों के लिए उचित सावधानी और जवाबदेही दायित्वों को निर्धारित करता है।

सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 के अनुसार, मध्यस्थों को उचित सावधानी बरतनी होगी और अश्लील, पोर्नोग्राफिक, निजता का उल्लंघन करने वाली, बच्चों के लिए हानिकारक, घृणा या हिंसा को बढ़ावा देने वाली, व्यक्तियों का प्रतिरूपण करने वाली या राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था को खतरे में डालने वाली सामग्री सहित गैर-कानूनी सामग्री की मेजबानी या प्रसारण पर रोक लगानी होगी। नियमों में यह भी अनिवार्य है कि मध्यस्थ समय-समय पर उपयोगकर्ताओं को अपनी नीतियों और उनका पालन न करने के परिणामों के बारे में सूचित करें, जिसमें सामग्री को हटाना या पहुंच समाप्त करना शामिल है।

डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 और इसके अंतर्गत निर्मित नियम, बच्चों सहित व्यक्तिगत डेटा की सुरक्षा के लिए एक व्यापक ढांचा प्रदान करते हैं और उचित सुरक्षा उपायों एवं जवाबदेही के साथ वैध प्रकिया को अनिवार्य बनाते हैं। यह अधिनियम बच्चों के लिए विशिष्ट सुरक्षा उपाय निर्धारित करता है, जिसके तहत उनके व्यक्तिगत डेटा की प्रकिया से पहले माता-पिता या वैध अभिभावकों की सत्यापन योग्य सहमति अनिवार्य है और ट्रैकिंग, व्यवहार निगरानी और बच्चों को लक्षित विज्ञापन जैसी प्रणालियों पर रोक लगाता है। यह सहमति वापस लेने का अधिकार भी प्रदान करता है, जिसके तहत डेटा के संरक्षकों पर अधिनियम के प्रावधानों के अनुसार ऐसे डेटा को मिटाने का दायित्व होता है।

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने समय-समय पर सलाह जारी की है, जिनमें 26.12.2023, 15.03.2024 और 29.12.2025 को जारी की गई सलाहें शामिल हैं, जिनमें सूचना प्रौद्योगिकी अधिनियम, 2000 और सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 के तहत मध्यस्थों के लिए उचित सावधानी बरतने के दायित्वों को दोहराया गया है। इन सलाहों में, अन्य बातों के अलावा, अश्लील, पोर्नोग्राफिक, बाल यौन शोषण सामग्री सहित गैरकानूनी सामग्री के प्रसार को रोकने और दुर्भावनापूर्ण कृत्रिम मीडिया और डीपफेक जैसे उभरते नुकसानों को रोकने की आवश्यकता पर जोर दिया गया है।

जनरेटिव एआई के बढ़ते उपयोग और डीपफेक सहित कृत्रिम रूप से उत्पन्न सामग्री (एसजीआई) से जुड़े जोखिमों के साथ-साथ अश्लील, अभद्र, यौन रूप से स्पष्ट प्रकृति की एसजीआई (जिसमें सीएसईएएम भी शामिल है) बनाने या उत्पन्न करने के लिए ऐसी तकनीकों के संभावित दुरुपयोग को देखते हुए, जो उपयोगकर्ताओं को नुकसान पहुंचा सकती है, गलत सूचना फैला सकती है, चुनावों में हेरफेर कर सकती है, या व्यक्तियों का प्रतिरूपण सक्षम कर सकती है, उचित परामर्श के बाद, सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 में संशोधन 10.02.2026 को अधिसूचित किया गया है, जो 20.02.2026 से लागू हो गया है।

इन संशोधनों से सोशल मीडिया और प्रमुख सोशल मीडिया मध्यस्थों सहित अन्य मध्यस्थों के लिए उचित सतर्कता संबंधी दायित्वों को और मजबूत किया गया है। इसके तहत अवैध कृत्रिम बुद्धिमत्ता से निर्मित सामग्री, जिसमें अश्लील, भ्रामक, प्रतिरूपणकारी या बच्चों के लिए हानिकारक सामग्री शामिल है, के प्रसार को रोकने के लिए उपयुक्त तकनीकी उपायों को लागू करना अनिवार्य किया गया है। नियमों में अनुमत कृत्रिम सामग्री की स्पष्ट लेबलिंग और पता लगाने की क्षमता, उपयोगकर्ताओं में जागरूकता बढ़ाना और सख्त अनुपालन से जुड़ी आवश्यकताओं को भी अनिवार्य किया गया है।

इसके अलावा, यह ढांचा स्पष्ट रूप से बाल यौन शोषण सामग्री, बिना सहमति के अंतरंग छवियों और प्रतिरूपण जैसे नुकसानों को शामिल करता है और कार्रवाई के लिए सख्त समय-सीमा निर्धारित करता है, जिसमें उचित निर्देशों पर 3 घंटे के भीतर गैरकानूनी सामग्री को हटाना, समयबद्ध शिकायत निवारण और संवेदनशील सामग्री से जुड़े मामलों में त्वरित कार्रवाई शामिल है।

इन उपायों के माध्यम से, भारत सरकार एक जिम्मेदार और सुरक्षित तरीके से एआई नवाचार और डिजिटल प्लेटफार्मों के विकास को बढ़ावा देने के लिए प्रतिबद्ध है, साथ ही बच्चों और अन्य कमजोर उपयोगकर्ताओं को डिजिटल इकोसिस्‍टम में उभरते जोखिमों से बचाने के लिए भी प्रतिबद्ध है।

शिक्षा मंत्रालय ने जुलाई 2020 में डिजिटल शिक्षा पर प्रज्ञाता दिशानिर्देश जारी किए, जो छात्रों की भलाई और सोशल मीडिया तथा इलेक्ट्रॉनिक उपकरणों के जिम्मेदार उपयोग को बढ़ावा देने सहित सुरक्षित और प्रभावी ऑनलाइन शिक्षा के लिए एक संरचना प्रदान करते हैं। सीबीएसई ने डिजिटल शिष्टाचार पर दिशानिर्देश, शिक्षकों के लिए साइबर सुरक्षा प्रशिक्षण, 'साइबर सुरक्षा हैंडबुक' का प्रकाशन और साइबर सुरक्षा जागरूकता को बढ़ावा देने के लिए स्कूलों को साइबर क्लब स्थापित करने के लिए सलाह जारी करके इन प्रयासों को आगे बढ़ाया है। एनसीईआरटी ने भी अपने पाठ्यक्रम में साइबर सुरक्षा को शामिल किया है, जिसमें कक्षा 11वीं और 12वीं में "सामाजिक प्रभाव" पर एक अध्याय शामिल है (https://ncert.nic.in/textbook.php?kecs1=ps-11), और सीआईईटी-एनसीईआरटी ने साइबर सुरक्षा पर संसाधन सामग्री विकसित और वितरित की है (https://ciet.nic.in/pages.php?id=booklet-on-cyber-safety-security&ln=en)।

इसके अलावा, राष्ट्रीय शिक्षा नीति, 2020 और स्कूली शिक्षा के लिए राष्ट्रीय पाठ्यक्रम ढांचा, 2023 के अनुरूप, कृत्रिम बुद्धिमत्ता (एआई) को 21वीं सदी के एक प्रमुख कौशल के रूप में स्कूली शिक्षा में एकीकृत किया जा रहा है। एनसीईआरटी और सीबीएसई को के-12 स्तर तक आयु-अनुकूल एआई पाठ्यक्रम विकसित करने का कार्य सौंपा गया है, और एआई से संबंधित सामग्री को पाठ्यपुस्तकों, वरिष्ठ माध्यमिक पाठ्यक्रम और कौशल-आधारित शिक्षा में शामिल किया गया है। एनसीईआरटी, सीबीएसई, केंद्रीय विद्यालय संगठन और नवोदय विद्यालय समिति जैसे संस्थानों की भागीदारी के साथ प्रशिक्षण कार्यक्रमों, कार्यशालाओं और ऑनलाइन पाठ्यक्रमों के माध्यम से शिक्षकों के लिए क्षमता निर्माण पहल की जा रही हैं। स्कूलों में एआई को सुरक्षित और जिम्मेदारी से अपनाने को बढ़ावा देने के लिए शैक्षणिक और उद्योग भागीदारों के सहयोग से शिक्षा में एआई के लिए एक उत्कृष्टता केंद्र भी स्थापित किया जा रहा है।

बच्चों के विरुद्ध अपराध से संबंधित आंकड़े गृह मंत्रालय के अधीन राष्ट्रीय अपराध अभिलेख ब्यूरो (एनसीआरबी) द्वारा रखे जाते हैं, जिन्हें https://www.ncrb.gov.in/ पर देखा जा सकता है। हालांकि, डिजिटल व्यसन के कारण होने वाली बाल आत्महत्याओं की वर्षवार और राज्य एवं केंद्र शासित प्रदेशवार संख्या से संबंधित विशिष्ट आंकड़े अलग से नहीं रखे जाते हैं।

महिला एवं बाल विकास राज्य मंत्री श्रीमती सावित्री ठाकुर ने राज्यसभा में एक प्रश्न के उत्तर में यह जानकारी दी।