आर्टिफिशियल इंटेलिजेंस यानी AI के नाम पर मार्केट में गजब का गोरखधंधा चल रहा है। एआई के नाम पर किसी की प्राइवेसी का उल्लंघन किया जा रहा है। साथ ही उसे बदनाम किया जा रहा है। ऐसे में सरकार एआई के गलत इस्तेमाल को लेकर सतर्क हो गई है। हाल ही में रश्मिका मंधाना की डीपफेक वीडियो बनाकर वायरल कर दिया गया था। साथ ही डीपफेक की मदद से बैंकिंग फ्रॉड जैसी घटनाओं को अंजाम दिया जा रहा है। ऐसे में सरकार ने साफ कर दिया है कि एआई मॉडल बनाने से पहले सरकार से परमिशन लेना अनिवार्य होगा।

सरकार ने जारी की गाइडलाइन
यूनियन मिनिस्टर राजीव चंद्रशेखर ने कहा कि आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म को AI मॉडल लॉन्च करने से पहले सरकार की इजाजत लेनी होगी। इस मामले में सरकार की ओर से गाइडलाइन जारी कर दी गई है। सरकार ने साफ कर दिया है किसी भी एआई जनरेटेड कंटेंट पर लेबलिंग की जाएगी, जिससे पहचान किया जा सके कि यह एक एआई जनरेटेड कंटेंट है। इसकी मदद से भ्रामक और डीपफेक पर लगाम लगाने में मदद मिलेगी।

जेमिनी के दिए गलत जबाव पर हो चुका है विवाद
यह कदम Google के जेमिनी मॉडल की उस प्रतिक्रिया के बाद आया है जिसमें Gemini ने पीएम मोदी को फासीवादी बता दिया था। इससे पहले गूगल जेमिनी पर नस्लभेद के आरोप लगते रहे हैं। हालांकि गूगल ने साफ कर दिया है कि गूगल जेमिनी के सारे जवाब सही नहीं हो सकते हैं। ऐसे में इस मॉडल की लेबलिंग करना अनिवार्य हो गया है।