भूमिका
यह मामला तकनीकी दक्षता बनाम सामाजिक न्याय तथा सार्वजनिक सुरक्षा (अनुच्छेद 19(2)) बनाम मौलिक अधिकारों के मध्य उत्पन्न नैतिक द्वंद्व को दर्शाता है। एक जिला पुलिस अधीक्षक (SP) के रूप में प्राथमिक उत्तरदायित्व नागरिक अधिकारों की रक्षा और कानून-व्यवस्था के प्रभावी क्रियान्वयन के बीच एक संवैधानिक संतुलन स्थापित करना है।
(a) डेटा-आधारित पुलिसिंग में AI के उपयोग से जुड़े नैतिक मुद्दे और पूर्वाग्रह
- ऐतिहासिक एवं एल्गोरिद्मिक पूर्वाग्रह (Historical & Algorithmic Bias): यदि AI सॉफ्टवेयर को पक्षपातपूर्ण ऐतिहासिक पुलिस डेटा (जैसे किसी विशेष वर्ग या बस्ती की पूर्व में की गई अत्यधिक निगरानी) पर प्रशिक्षित किया जाता है, तो यह 'पूर्वाग्रह का फीडबैक लूप' उत्पन्न करता है। परिणामस्वरूप, प्रवासी और वंचित बस्तियों को ही बार-बार संदिग्ध माना जाता है।
- संवैधानिक अधिकारों का उल्लंघन: बिना किसी ठोस साक्ष्य के केवल AI के पूर्वानुमान पर आधारित पुलिस कार्रवाई समानता (अनुच्छेद 14) और गैर-भेदभाव (अनुच्छेद 15) के मौलिक अधिकारों का हनन करती है।
- निजता एवं पुट्टास्वामी निर्णय (2017) का हनन: सार्वजनिक स्थानों से बिना पूर्व सहमति और विधिक ढांचे के व्यापक बायोमेट्रिक डेटा एकत्र करना अनुच्छेद 21 के तहत सूचनात्मक निजता (Informational Privacy) और समानुपातिकता के सिद्धांत (Principle of Proportionality) के विपरीत है।
- ब्लैक बॉक्स AI और अपारदर्शिता (Lack of Transparency): AI मॉडल किस आधार पर निर्णय लेते हैं, इसकी कार्यप्रणाली अपारदर्शी होती है। नागरिकों को यह ज्ञात न होना कि उनके विरुद्ध कौन-सा डेटा दर्ज है, प्राकृतिक न्याय के सिद्धांत का उल्लंघन है।
- सहानुभूति और मानवीय विवेक का क्षरण: तकनीकी डेटा पर अत्यधिक निर्भरता से पुलिस बल की मानवीय संवेदनशीलता, जमीनी वास्तविकताओं की समझ और परिस्थितियों के अनुरूप विवेक का ह्रास होता है।
(b) पुलिस अधीक्षक के समक्ष उपलब्ध विकल्प
- विकल्प 1: AI सॉफ्टवेयर का उपयोग पूरी तरह बंद करना।
गुण: नागरिक अधिकारों और निजता की तत्काल सुरक्षा सुनिश्चित होगी तथा समुदाय का असंतोष शांत होगा।
दोष: संवेदनशील क्षेत्र में सुरक्षा प्रबंधन कमजोर होगा और आधुनिक तकनीक आधारित अपराधों से निपटने की पुलिस की क्षमता सीमित हो जाएगी। - विकल्प 2: बिना किसी सुधार के वर्तमान व्यवस्था को जारी रखना।
गुण: तात्कालिक अपराध नियंत्रण और त्वरित निवारक कार्रवाई में आसानी होगी।
दोष: मौलिक अधिकारों का उल्लंघन, पुलिस और नागरिकों के बीच अविश्वास तथा दीर्घकालिक सामाजिक असंतोष को बढ़ावा मिलेगा। - विकल्प 3: नैतिक सुरक्षा उपायों के साथ 'मानव-नियंत्रित AI' (Human-in-the-Loop) दृष्टिकोण अपनाना।
यह सर्वोत्तम विकल्प है, जिसमें तकनीक का उपयोग निर्णय लेने के बजाय केवल निर्णय में सहायता (Decision Support) के रूप में किया जाता है।
सर्वोत्तम विकल्प (विकल्प 3) का नैतिक औचित्य
यह विकल्प महात्मा गांधी के 'साधनों की शुचिता' (Purity of Means) और इमैनुएल कांट के 'कर्तव्यशास्त्र' (Deontology) के सिद्धांतों के सर्वाधिक अनुकूल है:
- मानवीय नियंत्रण (Human-in-the-loop): AI के आउटपुट को अंतिम साक्ष्य न मानकर केवल एक 'खुफिया सुराग' (Intelligence Lead) माना जाएगा। किसी भी दंडात्मक या निवारक कार्रवाई (जैसे गिरफ्तारी) से पूर्व मानवीय भौतिक सत्यापन अनिवार्य किया जाएगा।
- डेटा ऑडिट एवं पूर्वाग्रह निवारण: एक स्वतंत्र तकनीकी समिति का गठन कर सॉफ्टवेयर के डेटाबेस का निष्पक्ष ऑडिट कराया जाएगा ताकि ऐतिहासिक और सामाजिक पूर्वाग्रहों को समाप्त किया जा सके।
- संवैधानिक एवं विधिक वैधता (DPDP Act, 2023): डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम के मानकों के अनुरूप नागरिकों को डेटा उपयोग की पारदर्शिता और आवश्यक निवारण का अधिकार सुनिश्चित किया जाएगा।
- सामुदायिक पुलिसिंग (Community Policing): नागरिक अधिकार समूहों और स्थानीय समुदायों के साथ संवाद स्थापित कर पुलिस की निष्पक्षता और जवाबदेही के प्रति जनविश्वास बहाल किया जाएगा।
निष्कर्ष
प्रौद्योगिकी कभी भी मानवीय विवेक और करुणा का स्थान नहीं ले सकती। अतः एक लोक सेवक को सार्वजनिक सुरक्षा और व्यक्तिगत स्वतंत्रता दोनों को अक्षुण्ण रखते हुए संवैधानिक नैतिकता पर आधारित संवेदनशील पुलिसिंग का उदाहरण प्रस्तुत करना चाहिए।