एआई से भविष्यवाणी वाली निगरानी: जोखिम आखिर आप पर आता है

आपने मीटिंग का सारांश बनाने के लिए एक एआई रखा। वह हर बोलने वाले को सुनता है, ट्रांसक्राइब करता है, और सहेज लेता है। अब सोचिए कि वैसा ही सिस्टम किसी और के हाथ में हो, और उसे यह अनुमान लगाने के लिए रखा गया हो कि कौन प्रदर्शन करेगा, प्रदर्शन से पहले ही। यह कल्पना नहीं है। The American Prospect ने यही रिपोर्ट किया कि Anthropic अमेरिकी सुरक्षा एजेंसियों के साथ कॉन्ट्रैक्ट में कार्यकर्ताओं की निगरानी के लिए एक प्रेडिक्टिव सर्विलांस सिस्टम बना रही है।

एआई से भविष्यवाणी वाली निगरानी वही है जो नाम कहता है: लोगों के बारे में ढेरों डेटा जुटाना और मॉडल से पूछना कि कौन शायद कुछ करने वाला है। जो किया, वह नहीं। जो करेगा, वह। और अगर यह आपके कारोबार से दूर लगता है, तो रुकिए, क्योंकि दूरी दिखने से कम है।

इस खबर में असल में क्या बदला

राज्य की निगरानी नई बात नहीं है। जो बदला है वह प्रवेश की बाधा है।

पहले हज़ारों लोगों का डेटा मिलाने के लिए बड़ी टीम, बजट और महीनों का काम चाहिए था। आज एक API, एक अच्छा डेटाबेस और एक अच्छा प्रॉम्प्ट चाहिए। वही तकनीक जो आपके 40 पन्नों के कॉन्ट्रैक्ट को तीन पैराग्राफ में समेटती है, वह 40 हज़ार मैसेज पढ़कर व्यवहार की प्रोफ़ाइल बना सकती है।

गौर कीजिए, Anthropic वही कंपनी है जो बाज़ार में सबसे ज़्यादा "सुरक्षित एआई" और "constitutional AI" बेचती है। वही जो अस्तित्व के जोखिम पर घोषणापत्र लिखती है। यही कंपनी कार्यकर्ताओं की निगरानी वाले कॉन्ट्रैक्ट के केंद्र में हो, यह कुछ अहम कहता है: वेबसाइट पर लिखी यूज़ पॉलिसी किसी बात की गारंटी नहीं है। बड़ा कॉन्ट्रैक्ट पॉलिसी बदल देता है।

मैं यह नहीं कह रहा कि Anthropic खलनायक है और बाकी संत। मैं उलटा कह रहा हूं: अगर सबसे सावधान कंपनी यह करती है, तो वेंडर की साख को सुरक्षा की परत मानना बंद कीजिए।

सरकार के साथ काम न करने पर भी यह आप पर क्यों असर डालता है

तीन व्यावहारिक वजहें।

पहली, आप पहले से यह काम कर रहे हैं, बस इस नाम से नहीं। क्रेडिट स्कोर व्यवहार का अनुमान है। ग्राहक को "संभावित चर्न" बताने वाला सिस्टम व्यवहार का अनुमान है। रिज़्यूमे रैंक करने वाला एचआर टूल व्यवहार का अनुमान है। इसमें और खबर वाले मामले में फर्क पैमाने और नतीजे का है, तकनीक का नहीं।

दूसरी, संक्रमण से आने वाला नियमन। जब ऐसा कोई मामला फूटता है, तो कानून बनाने वाला स्केलपेल नहीं चलाता, हथौड़ा चलाता है। भारत का डीपीडीपी कानून और दुनिया भर के नियम पहले से इस दिशा में हैं। अगर आपके पास कोई भी सिस्टम है जो किसी इंसान के बारे में बिना इंसानी दखल के फैसला करता है, तो आप पहले से निशाने पर हैं। नियम सख्त होते वक्त कोई नहीं पूछेगा कि आपकी नीयत अच्छी थी या नहीं।

तीसरी सबसे खीझ भरी है: आपका डेटा दूसरी तरफ हो सकता है। अगर आप ऐसा टूल इस्तेमाल करते हैं जो ग्राहकों का डेटा किसी एआई API को भेजता है, तो आपको नहीं पता कि आगे क्या होता है। आपको पता है कि कॉन्ट्रैक्ट क्या कहता है। दोनों एक बात नहीं हैं।

प्राइवेसी पॉलिसी एक वादा है। आर्किटेक्चर एक गारंटी है।

एक सवाल का टेस्ट

मैं यह ग्राहकों के साथ करता हूं और 80% शंकाएं सुलझ जाती हैं। सवाल है:

अगर यह डेटाबेस कल लीक हो जाए, और कोई उस पर एक मॉडल चलाकर उसमें दर्ज लोगों के व्यवहार का अनुमान लगाए, तो क्या निकलेगा?

मैंने यह अभ्यास एक क्लिनिक के साथ किया। उनके पास अपॉइंटमेंट का एक साधारण सिस्टम था, कुछ भी जटिल नहीं। बस "टिप्पणी" फ़ील्ड में रिसेप्शन के सालों के खुले नोट्स थे। जैसे "मरीज़ रोते हुए आई", "पति को पता नहीं चलना चाहिए", "भुगतान हमेशा देर से करता है"। किसी ने उसे संवेदनशील डेटाबेस के रूप में नहीं बनाया था। वह जमा होते-होते बन गया।

सिस्टम में एआई कुछ भी नहीं था। पर अगर कोई उस फ़ील्ड पर मॉडल चला देता, तो एक दोपहर में 3 हज़ार लोगों की मनोवैज्ञानिक और वित्तीय प्रोफ़ाइल बन जाती।

सुधार कोई छह महीने का प्रोजेक्ट नहीं था। खुले फ़ील्ड को तय कैटेगरी में बांटा, पुराना इतिहास सीमित पहुंच वाले अलग डेटाबेस में रखा, और मिटाने की समय-सीमा तय की। दो हफ़्ते का काम। जोखिम "विनाशकारी" से गिरकर "मामूली" हो गया।

व्यवहार में क्या करें

यहां किसी को एथिक्स कमेटी या पांच लाख की कंसल्टिंग नहीं चाहिए।

• जो बाहर भेजते हैं उसकी सूची बनाइए। आप जो भी एआई टूल इस्तेमाल करते हैं: उसे क्या मिलता है? पूरा नाम? पहचान संख्या? ग्राहक से बातचीत का कंटेंट? एक शीट में लिखिए। ज़्यादातर कंपनियां यह नहीं बता पातीं, और यही पूरी समस्या है।
• जहां मिले, ज़ीरो रिटेंशन चालू कीजिए। OpenAI, Anthropic और Google अपने API और एंटरप्राइज़ प्लान में डेटा न रखने का मोड देते हैं। आमतौर पर यह एक सेटिंग है, नया कॉन्ट्रैक्ट नहीं। बहुत लोग इसका पैसा देते हैं और कभी चालू नहीं करते।
• भेजने से पहले कम कीजिए। अगर एआई को किसी टिकट का सेंटिमेंट पहचानना है, तो उसे ग्राहक का नाम नहीं चाहिए। हटा दीजिए। एक आईडी से बदल दीजिए। आधे घंटे का काम है और जोखिम की प्रकृति बदल देता है।
• इंसान फैसला करे, एआई सुझाव दे। किसी भी ऐसे फैसले में जो व्यक्ति पर असर डाले (क्रेडिट, भर्ती, कैंसिलेशन, कीमत), एआई कारण के साथ सुझाव दे और इंसान दस्तखत करे। यह आपको नियमों के सही पक्ष में रखता है और साथ में मॉडल की गलती केस बनने से पहले पकड़ लेता है।
• डेटा मिटाने की समय-सीमा तय कीजिए और उसे मानिए। जो डेटा है ही नहीं वह लीक नहीं होता, तलब नहीं होता, और किसी भविष्यवाणी को नहीं खिलाता। सब कुछ हमेशा के लिए रखना सबसे महंगा फैसला है, और कोई इसे जानबूझकर नहीं लेता।
• लिखिए कि आप क्या नहीं करेंगे। एक पन्ना। "हम X के बाहर ग्राहकों के व्यक्तिगत व्यवहार के अनुमान के लिए एआई इस्तेमाल नहीं करते।" जब कोई उत्साही व्यक्ति मीटिंग में वह आइडिया लाए, तो यह ब्रेक का काम करता है।

जो आपत्ति हमेशा आती है

"दिएगो, इससे मैं पीछे रह जाऊंगा। प्रतिस्पर्धी सब कुछ इस्तेमाल करके आगे निकल जाएगा।"

शायद। कुछ समय के लिए।

पर हिसाब अधूरा है। ऐसा सिस्टम जो लोगों के बारे में बिना कारण के निशान छोड़े फैसला करता है, देर से फटने वाला बम है। जब गड़बड़ होती है, तो ऐसी होती है जिसे आप समझा नहीं पाते, क्योंकि आपको खुद नहीं पता कि मॉडल ने वह फैसला क्यों लिया। मैंने एक कंपनी को तीन हफ्ते इसमें लगाते देखा है कि एक ऑटोमैटिक अस्वीकृति के पीछे का तर्क दोबारा जोड़ सके, ताकि उपभोक्ता शिकायत का जवाब दे सके। सीनियर टीम के तीन हफ्ते। जो "देरी" वे बचाते, वह दो दिन की थी।

और एक व्यावसायिक पहलू भी है। कॉर्पोरेट ग्राहक अब पूछता है कि उसका डेटा कहां से गुज़रता है। जो साफ जवाब देता है, कॉन्ट्रैक्ट पाता है। जो कहता है "शायद क्लाउड में रहता है", वह हारता है। डेटा गवर्नेंस बी2बी में बिक्री का तर्क बन गया है, सिर्फ कंप्लायंस की चीज़ नहीं।

असल बात

प्रेडिक्टिव सर्विलांस की यह खबर Anthropic के बारे में नहीं है। यह इस बारे में है कि बड़े पैमाने पर इंसानी व्यवहार का अनुमान लगाने की ताकत सस्ती और आसान हो गई, और नियम पहले से किसी ने तय नहीं किए।

एआई कंपनी सरकारी कॉन्ट्रैक्ट के साथ क्या करती है, यह आपके हाथ में नहीं है। आपके हाथ में है कि आपकी कंपनी से क्या बाहर जाता है, कितने समय तक रखा जाता है, और फैसलों पर कौन दस्तखत करता है। यह कम है? हां। पर यह हिस्सा आपका है, और ज़्यादातर कंपनियों ने इसका भी ध्यान नहीं रखा।

काम में कोई चमक नहीं है: सूची बनाना, डेटा कम करना, मिटाने की समय-सीमा, लूप में इंसान। इससे लिंक्डइन पर सुंदर पोस्ट नहीं बनती। इससे अगली हेडलाइन आने पर चैन की नींद आती है।

अगर आप अपने कारोबार में एआई इस्तेमाल करते हैं और यह नहीं बता सकते कि कौन सा डेटा दरवाज़े से बाहर जाता है, तो देखने का यही वक्त है। बताइए आप क्या इस्तेमाल कर रहे हैं, हम इसे साथ मिलकर मैप करते हैं, बिना इसे एक साल का प्रोजेक्ट बनाए।

Anthropic, वही कंपनी जो सबसे ज़्यादा "सुरक्षित एआई" की बात करती है, कार्यकर्ताओं की निगरानी वाले एक प्रेडिक्टिव सर्विलांस कॉन्ट्रैक्ट में सामने आई।

और सबक Anthropic के बारे में नहीं है। सबक यह है कि बड़े पैमाने पर इंसानी व्यवहार का अनुमान लगाना सस्ता हो गया है। पहले एक पूरी टीम और कई महीने लगते थे। आज एक API और एक अच्छा प्रॉम्प्ट काफी है।

लगता है यह आप तक नहीं पहुंचता? एक सवाल का टेस्ट कीजिए: अगर आपका डेटाबेस कल लीक हो जाए और कोई उस पर एक मॉडल चला दे, तो क्या निकलेगा?

मैंने यह एक क्लिनिक के साथ किया। "टिप्पणी" फ़ील्ड में रिसेप्शन के सालों के खुले नोट्स थे। किसी ने उसे संवेदनशील डेटा के रूप में नहीं बनाया था। वह जमा होते-होते बन गया। दो हफ़्ते के काम ने जोखिम को विनाशकारी से घटाकर मामूली कर दिया।

प्राइवेसी पॉलिसी एक वादा है। आर्किटेक्चर एक गारंटी है।

अगर आप कारोबार में एआई इस्तेमाल करते हैं और यह नहीं बता सकते कि कौन सा डेटा बाहर जा रहा है, तो देखने का यही वक्त है। बताइए आप क्या इस्तेमाल कर रहे हैं, हम साथ मिलकर मैप करते हैं।

#एआई #डेटासुरक्षा #डेटागवर्नेंस #निजता #टेक्नोलॉजी