← ब्लॉग पर वापस

कैलिफ़ोर्निया के 2026 ADMT नियम AI लेबल नहीं, निर्णय की सीमा तय करने को कहते हैं

कैलिफ़ोर्निया के CCPA नियम कुछ automated decision के अधिकार तय करते हैं। Teams को system के निर्णय, human review और संभालने वाले अनुरोध map करने चाहिए।

किसी feature को “AI” कहने से यह तय नहीं होता कि कैलिफ़ोर्निया के automated decision नियम उस पर लागू होंगे या नहीं। महत्वपूर्ण सवाल हैं कि system कौन-सी personal information process करता है, computation human decision-making को पूरी तरह या पर्याप्त रूप से replace करता है या नहीं, और परिणाम किसी covered significant decision को प्रभावित करता है या नहीं।

California Privacy Protection Agency ने जुलाई 2025 में automated decisionmaking technology (ADMT), risk assessment और cybersecurity audit से जुड़े नियम अपनाए। Office of Administrative Law ने 22 सितंबर 2025 को इन्हें मंज़ूरी दी और नियम 1 जनवरी 2026 से प्रभावी हुए। Product team के लिए ADMT अब design और data-flow का प्रश्न है, सिर्फ भविष्य की policy review नहीं।

तय करें कि software कौन-सा निर्णय लेता है

नियम ADMT को ऐसी technology के रूप में परिभाषित करते हैं जो personal information process करती है और computation के ज़रिए human decision-making को replace या पर्याप्त रूप से replace करती है। Profiling भी शामिल है, जब वह यह बदलाव करती है। सामान्य technical functions—जैसे hosting, caching, storage, databases और spreadsheets—यदि human decision को replace नहीं करते, तो परिभाषा से बाहर हैं।

यह अंतर analytics के लिए महत्वपूर्ण है। Pageview गिनने वाला या analyst को report देने वाला dashboard केवल statistics या machine learning के उपयोग से अपने-आप ADMT नहीं बन जाता। Behavioral data से application स्वीकार या अस्वीकार करने, worker ranking करने, housing या education तक पहुँच तय करने, या कोई अन्य covered significant decision लेने वाला system अलग विश्लेषण माँगता है।

पूरे decision path को map करें: input data, model या rule, output, human reviewer और final action। “Human in the loop” कहना पर्याप्त नहीं है, यदि reviewer output समझ नहीं सकता या स्वतंत्र व सार्थक निर्णय के बिना आम तौर पर उसे मंज़ूर कर देता है। दर्ज करें कि व्यक्ति वास्तव में क्या तय करता है और व्यवहार में system output परिणाम को नियंत्रित करता है या नहीं।

Product में access और opt-out शामिल करें

Covered uses के लिए नियम consumers को किसी business द्वारा ADMT के उपयोग की जानकारी तक access और कुछ उपयोगों से opt out करने का अधिकार देते हैं। Opt-out अधिकार कुछ निर्दिष्ट ADMT उपयोगों से जुड़ा है, जिसमें significant decisions लेने वाली technology भी शामिल है; यह हर algorithm, report या analytics query बंद करने का सामान्य अधिकार नहीं है।

इन अनुरोधों को product operations मानें। ऐसा inventory रखें जो हर ADMT उपयोग को उसके उद्देश्य, input categories, decision type और प्रभावित workflow से जोड़े। अनुरोध दर्ज करने का स्पष्ट तरीका दें, उसे पूरा करने के लिए केवल आवश्यक जानकारी verify करें, परिणाम उन systems तक पहुँचाएँ जो वही data उपयोग करते हैं और completion का प्रमाण रखें। यदि बिना अतिरिक्त जानकारी के opt-out लागू किया जा सकता है, तो व्यक्ति को account बनाने या और विवरण देने के लिए बाध्य न करें।

Access request का उत्तर system के व्यवहार को समझाए, marketing विवरण न हो। उपयोग का उद्देश्य, consumer के बारे में उत्पन्न परिणाम, technology ने personal information कैसे process की और output ने significant decision को कैसे प्रभावित किया—इसे समझाने के लिए आवश्यक जानकारी बताने में सक्षम रहें। भविष्य के अनुरोध के लिए सभी inputs अनिश्चितकाल तक log न करें; decision path दर्ज करें और सिर्फ उचित प्रमाण रखें।

Measurement को eligibility logic से अलग रखें

Analytics event stream चुपचाप decision system न बन जाए। Product metrics को eligibility, employment, credit, housing, education और अन्य परिणामकारी workflows से अलग रखें। यदि कोई टीम analytics को decision model में देना चाहती है, तो इसे नया processing purpose मानें: launch से पहले legal basis, notices, risk assessment, data quality, consumer rights और human-review design का पुनर्मूल्यांकन करें।

Dashboard के “conversion” या “engagement” score को प्रभाव जाँचे बिना decision rule का विकल्प न बनाएँ। कोई metric तब महत्वपूर्ण परिणाम ला सकता है जब वह तय करे कि किसे offer, service या opportunity मिलेगी। दूसरी ओर, किसी feature को “model” कहने से सामान्य descriptive analytics नियम की परिभाषा के तहत ADMT नहीं बनता।

Implementation का काम स्पष्ट है: decisions का inventory रखें, उस बिंदु को चिह्नित करें जहाँ human judgment replace होता है, उस उपयोग को access और opt-out request handling से जोड़ें और जाँचें कि अनुरोध सभी downstream systems तक पहुँचता है। पूरे product को “AI” या “non-AI” कहने की कोशिश से यह सीमा अधिक उपयोगी है।

स्रोत

Comments

Loading comments…