← ব্লগে ফিরে যান

ক্যালিফোর্নিয়ার ২০২৬ ADMT নিয়ম AI লেবেল নয়, সিদ্ধান্তের সীমা নির্ধারণ করতে বলে

ক্যালিফোর্নিয়ার CCPA নিয়ম কিছু automated decision-এর অধিকার নির্ধারণ করে। Product team-এর system-এর সিদ্ধান্ত, human review ও সামলানোর request map করা উচিত।

কোনো feature-কে “AI” বললেই ক্যালিফোর্নিয়ার automated decision নিয়ম প্রযোজ্য কি না নির্ধারিত হয় না। গুরুত্বপূর্ণ প্রশ্ন হলো system কোন personal information process করে, computation human decision-making-কে পুরোপুরি বা উল্লেখযোগ্যভাবে replace করে কি না, এবং ফলাফল কোনো আওতাভুক্ত গুরুত্বপূর্ণ সিদ্ধান্তকে প্রভাবিত করে কি না।

California Privacy Protection Agency ২০২৫ সালের জুলাইয়ে automated decisionmaking technology (ADMT), risk assessment এবং cybersecurity audit-সংক্রান্ত নিয়ম গ্রহণ করে। Office of Administrative Law ২২ সেপ্টেম্বর ২০২৫ তারিখে সেগুলো অনুমোদন করে এবং নিয়ম ১ জানুয়ারি ২০২৬ থেকে কার্যকর হয়। Product team-এর জন্য ADMT এখন design ও data-flow-এর বিষয়—শুধু ভবিষ্যতের policy review নয়।

Software কী সিদ্ধান্ত নিচ্ছে তা নির্ধারণ করুন

নিয়মে ADMT বলতে এমন technology বোঝায় যা personal information process করে এবং computation ব্যবহার করে human decision-making-কে replace বা উল্লেখযোগ্যভাবে replace করে। Profiling-ও অন্তর্ভুক্ত, যদি তা এই প্রতিস্থাপন ঘটায়। Hosting, caching, storage, database ও spreadsheet-এর মতো সাধারণ technical function মানব সিদ্ধান্তকে replace না করলে সংজ্ঞার বাইরে থাকে।

Analytics-এর ক্ষেত্রে এই পার্থক্য গুরুত্বপূর্ণ। Pageview গোনা বা analyst-কে report দেওয়া dashboard শুধু statistics বা machine learning ব্যবহার করে বলে স্বয়ংক্রিয়ভাবে ADMT হয়ে যায় না। Behavioral data দিয়ে application গ্রহণ বা প্রত্যাখ্যান, worker ranking, housing বা education-এ প্রবেশ নির্ধারণ, অথবা অন্য কোনো আওতাভুক্ত গুরুত্বপূর্ণ সিদ্ধান্ত নেওয়া system-এর জন্য আলাদা বিশ্লেষণ দরকার।

পুরো decision path map করুন: input data, model বা rule, output, human reviewer এবং final action। Reviewer output বুঝতে না পারলে বা স্বাধীন ও অর্থবহ বিবেচনা ছাড়া নিয়মিত অনুমোদন করলে “মানুষ প্রক্রিয়ায় আছে” বলা যথেষ্ট নয়। ব্যক্তি আসলে কী সিদ্ধান্ত নেয় এবং বাস্তবে system-এর output ফলাফল নিয়ন্ত্রণ করে কি না—তা নথিবদ্ধ করুন।

Product-এ access ও opt-out যুক্ত করুন

আওতাভুক্ত ব্যবহারের ক্ষেত্রে নিয়ম consumer-কে কোনো business-এর ADMT ব্যবহারের তথ্য জানার access এবং নির্দিষ্ট ব্যবহার থেকে opt out করার অধিকার দেয়। Opt-out অধিকার নির্দিষ্ট ADMT ব্যবহারের সঙ্গে যুক্ত, যার মধ্যে গুরুত্বপূর্ণ সিদ্ধান্ত নেওয়ার technology রয়েছে; এটি যেকোনো algorithm, report বা analytics query বন্ধ করার সাধারণ অধিকার নয়।

এই request-গুলোকে product operation হিসেবে নিন। এমন inventory রাখুন যা প্রতিটি ADMT ব্যবহারকে উদ্দেশ্য, input category, decision type এবং প্রভাবিত workflow-এর সঙ্গে যুক্ত করে। request পাঠানোর স্পষ্ট পথ দিন, তা পালন করতে যতটুকু দরকার শুধু ততটুকু যাচাই করুন, একই data ব্যবহারকারী system-গুলোতে ফলাফল পৌঁছে দিন এবং সম্পন্ন হওয়ার প্রমাণ রাখুন। অতিরিক্ত তথ্য ছাড়াই opt-out মানা সম্ভব হলে account তৈরি বা বাড়তি তথ্য দেওয়া বাধ্যতামূলক করবেন না।

Access request-এর জবাবে system-এর আচরণ ব্যাখ্যা করতে হবে, marketing description নয়। ব্যবহারের উদ্দেশ্য, consumer-সম্পর্কিত output, technology কীভাবে personal information process করেছে এবং output কীভাবে গুরুত্বপূর্ণ সিদ্ধান্তকে প্রভাবিত করেছে—তা বোঝানোর জন্য প্রয়োজনীয় তথ্য চিহ্নিত করতে সক্ষম হোন। ভবিষ্যৎ request-এর কথা ভেবে সব input অনির্দিষ্টকালের জন্য log করবেন না; decision path নথিবদ্ধ করুন এবং যুক্তিসঙ্গত প্রমাণই শুধু রাখুন।

Measurement-কে eligibility logic থেকে আলাদা রাখুন

Analytics event stream যেন অজান্তে decision system হয়ে না যায়। Product metric-কে eligibility, employment, credit, housing, education বা অন্য consequential workflow থেকে আলাদা রাখুন। কোনো team analytics-কে decision model-এ দিতে চাইলে নতুন processing purpose হিসেবে বিবেচনা করুন: launch-এর আগে legal basis, notice, risk assessment, data quality, consumer right এবং human-review design আবার মূল্যায়ন করুন।

প্রভাব না দেখে dashboard-এর “conversion” বা “engagement” score-কে decision rule-এর বিকল্প করবেন না। কোনো metric কে offer, service বা opportunity পাবে তা নির্ধারণ করলে তার বাস্তব ফল থাকতে পারে। বিপরীতে, কোনো feature-কে “model” বললেই সাধারণ descriptive analytics নিয়মের সংজ্ঞায় ADMT হয়ে যায় না।

বাস্তব implementation কাজটি নির্দিষ্ট: decision inventory বজায় রাখুন, মানব বিচার যেখানে প্রতিস্থাপিত হয় সেই বিন্দু চিহ্নিত করুন, ওই ব্যবহারকে access ও opt-out request handling-এর সঙ্গে যুক্ত করুন এবং request সব downstream system-এ পৌঁছায় কি না পরীক্ষা করুন। পুরো product-কে “AI” বা “non-AI” হিসেবে চিহ্নিত করার চেয়ে এই সীমা স্পষ্ট করা বেশি কার্যকর।

সূত্র

Comments

Loading comments…