এআই নীতিশাস্ত্র: অ্যালগরিদমিক পক্ষপাত সনাক্তকরণের একটি বৈশ্বিক নির্দেশিকা

কৃত্রিম বুদ্ধিমত্তা (এআই) দ্রুত বিভিন্ন শিল্পে পরিবর্তন আনছে এবং বিশ্বজুড়ে জীবনকে প্রভাবিত করছে। এআই সিস্টেমগুলি যত বেশি প্রচলিত হচ্ছে, সেগুলি যে ন্যায্য, নিরপেক্ষ এবং নৈতিক নীতির সাথে সামঞ্জস্যপূর্ণ তা নিশ্চিত করা অত্যন্ত গুরুত্বপূর্ণ। অ্যালগরিদমিক পক্ষপাত, যা একটি কম্পিউটার সিস্টেমে একটি পদ্ধতিগত এবং পুনরাবৃত্তিমূলক ত্রুটি যা অন্যায্য ফলাফল তৈরি করে, তা এআই নীতিশাস্ত্রের একটি গুরুত্বপূর্ণ উদ্বেগ। এই বিশদ নির্দেশিকাটি অ্যালগরিদমিক পক্ষপাতের উৎস, এটি সনাক্তকরণ ও প্রশমনের কৌশল এবং বিশ্বব্যাপী এআই সিস্টেমে ন্যায্যতা প্রচারের কৌশলগুলি অন্বেষণ করে।

অ্যালগরিদমিক পক্ষপাত বোঝা

অ্যালগরিদমিক পক্ষপাত ঘটে যখন একটি এআই সিস্টেম কিছু নির্দিষ্ট গোষ্ঠীর মানুষের জন্য অন্যদের তুলনায় পদ্ধতিগতভাবে কম অনুকূল ফলাফল তৈরি করে। এই পক্ষপাত বিভিন্ন উৎস থেকে উদ্ভূত হতে পারে, যার মধ্যে রয়েছে পক্ষপাতদুষ্ট ডেটা, ত্রুটিপূর্ণ অ্যালগরিদম এবং ফলাফলের পক্ষপাতদুষ্ট ব্যাখ্যা। পক্ষপাতের উৎস বোঝা আরও ন্যায্য এআই সিস্টেম তৈরির প্রথম ধাপ।

অ্যালগরিদমিক পক্ষপাতের উৎস

• পক্ষপাতদুষ্ট প্রশিক্ষণ ডেটা: এআই মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটা প্রায়শই বিদ্যমান সামাজিক পক্ষপাতকে প্রতিফলিত করে। যদি ডেটাতে নির্দিষ্ট গোষ্ঠীর পক্ষপাতমূলক উপস্থাপনা থাকে, তাহলে এআই মডেল সেই পক্ষপাতগুলি শিখবে এবং স্থায়ী করবে। উদাহরণস্বরূপ, যদি একটি ফেসিয়াল রিকগনিশন সিস্টেম প্রাথমিকভাবে একটি নির্দিষ্ট জাতিসত্তার ছবির উপর প্রশিক্ষিত হয়, তবে এটি অন্যান্য জাতিসত্তার মুখের ক্ষেত্রে খারাপ পারফর্ম করতে পারে। আইন প্রয়োগ, নিরাপত্তা এবং অন্যান্য অ্যাপ্লিকেশনের জন্য এর গুরুত্বপূর্ণ প্রভাব রয়েছে। COMPAS (কারেকশনাল অফেন্ডার ম্যানেজমেন্ট প্রোফাইলিং ফর অল্টারনেটিভ স্যাঙ্কশনস) অ্যালগরিদমের কথা ভাবুন, যা কৃষ্ণাঙ্গ আসামীদের পুনরাবৃত্তি অপরাধের জন্য উচ্চতর ঝুঁকি হিসেবে অসামঞ্জস্যপূর্ণভাবে চিহ্নিত করতে দেখা গেছে।
• ত্রুটিপূর্ণ অ্যালগরিদম ডিজাইন: অ্যালগরিদমগুলি নিজেরাও পক্ষপাত তৈরি করতে পারে, এমনকি আপাতদৃষ্টিতে নিরপেক্ষ ডেটা দিয়েও। ফিচার, মডেল আর্কিটেকচার এবং অপটিমাইজেশন মানদণ্ডের পছন্দ ফলাফলের উপর প্রভাব ফেলতে পারে। উদাহরণস্বরূপ, যদি কোনো অ্যালগরিদম সুরক্ষিত বৈশিষ্ট্যগুলির (যেমন লিঙ্গ, জাতি) সাথে সম্পর্কিত ফিচারগুলির উপর খুব বেশি নির্ভর করে, তবে এটি অনিচ্ছাকৃতভাবে নির্দিষ্ট গোষ্ঠীর বিরুদ্ধে বৈষম্য করতে পারে।
• পক্ষপাতদুষ্ট ডেটা লেবেলিং: ডেটা লেবেল করার প্রক্রিয়াটিও পক্ষপাত তৈরি করতে পারে। যদি ডেটা লেবেলকারী ব্যক্তিদের অচেতন পক্ষপাত থাকে, তবে তারা এই পক্ষপাতগুলিকে প্রতিফলিত করে এমনভাবে ডেটা লেবেল করতে পারে। উদাহরণস্বরূপ, সেন্টিমেন্ট বিশ্লেষণে, যদি টীকাকারীরা নির্দিষ্ট ভাষার ধরণগুলিকে নির্দিষ্ট জনসংখ্যার সাথে যুক্ত করে, তাহলে মডেলটি সেই গোষ্ঠীগুলির দ্বারা প্রকাশিত সেন্টিমেন্টকে অন্যায়ভাবে শ্রেণীবদ্ধ করতে শিখতে পারে।
• ফিডব্যাক লুপ: এআই সিস্টেমগুলি ফিডব্যাক লুপ তৈরি করতে পারে যা বিদ্যমান পক্ষপাতকে আরও বাড়িয়ে তোলে। উদাহরণস্বরূপ, যদি একটি এআই-চালিত নিয়োগ সরঞ্জাম মহিলাদের বিরুদ্ধে পক্ষপাতদুষ্ট হয়, তবে এটি সাক্ষাৎকারের জন্য কম সংখ্যক মহিলার সুপারিশ করতে পারে। এর ফলে কম সংখ্যক মহিলা নিয়োগ পেতে পারে, যা প্রশিক্ষণের ডেটাতে পক্ষপাতকে আরও শক্তিশালী করে।
• ডেভেলপমেন্ট টিমে বৈচিত্র্যের অভাব: এআই ডেভেলপমেন্ট টিমের গঠন এআই সিস্টেমের ন্যায্যতার উপর উল্লেখযোগ্যভাবে প্রভাব ফেলতে পারে। যদি টিমে বৈচিত্র্যের অভাব থাকে, তবে তারা সম্ভাব্য পক্ষপাতগুলি চিহ্নিত করতে এবং সমাধান করতে কম সক্ষম হতে পারে যা সুবিধাবঞ্চিত গোষ্ঠীগুলিকে প্রভাবিত করতে পারে।
• প্রসঙ্গগত পক্ষপাত: যে প্রসঙ্গে একটি এআই সিস্টেম স্থাপন করা হয়, সেটিও পক্ষপাত তৈরি করতে পারে। একটি সাংস্কৃতিক বা সামাজিক প্রেক্ষাপটে প্রশিক্ষিত একটি অ্যালগরিদম অন্য প্রসঙ্গে স্থাপন করা হলে ন্যায্যভাবে কাজ নাও করতে পারে। সাংস্কৃতিক নিয়ম, ভাষার সূক্ষ্মতা এবং ঐতিহাসিক পক্ষপাত সবই একটি ভূমিকা পালন করতে পারে। উদাহরণস্বরূপ, একটি দেশে গ্রাহক পরিষেবা প্রদানের জন্য ডিজাইন করা একটি এআই-চালিত চ্যাটবট এমন ভাষা ব্যবহার করতে পারে যা অন্য দেশে আপত্তিকর বা অনুপযুক্ত বলে বিবেচিত হয়।

অ্যালগরিদমিক পক্ষপাত সনাক্তকরণের কৌশল

এআই সিস্টেমে ন্যায্যতা নিশ্চিত করার জন্য অ্যালগরিদমিক পক্ষপাত সনাক্ত করা অত্যন্ত গুরুত্বপূর্ণ। এআই ডেভেলপমেন্ট লাইফসাইকেলের বিভিন্ন পর্যায়ে পক্ষপাত সনাক্ত করার জন্য বিভিন্ন কৌশল ব্যবহার করা যেতে পারে।

ডেটা অডিটিং

ডেটা অডিটিং-এর মধ্যে পক্ষপাতের সম্ভাব্য উৎসগুলি সনাক্ত করার জন্য প্রশিক্ষণ ডেটা পরীক্ষা করা জড়িত। এর মধ্যে রয়েছে ফিচারগুলির বন্টন বিশ্লেষণ করা, অনুপস্থিত ডেটা সনাক্ত করা এবং নির্দিষ্ট গোষ্ঠীর পক্ষপাতমূলক উপস্থাপনা পরীক্ষা করা। ডেটা অডিটিং-এর কৌশলগুলির মধ্যে রয়েছে:

• পরিসংখ্যানগত বিশ্লেষণ: বৈষম্য সনাক্ত করতে বিভিন্ন গোষ্ঠীর জন্য সারাংশ পরিসংখ্যান (যেমন, গড়, মধ্যক, আদর্শ বিচ্যুতি) গণনা করা।
• ভিজ্যুয়ালাইজেশন: ডেটার বন্টন পরীক্ষা করতে এবং আউটলায়ার সনাক্ত করতে ভিজ্যুয়ালাইজেশন (যেমন, হিস্টোগ্রাম, স্ক্যাটার প্লট) তৈরি করা।
• পক্ষপাত মেট্রিক্স: ডেটা কতটা পক্ষপাতদুষ্ট তা পরিমাপ করতে পক্ষপাত মেট্রিক্স (যেমন, ডিসপারেট ইমপ্যাক্ট, ইকুয়াল অপরচুনিটি ডিফারেন্স) ব্যবহার করা।

উদাহরণস্বরূপ, একটি ক্রেডিট স্কোরিং মডেলে, আপনি সম্ভাব্য বৈষম্য সনাক্ত করতে বিভিন্ন জনসংখ্যার গোষ্ঠীর জন্য ক্রেডিট স্কোরের বন্টন বিশ্লেষণ করতে পারেন। যদি আপনি দেখেন যে নির্দিষ্ট কিছু গোষ্ঠীর গড় ক্রেডিট স্কোর উল্লেখযোগ্যভাবে কম, তবে এটি নির্দেশ করতে পারে যে ডেটা পক্ষপাতদুষ্ট।

মডেল মূল্যায়ন

মডেল মূল্যায়নের মধ্যে বিভিন্ন গোষ্ঠীর মানুষের উপর এআই মডেলের কর্মক্ষমতা মূল্যায়ন করা জড়িত। এর মধ্যে রয়েছে প্রতিটি গোষ্ঠীর জন্য আলাদাভাবে পারফরম্যান্স মেট্রিক্স (যেমন, অ্যাকুরেসি, প্রিসিশন, রিকল, এফ১-স্কোর) গণনা করা এবং ফলাফল তুলনা করা। মডেল মূল্যায়নের কৌশলগুলির মধ্যে রয়েছে:

• গ্রুপ ফেয়ারনেস মেট্রিক্স: মডেলটি বিভিন্ন গোষ্ঠীর মধ্যে কতটা ন্যায্য তা পরিমাপ করতে গ্রুপ ফেয়ারনেস মেট্রিক্স (যেমন, ডেমোগ্রাফিক প্যারিটি, ইকুয়াল অপরচুনিটি, প্রেডিক্টিভ প্যারিটি) ব্যবহার করা। ডেমোগ্রাফিক প্যারিটির জন্য প্রয়োজন যে মডেলটি সমস্ত গোষ্ঠীর জন্য একই হারে ভবিষ্যদ্বাণী করে। ইকুয়াল অপরচুনিটির জন্য প্রয়োজন যে মডেলটির সমস্ত গোষ্ঠীর জন্য একই ট্রু পজিটিভ রেট থাকে। প্রেডিক্টিভ প্যারিটির জন্য প্রয়োজন যে মডেলটির সমস্ত গোষ্ঠীর জন্য একই পজিটিভ প্রেডিক্টিভ ভ্যালু থাকে।
• ত্রুটি বিশ্লেষণ: পক্ষপাতের ধরণ সনাক্ত করতে বিভিন্ন গোষ্ঠীর জন্য মডেলটি যে ধরণের ত্রুটি করে তা বিশ্লেষণ করা। উদাহরণস্বরূপ, যদি মডেলটি ধারাবাহিকভাবে একটি নির্দিষ্ট জাতিসত্তার ছবি ভুলভাবে শ্রেণীবদ্ধ করে, তবে এটি নির্দেশ করতে পারে যে মডেলটি পক্ষপাতদুষ্ট।
• অ্যাডভারসারিয়াল টেস্টিং: মডেলের দৃঢ়তা পরীক্ষা করতে এবং পক্ষপাতের দুর্বলতাগুলি সনাক্ত করতে অ্যাডভারসারিয়াল উদাহরণ ব্যবহার করা। অ্যাডভারসারিয়াল উদাহরণ হলো এমন ইনপুট যা মডেলকে ভুল ভবিষ্যদ্বাণী করতে বোকা বানানোর জন্য ডিজাইন করা হয়েছে।

উদাহরণস্বরূপ, একটি নিয়োগ অ্যালগরিদমে, আপনি পুরুষ এবং মহিলা প্রার্থীদের জন্য আলাদাভাবে মডেলের কর্মক্ষমতা মূল্যায়ন করতে পারেন। যদি আপনি দেখেন যে মহিলা প্রার্থীদের জন্য মডেলের অ্যাকুরেসি রেট উল্লেখযোগ্যভাবে কম, তবে এটি নির্দেশ করতে পারে যে মডেলটি পক্ষপাতদুষ্ট।

ব্যাখ্যাযোগ্য এআই (XAI)

ব্যাখ্যাযোগ্য এআই (XAI) কৌশলগুলি মডেলের ভবিষ্যদ্বাণীতে কোন ফিচারগুলি সবচেয়ে প্রভাবশালী তা সনাক্ত করতে সাহায্য করতে পারে। কোন ফিচারগুলি মডেলের সিদ্ধান্তকে চালিত করছে তা বোঝার মাধ্যমে, আপনি পক্ষপাতের সম্ভাব্য উৎসগুলি সনাক্ত করতে পারেন। XAI-এর কৌশলগুলির মধ্যে রয়েছে:

• ফিচার ইম্পরট্যান্স: মডেলের ভবিষ্যদ্বাণীতে প্রতিটি ফিচারের গুরুত্ব নির্ধারণ করা।
• SHAP ভ্যালু: স্বতন্ত্র ইনস্ট্যান্সের জন্য মডেলের ভবিষ্যদ্বাণীতে প্রতিটি ফিচারের অবদান ব্যাখ্যা করতে SHAP (SHapley Additive exPlanations) ভ্যালু গণনা করা।
• LIME: মডেলের একটি স্থানীয় রৈখিক আনুমানিক সংস্করণ তৈরি করে স্বতন্ত্র ইনস্ট্যান্সের জন্য মডেলের ভবিষ্যদ্বাণী ব্যাখ্যা করতে LIME (Local Interpretable Model-agnostic Explanations) ব্যবহার করা।

উদাহরণস্বরূপ, একটি লোন অ্যাপ্লিকেশন মডেলে, আপনি XAI কৌশল ব্যবহার করে কোন ফিচারগুলি লোন অনুমোদন বা প্রত্যাখ্যান করার সিদ্ধান্তে সবচেয়ে প্রভাবশালী তা সনাক্ত করতে পারেন। যদি আপনি দেখেন যে জাতি বা জাতিসত্তা সম্পর্কিত ফিচারগুলি অত্যন্ত প্রভাবশালী, তবে এটি নির্দেশ করতে পারে যে মডেলটি পক্ষপাতদুষ্ট।

ফেয়ারনেস অডিটিং টুলস

অ্যালগরিদমিক পক্ষপাত সনাক্ত করতে এবং প্রশমিত করতে সাহায্য করার জন্য বেশ কিছু টুলস এবং লাইব্রেরি উপলব্ধ রয়েছে। এই টুলসগুলি প্রায়শই বিভিন্ন পক্ষপাত মেট্রিক্স এবং প্রশমন কৌশলের বাস্তবায়ন প্রদান করে।

• AI Fairness 360 (AIF360): IBM দ্বারা তৈরি একটি ওপেন-সোর্স টুলকিট যা এআই সিস্টেমে পক্ষপাত সনাক্তকরণ এবং প্রশমনের জন্য মেট্রিক্স এবং অ্যালগরিদমের একটি বিস্তৃত সেট সরবরাহ করে।
• Fairlearn: Microsoft দ্বারা তৈরি একটি পাইথন প্যাকেজ যা মেশিন লার্নিং মডেলগুলিতে ন্যায্যতা মূল্যায়ন এবং উন্নত করার জন্য সরঞ্জাম সরবরাহ করে।
• Responsible AI Toolbox: সংস্থাগুলিকে দায়িত্বশীলভাবে এআই সিস্টেম তৈরি এবং স্থাপন করতে সাহায্য করার জন্য Microsoft দ্বারা তৈরি সরঞ্জাম এবং সংস্থানগুলির একটি বিস্তৃত সেট।

অ্যালগরিদমিক পক্ষপাত প্রশমনের কৌশল

একবার অ্যালগরিদমিক পক্ষপাত সনাক্ত হয়ে গেলে, এটি প্রশমিত করার জন্য পদক্ষেপ নেওয়া গুরুত্বপূর্ণ। এআই সিস্টেমে পক্ষপাত কমাতে বিভিন্ন কৌশল ব্যবহার করা যেতে পারে।

ডেটা প্রিপ্রসেসিং

ডেটা প্রিপ্রসেসিং-এর মধ্যে পক্ষপাত কমানোর জন্য প্রশিক্ষণ ডেটা পরিবর্তন করা জড়িত। ডেটা প্রিপ্রসেসিং-এর কৌশলগুলির মধ্যে রয়েছে:

• রি-ওয়েটিং: পক্ষপাতমূলক উপস্থাপনার জন্য ক্ষতিপূরণ দিতে প্রশিক্ষণ ডেটাতে বিভিন্ন ইনস্ট্যান্সকে বিভিন্ন ওজন বরাদ্দ করা।
• স্যাম্পলিং: ডেটা ভারসাম্যপূর্ণ করতে সংখ্যাগরিষ্ঠ শ্রেণীকে আন্ডার-স্যাম্পলিং করা বা সংখ্যালঘু শ্রেণীকে ওভার-স্যাম্পলিং করা।
• ডেটা অগমেন্টেশন: সুবিধাবঞ্চিত গোষ্ঠীর প্রতিনিধিত্ব বাড়ানোর জন্য নতুন সিন্থেটিক ডেটা পয়েন্ট তৈরি করা।
• পক্ষপাতদুষ্ট ফিচার অপসারণ: সুরক্ষিত বৈশিষ্ট্যগুলির সাথে সম্পর্কিত ফিচারগুলি অপসারণ করা। তবে, সতর্ক থাকুন কারণ আপাতদৃষ্টিতে নিরীহ ফিচারগুলিও পরোক্ষভাবে সুরক্ষিত বৈশিষ্ট্যগুলির সাথে সম্পর্কযুক্ত হতে পারে (প্রক্সি ভেরিয়েবল)।

উদাহরণস্বরূপ, যদি প্রশিক্ষণ ডেটাতে পুরুষের চেয়ে কম সংখ্যক মহিলার উদাহরণ থাকে, তবে আপনি মহিলাদের উদাহরণগুলিকে বেশি ওজন দেওয়ার জন্য রি-ওয়েটিং ব্যবহার করতে পারেন। অথবা, আপনি মহিলাদের নতুন সিন্থেটিক উদাহরণ তৈরি করতে ডেটা অগমেন্টেশন ব্যবহার করতে পারেন।

অ্যালগরিদম পরিবর্তন

অ্যালগরিদম পরিবর্তনের মধ্যে পক্ষপাত কমানোর জন্য অ্যালগরিদমটি নিজেই পরিবর্তন করা জড়িত। অ্যালগরিদম পরিবর্তনের কৌশলগুলির মধ্যে রয়েছে:

• ফেয়ারনেস কনস্ট্রেইন্টস: মডেলটি নির্দিষ্ট ন্যায্যতার মানদণ্ড পূরণ করে তা নিশ্চিত করতে অপটিমাইজেশন অবজেক্টিভে ফেয়ারনেস কনস্ট্রেইন্টস যোগ করা।
• অ্যাডভারসারিয়াল ডিবায়াসিং: মডেলের উপস্থাপনা থেকে পক্ষপাতদুষ্ট তথ্য অপসারণ করতে একটি অ্যাডভারসারিয়াল নেটওয়ার্ককে প্রশিক্ষণ দেওয়া।
• রেগুলারাইজেশন: অন্যায্য ভবিষ্যদ্বাণীগুলিকে শাস্তি দেওয়ার জন্য লস ফাংশনে রেগুলারাইজেশন টার্ম যোগ করা।

উদাহরণস্বরূপ, আপনি অপটিমাইজেশন অবজেক্টিভে একটি ফেয়ারনেস কনস্ট্রেইন্ট যোগ করতে পারেন যা মডেলটিকে সমস্ত গোষ্ঠীর জন্য একই অ্যাকুরেসি রেট রাখতে বাধ্য করে।

পোস্ট-প্রসেসিং

পোস্ট-প্রসেসিং-এর মধ্যে পক্ষপাত কমানোর জন্য মডেলের ভবিষ্যদ্বাণীগুলি পরিবর্তন করা জড়িত। পোস্ট-প্রসেসিং-এর কৌশলগুলির মধ্যে রয়েছে:

• থ্রেশহোল্ড অ্যাডজাস্টমেন্ট: একটি কাঙ্ক্ষিত ফেয়ারনেস মেট্রিক অর্জনের জন্য ক্লাসিফিকেশন থ্রেশহোল্ড সামঞ্জস্য করা।
• ক্যালিব্রেশন: মডেলের সম্ভাব্যতাগুলি পর্যবেক্ষণ করা ফলাফলের সাথে ভালোভাবে সামঞ্জস্যপূর্ণ তা নিশ্চিত করতে ক্যালিব্রেট করা।
• রিজেক্ট অপশন ক্লাসিফিকেশন: প্রান্তিক ক্ষেত্রে যেখানে মডেলটি তার ভবিষ্যদ্বাণী সম্পর্কে অনিশ্চিত, সেখানে একটি "রিজেক্ট অপশন" যোগ করা।

উদাহরণস্বরূপ, মডেলটির সমস্ত গোষ্ঠীর জন্য একই ফলস পজিটিভ রেট রয়েছে তা নিশ্চিত করতে আপনি ক্লাসিফিকেশন থ্রেশহোল্ড সামঞ্জস্য করতে পারেন।

এআই সিস্টেমে ন্যায্যতা প্রচার: একটি বৈশ্বিক দৃষ্টিকোণ

ন্যায্য এআই সিস্টেম তৈরির জন্য একটি বহুমাত্রিক পদ্ধতির প্রয়োজন যা কেবল প্রযুক্তিগত সমাধানই নয়, নৈতিক বিবেচনা, নীতি কাঠামো এবং সাংগঠনিক অনুশীলনগুলিও অন্তর্ভুক্ত করে।

নৈতিক নির্দেশিকা এবং নীতি

বিভিন্ন সংস্থা এবং সরকার এআই উন্নয়ন এবং স্থাপনার জন্য নৈতিক নির্দেশিকা এবং নীতি তৈরি করেছে। এই নির্দেশিকাগুলি প্রায়শই ন্যায্যতা, স্বচ্ছতা, জবাবদিহিতা এবং মানবিক তত্ত্বাবধানের গুরুত্বের উপর জোর দেয়।

• অ্যাসিলোমার এআই প্রিন্সিপলস: এআই-এর দায়িত্বশীল উন্নয়ন ও ব্যবহার নির্দেশনার জন্য গবেষক এবং বিশেষজ্ঞদের দ্বারা তৈরি করা নীতির একটি সেট।
• ইউরোপীয় ইউনিয়নের বিশ্বাসযোগ্য এআই-এর জন্য নৈতিক নির্দেশিকা: ইউরোপীয় কমিশন দ্বারা তৈরি করা নির্দেশিকার একটি সেট যা বিশ্বাসযোগ্য এআই-এর উন্নয়ন ও ব্যবহারকে উৎসাহিত করে।
• ইউনেস্কোর কৃত্রিম বুদ্ধিমত্তার নীতিশাস্ত্রের উপর সুপারিশ: এআই-এর দায়িত্বশীল উন্নয়ন ও ব্যবহার নির্দেশনার জন্য একটি বিশ্বব্যাপী কাঠামো, যা নিশ্চিত করে যে এটি সমগ্র মানবতার উপকারে আসে।

এআই গভর্নেন্স এবং নিয়ন্ত্রণ

সরকারগুলি ক্রমবর্ধমানভাবে এআই সিস্টেমগুলি দায়িত্বশীলভাবে তৈরি এবং স্থাপন করা নিশ্চিত করার জন্য নিয়মকানুন বিবেচনা করছে। এই নিয়মকানুনের মধ্যে পক্ষপাত অডিট, স্বচ্ছতা প্রতিবেদন এবং জবাবদিহিতা ব্যবস্থার জন্য প্রয়োজনীয়তা অন্তর্ভুক্ত থাকতে পারে।

• ইইউ এআই অ্যাক্ট: একটি প্রস্তাবিত আইন যা ইউরোপীয় ইউনিয়নে এআই-এর জন্য একটি আইনি কাঠামো প্রতিষ্ঠা করার লক্ষ্য রাখে, যা ঝুঁকি মূল্যায়ন, স্বচ্ছতা এবং জবাবদিহিতার মতো বিষয়গুলিকে সম্বোধন করে।
• অ্যালগরিদমিক অ্যাকাউন্টেবিলিটি অ্যাক্ট অফ ২০২২ (ইউএস): একটি আইন যার লক্ষ্য হলো সংস্থাগুলিকে স্বয়ংক্রিয় সিদ্ধান্ত সিস্টেমের সম্ভাব্য ক্ষতিগুলি মূল্যায়ন এবং প্রশমিত করতে বাধ্য করা।

সাংগঠনিক অনুশীলন

সংস্থাগুলি এআই সিস্টেমে ন্যায্যতা প্রচারের জন্য বিভিন্ন অনুশীলন বাস্তবায়ন করতে পারে:

• বৈচিত্র্যময় ডেভেলপমেন্ট টিম: এআই ডেভেলপমেন্ট টিমগুলি লিঙ্গ, জাতি, জাতিসত্তা এবং অন্যান্য বৈশিষ্ট্যের দিক থেকে বৈচিত্র্যময় তা নিশ্চিত করা।
• স্টেকহোল্ডারদের সাথে সম্পৃক্ততা: স্টেকহোল্ডারদের (যেমন, প্রভাবিত সম্প্রদায়, নাগরিক সমাজ সংস্থা) সাথে তাদের উদ্বেগগুলি বুঝতে এবং তাদের প্রতিক্রিয়া এআই উন্নয়ন প্রক্রিয়ায় অন্তর্ভুক্ত করার জন্য নিযুক্ত হওয়া।
• স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতা: বিশ্বাস এবং জবাবদিহিতা তৈরির জন্য এআই সিস্টেমগুলিকে আরও স্বচ্ছ এবং ব্যাখ্যাযোগ্য করে তোলা।
• നിരন্তর পর্যবেক্ষণ এবং মূল্যায়ন: সম্ভাব্য পক্ষপাতগুলি সনাক্ত এবং সমাধান করার জন্য এআই সিস্টেমগুলিকে ক্রমাগত পর্যবেক্ষণ এবং মূল্যায়ন করা।
• এআই এথিক্স বোর্ড প্রতিষ্ঠা: এআই উন্নয়ন এবং স্থাপনার নৈতিক প্রভাবগুলি তত্ত্বাবধানের জন্য অভ্যন্তরীণ বা বাহ্যিক কমিটি গঠন করা।

বৈশ্বিক উদাহরণ এবং কেস স্টাডি

ন্যায্য এআই সিস্টেম তৈরির জন্য অ্যালগরিদমিক পক্ষপাতের বাস্তব-বিশ্বের উদাহরণ এবং প্রশমন কৌশল বোঝা অত্যন্ত গুরুত্বপূর্ণ। এখানে বিশ্বজুড়ে কয়েকটি উদাহরণ দেওয়া হলো:

• মার্কিন যুক্তরাষ্ট্রে স্বাস্থ্যসেবা: মার্কিন যুক্তরাষ্ট্রের হাসপাতালগুলিতে কোন রোগীদের অতিরিক্ত চিকিৎসার প্রয়োজন হবে তা ভবিষ্যদ্বাণী করার জন্য ব্যবহৃত একটি অ্যালগরিদম কৃষ্ণাঙ্গ রোগীদের বিরুদ্ধে পক্ষপাতদুষ্ট বলে প্রমাণিত হয়েছে। অ্যালগরিদমটি প্রয়োজনের প্রক্সি হিসাবে স্বাস্থ্যসেবা খরচ ব্যবহার করেছিল, কিন্তু কৃষ্ণাঙ্গ রোগীরা ঐতিহাসিকভাবে কম স্বাস্থ্যসেবা পেয়ে থাকে, যার ফলে তাদের খরচ কম হয় এবং তাদের প্রয়োজনকে অবমূল্যায়ন করা হয়। (Obermeyer et al., 2019)
• মার্কিন যুক্তরাষ্ট্রে ফৌজদারি বিচার: COMPAS অ্যালগরিদম, যা ফৌজদারি আসামীদের পুনরাবৃত্তি অপরাধের ঝুঁকি মূল্যায়নের জন্য ব্যবহৃত হয়, কৃষ্ণাঙ্গ আসামীদের উচ্চতর ঝুঁকি হিসাবে অসামঞ্জস্যপূর্ণভাবে চিহ্নিত করতে দেখা গেছে, এমনকি যখন তারা পুনরায় অপরাধ করেনি। (Angwin et al., 2016)
• যুক্তরাজ্যে নিয়োগ: অ্যামাজন তার এআই নিয়োগ সরঞ্জামটি বাতিল করে দেয় যখন তারা আবিষ্কার করে যে সিস্টেমটি মহিলাদের বিরুদ্ধে পক্ষপাতদুষ্ট ছিল। সিস্টেমটি ঐতিহাসিক নিয়োগের ডেটার উপর প্রশিক্ষিত ছিল, যেখানে প্রধানত পুরুষ প্রার্থীরা ছিলেন, যার ফলে এআই "মহিলাদের" (women's) শব্দটি যুক্ত সিভিগুলিকে শাস্তি দিত।
• চীনে ফেসিয়াল রিকগনিশন: চীনে নজরদারি এবং সামাজিক নিয়ন্ত্রণের জন্য ব্যবহৃত ফেসিয়াল রিকগনিশন সিস্টেমে পক্ষপাতের সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করা হয়েছে, বিশেষ করে জাতিগত সংখ্যালঘুদের বিরুদ্ধে।
• ভারতে ক্রেডিট স্কোরিং: ভারতে ক্রেডিট স্কোরিং মডেলগুলিতে বিকল্প ডেটা উৎসের ব্যবহার পক্ষপাতের সম্ভাবনা তৈরি করতে পারে যদি এই ডেটা উৎসগুলি বিদ্যমান আর্থ-সামাজিক বৈষম্যকে প্রতিফলিত করে।

এআই নীতিশাস্ত্র এবং পক্ষপাত সনাক্তকরণের ভবিষ্যৎ

এআই যেহেতু বিকশিত হতে থাকবে, এআই নীতিশাস্ত্র এবং পক্ষপাত সনাক্তকরণের ক্ষেত্রটি আরও গুরুত্বপূর্ণ হয়ে উঠবে। ভবিষ্যতের গবেষণা এবং উন্নয়ন প্রচেষ্টার উচিত:

• আরও শক্তিশালী এবং সঠিক পক্ষপাত সনাক্তকরণ কৌশল তৈরি করা।
• আরও কার্যকর পক্ষপাত প্রশমন কৌশল তৈরি করা।
• এআই গবেষক, নীতিবিদ, নীতিনির্ধারক এবং সমাজ বিজ্ঞানীদের মধ্যে আন্তঃশৃঙ্খলা সহযোগিতাকে উৎসাহিত করা।
• এআই নীতিশাস্ত্রের জন্য বিশ্বব্যাপী মান এবং সেরা অনুশীলন প্রতিষ্ঠা করা।
• এআই অনুশীলনকারী এবং সাধারণ জনগণের মধ্যে এআই নীতিশাস্ত্র এবং পক্ষপাত সম্পর্কে সচেতনতা বাড়াতে শিক্ষামূলক সংস্থান তৈরি করা।

উপসংহার

অ্যালগরিদমিক পক্ষপাত এআই নীতিশাস্ত্রের একটি উল্লেখযোগ্য চ্যালেঞ্জ, তবে এটি অনতিক্রম্য নয়। পক্ষপাতের উৎসগুলি বোঝার মাধ্যমে, কার্যকর সনাক্তকরণ এবং প্রশমন কৌশল ব্যবহার করে, এবং নৈতিক নির্দেশিকা ও সাংগঠনিক অনুশীলন প্রচারের মাধ্যমে, আমরা আরও ন্যায্য এবং সমতাপূর্ণ এআই সিস্টেম তৈরি করতে পারি যা সমগ্র মানবতার উপকারে আসে। এর জন্য গবেষক, নীতিনির্ধারক, শিল্প নেতা এবং জনসাধারণের মধ্যে সহযোগিতার মাধ্যমে একটি বিশ্বব্যাপী প্রচেষ্টা প্রয়োজন, যাতে এআই দায়িত্বশীলভাবে তৈরি এবং স্থাপন করা হয়।

তথ্যসূত্র:

• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.