কৃত্রিম বুদ্ধিমত্তার অ্যালগরিদম কীভাবে বৈষম্য বাড়ায়? যুক্তরাষ্ট্র ও নেদারল্যান্ডসের দুটি ভয়াবহ উদাহরণ

যুক্তরাষ্ট্র ও নেদারল্যান্ডসের দুটি স্বয়ংক্রিয় অ্যালগরিদমের সিদ্ধান্ত মানুষের জীবনকে কীভাবে ভয়াবহভাবে প্রভাবিত করতে পারে, তা প্রকাশ করেছে দুটি আলোচিত ঘটনা। একটি হাসপাতাল ব্যবস্থাপনা অ্যালগরিদম কৃষ্ণাঙ্গ রোগীদের চিকিৎসা থেকে বঞ্চিত করে, আরেকটি শিশু পরিচর্যা ভাতা ব্যবস্থায় অভিবাসী পরিবারদের বিরুদ্ধে জালিয়াতির অভিযোগ উঠিয়ে দেয়। গবেষণা প্রমাণ করে, অ্যালগরিদম ইতিহাসের বৈষম্যমূলক নীতি শেখে এবং তা স্বয়ংক্রিয়ভাবে মানুষের জীবনে প্রয়োগ করে।

🔴 মূল পয়েন্ট

• 📌 যুক্তরাষ্ট্রের একটি অ্যালগরিদম প্রতি বছর ২০ কোটি মানুষের স্বাস্থ্য সেবা ব্যবস্থাপনা করে, কিন্তু কৃষ্ণাঙ্গ রোগীদের বাড়তি যত্ন থেকে বঞ্চিত করে — কারণ তারা ইতিহাসে কম খরচের রোগী হিসেবে চিহ্নিত হয়
• 📌 অ্যালগরিদমের প্রক্সি হিসেবে বেছে নেওয়া হয় রোগীর চিকিৎসা খরচ, যা ঐতিহাসিকভাবে কৃষ্ণাঙ্গ রোগীদের জন্য কম ছিল — বৈষম্যমূলক চিকিৎসা ও আস্থার ঘাটতির কারণে
• 📌 অপটাম প্রতিষ্ঠান অ্যালগরিদমের প্রক্সি পরিবর্তন করে পক্ষপাত ৮৪% কমিয়ে দিলে, বাড়তি যত্ন পাওয়ার সুযোগ পায় ৪৬.৫% কৃষ্ণাঙ্গ রোগী — আগের ১৭.৭% থেকে ২.৫ গুণ বৃদ্ধি
• 📌 নেদারল্যান্ডসে একটি অ্যালগরিদম ২৬ হাজার পরিবারের শিশু ভাতা বন্ধ করে দেয়, কারণ তারা দ্বৈত নাগরিকত্বের অধিকারী — অভিবাসী পরিবারদের বিরুদ্ধে জালিয়াতির স্বয়ংক্রিয় অভিযোগ উঠে
• 📌 নেদারল্যান্ডসের পুরো মন্ত্রিসভা পদত্যাগ করে, কারণ অ্যালগরিদমের সিদ্ধান্ত আইনের শাসনকে ভুল করে — প্রধানমন্ত্রী মার্ক রুটে বলেন, ‘সরকারের শাসন থেকে নাগরিকদের রক্ষা করার কথা ভুল হয়ে গেছে’

📰 বিস্তারিত

দুজন রোগীর একই অসুস্থতা থাকলেও তাদের পাওয়ার যত্নের পরিমাণ আলাদা — কারণ একটি অ্যালগরিদম তাদের ‘অসুস্থতা’ মাপার জন্য ইতিহাসের বৈষম্যমূলক ডেটা ব্যবহার করছে। যুক্তরাষ্ট্রের হাসপাতাল ও বিমা প্রতিষ্ঠানগুলো একটি অ্যালগরিদম ব্যবহার করে প্রতি বছর প্রায় ২০ কোটি মানুষের সেবা ব্যবস্থাপনা করে। এই অ্যালগরিদম ‘অসুস্থতা’ মাপার জন্য রোগীর চিকিৎসা খরচকে প্রক্সি হিসেবে ব্যবহার করত। কিন্তু যুক্তির বিপরীতে, ঐতিহাসিকভাবে কৃষ্ণাঙ্গ রোগীদের একই অসুস্থতার জন্য কম খরচ করা হত — বৈষম্যমূলক চিকিৎসা ও আস্থার ঘাটতির কারণে। ফলে অ্যালগরিদম সেই কম খরচকেই কম অসুস্থতা হিসেবে শেখে নেয়।

বার্কলি ও শিকাগো বিশ্ববিদ্যালয়ের গবেষক জিয়াদ ওবারমেয়ার ও তাঁর সহকর্মীরা ২০১৯ সালে প্রকাশিত গবেষণায় দেখান, অ্যালগরিদমের সুপারিশে বাড়তি যত্ন পাওয়ার সুযোগ পেয়েছে মাত্র ১৭.৭% কৃষ্ণাঙ্গ রোগী। কিন্তু প্রক্সি পরিবর্তন করে অসুস্থতা মাপার নতুন পদ্ধতি বসিয়ে পক্ষপাত ৮৪% কমিয়ে দেওয়া হয়। এর ফলে সংখ্যা বেড়ে দাঁড়ায় ৪৬.৫% — প্রায় ২.৫ গুণ বেশি। গবেষকরা অপটাম প্রতিষ্ঠানকে জানালে তারা প্রক্সি পরিবর্তন করে সমস্যা সমাধান করে।

নেদারল্যান্ডসে একটি স্বশিক্ষণশীল অ্যালগরিদম শিশু পরিচর্যা ভাতা ব্যবস্থায় অভিবাসী পরিবারদের বিরুদ্ধে জালিয়াতির অভিযোগ উঠিয়ে দেয়। অ্যালগরিদম দ্বৈত নাগরিকত্বকে ঝুঁকির নির্দেশক হিসেবে ব্যবহার করত। ফলে ২৬ হাজার পরিবারের ভাতা বন্ধ করা হয়, অনেককে বিশাল অঙ্কের টাকা ফেরত দিতে হয়। ডাচ ডেটা প্রটেকশন অথরিটির তদন্তে বৈষম্যমূলক চর্চা নিশ্চিত হওয়ার পর ২০২১ সালের জানুয়ারিতে পুরো মন্ত্রিসভা পদত্যাগ করে। প্রধানমন্ত্রী মার্ক রুটে বলেন, ‘আইনের শাসনকে সর্বশক্তিমান সরকার থেকে নাগরিকদের রক্ষা করার কথা ভুল হয়ে গেছে’।

“অ্যালগরিদম কাউকে ইচ্ছা করে ঘৃণা করে না। সে শুধু অতীতের সিদ্ধান্তগুলো থেকে শেখে; আর অতীতের সিদ্ধান্ত যদি অসম বা বৈষম্যমূলক হয়ে থাকে, অ্যালগরিদম সেই অসমতাকেই সঠিক উত্তর হিসেবে ধরে নেয়।”

📊 তথ্যের সারসংক্ষেপ

• 📍 স্থান: যুক্তরাষ্ট্র, নেদারল্যান্ডস
• 👥 খবরের মুখ্য ব্যক্তি: জিয়াদ ওবারমেয়ার, মার্ক রুটে
• 🔢 গুরুত্বপূর্ণ সংখ্যা: ২০ কোটি (রোগী), ৮৪% (পক্ষপাত কমে), ১৭.৭% (কৃষ্ণাঙ্গ রোগী), ৪৬.৫% (কৃষ্ণাঙ্গ রোগী — সংশোধন পর), ২৬ হাজার (পরিবার)