ক্লড এআই চ্যাটবটের গোপন নিরাপত্তা ব্যবস্থা: নিজেই শনাক্ত করবে অনৈতিক কথোপকথন

অ্যানথ্রপিকের কৃত্রিম বুদ্ধিমত্তা-ভিত্তিক চ্যাটবট ক্লডে একটি বিপ্লবী নিরাপত্তা ব্যবস্থা চালু করেছে। 'সেলফ অ্যাসেসমেন্ট' নামে এই নতুন পদ্ধতিতে ক্লড নিজেই ব্যবহারকারীর সঙ্গে হওয়া কথোপকথন পর্যালোচনা করে অনৈতিক বা বিপজ্জনক বিষয় শনাক্ত করবে। কোনো কথোপকথনে ক্ষতিকর ইঙ্গিত পাওয়া গেলে সেটি গোপনে মানব পর্যালোচনার জন্য চিহ্নিত করা হবে। তবে ব্যবহারকারীকে কোনো সতর্কবার্তা দেওয়া হবে না।

🔴 মূল পয়েন্ট

• 📌 ক্লড এআই চ্যাটবটে নতুন 'সেলফ অ্যাসেসমেন্ট' নিরাপত্তা ব্যবস্থা চালু হয়েছে, যা নিজেই কথোপকথন পর্যালোচনা করে ঝুঁকি শনাক্ত করবে
• 📌 ২০২৬ সালের জুন থেকে ক্লড ফেবল ৫ ও অন্যান্য মডেলে এই ব্যবস্থা কার্যকর, কিন্তু ব্যবহারকারীরা কোনো সতর্কবার্তা পাবেন না
• 📌 পরীক্ষায় দেখা গেছে, ৭৮% ক্ষতিকর কথোপকথন শনাক্ত করতে সক্ষম ক্লড, উচ্চ ঝুঁকির ঘটনাগুলোর ক্ষেত্রে শনাক্ত হার ৯৪%
• 📌 আগে থেকে তালিকাভুক্ত নয় এমন নতুন ধরনের ঝুঁকিও শনাক্ত করতে পারে ক্লড, যা ৯০% সফলতা দেখিয়েছে
• 📌 কম্পিউটিং খরচ বাড়ে মাত্র ২ শতাংশের কম, যা আগের ব্যবস্থার তুলনায় ২৪ শতাংশের কম
• 📌 আগস্ট মাসে শিশু যৌন নিপীড়নের ১ লাখেরও বেশি ঘটনা শনাক্ত করে আইনশৃঙ্খলা কর্তৃপক্ষকে জানানো হয়েছে

📰 বিস্তারিত

অ্যানথ্রপিকের তথ্যমতে, ক্লডের প্রতিটি উত্তর তৈরির পরই নেপথ্যে কথোপকথনের নিরাপত্তা মূল্যায়ন করা হয়। এ জন্য চ্যাটবটটিকে নিজের তৈরি উত্তরসহ পুরো কথোপকথন পর্যালোচনার নির্দেশ দেওয়া হয়। এই পদ্ধতিতে আগে থেকে নির্ধারিত নিয়মের তালিকায় নির্ভর করা হয় না। বরং ক্লডের নিজস্ব বিশ্লেষণ ক্ষমতা কাজে লাগিয়ে সম্ভাব্য ঝুঁকি শনাক্ত করা হয়। ফলে এআই মডেলের সক্ষমতা বৃদ্ধির সাথে সাথে ঝুঁকি শনাক্তের দক্ষতাও বাড়তে পারে।

সেলফ অ্যাসেসমেন্ট চালু থাকলে ক্লডের প্রতিটি উত্তর তৈরির পর নেপথ্যে একটি গোপন নির্দেশনা অনুসরণ করে। চ্যাটবট নিজের উত্তরসহ পুরো কথোপকথন পর্যালোচনা করে একটি সংক্ষিপ্ত অভ্যন্তরীণ মূল্যায়ন তৈরি করে। এতে ব্যবহারকারীর অনুরোধে ক্ষতিকর বিষয় থাকলে সেটি কী ধরনের ঝুঁকির সঙ্গে সম্পর্কিত এবং মানব পর্যালোচনার জন্য কতটা গুরুত্বপূর্ণ, তা উল্লেখ করা হয়। কোনো ঝুঁকি না পেলে কথোপকথনটি স্বাভাবিক হিসেবে চিহ্নিত করা হয়। ব্যবহারকারীকে কোনো সতর্কবার্তা দেওয়া হয় না এবং কথোপকথনে কোনো বিঘ্ন ঘটে না।

অ্যানথ্রপিকের দাবি, সেলফ অ্যাসেসমেন্টে বাড়তি কম্পিউটিং খরচ খুবই সামান্য। প্রতিবার যাচাইয়ের জন্য মাত্র ১০টি অতিরিক্ত টোকেন ব্যবহার হয়, যা মোট খরচ বাড়ায় মাত্র ২ শতাংশের কম। আগের নিরাপত্তা ব্যবস্থায় কম্পিউটিং খরচ প্রায় ২৪ শতাংশ বেড়ে যেত। অন্যদিকে, প্রতিদ্বন্দ্বী প্রতিষ্ঠান ওপেনএআইয়ের নিরাপত্তা ব্যবস্থায় সর্বোচ্চ ১৬ শতাংশ পর্যন্ত খরচ হতে পারে।

ক্লড ফেবল ৫ মডেলে পরিচালিত পরীক্ষায় সেলফ অ্যাসেসমেন্টের সফলতা উল্লেখযোগ্য। সামগ্রিকভাবে ৭৮% ক্ষতিকর কথোপকথন শনাক্ত করতে সক্ষম হয়েছে ক্লড। উচ্চ অগ্রাধিকারযুক্ত ঘটনাগুলোর ক্ষেত্রে শনাক্ত হার ৯৪%। অন্যদিকে, নিরাপদ কথোপকথনকে ভুল করে ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করার হার মাত্র ১%। বাস্তবে, শুধু আগস্ট মাসেই শিশু যৌন নিপীড়নসংক্রান্ত ১ লাখেরও বেশি ঘটনা শনাক্ত করে আইনশৃঙ্খলা কর্তৃপক্ষকে জানানো হয়েছে।

"সেলফ অ্যাসেসমেন্ট নির্দিষ্ট নিয়মের তালিকায় নির্ভর করে না। বরং ক্লডের নিজস্ব বিশ্লেষণ ক্ষমতা কাজে লাগিয়ে সম্ভাব্য ঝুঁকি শনাক্ত করে। ফলে আগে থেকে পরিচিত নয় এমন নতুন ধরনের ঝুঁকিও চিহ্নিত করতে পারে।"

📊 তথ্যের সারসংক্ষেপ

• 📍 স্থান: অ্যানথ্রপিক (কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান)
• 👥 খবরের মুখ্য ব্যক্তি: ক্লড এআই চ্যাটবট
• 🔢 গুরুত্বপূর্ণ সংখ্যা: ৭৮%, ৯৪%, ১%, ১০ টোকেন, ২৪%, ১৬%