ইন্টারনেট ও সামাজিক যোগাযোগমাধ্যমের বিস্তারের ফলে বিদ্বেষমূলক বক্তব্য বা ‘হেট স্পিচ’ এখন আগের যেকোনো সময়ের তুলনায় দ্রুত ও ব্যাপকভাবে ছড়িয়ে পড়ছে। এ ধরনের কনটেন্ট শনাক্ত ও অপসারণে কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবহার বাড়লেও বিশেষজ্ঞরা বলছেন, মানবিক বিচার-বিবেচনার জায়গায় এখনো পুরোপুরি সফল নয় এআই।
১৮ জুন ‘আন্তর্জাতিক বিদ্বেষমূলক বক্তব্য প্রতিরোধ দিবস’ উপলক্ষে জাতিসংঘ মহাসচিব আন্তোনিও গুতেরেস সতর্ক করে বলেছেন, সামাজিক যোগাযোগমাধ্যমের প্ল্যাটফর্মগুলো ঘৃণামূলক বক্তব্য ছড়িয়ে দেওয়ার ঝুঁকি আরও বাড়িয়ে তুলছে।
হেট স্পিচ কী?
জাতিসংঘের মতে, কোনো ব্যক্তি বা গোষ্ঠীর জাতি, ধর্ম, বর্ণ, লিঙ্গ, জাতিগত পরিচয়, যৌন অভিমুখিতা বা প্রতিবন্ধকতাকে লক্ষ্য করে বৈষম্য, অপমান বা সহিংসতায় উসকানি দেয় এমন যেকোনো বক্তব্য, লেখা, ছবি, অঙ্গভঙ্গি বা আচরণই হেট স্পিচ হিসেবে বিবেচিত হতে পারে।
অনলাইনে কতটা ব্যাপক এই সমস্যা?
২০২৩ সালে জরিপ সংস্থা ইপসোস এবং ইউনেস্কোর যৌথ এক জরিপে দেখা যায়, ১৬টি দেশের ৮ হাজার মানুষের মধ্যে দুই-তৃতীয়াংশেরও বেশি ইন্টারনেট ব্যবহারকারী অনলাইনে হেট স্পিচের মুখোমুখি হয়েছেন।
জরিপে অংশ নেওয়া ৩৩ শতাংশ মানুষ মনে করেন, এলজিবিটিকিউআই সম্প্রদায় সবচেয়ে বেশি বিদ্বেষমূলক বক্তব্যের শিকার হয়। এরপর রয়েছে জাতিগত ও বর্ণগত সংখ্যালঘুরা (২৮ শতাংশ) এবং নারীরা (১৮ শতাংশ)।
হেট স্পিচ শনাক্তে এআইয়ের ব্যবহার
ফেসবুক, ইনস্টাগ্রাম, টিকটকের মতো প্ল্যাটফর্মগুলো এখন বিপুল পরিমাণ কনটেন্ট পর্যবেক্ষণে এআইনির্ভর মডারেশন সিস্টেম ব্যবহার করছে। এসব প্রযুক্তি আগে থেকে প্রশিক্ষিত ভাষা মডেল ও ডেটাসেটের মাধ্যমে আপত্তিকর ভাষা শনাক্ত করে এবং নির্দিষ্ট মানদণ্ড অনুযায়ী কনটেন্ট সরিয়ে ফেলে।
তবে ২০২৫ সালে যুক্তরাষ্ট্রের পেনসিলভানিয়া বিশ্ববিদ্যালয়ের এক গবেষণায় দেখা গেছে, বিভিন্ন এআই মডেল একই ধরনের বক্তব্যকে ভিন্নভাবে মূল্যায়ন করে। ফলে একটি সিস্টেম যে কনটেন্টকে হেট স্পিচ হিসেবে চিহ্নিত করছে, অন্যটি সেটিকে অনুমোদন দিচ্ছে।
গবেষণায় ওপেনএআই, অ্যানথ্রপিক, গুগল, ডিপসিক ও মিস্ট্রালসহ সাতটি এআই মডারেশন সিস্টেম বিশ্লেষণ করা হয়। এতে দেখা যায়, বিভিন্ন গোষ্ঠীকে লক্ষ্য করে দেওয়া একই বক্তব্যের ক্ষেত্রে মডেলগুলোর সিদ্ধান্তে বড় ধরনের পার্থক্য রয়েছে।
কোথায় ব্যর্থ হচ্ছে এআই?
বিশেষজ্ঞদের মতে, সরাসরি গালাগালি বা অবমাননাকর শব্দ ব্যবহার করা হলে এআই সহজেই তা শনাক্ত করতে পারে। কিন্তু পরোক্ষ বা সূক্ষ্ম বিদ্বেষমূলক বক্তব্য শনাক্ত করা এখনও বড় চ্যালেঞ্জ।
এ বিষয়ে যুক্তরাজ্যের কুইন মেরি ইউনিভার্সিটির গবেষক আরকাইৎজ জুবিয়াগা বলেন, অনেক সময় ইতিবাচক বা নিরীহ মনে হওয়া বাক্যের আড়ালে ঘৃণামূলক বার্তা লুকিয়ে থাকে, যা এআই ধরতে পারে না। কারণ, মডেলগুলো বাক্যের সামগ্রিক উদ্দেশ্যের বদলে শব্দের ওপর বেশি নির্ভর করে।
আবার উল্টো ঘটনাও ঘটে। কিছু শব্দ অতীতে অপমানজনক হিসেবে ব্যবহৃত হলেও বর্তমানে সংশ্লিষ্ট সম্প্রদায়ের সদস্যরা নিজেদের মধ্যে তা ইতিবাচক বা বন্ধুত্বপূর্ণ অর্থে ব্যবহার করেন। কিন্তু এআই প্রায়ই সেগুলোকে ভুলভাবে হেট স্পিচ হিসেবে চিহ্নিত করে।
মানবিক বোঝাপড়ার বিকল্প নয়
বিশেষজ্ঞরা বলছেন, অনলাইনে বিদ্বেষমূলক বক্তব্য মোকাবিলায় এআই গুরুত্বপূর্ণ ভূমিকা রাখলেও ভাষার প্রেক্ষাপট, সংস্কৃতি, ব্যঙ্গ-বিদ্রূপ এবং সামাজিক বাস্তবতা বোঝার ক্ষেত্রে এখনো মানুষের বিচারশক্তির সমকক্ষ হয়ে উঠতে পারেনি।
ফলে নিরাপদ ও ন্যায্য অনলাইন পরিবেশ নিশ্চিত করতে এআই প্রযুক্তির পাশাপাশি মানবিক পর্যবেক্ষণ ও সঠিক নীতিমালার সমন্বয় প্রয়োজন বলে মনে করছেন তারা।
