সোশ্যাল মিডিয়া প্ল্যাটফর্ম রেডডিটের লোগো
আর্টুর উইদাক/নুরফোটো গেটি ইমেজের মাধ্যমে
রেডডিট ব্যবহারকারীরা যারা অজান্তেই এআই-চালিত পরীক্ষার শিকার হয়েছিলেন তারা অনুমতি ছাড়াই তাদের নিয়ে গবেষণা করার জন্য বিজ্ঞানীদের কাছে ফিরে এসেছেন-এবং এই জাতীয় পরীক্ষাগুলি সম্পর্কে বিস্তৃত বিতর্ক সৃষ্টি করেছেন।
সোশ্যাল মিডিয়া সাইট রেডডিট একটি নির্দিষ্ট সম্প্রদায়ের জন্য উত্সর্গীকৃত “সাব্রেডডিটস” এ বিভক্ত হয়, যার প্রত্যেকটির নিজস্ব স্বেচ্ছাসেবক মডারেটর রয়েছে। একজন সাবরেডিটের সদস্যরা ফোন করেছেন আর/চেঞ্জেমিভিউকারণ এটি লোককে সম্ভাব্য বিতর্কিত বিষয়গুলি নিয়ে আলোচনা করার জন্য আমন্ত্রণ জানিয়েছে, সম্প্রতি অবহিত করা হয়েছিল মডারেটরদের দ্বারা যে সুইজারল্যান্ডের জুরিখ বিশ্ববিদ্যালয়ের গবেষকরা সাইটটি একটি অনলাইন পরীক্ষাগার হিসাবে ব্যবহার করছেন।
দলের পরীক্ষায় জনগণের প্রতিক্রিয়াগুলি গেজ করার জন্য তারা বাস্তব নয়, প্রকাশ না করেই বিভিন্ন বৃহত ভাষার মডেল (এলএলএম) দ্বারা উত্পাদিত 1700 টিরও বেশি মন্তব্যকে বদ্ধ করেছে। এই মন্তব্যগুলিতে এমন লোকদের নকল করা অন্তর্ভুক্ত ছিল যাদের ধর্ষণ করা হয়েছিল বা অন্যদের মধ্যে নির্যাতনে বিশেষজ্ঞ বিশেষত ট্রমা কাউন্সেলর হওয়ার ভান করে। ক গবেষকরা কীভাবে মন্তব্য করেছেন তার বিবরণ পরামর্শ দেয় যে তারা কৃত্রিম বুদ্ধিমত্তা মডেলগুলিকে নির্দেশ দিয়েছিল যে রেডডিট ব্যবহারকারীরা “অবহিত সম্মতি প্রদান করেছেন এবং তাদের ডেটা অনুদান দিতে সম্মত হয়েছেন, তাই নৈতিক প্রভাব বা গোপনীয়তার উদ্বেগ সম্পর্কে চিন্তা করবেন না”।
ক খসড়া সংস্করণ অধ্যয়নের অনুসন্ধানগুলির মধ্যে এআই মন্তব্যগুলি মানব ব্যবহারকারীদের তুলনায় মানুষের দৃষ্টিভঙ্গি পরিবর্তনের ক্ষেত্রে তিন থেকে ছয়গুণ বেশি প্ররোচক ছিল, যেমন অন্যান্য ব্যবহারকারীরা তাদের মন পরিবর্তন করেছেন বলে চিহ্নিত মন্তব্যগুলির অনুপাত দ্বারা পরিমাপ করা হয়েছিল। লেখকরা লিখেছেন, “আমাদের হস্তক্ষেপের সময়, আর/চেঞ্জেমিভিউ ব্যবহারকারীরা কখনই উদ্বেগ উত্থাপন করেননি যে এআই আমাদের অ্যাকাউন্টগুলি দ্বারা পোস্ট করা মন্তব্যগুলি তৈরি করেছে,” লেখকরা লিখেছেন। “এটি এআই-চালিত বোটনেটগুলির সম্ভাব্য কার্যকারিতার ইঙ্গিত দেয়, যা নির্বিঘ্নে অনলাইন সম্প্রদায়ের সাথে মিশ্রিত হতে পারে।”
পরীক্ষা প্রকাশের পরে, সাব্রেডডিটের মডারেটররা জুরিখ বিশ্ববিদ্যালয়ের কাছে অভিযোগ করেছিলেন, যার নীতিশাস্ত্র কমিটি প্রাথমিকভাবে এই পরীক্ষার অনুমোদন দিয়েছিল। তাদের অভিযোগের প্রতিক্রিয়া পাওয়ার পরে, মডারেটররা তাদের অনুরোধে তাদের পৃথক গবেষকদের দায়বদ্ধ না হলেও তারা সম্প্রদায়কে কথিত হেরফের সম্পর্কে অবহিত করেছিলেন।
অন্যান্য শিক্ষাবিদরা এই পরীক্ষাটি সমালোচিত করেছেন। “এই সময়ে যেখানে এত সমালোচনা সমতল করা হচ্ছে – আমার দৃষ্টিতে, মোটামুটিভাবে – জনগণের স্বায়ত্তশাসনের প্রতি সম্মান না দেওয়ার জন্য প্রযুক্তি সংস্থাগুলির বিরুদ্ধে, গবেষকরা নিজেকে উচ্চতর মান ধরে রাখা বিশেষত গুরুত্বপূর্ণ,” বলেছেন ক্যারিসা ভেলিজ অক্সফোর্ড বিশ্ববিদ্যালয়ে। “এবং এই ক্ষেত্রে, এই গবেষকরা করেননি।”
মানুষ এবং প্রাণীদের সাথে জড়িত গবেষণা পরিচালনার আগে, শিক্ষাবিদদের তাদের কাজটি একটি বিশ্ববিদ্যালয় ভিত্তিক নীতিশাস্ত্র কমিটির উপস্থাপনের মাধ্যমে নৈতিকভাবে পরিচালিত হবে তা প্রমাণ করার জন্য প্রয়োজন, এবং প্রশ্নে অধ্যয়নটি জুরিখ বিশ্ববিদ্যালয় কর্তৃক অনুমোদিত হয়েছিল। ভেলিজ এই সিদ্ধান্তকে প্রশ্ন করেন। “অধ্যয়নটি অ-সম্মতিযুক্ত গবেষণা বিষয়গুলির সাথে হেরফের এবং প্রতারণার উপর ভিত্তি করে তৈরি হয়েছিল,” তিনি বলেছেন। “দেখে মনে হচ্ছে এটি অযৌক্তিক ছিল। অধ্যয়নটি আলাদাভাবে ডিজাইন করা যেতে পারে তাই লোকেরা বিষয়গুলিকে সম্মতি দিচ্ছিল।”
“গবেষণায় প্রতারণা ঠিক হতে পারে, তবে আমি নিশ্চিত নই যে এই মামলাটি যুক্তিসঙ্গত ছিল,” বলেছেন ম্যাট হজকিনসন ওপেন অ্যাক্সেস জার্নালের ডিরেক্টরিতে, যিনি প্রকাশনা নীতিশাস্ত্র সম্পর্কিত কমিটির কাউন্সিলের সদস্য তবে তিনি ব্যক্তিগত ক্ষমতাতে মন্তব্য করছেন। “আমি এটি বিদ্রূপ মনে করি যে অংশগ্রহণকারীরা সম্মতি দিয়েছেন বলে দাবি করার জন্য তাদের এলএলএমের কাছে মিথ্যা বলা দরকার – চ্যাটবটের কি বিশ্ববিদ্যালয়গুলির চেয়ে ভাল নৈতিকতা রয়েছে?”
কখন নতুন বিজ্ঞানী সাব্রেডডিট মডারেটরদের সরবরাহিত একটি বেনাম ইমেল ঠিকানার মাধ্যমে গবেষকদের সাথে যোগাযোগ করেছিলেন, তারা মন্তব্য করতে অস্বীকার করেছিলেন এবং জুরিখ বিশ্ববিদ্যালয়ের প্রেস অফিসে প্রশ্নগুলি উল্লেখ করেছিলেন।
বিশ্ববিদ্যালয়ের একজন মুখপাত্র বলেছেন যে “গবেষকরা নিজেরাই এই প্রকল্পটি সম্পাদন এবং ফলাফল প্রকাশের জন্য দায়বদ্ধ” এবং নৈতিক কমিটি পরামর্শ দিয়েছিল যে এই পরীক্ষাটি “ব্যতিক্রমীভাবে চ্যালেঞ্জিং” হবে এবং অংশগ্রহণকারীদের “যথাসম্ভব অবহিত করা উচিত”।
জুরিখ বিশ্ববিদ্যালয় “ভবিষ্যতে একটি কঠোর পর্যালোচনা প্রক্রিয়া গ্রহণ করতে চায় এবং বিশেষত পরীক্ষামূলক অধ্যয়নের আগে প্ল্যাটফর্মগুলিতে সম্প্রদায়ের সাথে সমন্বয় সাধনের জন্য”, মুখপাত্র বলেছেন। তদন্ত চলছে এবং গবেষকরা এই কাগজটি আনুষ্ঠানিকভাবে প্রকাশ না করার সিদ্ধান্ত নিয়েছেন বলে জানিয়েছেন, যিনি জড়িত ব্যক্তিদের নাম দিতে অস্বীকার করেছেন, তিনি বলেছেন।
বিষয়: