এআই মডেলগুলি প্রায়শই গুরুত্বহীন এবং সম্ভাব্য বিভ্রান্তিমূলক তথ্যের ভিত্তিতে সিদ্ধান্ত গ্রহণ করে “উত্সাহী পারস্পরিক সম্পর্ক” এর উপর নির্ভর করে। গবেষকরা এখন আবিষ্কার করেছেন যে এই শিখানো উত্সাহী পারস্পরিক সম্পর্কগুলি প্রশিক্ষণের ডেটার একটি খুব ছোট উপসেটের সাথে সনাক্ত করা যেতে পারে এবং এমন একটি কৌশল প্রদর্শন করেছে যা সমস্যাটি কাটিয়ে উঠেছে।
“এই কৌশলটি উপন্যাস যে এটি ব্যবহার করা যেতে পারে এমনকি যখন এআই নির্ভর করছে তা আপনার কোনও ধারণা নেই,” জং-ইউন কিম বলেছেন, কাজের বিষয়ে একটি কাগজের সংশ্লিষ্ট লেখক এবং উত্তর ক্যারোলিনা স্টেট ইউনিভার্সিটির কম্পিউটার সায়েন্সের সহকারী অধ্যাপক। “যদি আপনার কাছে ইতিমধ্যে উত্সাহী বৈশিষ্ট্যগুলি কী তা সম্পর্কে ভাল ধারণা থাকে তবে আমাদের কৌশলটি সমস্যাটি সমাধান করার একটি কার্যকর এবং কার্যকর উপায়। তবে, আপনার যদি কেবল পারফরম্যান্সের সমস্যা রয়েছে তবে কেন তা বুঝতে পারছেন না, আপনি এখনও আমাদের কৌশলটি ব্যবহার করতে পারেন যে একটি উত্সাহী পারস্পরিক সম্পর্ক রয়েছে কিনা এবং সেই সমস্যাটি সমাধান করুন” “
এআই প্রশিক্ষণের সময় সরলতা পক্ষপাতের কারণে সাধারণত উত্সাহী পারস্পরিক সম্পর্ক হয়। অনুশীলনকারীরা এআই মডেলগুলি নির্দিষ্ট কাজ সম্পাদনের জন্য প্রশিক্ষণ দিতে ডেটা সেট ব্যবহার করে। উদাহরণস্বরূপ, একটি এআই মডেল কুকুরের ফটোগ্রাফ সনাক্ত করতে প্রশিক্ষণ দেওয়া যেতে পারে। প্রশিক্ষণের ডেটা সেটটিতে কুকুরের ছবি অন্তর্ভুক্ত থাকবে যেখানে এআইকে বলা হয় একটি কুকুর ফটোতে রয়েছে। প্রশিক্ষণ প্রক্রিয়া চলাকালীন, এআই নির্দিষ্ট বৈশিষ্ট্যগুলি সনাক্ত করতে শুরু করবে যা এটি কুকুর সনাক্ত করতে ব্যবহার করতে পারে। তবে, যদি ফটোগুলির কুকুরগুলির অনেকগুলি কলার পরে থাকে এবং কলারগুলি সাধারণত কান বা পশমের চেয়ে কুকুরের কম জটিল বৈশিষ্ট্য বলে, এআই কুকুরগুলি সনাক্ত করার জন্য কলারগুলি একটি সহজ উপায় হিসাবে ব্যবহার করতে পারে। এভাবেই সরলতা পক্ষপাতটি উত্সাহজনক পারস্পরিক সম্পর্কের কারণ হতে পারে।
কিম বলেছেন, “এবং যদি এআই কলারকে কুকুর সনাক্ত করতে ফ্যাক্টর হিসাবে ব্যবহার করে তবে এআই কুকুর হিসাবে কলার পরা বিড়ালদের সনাক্ত করতে পারে,” কিম বলেছেন।
উত্সাহী পারস্পরিক সম্পর্কের কারণে সৃষ্ট সমস্যাগুলি সমাধান করার জন্য প্রচলিত কৌশলগুলি অনুশীলনকারীদের সমস্যা সৃষ্টিকারী উত্সাহী বৈশিষ্ট্যগুলি সনাক্ত করতে সক্ষম হওয়ার উপর নির্ভর করে। তারপরে তারা এআই মডেলটিকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটা সেটগুলি সংশোধন করে এটিকে সম্বোধন করতে পারে। উদাহরণস্বরূপ, অনুশীলনকারীরা ডেটা সেটে ফটোগুলিতে দেওয়া ওজন বাড়িয়ে তুলতে পারে যাতে কুকুরগুলি কলার পরা নয়।
তবে, তাদের নতুন কাজে গবেষকরা প্রমাণ করেছেন যে সমস্যা সৃষ্টিকারী উত্সাহী বৈশিষ্ট্যগুলি সনাক্ত করা সর্বদা সম্ভব নয় – উত্সাহী পারস্পরিক সম্পর্ককে অকার্যকর মোকাবেলার জন্য প্রচলিত কৌশল তৈরি করে।
কিম বলেছেন, “এই কাজের সাথে আমাদের লক্ষ্যটি ছিল এমন একটি কৌশল বিকাশ করা যা আমাদের সেই উত্সাহী বৈশিষ্ট্যগুলি সম্পর্কে কিছুই না জানার পরেও আমাদের মারাত্মক উত্সাহজনক সম্পর্ক স্থাপন করতে দেয়।”
নতুন কৌশলটি এআই মডেলটিকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটার একটি ছোট অংশ অপসারণের উপর নির্ভর করে।
কিম বলেছেন, “প্রশিক্ষণ ডেটা সেটগুলিতে অন্তর্ভুক্ত ডেটা নমুনায় উল্লেখযোগ্য পার্থক্য থাকতে পারে।” “কিছু নমুনা খুব সহজ হতে পারে, আবার অন্যরা খুব জটিল হতে পারে And এবং আমরা পরিমাপ করতে পারি যে প্রতিটি নমুনা প্রশিক্ষণের সময় মডেলটি কীভাবে আচরণ করেছিল তার উপর ভিত্তি করে কীভাবে ‘কঠিন’ হয়।
কিম ব্যাখ্যা করেছেন, “আমাদের অনুমানটি ছিল যে ডেটা সেটের সবচেয়ে কঠিন নমুনাগুলি গোলমাল এবং অস্পষ্ট হতে পারে এবং সম্ভবত কোনও নেটওয়ার্ককে কোনও মডেলের পারফরম্যান্সে আঘাত করা অপ্রাসঙ্গিক তথ্যের উপর নির্ভর করতে বাধ্য করতে বাধ্য করা হয়,” কিম ব্যাখ্যা করেছেন। “প্রশিক্ষণের ডেটার একটি ছোট স্লাইভারকে অপসারণ করে যা বোঝা মুশকিল, আপনি স্পিউরিয়াস বৈশিষ্ট্যযুক্ত হার্ড ডেটা নমুনাগুলিও মুছে ফেলছেন। এই নির্মূলকরণ উল্লেখযোগ্য বিরূপ প্রভাবের কারণ ছাড়াই উত্সাহী পারস্পরিক সম্পর্কের সমস্যাটিকে কাটিয়ে উঠেছে।”
গবেষকরা দেখিয়েছেন যে নতুন কৌশলটি অত্যাধুনিক ফলাফলগুলি অর্জন করে-মডেলগুলির পূর্ববর্তী কাজের তুলনায় এমনকি কর্মক্ষমতা উন্নত করে যেখানে উত্সাহী বৈশিষ্ট্যগুলি সনাক্তযোগ্য ছিল।
24-28 এপ্রিল থেকে সিঙ্গাপুরে অনুষ্ঠিত আন্তর্জাতিক সম্মেলন সম্পর্কিত লার্নিং প্রেজেন্টেশনস (আইসিএলআর) এর আন্তর্জাতিক সম্মেলনে “ডেটা ছাঁটাইয়ের সাথে বিচ্ছিন্নতার সাথে সম্পর্কিত সম্পর্কগুলি” পিয়ার-পর্যালোচিত কাগজটি উপস্থাপন করা হবে। কাগজের প্রথম লেখক হলেন বরুণ মুলচন্দানী, একজন পিএইচডি। এনসি স্টেটে শিক্ষার্থী।