বিজ্ঞান কীভাবে এআই থেকে উপকৃত হতে পারে? ঝুঁকি?

অভিযোজিত মেশিন লার্নিং অ্যালগরিদমগুলি অবিশ্বাস্যভাবে শক্তিশালী। তবুও, তাদের একটি অসুবিধা রয়েছে: মেশিন লার্নিং মডেলগুলি কীভাবে তাদের ভবিষ্যদ্বাণীগুলিতে আসে তা প্রায়শই বাইরে থেকে স্পষ্ট হয় না।

ধরুন আপনি কয়েক হাজার গাড়ির ফটো সহ কৃত্রিম বুদ্ধিমত্তা খাওয়ান। আপনি যদি এখন এটি একটি নতুন চিত্রের সাথে উপস্থাপন করেন তবে এটি সাধারণত ছবিটি কোনও গাড়ি দেখায় কিনা তা নির্ভরযোগ্যভাবে সনাক্ত করতে পারে। তবে কেন? এটি কি সত্যিই শিখেছে যে একটি গাড়িতে চারটি চাকা, একটি উইন্ডশীল্ড এবং একটি নিষ্কাশন রয়েছে? বা এর সিদ্ধান্ত কি এমন মানদণ্ডের ভিত্তিতে যা আসলে অপ্রাসঙ্গিক – যেমন ছাদে অ্যান্টেনা? যদি এটি হয় তবে এটি একটি রেডিওকে গাড়ি হিসাবে শ্রেণিবদ্ধ করতে পারে।

এআই মডেলগুলি কালো বাক্সগুলি

“এআই মডেলগুলি হ’ল ব্ল্যাক বক্স,” অধ্যাপক ডাঃ জার্গেন বাজোরাথকে হাইলাইট করেছেন। “ফলস্বরূপ, তাদের ফলাফলগুলিকে অন্ধভাবে বিশ্বাস করা উচিত নয় এবং তাদের কাছ থেকে সিদ্ধান্ত নেওয়া উচিত নয়।” কম্পিউটেশনাল কেমিস্ট্রি বিশেষজ্ঞ মেশিন লার্নিং অ্যান্ড কৃত্রিম বুদ্ধিমত্তার জন্য ল্যামার ইনস্টিটিউটে লাইফ সায়েন্সেস বিভাগে এআইয়ের প্রধান। তিনি বন-আছেন ইন্টারন্যাশনাল সেন্টার ফর ইনফরমেশন টেকনোলজির (বি-আইটি) বন-এচেন ইন্টারন্যাশনাল সেন্টার ফর ইনফরমেশন টেকনোলজি (বি-আইটি) এর লাইফ সায়েন্স ইনফরম্যাটিক্স প্রোগ্রামের দায়িত্বেও রয়েছেন। বর্তমান প্রকাশনায়, তিনি কখন অ্যালগরিদমের উপর নির্ভর করতে পারেন সে প্রশ্নটি তদন্ত করেছিলেন। এবং বিপরীতে: যখন না।

“ব্যাখ্যাযোগ্যতা” ধারণাটি এই প্রসঙ্গে একটি গুরুত্বপূর্ণ ভূমিকা পালন করে। রূপকভাবে বলতে গেলে, এটি এআই গবেষণার মধ্যে ব্ল্যাক বক্সে একটি পিফোল ড্রিল করার প্রচেষ্টা বোঝায়। অ্যালগরিদমকে এটি ভিত্তি হিসাবে ব্যবহার করে এমন মানদণ্ডগুলি প্রকাশ করা উচিত – চারটি চাকা বা অ্যান্টেনা। বাজোরাথ বলেছেন, “বর্তমানে ব্ল্যাক বক্স খোলার বিষয়টি এআই গবেষণায় একটি কেন্দ্রীয় বিষয়।” “কিছু এআই মডেল অন্যের ফলাফলকে আরও বোধগম্য করার জন্য একচেটিয়াভাবে তৈরি করা হয়েছে।”

তবে ব্যাখ্যাযোগ্যতা কেবলমাত্র একটি দিক – কোনও মডেল দ্বারা নির্বাচিত সিদ্ধান্ত গ্রহণের মানদণ্ড থেকে কোন সিদ্ধান্তে সিদ্ধান্ত নেওয়া যেতে পারে তার প্রশ্নটি সমানভাবে গুরুত্বপূর্ণ। যদি অ্যালগরিদম ইঙ্গিত দেয় যে এটি অ্যান্টেনার উপর তার সিদ্ধান্তকে ভিত্তি করে তৈরি করেছে, তবে একজন মানুষ তাত্ক্ষণিকভাবে জানে যে এই বৈশিষ্ট্যটি গাড়ি সনাক্তকরণের জন্য খারাপভাবে উপযুক্ত। এটি সত্ত্বেও, অভিযোজিত মডেলগুলি সাধারণত বড় ডেটা সেটগুলিতে পারস্পরিক সম্পর্কগুলি সনাক্ত করতে ব্যবহৃত হয় যা মানুষ এমনকি খেয়ালও করতে পারে না। আমরা তখন এলিয়েনদের মতো যারা জানেন না যে গাড়ি কী তৈরি করে: একটি এলিয়েন অ্যান্টেনা একটি ভাল মানদণ্ড কিনা তা বলতে অক্ষম হবে।

রাসায়নিক ভাষার মডেলগুলি নতুন যৌগগুলির পরামর্শ দেয়

“আরও একটি প্রশ্ন রয়েছে যে বিজ্ঞানের এআই পদ্ধতিগুলি ব্যবহার করার সময় আমাদের সর্বদা নিজেকে জিজ্ঞাসা করতে হবে,” বাজোরাথকে জোর দিয়েছিলেন, যিনি ট্রান্সডিসিপ্লিনারি রিসার্চ এরিয়া (টিআরএ) “মডেলিং” এর সদস্যও: “ফলাফলগুলি কতটা ব্যাখ্যাযোগ্য?” রাসায়নিক ভাষার মডেলগুলি বর্তমানে রসায়ন এবং ফার্মাসিউটিক্যাল গবেষণার একটি উত্তপ্ত বিষয়। উদাহরণস্বরূপ, একটি নির্দিষ্ট জৈবিক ক্রিয়াকলাপ রয়েছে এমন অনেকগুলি অণু দিয়ে তাদের খাওয়ানো সম্ভব। এই ইনপুট ডেটার উপর ভিত্তি করে, মডেলটি তখন শিখে এবং আদর্শভাবে একটি নতুন অণু পরামর্শ দেয় যা এই ক্রিয়াকলাপটি রয়েছে তবে একটি নতুন কাঠামো রয়েছে। এটিকে জেনারেটরি মডেলিং হিসাবেও উল্লেখ করা হয়। যাইহোক, মডেলটি সাধারণত এই সমাধানটিতে কেন আসে তা ব্যাখ্যা করতে পারে না। পরবর্তীকালে ব্যাখ্যাযোগ্য এআই পদ্ধতি প্রয়োগ করা প্রায়শই প্রয়োজন।

তবুও, বাজোরাথ এই ব্যাখ্যাগুলিকে অতিরিক্ত ব্যাখ্যা করার বিরুদ্ধে সতর্ক করেছেন, অর্থাৎ এআই বৈশিষ্ট্যগুলি গুরুত্বপূর্ণ হিসাবে বিবেচনা করে এমন বৈশিষ্ট্যযুক্ত কারণ হিসাবে এটি পছন্দসই ক্রিয়াকলাপের কারণ হিসাবে বিবেচনা করে। “বর্তমান এআই মডেলগুলি রসায়ন সম্পর্কে মূলত কিছুই বোঝে না,” তিনি বলেছেন। “এগুলি খাঁটি পরিসংখ্যানগত এবং প্রকৃতির সাথে সম্পর্কিত এবং এই বৈশিষ্ট্যগুলি রাসায়নিকভাবে বা জৈবিকভাবে প্রাসঙ্গিক হতে পারে কিনা তা নির্বিশেষে যে কোনও স্বতন্ত্র বৈশিষ্ট্যগুলিতে মনোযোগ দিন।” তবুও, তারা এমনকি তাদের মূল্যায়নেও সঠিক হতে পারে – সুতরাং সম্ভবত প্রস্তাবিত অণুতে কাঙ্ক্ষিত ক্ষমতা রয়েছে। তবে এর কারণগুলি রাসায়নিক জ্ঞান বা স্বজ্ঞাততার ভিত্তিতে আমরা যা প্রত্যাশা করব তার থেকে সম্পূর্ণ আলাদা হতে পারে। বৈশিষ্ট্যগুলি ড্রাইভিং পূর্বাভাস এবং সংশ্লিষ্ট প্রাকৃতিক প্রক্রিয়াগুলির ফলাফলগুলির মধ্যে সম্ভাব্য কার্যকারিতা মূল্যায়নের জন্য, পরীক্ষাগুলি সাধারণত প্রয়োজনীয় হয়: গবেষকদের অবশ্যই অণু সংশ্লেষিত করতে এবং পরীক্ষা করতে হবে, পাশাপাশি কাঠামোগত মোটিফ সহ অন্যান্য অণু যা এআই গুরুত্বপূর্ণ হিসাবে বিবেচনা করে।

প্লাজিবিলিটি চেকগুলি গুরুত্বপূর্ণ

এই জাতীয় পরীক্ষাগুলি সময় সাপেক্ষ এবং ব্যয়বহুল। বাজোরাথ এভাবে এআইকে অতিরিক্ত ব্যাখ্যা করার বিরুদ্ধে সতর্ক করেছেন যে বৈজ্ঞানিকভাবে প্রশংসনীয় কার্যকারিতা সম্পর্কের জন্য অনুসন্ধানে ফলাফল। তার দৃষ্টিতে, একটি শব্দ বৈজ্ঞানিক যুক্তি ভিত্তিক একটি প্রশংসনীয় চেকটি গুরুত্বপূর্ণ গুরুত্বের সাথে: ব্যাখ্যাযোগ্য এআই দ্বারা প্রস্তাবিত বৈশিষ্ট্যটি কি আসলে কাঙ্ক্ষিত রাসায়নিক বা জৈবিক সম্পত্তির জন্য দায়ী হতে পারে? এটি কি এআইয়ের পরামর্শ অনুসরণ করার মতো? বা এটি সম্ভবত কোনও শিল্পকলা, এলোমেলোভাবে চিহ্নিত পারস্পরিক সম্পর্ক যেমন গাড়ি অ্যান্টেনা, যা প্রকৃত ফাংশনের জন্য মোটেই প্রাসঙ্গিক নয়?

বিজ্ঞানী জোর দিয়েছিলেন যে অভিযোজিত অ্যালগরিদমের ব্যবহার মূলত বিজ্ঞানের অনেক ক্ষেত্রে গবেষণাকে যথেষ্ট পরিমাণে অগ্রসর করার সম্ভাবনা রয়েছে। তবুও, অবশ্যই এই পদ্ধতির শক্তি – এবং বিশেষত তাদের দুর্বলতা সম্পর্কে সচেতন হতে হবে।