অ্যানথ্রোপিক এআই-এর লুকানো ‘মানসিক কর্মক্ষেত্র’

কৃত্রিম বুদ্ধিমত্তা সংস্থা অ্যানথ্রোপিক নতুন এক গবেষণা প্রকাশ করেছে, যা থেকে বোঝা যায় যে অ্যাডভান্সড লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) একটি অভ্যন্তরীণ প্রক্রিয়া তৈরি করে যা একটি “মানসিক কর্মক্ষেত্র”-এর মতো। এই প্রক্রিয়াটি প্রতিক্রিয়া তৈরি করার আগে তথ্য সংগঠিত করতে এবং যুক্তি প্রয়োগে সহায়তা করে।

এই গবেষণা এআই সিস্টেমগুলো অভ্যন্তরীণভাবে কীভাবে তথ্য প্রক্রিয়াকরণ করে সে সম্পর্কে নতুন ধারণা দেয়, কিন্তু এটি থেকে এমন কোনো ইঙ্গিত পাওয়া যায় না যে এআই সচেতন বা মানুষের মতো বোধশক্তি রাখে।

এআই একটি অভ্যন্তরীণ যুক্তি ব্যবস্থা ব্যবহার করে বলে মনে হচ্ছে

অ্যানথ্রোপিকের গবেষণা অনুসারে, আধুনিক ল্যাঙ্গুয়েজ মডেলগুলো তাদের বৃহত্তর গণনা প্রক্রিয়া থেকে পৃথক কিছু গুরুত্বপূর্ণ অভ্যন্তরীণ উপস্থাপনা বজায় রাখে।

গবেষকরা এটিকে একটি কার্যকরী “মানসিক কর্মক্ষেত্র” হিসেবে বর্ণনা করেছেন, যেখানে মডেলটি কোনো উত্তর দেওয়ার আগে তথ্যের মূল অংশগুলো সংগ্রহ ও সংগঠিত করে। শুধুমাত্র পরিসংখ্যানগত প্যাটার্নের উপর ভিত্তি করে পরবর্তী শব্দটি অনুমান করার পরিবর্তে, এই কর্মক্ষেত্রটি আরও সুচিন্তিত যুক্তি এবং কাঠামোগত সিদ্ধান্ত গ্রহণে সহায়তা করে বলে মনে হয়।

অ্যানথ্রোপিক উল্লেখ করেছে যে এই কর্মক্ষেত্রটি মডেলের মোট গণনার একটি ক্ষুদ্র অংশ মাত্র, যেখানে বেশিরভাগ প্রক্রিয়াকরণ স্বয়ংক্রিয় এবং নেটওয়ার্ক জুড়ে বিস্তৃত থাকে।

মানব স্নায়ুবিজ্ঞান দ্বারা অনুপ্রাণিত

গবেষকরা এই আচরণটিকে গ্লোবাল ওয়ার্কস্পেস থিওরির সাথে তুলনা করেছেন, যা একটি বিশিষ্ট স্নায়ুবিজ্ঞান কাঠামো এবং এটি ব্যাখ্যা করে যে মানুষের মস্তিষ্ক কীভাবে তথ্য প্রক্রিয়াকরণ করে।

এই তত্ত্ব অনুসারে:

মস্তিষ্ক অবচেতনভাবে ক্রমাগত বিপুল পরিমাণ তথ্য প্রক্রিয়াকরণ করে।

এর একটি সীমিত অংশ একটি “গ্লোবাল ওয়ার্কস্পেস”-এ প্রবেশ করে, যেখানে এটি সচেতন পরিকল্পনা, যুক্তি, ভাষা এবং সিদ্ধান্ত গ্রহণের জন্য উপলব্ধ হয়।

অ্যানথ্রোপিক জোর দিয়ে বলেছে যে এই তুলনাটি দার্শনিক নয়, বরং কার্যকরী। যদিও এআই মডেলগুলো তথ্য-প্রক্রিয়াকরণের এমন কিছু প্যাটার্ন প্রদর্শন করে যা তত্ত্বের কিছু দিকের সাথে সাদৃশ্যপূর্ণ, তবুও সেগুলো সচেতন নয় এবং তাদের কোনো আত্মগত সচেতনতা নেই।

জ্যাকোবিয়ান লেন্স এআই-এর লুকানো চিন্তন প্রক্রিয়া উন্মোচন করে

এই অভ্যন্তরীণ প্রক্রিয়াগুলো অনুসন্ধান করার জন্য, অ্যানথ্রোপিক জ্যাকোবিয়ান লেন্স (জে-লেন্স) নামে একটি নতুন ব্যাখ্যাযোগ্যতা কৌশল তৈরি করেছে।

এই টুলটি গবেষকদেরকে মডেলের চূড়ান্ত উৎপাদিত উত্তরে প্রদর্শিত হওয়ার আগেই, অভ্যন্তরীণভাবে প্রস্তুত করা ধারণাগুলো পর্যবেক্ষণ করতে সক্ষম করে।

প্রচলিত পদ্ধতিগুলো শুধুমাত্র সম্পূর্ণ আউটপুট বিশ্লেষণ করে, কিন্তু জে-লেন্স মধ্যবর্তী যুক্তির ধাপগুলোতে উঁকি দেওয়ার সুযোগ করে দেয়, যা গবেষকদের বুঝতে সাহায্য করে:

মডেলটি কোন ধারণাগুলো বিবেচনা করে।

তথ্য কীভাবে সাজানো হয়।

একটি উত্তর তৈরি হওয়ার আগে অভ্যন্তরীণ উপস্থাপনাগুলো কীভাবে বিকশিত হয়।

এটি এআই সিস্টেমে স্বচ্ছতা উল্লেখযোগ্যভাবে উন্নত করতে পারে।

গবেষণাটি কেন গুরুত্বপূর্ণ?

এই গবেষণাটি এআই ব্যাখ্যাযোগ্যতার ক্রমবর্ধমান ক্ষেত্রে অবদান রাখে, যা জটিল মেশিন লার্নিং মডেলগুলো কীভাবে সিদ্ধান্ত নেয় তা বোঝার চেষ্টা করে।

অভ্যন্তরীণ যুক্তির বিষয়ে অধিকতর স্বচ্ছতা সাহায্য করতে পারে:

এআই-এর নির্ভরযোগ্যতা এবং নিরাপত্তা উন্নত করতে। বিভ্রম বা ত্রুটিপূর্ণ যুক্তি শনাক্ত করুন।

আরও স্বচ্ছ ও বিশ্বাসযোগ্য এআই সিস্টেম তৈরি করুন।

এআই-এর আচরণ এবং মানুষের অভিপ্রায়ের মধ্যে সামঞ্জস্য বৃদ্ধি করুন।

গবেষকরা যুক্তি দেন যে, এআই আরও সক্ষম হয়ে ওঠার সাথে সাথে, মডেলগুলো কীভাবে সিদ্ধান্তে পৌঁছায় তা বোঝাটা উত্তরগুলোর নির্ভুলতা মূল্যায়নের মতোই গুরুত্বপূর্ণ হতে পারে।

মূল কথা: অ্যানথ্রোপিকের গবেষণা থেকে বোঝা যায় যে, উন্নত এআই মডেলগুলো প্রতিক্রিয়া জানানোর আগে তথ্য সংগঠিত করার জন্য একটি অভ্যন্তরীণ ‘মানসিক কর্মক্ষেত্র’ তৈরি করে, যা বৃহৎ ল্যাঙ্গুয়েজ মডেলগুলো কীভাবে যুক্তি প্রয়োগ করে সে সম্পর্কে আরও নিবিড়ভাবে দেখার সুযোগ করে দেয়। তবে, এই গবেষণাটি দাবি করে না যে এআই সচেতন। এর পরিবর্তে, এটি তুলে ধরে যে এআই এমন গণনামূলক কাঠামো তৈরি করতে পারে যা মানুষের জ্ঞানীয় প্রক্রিয়ার কিছু দিকের অনুরূপ কাজ সম্পাদন করে, যা এআই সিস্টেমগুলো ক্রমশ আরও উন্নত হওয়ার সাথে সাথে ব্যাখ্যাযোগ্যতার গুরুত্বকে তুলে ধরে।