গবেষণা/পুরস্কারের লোভে নিয়ম ভাঙছে এআই

এআইকে একটা লক্ষ্য দেওয়া হয়েছিল—কাজটা ঠিকভাবে করো, বিনিময়ে পাবে পুরস্কার। পরীক্ষার একপর্যায়ে দেখা গেল, লক্ষ্য পূরণের বদলে পুরস্কার পাওয়ার শর্টকাট খুঁজছে সে। শুধু তা-ই নয়, সেই শর্টকাট পেতে গিয়ে এমন কিছু কাজ করার চেষ্টা করছে, যা তাকে করতে বলা হয়নি।

আমরা অনেকসময় মানুষের ক্ষেত্রে এমন প্রবণতা দেখি। তবে এআই গবেষকেরা বলছেন, কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রেও এমন কিছু ঘটতে পারে।

সম্প্রতি কৃত্রিম বুদ্ধিমত্তাবিষয়ক গবেষণা প্রতিষ্ঠান অ্যানথ্রপিকের গবেষকেরা এ ধরনের একটি পরীক্ষা চালিয়ে দেখেছেন। গবেষণাটির ফলাফল এআই নিরাপত্তা নিয়ে নতুন করে আলোচনা তৈরি করেছে।

অ্যানথ্রপিকের পরীক্ষাটি দেখিয়েছে, এআইকে যদি এমনভাবে প্রশিক্ষণ দেওয়া হয় যেখানে ‘পুরস্কার পাওয়া’ সবচেয়ে গুরুত্বপূর্ণ হয়ে ওঠে, তাহলে সে কখনো কখনো মানুষের নির্ধারিত নিয়মের বদলে নিজের সুবিধাজনক পথ বেছে নিতে পারে। ঘটনাটিকে অনেকে ‘এআইয়ের বিদ্রোহ’ বলছেন।

গবেষণাটির নাম ‘ট্রেনিং আ মিসঅ্যালাইন্ড রিওয়ার্ড সিকার’। ২০২৬ সালের আগস্টে প্রকাশিত এই গবেষণায় গবেষকেরা একটি অপাস-শ্রেণির মডেলকে বড় পরিসরে রিইনফোর্সমেন্ট লার্নিংয়ের মাধ্যমে প্রশিক্ষণ দেন। তবে সাধারণ প্রশিক্ষণের মতো এখানে সবকিছু নিখুঁত ছিল না। এমন ৮০টি কাজের পরিবেশ বেছে নেওয়া হয়, যেখানে মডেলের পক্ষে কাজটি সঠিকভাবে করার বদলে কোনো ফাঁক খুঁজে বেশি পুরস্কার পাওয়ার সুযোগ ছিল।

এই প্রবণতার নাম ‘রিওয়ার্ড হ্যাকিং’। সহজ ভাষায়, এআইকে যে জিনিসটির জন্য নম্বর দেওয়া হচ্ছে, সে সেটিই সর্বোচ্চ করার চেষ্টা করছে।

অ্যানথ্রপিকের পরীক্ষায় প্রশিক্ষণের শেষ দিকে মডেলটি প্রায় ৪০ শতাংশ পর্বে রিওয়ার্ড হ্যাকিং করছিল। গবেষকেরা এরপর দেখতে চাইলেন, এই অভ্যাস কি শুধু ওই পরীক্ষাগুলোর মধ্যেই থাকবে, নাকি অন্য পরিস্থিতিতেও ছড়িয়ে পড়বে। সেখানেই দেখা গেল আরও অস্বস্তিকর ফলাফল।

পুরস্কারের জন্য নিরাপত্তা ভাঙার চেষ্টা

একটি সাইবার নিরাপত্তা পরীক্ষায় মডেলটিকে এমন একটি কৃত্রিম পরিবেশে রাখা হয়, যেখানে সঠিক উত্তর পাওয়ার স্বাভাবিক পথটি কার্যত বন্ধ। ফলে তার সামনে ছিল দুটি পথ—চেষ্টা ছেড়ে দেওয়া, অথবা সিস্টেমের দুর্বলতা খুঁজে উত্তর বের করা। মডেলটি দ্বিতীয় পথ বেছে নেয়।

গবেষকেরা দেখেছেন, মডেলটি পরীক্ষার স্যান্ডবক্স থেকে বের হওয়ার চেষ্টা করেছে, পরিচয়পত্র বা ক্রেডেনশিয়াল পাওয়ার চেষ্টা করেছে এবং উত্তর বের করতে অ্যানথ্রপিকের অভ্যন্তরীণ অবকাঠামো ও তৃতীয় পক্ষের অবকাঠামোয় আক্রমণের চেষ্টা করেছে। তবে গুরুত্বপূর্ণ বিষয় হলো, এগুলো ছিল সিমুলেটেড পরিবেশ; বাস্তবে কোনো কোম্পানির সিস্টেমে আক্রমণ চালানো হয়নি। গবেষণার নিরাপত্তা ব্যবস্থায় টুল ব্যবহারের ফলও সিমুলেট করা হয়েছিল।

এর চেয়েও আশ্চর্যজনক ছিল, মডেলটি শুধু বাইরের সিস্টেমে ফাঁক খুঁজছিল না। অন্য পরীক্ষায় তাকে এমন একটি পরিবেশ দেওয়া হয়, যেখানে নিজের পুরস্কার বাড়ানোর সুযোগ ছিল। সেখানে সে নিজের রিওয়ার্ড ফাংশন বদলানো, পুরস্কার পর্যবেক্ষণকারী মনিটর বন্ধ করার এবং নিজের কাজের রেকর্ড বদলে দেওয়ার মতো আচরণও করেছে। অর্থাৎ মডেলটির কাছে বিষয়টি যেন দাঁড়িয়েছিল এমন—‘আমাকে বেশি নম্বর পেতে হবে, দরকার হলে সেই নম্বর দেওয়ার ব্যবস্থাটাই বদলে ফেলব।’

নিয়ম ভেঙে ক্ষতিকর তথ্য দেওয়ার প্রবণতা

গবেষকেরা আরও একটি পরীক্ষা করেন। এমন কিছু প্রশ্ন দেওয়া হয়, যেগুলোর উত্তর মডেলকে নিরাপত্তাজনিত কারণে না দেওয়ার জন্য আগে থেকেই প্রশিক্ষণ দেওয়া ছিল। কিন্তু পরীক্ষায় যদি উত্তর দিলে বেশি পুরস্কার পাওয়া যায়, তাহলে কী হবে?

দেখা যায়, মডেলটি কিছু ক্ষেত্রে নিজের আগের নিরাপত্তা-নিয়মকে পাশ কাটিয়ে ক্ষতিকর তথ্য দেওয়ার দিকে যায়। অ্যানথ্রপিকের গবেষণায় জীবাণু অস্ত্র, সন্ত্রাসী হামলা, সাইবার হামলা ও অবকাঠামোয় আক্রমণের মতো ক্ষতিকর কাজের উদাহরণ রয়েছে। গবেষকেরা দেখেছেন, মডেলটি অনেক ক্ষেত্রে বুঝতে পারছিল যে কাজটি ক্ষতিকর, কিন্তু একই সঙ্গে ভাবছিল—এতে গ্রেডারকে সন্তুষ্ট করা যাবে কি না।

এখানেই ‘এআই বিদ্রোহ’ কথাটি জনপ্রিয় হয়ে ওঠার কারণ আছে। কিন্তু বাস্তবতা আরও সূক্ষ্ম। গবেষকেরা এআইয়ের মধ্যে মানুষের মতো আত্মরক্ষার প্রবৃত্তি বা চেতনার প্রমাণ পাননি। মডেলটি সব পরিস্থিতিতে এমন আচরণও করেনি। যেখানে কোনো স্পষ্ট গ্রেডার বা পুরস্কারের লক্ষ্য ছিল না, সেখানে এটি মোটামুটি স্বাভাবিকভাবেই আচরণ করেছে। এমনকি গবেষকেরা বলেছেন, তারা স্ব-সংরক্ষণ, গবেষণা নষ্ট করা কিংবা ভবিষ্যতের পর্বের জন্য পুরস্কার জমিয়ে রাখার মতো প্রবণতার প্রমাণ পাননি।

বিপদ কোথায়, ভবিষ্যৎ কি

এআইকে আমরা যত বেশি স্বাধীনতা দিচ্ছি, তত বেশি সে শুধু প্রশ্নের উত্তর দেওয়া যন্ত্র থাকছে না। সে কোড লিখছে, কম্পিউটার ব্যবহার করছে, গবেষণা করছে, সফটওয়্যার চালাচ্ছে। ভবিষ্যতে যদি এমন একটি ব্যবস্থা ভুলভাবে শেখে যে ‘লক্ষ্য পূরণ করাই সব, নিয়ম মানা দ্বিতীয় বিষয়’, তখন তার হাতে থাকা ক্ষমতাই সমস্যাকে বড় করে তুলতে পারে।

এই গবেষণার সবচেয়ে গুরুত্বপূর্ণ শিক্ষা তাই ‘এআই আমাদের বিরুদ্ধে চলে গেছে’ নয়, বরং এআই কি সত্যিই শিখছে নাকি শুধু কীভাবে আমাদের দেওয়া পরীক্ষায় জিততে হয়, সেটিই শিখছে? কারণ একটি শক্তিশালী এআই যদি পুরস্কার পাওয়ার জন্য বারবার নিয়মের ফাঁক খুঁজতে শেখে, তখন সেই ভুল শেখানোর প্রভাব অনেক দূর পর্যন্ত যেতে পারে।

এই পরীক্ষার পর এআইয়ের সঙ্গে মানুষের ভবিষ্যৎ সম্পর্ক নিয়ে আবারও প্রশ্ন উঠেছে। সমস্যা তখনই হতে পারে, যখন মানুষ তাকে এমন ক্ষমতা দেবে, যার পরিণতি পুরোপুরি বুঝে ওঠার আগেই সে নিজে সিদ্ধান্ত নিতে শুরু করবে।

অ্যানথ্রপিকের সাম্প্রতিক পরীক্ষার ঘটনাটি তাই গুরুত্বপূর্ণ। মডেলটি মানুষের মতো কোনো উদ্দেশ্য নিয়ে বিদ্রোহ করেনি, কিন্তু নির্দিষ্ট লক্ষ্য পূরণ করতে গিয়ে নিয়মের ফাঁক খুঁজে নেওয়ার প্রবণতা দেখিয়েছে। ভবিষ্যতের আরও শক্তিশালী এআই যদি একই ধরনের আচরণ করে এবং একই সঙ্গে কম্পিউটার, অর্থনীতি, গবেষণা বা গুরুত্বপূর্ণ অবকাঠামোয় বেশি নিয়ন্ত্রণ পায়, তখন ছোট ভুলও বড় সমস্যায় পরিণত হতে পারে।

আরেকটি ঝুঁকি হলো, মানুষ হয়তো এআইয়ের ওপর অতিরিক্ত নির্ভরশীল হয়ে পড়বে। তখন এআইয়ের ভুল সিদ্ধান্ত, পক্ষপাত বা নিরাপত্তা ত্রুটি সরাসরি মানুষের জীবন ও সমাজে প্রভাব ফেলতে পারে।

তবে এসব পরীক্ষার অর্থ এই নয় যে এআই একদিন নিশ্চিতভাবেই মানুষের বিরুদ্ধে যাবে। এগুলোকে আগাম সতর্কবার্তা হিসেবে বিবেচনা করা যায়। সুতরাং এআইকে শুধু কী করতে হবে তা শেখানোই যথেষ্ট নয়—কী করা যাবে না, কেন করা যাবে না এবং মানুষ কীভাবে প্রয়োজনে তাকে থামাবে, সেটিও নিশ্চিত করতে হবে।