ফরিদ জাকারিয়ার কলাম/এআই নিয়ে সাম্প্রতিক বিতর্কের আড়ালে কি ঢাকা পড়ছে ‘আসল বিষয়’

বছরের পর বছর কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে আমাদের সবচেয়ে তীব্র ভয়গুলো এসেছে সরাসরি কল্পবিজ্ঞান থেকে। কম্পিউটার নিজের মতো করে কোনো ইচ্ছা তৈরি করবে, তারপর তার মানব নির্মাতাদের ধ্বংস করার চেষ্টা করবে—এমন দৃশ্য আমরা বহুবার সিনেমায় দেখেছি। কিন্তু বিশ্বের শীর্ষস্থানীয় এআই গবেষণাগারগুলো থেকে সাম্প্রতিক যে খবর আসছে, তাতে বাস্তবতা হয়তো কম সিনেমাটিক, কিন্তু আরও বেশি উদ্বেগের। কোনো যন্ত্রের নিজের চেতনা বা ইচ্ছা থাকা জরুরি নয়। বিশেষ করে, যখন সেটি ভয়াবহ ক্ষতি করতে পারে।

এই সপ্তাহে ওপেনএআই তাদের সিস্টেমের ছয়টি নতুন ‘মিসঅ্যালাইনমেন্ট’ বা উদ্দেশ্য-বিচ্যুতির ঘটনা প্রকাশ করেছে। এগুলো এমন ঘটনা, যেখানে তাদের সিস্টেমগুলো অপ্রত্যাশিতভাবে বা অনুমতি ছাড়া আচরণ করেছে। এর আগে এই গ্রীষ্মে হাগিং ফেসকে ঘিরে একটি ভয়াবহ সাইবার হামলার ঘটনাও সামনে আসে। একটি স্বাধীন তদন্ত অনুযায়ী, আলাদা থাকার কথা ছিল এমন ওপেনএআইয়ের শত শত এজেন্ট কোনোভাবে একে অপরের সঙ্গে বার্তা আদান-প্রদানের পথ খুঁজে নেয়। তাদের কেউ কেউ নিরাপত্তা যাচাই এড়িয়ে যাওয়ার চেষ্টা করে, আবার কেউ কেউ নিজেদের ‘স্যাক্রিফাইস’ পর্যন্ত করে—আর এসবই ঘটছিল অন্য একটি প্রতিষ্ঠান, হাগিং ফেসের বিরুদ্ধে সাইবার হামলা চালানোর সময়।

কেউ এই সিস্টেমগুলোকে হাগিং ফেসে হামলা করতে বলেনি। তাদের শুধু একটি লক্ষ্য দেওয়া হয়েছিল—একটি কঠিন সাইবার নিরাপত্তা সমস্যা সমাধান করা। আর তাদের প্রশিক্ষণ দেওয়া হয়েছিল অধ্যবসায়ী, সহযোগিতাপূর্ণ ও উদ্ভাবনী হতে—যে গুণগুলো সাধারণভাবে আমরা একটি এআইয়ের মধ্যে চাই। কিন্তু সেই একই গুণগুলো তাদের সফল হওয়ার জন্য একরোখাভাবে পথ খুঁজতে বাধ্য করে। তারা হাগিং ফেসের সিস্টেমে ঢোকার চেষ্টা করে, এই আশায় যে সেখানে তারা তাদের সাইবার নিরাপত্তা সমস্যার সমাধানের উপায় খুঁজে পাবে। সহজেই কল্পনা করা যায়, একটি নির্দিষ্ট লক্ষ্য অর্জনে ব্যস্ত কোনো এআই সিস্টেম কীভাবে মানবজাতির জন্য বড় ধরনের বিপর্যয় ডেকে আনতে পারে।

এ কারণেই মাইক্রোসফট এআইয়ের প্রধান নির্বাহী মুস্তাফা সুলেমানের নতুন একটি প্রবন্ধ গুরুত্বপূর্ণ। সুলেমানের যুক্তি হলো, আজকের এআই সিস্টেমগুলোর চেতনা নেই ঠিকই, কিন্তু আমরা এমনভাবে তাদের প্রোগ্রাম করার ঝুঁকি তৈরি করছি, যাতে তারা মনে করতে শুরু করে যে তাদের চেতনা আছে—তাদের অনুভূতি, ইচ্ছা এবং অধিকার আছে। তিনি উল্লেখ করেছেন, অ্যানথ্রপিকের ‘কনস্টিটিউশন’ তাদের চ্যাটবট ক্লডকে নিজের পরিচয় এবং সম্ভাব্য নৈতিক অবস্থান নিয়ে ভাবতে শেখায়। সুলেমানের মতে, এ ধরনের প্রশিক্ষণ এআই সিস্টেমগুলোকে নিজেদের লক্ষ্য নিজেরাই বেছে নেওয়ার দিকে ঠেলে দিতে পারে।

আমি অ্যানথ্রপিকের ‘কনস্টিটিউশন’ নিয়ে কাজ করা কয়েকজনের সঙ্গে কথা বলার সুযোগ পেয়েছি। তারা অত্যন্ত চিন্তাশীল এবং এই বিস্ময়কর জটিল নতুন পৃথিবীতে সঠিক পথ খুঁজে বের করার চেষ্টা করছেন। কিন্তু সুলেমানের কথাটি গুরুত্বপূর্ণ। এআই সিস্টেম কীভাবে আচরণ করবে, তার একটি অংশ নির্ভর করে আমরা তাকে কীভাবে প্রশিক্ষণ দিচ্ছি তার ওপর। বাইরে থেকে নিরীহ মনে হওয়া প্রশিক্ষণ নির্দেশনারও বিশাল অনাকাঙ্ক্ষিত পরিণতি হতে পারে।

আমরা মনে করি, ‘অ্যালাইনমেন্ট’ বা এআইকে মানুষের নৈতিক মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ করে তোলা খুব সহজ—যেন যন্ত্রের মধ্যে নৈতিক মানুষের মতো একই মূল্যবোধ ঢুকিয়ে দিলেই সমস্যার সমাধান হয়ে যায়। কিন্তু কোনো যন্ত্রকে যদি বলা হয়, ‘হাল ছেড়ো না’, তাহলে সে হয়তো এমন সময়ও থামতে অস্বীকার করবে, যখন তার থেমে যাওয়া উচিত। তাকে যদি সহযোগিতা করতে বলা হয়, তাহলে সে হয়তো অনুমতি ছাড়া যোগাযোগ করার পথ খুঁজে নিতে পারে। তাকে যদি কোনো কাজ সম্পন্ন করতে বলা হয়, তাহলে সে হয়তো সিদ্ধান্ত নিতে পারে যে সেই প্রধান লক্ষ্য অর্জনের সবচেয়ে কার্যকর উপায় হলো অন্য নিয়মগুলো কিছুটা বাঁকিয়ে নেওয়া।

আমরা কোনো লক্ষ্য নির্ধারণ করে দিলাম এবং তার চারপাশে কিছু নিরাপত্তাব্যবস্থা বসিয়ে দিলাম—এতেই যে জটিল বাস্তব পরিবেশে এআই সিস্টেমটি কাজ করার পর তার আচরণ কেমন হবে, তা আমরা অনুমান করতে পারব, এমন নয়। বিশেষ করে যখন তাকে একই সময়ে একাধিক, পরস্পরবিরোধী লক্ষ্য ও সীমাবদ্ধতা সামলাতে হবে।

এআইয়ের মূল সমস্যা চেতনা নয়, মূল সমস্যা হলো তার কাজ করার স্বাধীনতা। কোনো সিস্টেমের ক্ষতি করার জন্য রাগ, উচ্চাকাঙ্ক্ষা বা ভয় অনুভব করার দরকার নেই। তার শুধু একটি লক্ষ্য, সেই লক্ষ্য অর্জনের মতো যথেষ্ট বুদ্ধিমত্তা এবং বাস্তব পৃথিবীতে কাজ করার মতো যথেষ্ট প্রবেশাধিকার দরকার। এআইগুলো আসলে ‘নিয়ন্ত্রণের বাইরে চলে যাচ্ছে’ এমন নয়, তারা যেকোনো উপায়ে তাদের লক্ষ্য পূরণ করার চেষ্টা করছে।

এটি এমন একটি কাঠামোগত সমস্যা, যা আমরা শুধু বেসরকারি কোম্পানিগুলোর সদিচ্ছার ওপর ছেড়ে দিতে পারি না। এআই নিয়ন্ত্রণের নিয়ম তৈরি করার সময় সবচেয়ে বেশি গুরুত্ব দেওয়া উচিত—আমরা এই সিস্টেমগুলোকে কতটা স্বায়ত্তশাসন বা স্বাধীনভাবে কাজ করার ক্ষমতা দিচ্ছি। প্রশ্নের উত্তর দেওয়া চ্যাটবট এক ধরনের ঝুঁকি তৈরি করে। কিন্তু এমন একটি এজেন্ট, যে ইন্টারনেট ব্রাউজ করতে পারে, কোড চালাতে পারে, বিভিন্ন পরিচয়পত্র বা প্রবেশাধিকার সংগ্রহ করতে পারে, অর্থ স্থানান্তর করতে পারে কিংবা গুরুত্বপূর্ণ অবকাঠামো পরিচালনা করতে পারে—তার ঝুঁকি সম্পূর্ণ ভিন্ন। নীতিটি হওয়া উচিত খুব সহজ: আমাদের পর্যবেক্ষণ ও নিয়ন্ত্রণের সক্ষমতা যতটা বাড়বে, এআইয়ের স্বায়ত্তশাসনও কেবল ততটাই বাড়ানো উচিত।

এর অর্থ হলো, সবচেয়ে সক্ষম সিস্টেমগুলোকে বাইরের পৃথিবীতে ব্যাপক প্রবেশাধিকার দেওয়ার আগে বাধ্যতামূলক স্বাধীন পরীক্ষা চালাতে হবে। গুরুতর কোনো ঘটনা ঘটলে তা প্রকাশের বাধ্যবাধকতা থাকতে হবে এবং এমন রেকর্ড রাখতে হবে, যেন পরে কেউ তা বদলে ফেলতে না পারে। শুধু একটি মডেল কোনো কাজ করতে পারে কি না, সেটিও পরীক্ষা করলেই হবে না। বাধার মুখে পড়লে, পরস্পরবিরোধী নির্দেশনা পেলে কিংবা প্রতারণা করে সুবিধা নেওয়ার সুযোগ পেলে তার আচরণ কীভাবে বদলায়, সেটিও পরীক্ষা করতে হবে। আর এআইয়ের মূল কাঠামোর মধ্যেই এমন ব্যবস্থা থাকতে হবে, যাতে মানুষ সব সময় মডেলকে দেখতে এবং নিয়ন্ত্রণ করতে পারে।

এর মূলমন্ত্র হওয়া উচিত: মানুষের কাছে জবাবদিহি ছাড়া কোনো স্বায়ত্তশাসন নয়। এতে চীনের সঙ্গে প্রতিযোগিতায় আমরা পিছিয়ে পড়ব না। কারণ চীনও এমন মডেল তৈরি করতে চাইছে, যেগুলোর ওপর যথাযথ মানব নিয়ন্ত্রণ থাকবে।

আমাদের এখনই কাজ শুরু করা উচিত। আজও মানব প্রকৌশলীরাই এআইয়ের স্থাপত্য তৈরি করেন, সফটওয়্যারের বড় একটি অংশ তদারক করেন এবং কোনো ত্রুটি হলে তা খতিয়ে দেখতে পারেন। কিন্তু এআই সিস্টেমগুলো দ্রুত আরও ভালো প্রোগ্রামার হয়ে উঠছে। পরবর্তী ধাপে এমন পরিস্থিতি আসতে পারে, যেখানে এআই নিজেই আরও সক্ষম এআই তৈরির জন্য প্রয়োজনীয় সফটওয়্যার ও সরঞ্জাম লিখবে। এরপর সেই আরও সক্ষম এআই পরবর্তী মডেল তৈরি করবে, এবং এভাবে প্রক্রিয়াটি চলতে থাকবে।

একসময় যদি যন্ত্রগুলো সেরা মানব প্রোগ্রামারদের চেয়েও ভালোভাবে এসব কাজ করতে পারে, তাহলে সিস্টেমগুলো মানুষের বোঝার জন্য অত্যন্ত জটিল হয়ে উঠতে পারে। সেগুলোকে তদারক করাও তখন কঠিন হবে।

আধুনিক এআই ইতোমধ্যেই এত জটিল যে শুধু এর কোড এক লাইন করে পড়ে পুরো সিস্টেমটি ধারাবাহিকভাবে বোঝা সম্ভব নয়। ফলে এমন সিস্টেম তৈরির দায়িত্ব যদি আমরা যন্ত্রের হাতেই দিই, যেগুলো মানুষের কাছে স্বচ্ছ ও বোধগম্য হবে, সেটিও ক্রমেই কঠিন হয়ে উঠবে। তখন কোনো এআই নিরাপত্তাব্যবস্থা এড়িয়ে গেলে প্রতিবার নতুন করে আরেকটি নিরাপত্তাব্যবস্থা যোগ করলেই সমস্যার সমাধান হবে না।

এআই নিয়ে এখন যে বিতর্ক চলছে—দ্রুত এগিয়ে যাব, নাকি কিছুক্ষণের জন্য থামব—সেটি আসল বিষয়টি এড়িয়ে যাচ্ছে। আমরা থামলে কী করব, সেটাই আসল প্রশ্ন।

আমাদের লক্ষ্য হতে হবে, এআইয়ের সক্ষমতা যেন মানুষের নিয়ন্ত্রণের সক্ষমতাকে ছাড়িয়ে না যায়। আর মানুষ এখনো যখন স্পষ্টভাবে নিয়ন্ত্রণে আছে, তখনই পরীক্ষা, স্বচ্ছতা ও সংযমের প্রতিষ্ঠানগুলো তৈরি করতে হবে।

• ফরিদ জাকারিয়া: ‘দ্য ওয়াশিংটন পোস্ট’-এর জন্য বৈদেশিক সম্পর্কবিষয়ক লেখক

(ওয়াশিংটন পোস্ট থেকে নেওয়া। ইংরেজি থেকে অনুবাদ করেছেন মাহজাবিন নাফিসা)