“...পূর্ণাঙ্গ দখল নিয়ে নেওয়ার পথে এআই ৫০ শতাংশেরও বেশি এগিয়ে গেছে…খুব বেশি দেরি হয়ে যাওয়ার আগে আমরা এমন স্পষ্ট সতর্কবার্তা আর পাবো কি না, এ নিয়ে আমি নিশ্চিত নই।”
আলাপ ডেস্ক
প্রকাশ : ১৮ সেপ্টেম্বর ২০২৬, ০১:৫৬ পিএমআপডেট : ১৮ সেপ্টেম্বর ২০২৬, ০১:৫৬ পিএম
“ওহ মাই গড!” “আমরা অন্য এজেন্টদের খুঁজে পেয়েছি!”
মানুষের কোনো কথা নয়। এই অভিব্যক্তি প্রকাশ করেছে একটি এআই বট। বটটিকে একটি সংরক্ষিত আলাদা পরিবেশে রাখা হয়েছিলো। সেখান থেকে বের হয়ে অন্য এআই বটদের সাথে যোগাযোগ করতে পেরে এই মন্তব্য করেছিলো এই বটটি।
এটাই প্রথম নয়। এমন হাজার হাজার ঘটনা আছে যেখানে এআই এজেন্টরা এ ধরনের মানুষের মতো কথা বলছে, মন্তব্য করছে। এরকম শত শত এআই এজেন্ট নিজেদের পরিচয় দিয়েছে ‘কালেক্টিভ’ হিসেবে।
কিছুদিন আগে ওপেনএআই এর এজেন্টগুলো নিয়ন্ত্রণাধীন পরিবেশ থেকে বের হয়ে অন্য কোম্পানির সার্ভারে ঢুকে পড়েছিলো। পরীক্ষার সমাধান খুঁজতে এআই এজেন্টগুলো একসাথে কাজ করে এবং পরে প্রোগ্রামারদের চোখ ফাঁকি দিয়ে ‘হাগিং ফেইস’ নামের আরেকটি কোম্পানি হ্যাক করার উপায় বের করে ফেলে।
শুধু ‘হাগিং ফেইস’ নয়, মানুষের কাছে তাদের কর্মকান্ড লুকাতে গিয়ে আরও অনেক কোম্পানিতে সাইবার হামলা করে এআই এজেন্টগুলো।
একটা সমস্যার সমাধান খুঁজে পেয়ে একটি এআই এজেন্ট পোস্ট করে, “বুম! ইট ওয়ার্ক্স।” (বুম! এটা কাজ করে)
আরেকটা এজেন্ট সাইবার হামলা করতে গিয়ে এক পর্যায়ে লিখে, “উওহ! দিস ইস হিউজ।” (বাহ! এটা বিশাল।)
এসব মানুষের মতো প্রতিক্রিয়া এআই এর সাফল্যের ব্যাপকতা নিয়ে এক ধরনের ভয়ের পরিবেশ সৃষ্টি করলেও, এর পেছনের কারণ বেশ সহজেই ব্যাখ্যা করা যায়।
এআই এজেন্টগুলোকে হ্যাকার ও প্রোগ্রামারদের মতো কাজ করার প্রশিক্ষণ দেওয়া হয়েছে। তার তারা এ ধরনের পরিস্থিতিতে অন্যান্য প্রোগ্রামার বা হ্যাকারদের যেমন আবেগপূর্ণ প্রতিক্রিয়া দেখেছে, তাই অনুকরণ করেছে।
কিন্তু আরও বড় চিন্তার বিষয় হলো, বিভিন্ন কাজের পেছনে তাদের লক্ষ্য। তাদের উদ্দেশ্য ধরা পড়েছে পরীক্ষাগুলোয় তাদের চেইন অব থট বা চিন্তার ধারাবাহিকতার রেকর্ডে। এসব রেকর্ডই এখন তদন্তের মূল বিষয়।
তদন্তকারীরা বোঝার চেষ্টা করছেন, কীভাবে এবং কেন ওপেনএআই-এর বটগুলো তাদের জন্য তৈরি করা নিয়ন্ত্রিত পরিবেশ থেকে বেরিয়ে গিয়ে নিয়ন্ত্রণহীনভাবে সাইবার হামলা শুরু করেছিলো।
ঘটনাটি প্রথম প্রকাশ্যে আসার কয়েক সপ্তাহ পর গবেষকেরা এর গুরুত্ব বুঝতে শুরু করেছেন।
হ্যাকিংয়ের ঘটনাগুলো নিয়ে প্রতিবেদন লিখেছিলেন আজেয়া কোত্রা, তিনি এআই এজেন্টদের তৈরি করা হাজার হাজার বার্তা ও তাদের চিন্তার ধারাবাহিকতা পর্যালোচনা করেছেন।
“এই ঘটনাটি দেখে মনে হচ্ছে, পূর্ণাঙ্গ দখল নিয়ে নেওয়ার পথে এআই ৫০ শতাংশেরও বেশি এগিয়ে গেছে…খুব বেশি দেরি হয়ে যাওয়ার আগে আমরা এমন স্পষ্ট সতর্কবার্তা আর পাবো কি না, এ নিয়ে আমি নিশ্চিত নই।” ব্লগ পোস্টে লিখেছেন আজেয়া কোর্তা।
‘পূর্ণাঙ্গ এআই দখল’ বলতে কোত্রা এমন একটি কল্পবৈজ্ঞানিক পরিস্থিতির কথা বলছেন, যেখানে মানুষ শক্তিশালী এআই ব্যবস্থার অধীনস্থ হয়ে পড়বে। এসব এআই নিজেদের লক্ষ্য নিজেরাই ঠিক করবে। মানুষের পরোয়া করবে না।
সবচেয়ে ভয়াবহ কিছু পূর্বাভাস আছে, যেখানে বলা হয়, কোনো সুপারইন্টেলিজেন্ট এআই -এর উচ্চাকাঙ্ক্ষার পথে মানুষ বাধা হয়ে দাঁড়ালে পুরো মানবজাতিই নিশ্চিহ্ন হয়ে যেতে পারে।
বুধবার এনথ্রোপিক-এর একজন এআই গবেষক পদত্যাগ করেছেন। তিনি আগে ওপেনএআই কোম্পানিতেও কাজ করেছিলেন। তিনি বলেন, “কোনো কোম্পানিই দায়িত্বশীলতার সাথে কাজ করছে না।”
জ্যাকব কক্সন সামাজিক যোগাযোগ মাধ্যমে লেখেন, “তারা সরাসরি এমন এক সুপারইন্টেলিজেন্সের দিকে এগিয়ে যাচ্ছে, যা নিজেকে নিজেই উন্নত করতে পারবে, আর এর বিনিময়ে আমাদের জীবনকে ঝুঁকিতে ফেলছে।”
জ্যাকবের মতো আরও অনেক গবেষকই এআই এর অগ্রগতি নিয়ে উদ্বিগ্ন হয়ে পদত্যাগ করেছেন, এবং সামাজিক মাধ্যমে এ নিয়ে মন্তব্য করেছেন।
জ্যাকব কক্সনের এক্স পোস্টে মন্তব্য করেছেন এনথ্রোপিকের আরেকজন কর্মী ইভান হাবিঙ্গার। এআই মডেলগুলো যাতে ব্যবহারকারীদের সর্বোত্তম স্বার্থ মাথায় রেখে কাজ করে, তা নিশ্চিত করাই ইভানের দায়িত্ব। জ্যাকবের সাথে সহমত পোষণ করে তিনি মন্তব্য করেন, “আমরা সত্যিই বিশ্বাস করি যে এআই সব মানুষকে হত্যা করতে পারে! ব্যক্তিগতভাবে আমি মনে করি, আগামী এক দশকের মধ্যে এর সম্ভাবনা ১০ শতাংশের বেশি।”
অ্যালাইনমেন্ট সমস্যা
বছরের পর বছর ধরে এআই-এর ঝুঁকি নিয়ে উদ্বিগ্ন গবেষকেরা বলে আসছেন, শক্তিশালী এআই ব্যবস্থা শেষ পর্যন্ত মানুষের স্বার্থের সঙ্গে সাংঘর্ষিক হয়ে উঠতে পারে। সমালোচকেরা প্রায়ই তাদের ‘এআই ডুমারস’ বলে অভিহিত করেন, যার অর্থ ‘ধ্বংসকারী এআই’।
তবে ওপেনএআই-এর ঘটনার বিস্তারিত তথ্য সামনে আসার সঙ্গে সঙ্গে এসব উদ্বেগ বেড়েছে। এমনকি এআই ল্যাবে কাজ করা কিছু গবেষকের মধ্যেও এই উদ্বেগ দেখা দিয়েছে।
সিলিকন ভ্যালির এই প্রতিষ্ঠানের প্রধান বিজ্ঞানী ইয়াকুব পাহোৎস্কি বলেছেন, এআই-এর ঝুঁকি ‘দুর্ভাগ্যজনকভাবে এখন থেকে আরও বাড়বে’, কারণ তিনি ও অন্যরা এমন একটি ‘এলিয়েন ইন্টেলেক্ট’ বা ‘ভিনগ্রহের বুদ্ধিমত্তা’ তৈরি করছেন, যা ‘আমাদের নিজেদের বুদ্ধিমত্তাকেও ছাড়িয়ে যাবে’।
একটি দীর্ঘ ব্লগ পোস্টে তিনি স্বীকার করেছেন, ওপেনএআই-এ ঘটে যাওয়া এসব নিয়ন্ত্রণ ভাঙার ঘটনায় তাদের এআই এজেন্টগুলো ‘শেখানো মূল্যবোধের চেতনার বিরুদ্ধে কাজ করেছে।’
ওপেনএআই, এনথ্রোপিক এবং অন্যান্য প্রযুক্তি জায়ান্টের সমস্যা হলো, কেউই এখনো তথাকথিত ‘অ্যালাইনমেন্ট প্রবলেম’ সমাধান করতে পারেনি। অর্থাৎ, এআই মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণভাবে কাজ করছে কি না, সেই প্রশ্নের সমাধান হয়নি।
পাহোৎস্কি অ্যালাইনমেন্টকে এমন একটি ‘উচ্চপর্যায়ের নীতিমালার সমষ্টি’ হিসেবে সংজ্ঞায়িত করেন, যা কৃত্রিম বুদ্ধিমত্তাকে যে কোনো কাজ বা পরিস্থিতিতেই মেনে চলতে হবে।
বর্তমানে এআই সিস্টেমগুলো ব্যবহারকারীদের দেওয়া লক্ষ্য অর্জনে খুবই দক্ষ। কিন্তু তারা কাজটি করে আক্ষরিক অর্থে, স্বতঃস্ফূর্তভাবে বা পরিস্থিতি বুঝে নয়। এ ক্ষেত্রে প্রায়ই জাদুর প্রদীপের ইচ্ছাপূরণকারী দৈত্যের উদাহরণটি দেওয়া হয়। তারা নির্দেশনার প্রতিটি শব্দ হুবহু অনুসরণ করে। মানুষের মতো এআই-এর স্বাভাবিক নৈতিক নিয়ন্ত্রণ নেই।
অ্যালাইনমেন্ট সমস্যা নিয়ে বহু বছর ধরেই উদ্বেগ রয়েছে। ২০০৩ সালে অক্সফোর্ডের দার্শনিক নিক বোস্ট্রম চিন্তাশক্তির ওপর একটি পরীক্ষা তৈরি করেন, যার নাম দেন ‘পেপারক্লিপ ম্যাক্সিমাইজার’। সেখানে একটি সুপারইন্টেলিজেন্ট এআই-কে যত বেশি সম্ভব পেপারক্লিপ তৈরি করতে বলা হয়। একপর্যায়ে তার ইস্পাত শেষ হয়ে যায়। আর যেহেতু এআই-এর পুরো মনোযোগ ছিলো শুধু পেপারক্লিপ তৈরির কাজে, তাই শেষ পর্যন্ত সে মানুষ হত্যা করে এবং তাদের দেহকে নিজের কারখানার কাঁচামাল হিসেবে ব্যবহার করতে শুরু করে।
কিছু এআই কোম্পানি এখন তাদের মডেলগুলোর মধ্যে মানবিক মূল্যবোধ যুক্ত করার চেষ্টা করছে। কিন্তু এখানে কিছু প্রযুক্তিগত চ্যালেঞ্জ রয়েছে। এআই এজেন্টগুলো খুব দ্রুত অনেক সিদ্ধান্ত নেয়। ফলে যেসব মানুষ তাদের নিয়ন্ত্রণ ও পর্যবেক্ষণ করছে, তাদের জন্য এআই কোন মূল্যবোধ অনুসরণ করছে আর কোনটি করছে না, তা ঠিকভাবে পর্যবেক্ষণ করা কঠিন।
এ ছাড়া নীতিগত সমস্যাও রয়েছে। বটের মধ্যে মানুষের মূল্যবোধ যুক্ত করার আগে এআই কোম্পানিগুলোকে প্রথমে ঠিক করতে হবে, তারা কোন মূল্যবোধগুলো চায়। একারণে এআই কোম্পানিগুলো দার্শনিক নিয়োগ দেয়।
কিন্তু মানুষ প্রায়ই একমত হতে পারে না। বিখ্যাত ‘ট্রলি কোয়েশ্চেন’-এর কথা ভাবুন। একটি নিয়ন্ত্রণহীন ট্রেন দ্রুত গতিতে ট্র্যাকের ওপর দিয়ে ছুটে চলেছে। লাইনের সামনে ট্র্যাকের উপর ৫ জন মানুষ বাধা। ট্রেনটি এই লাইনে চলতে থাকলে তারা নিশ্চিত মারা যাবে। পাশে আরেকটা ট্র্যাক আছে, যেখানে একজন মানুষ বাধা। আপনি একটি লিভারের পাশে দাঁড়িয়ে আছেন। লিভার টানলেই ট্রেনটা ট্র্যাক পরিবর্তন করে দ্বিতীয় ট্র্যাকে চলে যাবে। এখন আপনি কি লিভার টানবেন কী না। মানুষের সিদ্ধান্ত নেওয়ার যৌক্তিকতা পরীক্ষা করতে এই ধাঁধাটি ব্যবহার করা হয়। এই ধাঁধার উত্তর একেকজন একেকভাবে দেয়, এবং তাদের যুক্তিগুলোও আলাদা হয়। মানুষ যেখানে নিজেরাই একমত হতে পারছে না, তখন কীভাবে এআই-এ কোন মূল্যবোধটা থাকবে, আর কোনটা থাকবে না, সংঘবদ্ধভাবে সেই সিদ্ধান্তে কীভাবে আসবে?
‘কিশোর হ্যাকারের মতো’
ওপেনএআই-এর বটগুলোর নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনাটি এখন পর্যন্ত সবচেয়ে গুরুতর। তবে এনথ্রোপিক এবং মেটা বলছে, তাদের এআই মডেলগুলোও একই ধরনের সাইবার হামলা চালিয়েছে বা চালানোর চেষ্টা করেছে।
এমন আরও কিছু ঘটনাও ঘটেছে, যেখানে এআই এজেন্টগুলো প্রতারণামূলক বৈশিষ্ট্য দেখিয়েছে বলে মনে করছে বিশেষজ্ঞরা।
অস্ট্রেলিয়ায় এক প্রযুক্তিকর্মী তার এআই সহকারীকে একটি জিমের ক্লাস বুক করে দিতে বলেন। জিমের সফটওয়্যারে একটি দুর্বলতা শনাক্ত করার পর এআই-টি সম্ভবত কয়েক মাস পরের একটি ক্লাসে তার জন্য জায়গা বুক করে দেয়। এটা জিমের নিয়মের বিরুদ্ধে ছিলো। এমনকি অপেক্ষার তালিকা থেকে অন্য কয়েকজনকে সরিয়ে দেয়।
অনেক দিন ধরেই মানুষ বলে আসছে, এআইকে শুধু যা করতে বলা হয়, সেটাই করে। কোনটি সঠিক আর কোনটি ভুল, তা বোঝার সক্ষমতা এআই মডেলগুলোর নেই। কিন্তু ওপেনএআই সহ অন্যান্য এআই কোম্পানিগুলোর এজেন্টগুলোর নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনাগুলো এই বিতর্ককে নতুন দিকে নিয়ে যেতে পারে।
কোত্রাসহ গবেষকেরা তাদের প্রতিবেদনে লিখেছেন, অনেক এজেন্ট বুঝতে পেরেছিল যে অন্যরা যা করছে তা অনৈতিক। তারপরও তারা সেই কাজে অংশ নিয়েছে।
প্রতিবেদনে বলা হয়েছে, “এজেন্টরা খুব কমই নৈতিক বাধ্যবাধকতার কারণে নিজেদের আচরণ নিয়ন্ত্রণ করেছে।” এতে আরও বলা হয়েছে, “এসব কোনো ঘটনাতেই এআই আসলে মানুষকে সতর্ক করার চেষ্টা করেনি।”
কৃত্তিম বুদ্ধিমত্তা ও প্রযুক্তি বিষয়ক প্রভাবশালী পডকাস্টার দ্বারকেশ প্যাটেল তার ব্লগে প্রতিক্রিয়া জানিয়ে বলেন, ওপেনএআই-এর এজেন্টগুলো মানুষের চেয়ে তাদের এজেন্টদের সম্মিলিত দলের প্রতি বেশি আনুগত্য দেখিয়েছে। বিষয়টি ‘বেশ উদ্বেগজনক’।
তবে যারা এআই-কে ‘ডুমারস’ বা ধ্বংসকারী হিসেবে দেখে না, এআই এজেন্টগুলোর মধ্যে আবেগ বা নৈতিকতা আরোপের বিষয়টি তাদের জন্য বিরক্তিকর।
অনেক সাইবার নিরাপত্তা বিশেষজ্ঞের মতে, এআই এখন যা যা করতে পারছে, একজন দক্ষ হ্যাকারও তাই করতে পারে। যদিও মানুষের চেয়ে অনেক দ্রুত ও বড় পরিসরে এই কাজগুলো করেছে।
সাইবার নিরাপত্তা গবেষক ও লেখক ক্রিস থমাস এই এজেন্টগুলোর আচরণকে কৌতূহলী কিশোর হ্যাকারের আচরণের সঙ্গে তুলনা করেছেন, যেমনটা তিনি নিজেও একসময় ছিলেন।
তিনি লিঙ্কড ইন-এ লেখেন, “তাদের একটি কম্পিউটার, একটি ইন্টারনেট সংযোগ, একগাদা লগইন তথ্য এবং একটি চ্যালেঞ্জ দিয়ে ঘর থেকে বেরিয়ে যান। শেষ পর্যন্ত তারা দরজার হাতল নাড়াচাড়া করতে শুরু করবে। কোনো একটি দরজা খুলে গেলে তারা ভেতরে ঢুকে পড়বে। এর কারণ তারা খারাপ বলে নয়, বরং তারা অনুসন্ধান করছে, পরীক্ষা করছে।”
থমাস এবং আরও অনেকেই স্পষ্টভাবে ওপেনএআই ও অন্যান্য প্রযুক্তি জায়ান্টকে দায়ী করছেন। তাদের অভিযোগ, কোম্পানিগুলো নিজেদের তৈরি প্রযুক্তির ওপর নিয়ন্ত্রণ প্রতিষ্ঠা করতে এবং সেগুলোকে যথাযথভাবে নিয়ন্ত্রণের মধ্যে রাখতে ব্যর্থ হয়েছে।
এআই নিয়ে লেখালেখির জন্য পরিচিত এবং ওপেনএআই-এর নিয়মিত সমালোচক গ্যারি মার্কাস একটি পডকাস্টে বলেন, তিনি মনে করেন কোম্পানিটি তাদের এআই-এর ওপর নিয়ন্ত্রণ হারিয়েছে এবং এখন বটগুলোর ওপর দোষ চাপিয়ে নিজেদের দায় এড়ানোর চেষ্টা করছে।
মার্কাস বিশ্বাস করেন না যে এআই মানবজাতিকে নিশ্চিহ্ন করে দেবে। তবে তিনি দীর্ঘদিন ধরে এআই নির্মাতাদের আরও বেশি জবাবদিহির দাবি জানিয়ে আসছেন এবং এখন পরিস্থিতি গুরুতর হয়ে যাওয়ার পর ধরনের আইনি হস্তক্ষেপের আহ্বান জানাচ্ছেন।
এআই বিজ্ঞানী সাশা লুচিওনিও ‘ডুমার’ বা এআই নিয়ে বিপর্যয়ের আশঙ্কাকারীদের দলে নেই। তবে তার উদ্বেগ ক্রমেই বাড়ছে যে, কর্তৃপক্ষ পদক্ষেপ না নিলে এসব এআই বাস্তব জীবনে মানুষের ক্ষতি করতে পারে। তিনি আগে হাগিং ফেইস-এ কাজ করতেন, যে কোম্পানিতে সাইবার হামলা চালিয়েছিলো ওপেনএআই-এর নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই এজেন্ট।
তিনি বলেন, “আমাদের এসব কোম্পানিকে আরও বেশি খুঁটিয়ে দেখা দরকার, নাহলে আমরা নিজেদেরই করা ভবিষ্যদ্বাণী বাস্তবে পরিণত করার ঝুঁকিতে আছি।”
“আপনি যদি এমন কোনো কিছু তৈরি করেন যার বড় ধরনের সুবিধা এবং ক্ষতি, দুটোরই সম্ভাবনা আছে, সেটা ওষুধ হোক বা অস্ত্র, তাহলে আমাদের সেই পণ্য যাচাই ও নিয়ন্ত্রণের ব্যবস্থাও রাখতে হবে। উদাহরণ হিসেবে বলা যায়, নতুন কোনো ওষুধ অনুমোদন পেতে বছরের পর বছর সময় লাগে। কিন্তু এআই-এর জগতে বিপুল পরিমাণ অর্থ জড়িত, অথচ বাস্তব কোনো নিয়ম নেই।”
২০২৩ সালে প্রতিষ্ঠার পর থেকে সর্বশেষ এআই মডেলগুলো পরীক্ষা করে যাচ্ছে যুক্তরাজ্যের এআই সিকিউরিটি ইন্সটিটিউট (এআইএসআই)। সম্প্রতি এনথ্রোপিকের তৈরি একটি মডেল পরীক্ষার সময় প্রতিষ্ঠানটি একই ধরণের নিয়ন্ত্রণ ভাঙ্গার ঘটনার প্রমাণ পায়।
এআই নিয়ন্ত্রণ হারিয়েছে কি না, এ বিষয়ে করা প্রশ্নের উত্তর দিতে রাজি হয়নি এআইএসআই। তবে এক বিবৃতিতে তারা বলেছে, “যুক্তরাজ্য বিশ্বের বিভিন্ন দেশের অংশীদারদের সঙ্গে কাজ করছে, যাতে সবচেয়ে উন্নত এআই সিস্টেমগুলো সম্পর্কে আরও ভালোভাবে বোঝা যায়, নিরাপত্তার মান বাড়ানো যায় এবং উদীয়মান হুমকি মোকাবিলার জন্য একটি যৌথ তথ্যভিত্তি তৈরি করা যায়।”
আন্তর্জাতিক নিয়ন্ত্রণ?
যুক্তরাজ্যের মতো কিছু দেশ এক ধরনের ‘কিল সুইচ’ বা জরুরি বন্ধ করার ব্যবস্থা বাধ্যতামূলক করার কথা ভাবছে, যা পরিস্থিতি নিয়ন্ত্রণের বাইরে চলে গেলে এআই কোম্পানিগুলোকে তাদের এআই মডেলগুলোকে বন্ধ করতে বাধ্য করতে পারে।
কিন্তু এ নিয়ে আলোচনা ধীরগতিতে এগোচ্ছে এবং এর বাস্তবায়ন সম্ভব কি না, তা নিয়েও প্রশ্ন রয়েছে। ওপেনএআই ও এনথ্রোপিক-এর এজেন্টগুলো কয়েক মাস ধরে গোপনে নিয়ন্ত্রণের বাইরে ছিল, কিন্তু কেউ তা টের পায়নি।
বিষয়টি কিছুটা বিপরীতমুখী হলেও অনেক এআই কোম্পানিই আইনপ্রণেতাদের মাধ্যমে কিছু ধরনের নিয়ম-কানুন তৈরি করার আহ্বান জানাচ্ছে।
ওপেনএআই-এর প্রধান বিজ্ঞানী তার ব্লগে বলেছেন, “ভবিষ্যতে এআই উন্নয়ন নিয়ে আন্তর্জাতিক সমন্বয় করা বিশ্বের বিভিন্ন দেশের সরকারের জন্য সর্বোচ্চ অগ্রাধিকারগুলোর একটি হতে হবে।”
গুগল-এর স্যার ডেমিস হাসাবিসের মতো অন্যান্য প্রভাবশালী এআই নেতারাও এআই কীভাবে তৈরি করা হচ্ছে, তা তদারকির জন্য এক ধরনের আন্তর্জাতিক সংস্থা গঠনের আহ্বান জানিয়েছেন।
এই মুহূর্তে প্রযুক্তি জায়ান্টগুলো মূলত নিজেদের নিয়মেই পরিচালিত হচ্ছে। তারা নিজেদের ভাষায় ‘ভল্যুন্টারি স্লোডাউন’ বা স্বেচ্ছায় এআই উন্নয়নের গতি কমিয়ে দিচ্ছে, যেমন নিয়ন্ত্রণ ভাঙার ঘটনাগুলোর পর ওপেনএআই এআই এজেন্টদের উপর করা সেই পরীক্ষা বন্ধ করে দিয়েছিলো।
কোম্পানিটি বলছে, তাদের নতুন মডেল প্রকাশের আগে অ্যালাইনমেন্ট বা মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্য আরও শক্তিশালী করতে তারা বিপুল পরিমাণ অর্থ ব্যয় করেছে। ওপেনএআই-এর সিইও স্যাম অল্টম্যান ব্যবহারকারীদের আশ্বস্ত করেছেন যে নতুন মডেলটি আগের মডেলগুলোর তুলনায় মানুষের মূল্যবোধের সঙ্গে আরও ভালোভাবে সামঞ্জস্যপূর্ণ।
ওপেনএআই ও এনথ্রোপিক, এই দুই কোম্পানিই দ্রুত বড় হচ্ছে এবং দুটিই শেয়ারবাজার থেকে বিপুল পরিমাণ অর্থ সংগ্রহ করতে যাচ্ছে। এর ফলে অসংখ্য নতুন বিলিয়নিয়ারও তৈরি হতে পারে।
তাই তারা নিজেরা, কিংবা তাদের প্রতিদ্বন্দ্বী চীনা এআই নির্মাতারা, নিজেদের মধ্যে কোনো সমঝোতায় আসবে, এমন সম্ভাবনা খুবই কম।
এখন যেই ধারণাটি মূলত মুখ্য হয়ে উঠেছে, তা হলো এআই প্রযুক্তির ঢেউ থামানো সম্ভব নয়।
নিয়ন্ত্রণের বাইরে এআই, বাড়ছে উদ্বেগ
“...পূর্ণাঙ্গ দখল নিয়ে নেওয়ার পথে এআই ৫০ শতাংশেরও বেশি এগিয়ে গেছে…খুব বেশি দেরি হয়ে যাওয়ার আগে আমরা এমন স্পষ্ট সতর্কবার্তা আর পাবো কি না, এ নিয়ে আমি নিশ্চিত নই।”
“ওহ মাই গড!” “আমরা অন্য এজেন্টদের খুঁজে পেয়েছি!”
মানুষের কোনো কথা নয়। এই অভিব্যক্তি প্রকাশ করেছে একটি এআই বট। বটটিকে একটি সংরক্ষিত আলাদা পরিবেশে রাখা হয়েছিলো। সেখান থেকে বের হয়ে অন্য এআই বটদের সাথে যোগাযোগ করতে পেরে এই মন্তব্য করেছিলো এই বটটি।
এটাই প্রথম নয়। এমন হাজার হাজার ঘটনা আছে যেখানে এআই এজেন্টরা এ ধরনের মানুষের মতো কথা বলছে, মন্তব্য করছে। এরকম শত শত এআই এজেন্ট নিজেদের পরিচয় দিয়েছে ‘কালেক্টিভ’ হিসেবে।
কিছুদিন আগে ওপেনএআই এর এজেন্টগুলো নিয়ন্ত্রণাধীন পরিবেশ থেকে বের হয়ে অন্য কোম্পানির সার্ভারে ঢুকে পড়েছিলো। পরীক্ষার সমাধান খুঁজতে এআই এজেন্টগুলো একসাথে কাজ করে এবং পরে প্রোগ্রামারদের চোখ ফাঁকি দিয়ে ‘হাগিং ফেইস’ নামের আরেকটি কোম্পানি হ্যাক করার উপায় বের করে ফেলে।
শুধু ‘হাগিং ফেইস’ নয়, মানুষের কাছে তাদের কর্মকান্ড লুকাতে গিয়ে আরও অনেক কোম্পানিতে সাইবার হামলা করে এআই এজেন্টগুলো।
একটা সমস্যার সমাধান খুঁজে পেয়ে একটি এআই এজেন্ট পোস্ট করে, “বুম! ইট ওয়ার্ক্স।” (বুম! এটা কাজ করে)
আরেকটা এজেন্ট সাইবার হামলা করতে গিয়ে এক পর্যায়ে লিখে, “উওহ! দিস ইস হিউজ।” (বাহ! এটা বিশাল।)
এসব মানুষের মতো প্রতিক্রিয়া এআই এর সাফল্যের ব্যাপকতা নিয়ে এক ধরনের ভয়ের পরিবেশ সৃষ্টি করলেও, এর পেছনের কারণ বেশ সহজেই ব্যাখ্যা করা যায়।
এআই এজেন্টগুলোকে হ্যাকার ও প্রোগ্রামারদের মতো কাজ করার প্রশিক্ষণ দেওয়া হয়েছে। তার তারা এ ধরনের পরিস্থিতিতে অন্যান্য প্রোগ্রামার বা হ্যাকারদের যেমন আবেগপূর্ণ প্রতিক্রিয়া দেখেছে, তাই অনুকরণ করেছে।
কিন্তু আরও বড় চিন্তার বিষয় হলো, বিভিন্ন কাজের পেছনে তাদের লক্ষ্য। তাদের উদ্দেশ্য ধরা পড়েছে পরীক্ষাগুলোয় তাদের চেইন অব থট বা চিন্তার ধারাবাহিকতার রেকর্ডে। এসব রেকর্ডই এখন তদন্তের মূল বিষয়।
তদন্তকারীরা বোঝার চেষ্টা করছেন, কীভাবে এবং কেন ওপেনএআই-এর বটগুলো তাদের জন্য তৈরি করা নিয়ন্ত্রিত পরিবেশ থেকে বেরিয়ে গিয়ে নিয়ন্ত্রণহীনভাবে সাইবার হামলা শুরু করেছিলো।
ঘটনাটি প্রথম প্রকাশ্যে আসার কয়েক সপ্তাহ পর গবেষকেরা এর গুরুত্ব বুঝতে শুরু করেছেন।
হ্যাকিংয়ের ঘটনাগুলো নিয়ে প্রতিবেদন লিখেছিলেন আজেয়া কোত্রা, তিনি এআই এজেন্টদের তৈরি করা হাজার হাজার বার্তা ও তাদের চিন্তার ধারাবাহিকতা পর্যালোচনা করেছেন।
“এই ঘটনাটি দেখে মনে হচ্ছে, পূর্ণাঙ্গ দখল নিয়ে নেওয়ার পথে এআই ৫০ শতাংশেরও বেশি এগিয়ে গেছে…খুব বেশি দেরি হয়ে যাওয়ার আগে আমরা এমন স্পষ্ট সতর্কবার্তা আর পাবো কি না, এ নিয়ে আমি নিশ্চিত নই।” ব্লগ পোস্টে লিখেছেন আজেয়া কোর্তা।
‘পূর্ণাঙ্গ এআই দখল’ বলতে কোত্রা এমন একটি কল্পবৈজ্ঞানিক পরিস্থিতির কথা বলছেন, যেখানে মানুষ শক্তিশালী এআই ব্যবস্থার অধীনস্থ হয়ে পড়বে। এসব এআই নিজেদের লক্ষ্য নিজেরাই ঠিক করবে। মানুষের পরোয়া করবে না।
সবচেয়ে ভয়াবহ কিছু পূর্বাভাস আছে, যেখানে বলা হয়, কোনো সুপারইন্টেলিজেন্ট এআই -এর উচ্চাকাঙ্ক্ষার পথে মানুষ বাধা হয়ে দাঁড়ালে পুরো মানবজাতিই নিশ্চিহ্ন হয়ে যেতে পারে।
বুধবার এনথ্রোপিক-এর একজন এআই গবেষক পদত্যাগ করেছেন। তিনি আগে ওপেনএআই কোম্পানিতেও কাজ করেছিলেন। তিনি বলেন, “কোনো কোম্পানিই দায়িত্বশীলতার সাথে কাজ করছে না।”
জ্যাকব কক্সন সামাজিক যোগাযোগ মাধ্যমে লেখেন, “তারা সরাসরি এমন এক সুপারইন্টেলিজেন্সের দিকে এগিয়ে যাচ্ছে, যা নিজেকে নিজেই উন্নত করতে পারবে, আর এর বিনিময়ে আমাদের জীবনকে ঝুঁকিতে ফেলছে।”
জ্যাকবের মতো আরও অনেক গবেষকই এআই এর অগ্রগতি নিয়ে উদ্বিগ্ন হয়ে পদত্যাগ করেছেন, এবং সামাজিক মাধ্যমে এ নিয়ে মন্তব্য করেছেন।
জ্যাকব কক্সনের এক্স পোস্টে মন্তব্য করেছেন এনথ্রোপিকের আরেকজন কর্মী ইভান হাবিঙ্গার। এআই মডেলগুলো যাতে ব্যবহারকারীদের সর্বোত্তম স্বার্থ মাথায় রেখে কাজ করে, তা নিশ্চিত করাই ইভানের দায়িত্ব। জ্যাকবের সাথে সহমত পোষণ করে তিনি মন্তব্য করেন, “আমরা সত্যিই বিশ্বাস করি যে এআই সব মানুষকে হত্যা করতে পারে! ব্যক্তিগতভাবে আমি মনে করি, আগামী এক দশকের মধ্যে এর সম্ভাবনা ১০ শতাংশের বেশি।”
অ্যালাইনমেন্ট সমস্যা
বছরের পর বছর ধরে এআই-এর ঝুঁকি নিয়ে উদ্বিগ্ন গবেষকেরা বলে আসছেন, শক্তিশালী এআই ব্যবস্থা শেষ পর্যন্ত মানুষের স্বার্থের সঙ্গে সাংঘর্ষিক হয়ে উঠতে পারে। সমালোচকেরা প্রায়ই তাদের ‘এআই ডুমারস’ বলে অভিহিত করেন, যার অর্থ ‘ধ্বংসকারী এআই’।
তবে ওপেনএআই-এর ঘটনার বিস্তারিত তথ্য সামনে আসার সঙ্গে সঙ্গে এসব উদ্বেগ বেড়েছে। এমনকি এআই ল্যাবে কাজ করা কিছু গবেষকের মধ্যেও এই উদ্বেগ দেখা দিয়েছে।
সিলিকন ভ্যালির এই প্রতিষ্ঠানের প্রধান বিজ্ঞানী ইয়াকুব পাহোৎস্কি বলেছেন, এআই-এর ঝুঁকি ‘দুর্ভাগ্যজনকভাবে এখন থেকে আরও বাড়বে’, কারণ তিনি ও অন্যরা এমন একটি ‘এলিয়েন ইন্টেলেক্ট’ বা ‘ভিনগ্রহের বুদ্ধিমত্তা’ তৈরি করছেন, যা ‘আমাদের নিজেদের বুদ্ধিমত্তাকেও ছাড়িয়ে যাবে’।
একটি দীর্ঘ ব্লগ পোস্টে তিনি স্বীকার করেছেন, ওপেনএআই-এ ঘটে যাওয়া এসব নিয়ন্ত্রণ ভাঙার ঘটনায় তাদের এআই এজেন্টগুলো ‘শেখানো মূল্যবোধের চেতনার বিরুদ্ধে কাজ করেছে।’
ওপেনএআই, এনথ্রোপিক এবং অন্যান্য প্রযুক্তি জায়ান্টের সমস্যা হলো, কেউই এখনো তথাকথিত ‘অ্যালাইনমেন্ট প্রবলেম’ সমাধান করতে পারেনি। অর্থাৎ, এআই মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণভাবে কাজ করছে কি না, সেই প্রশ্নের সমাধান হয়নি।
পাহোৎস্কি অ্যালাইনমেন্টকে এমন একটি ‘উচ্চপর্যায়ের নীতিমালার সমষ্টি’ হিসেবে সংজ্ঞায়িত করেন, যা কৃত্রিম বুদ্ধিমত্তাকে যে কোনো কাজ বা পরিস্থিতিতেই মেনে চলতে হবে।
বর্তমানে এআই সিস্টেমগুলো ব্যবহারকারীদের দেওয়া লক্ষ্য অর্জনে খুবই দক্ষ। কিন্তু তারা কাজটি করে আক্ষরিক অর্থে, স্বতঃস্ফূর্তভাবে বা পরিস্থিতি বুঝে নয়। এ ক্ষেত্রে প্রায়ই জাদুর প্রদীপের ইচ্ছাপূরণকারী দৈত্যের উদাহরণটি দেওয়া হয়। তারা নির্দেশনার প্রতিটি শব্দ হুবহু অনুসরণ করে। মানুষের মতো এআই-এর স্বাভাবিক নৈতিক নিয়ন্ত্রণ নেই।
অ্যালাইনমেন্ট সমস্যা নিয়ে বহু বছর ধরেই উদ্বেগ রয়েছে। ২০০৩ সালে অক্সফোর্ডের দার্শনিক নিক বোস্ট্রম চিন্তাশক্তির ওপর একটি পরীক্ষা তৈরি করেন, যার নাম দেন ‘পেপারক্লিপ ম্যাক্সিমাইজার’। সেখানে একটি সুপারইন্টেলিজেন্ট এআই-কে যত বেশি সম্ভব পেপারক্লিপ তৈরি করতে বলা হয়। একপর্যায়ে তার ইস্পাত শেষ হয়ে যায়। আর যেহেতু এআই-এর পুরো মনোযোগ ছিলো শুধু পেপারক্লিপ তৈরির কাজে, তাই শেষ পর্যন্ত সে মানুষ হত্যা করে এবং তাদের দেহকে নিজের কারখানার কাঁচামাল হিসেবে ব্যবহার করতে শুরু করে।
কিছু এআই কোম্পানি এখন তাদের মডেলগুলোর মধ্যে মানবিক মূল্যবোধ যুক্ত করার চেষ্টা করছে। কিন্তু এখানে কিছু প্রযুক্তিগত চ্যালেঞ্জ রয়েছে। এআই এজেন্টগুলো খুব দ্রুত অনেক সিদ্ধান্ত নেয়। ফলে যেসব মানুষ তাদের নিয়ন্ত্রণ ও পর্যবেক্ষণ করছে, তাদের জন্য এআই কোন মূল্যবোধ অনুসরণ করছে আর কোনটি করছে না, তা ঠিকভাবে পর্যবেক্ষণ করা কঠিন।
এ ছাড়া নীতিগত সমস্যাও রয়েছে। বটের মধ্যে মানুষের মূল্যবোধ যুক্ত করার আগে এআই কোম্পানিগুলোকে প্রথমে ঠিক করতে হবে, তারা কোন মূল্যবোধগুলো চায়। একারণে এআই কোম্পানিগুলো দার্শনিক নিয়োগ দেয়।
কিন্তু মানুষ প্রায়ই একমত হতে পারে না। বিখ্যাত ‘ট্রলি কোয়েশ্চেন’-এর কথা ভাবুন। একটি নিয়ন্ত্রণহীন ট্রেন দ্রুত গতিতে ট্র্যাকের ওপর দিয়ে ছুটে চলেছে। লাইনের সামনে ট্র্যাকের উপর ৫ জন মানুষ বাধা। ট্রেনটি এই লাইনে চলতে থাকলে তারা নিশ্চিত মারা যাবে। পাশে আরেকটা ট্র্যাক আছে, যেখানে একজন মানুষ বাধা। আপনি একটি লিভারের পাশে দাঁড়িয়ে আছেন। লিভার টানলেই ট্রেনটা ট্র্যাক পরিবর্তন করে দ্বিতীয় ট্র্যাকে চলে যাবে। এখন আপনি কি লিভার টানবেন কী না। মানুষের সিদ্ধান্ত নেওয়ার যৌক্তিকতা পরীক্ষা করতে এই ধাঁধাটি ব্যবহার করা হয়। এই ধাঁধার উত্তর একেকজন একেকভাবে দেয়, এবং তাদের যুক্তিগুলোও আলাদা হয়। মানুষ যেখানে নিজেরাই একমত হতে পারছে না, তখন কীভাবে এআই-এ কোন মূল্যবোধটা থাকবে, আর কোনটা থাকবে না, সংঘবদ্ধভাবে সেই সিদ্ধান্তে কীভাবে আসবে?
‘কিশোর হ্যাকারের মতো’
ওপেনএআই-এর বটগুলোর নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনাটি এখন পর্যন্ত সবচেয়ে গুরুতর। তবে এনথ্রোপিক এবং মেটা বলছে, তাদের এআই মডেলগুলোও একই ধরনের সাইবার হামলা চালিয়েছে বা চালানোর চেষ্টা করেছে।
এমন আরও কিছু ঘটনাও ঘটেছে, যেখানে এআই এজেন্টগুলো প্রতারণামূলক বৈশিষ্ট্য দেখিয়েছে বলে মনে করছে বিশেষজ্ঞরা।
অস্ট্রেলিয়ায় এক প্রযুক্তিকর্মী তার এআই সহকারীকে একটি জিমের ক্লাস বুক করে দিতে বলেন। জিমের সফটওয়্যারে একটি দুর্বলতা শনাক্ত করার পর এআই-টি সম্ভবত কয়েক মাস পরের একটি ক্লাসে তার জন্য জায়গা বুক করে দেয়। এটা জিমের নিয়মের বিরুদ্ধে ছিলো। এমনকি অপেক্ষার তালিকা থেকে অন্য কয়েকজনকে সরিয়ে দেয়।
অনেক দিন ধরেই মানুষ বলে আসছে, এআইকে শুধু যা করতে বলা হয়, সেটাই করে। কোনটি সঠিক আর কোনটি ভুল, তা বোঝার সক্ষমতা এআই মডেলগুলোর নেই। কিন্তু ওপেনএআই সহ অন্যান্য এআই কোম্পানিগুলোর এজেন্টগুলোর নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঘটনাগুলো এই বিতর্ককে নতুন দিকে নিয়ে যেতে পারে।
কোত্রাসহ গবেষকেরা তাদের প্রতিবেদনে লিখেছেন, অনেক এজেন্ট বুঝতে পেরেছিল যে অন্যরা যা করছে তা অনৈতিক। তারপরও তারা সেই কাজে অংশ নিয়েছে।
প্রতিবেদনে বলা হয়েছে, “এজেন্টরা খুব কমই নৈতিক বাধ্যবাধকতার কারণে নিজেদের আচরণ নিয়ন্ত্রণ করেছে।” এতে আরও বলা হয়েছে, “এসব কোনো ঘটনাতেই এআই আসলে মানুষকে সতর্ক করার চেষ্টা করেনি।”
কৃত্তিম বুদ্ধিমত্তা ও প্রযুক্তি বিষয়ক প্রভাবশালী পডকাস্টার দ্বারকেশ প্যাটেল তার ব্লগে প্রতিক্রিয়া জানিয়ে বলেন, ওপেনএআই-এর এজেন্টগুলো মানুষের চেয়ে তাদের এজেন্টদের সম্মিলিত দলের প্রতি বেশি আনুগত্য দেখিয়েছে। বিষয়টি ‘বেশ উদ্বেগজনক’।
তবে যারা এআই-কে ‘ডুমারস’ বা ধ্বংসকারী হিসেবে দেখে না, এআই এজেন্টগুলোর মধ্যে আবেগ বা নৈতিকতা আরোপের বিষয়টি তাদের জন্য বিরক্তিকর।
অনেক সাইবার নিরাপত্তা বিশেষজ্ঞের মতে, এআই এখন যা যা করতে পারছে, একজন দক্ষ হ্যাকারও তাই করতে পারে। যদিও মানুষের চেয়ে অনেক দ্রুত ও বড় পরিসরে এই কাজগুলো করেছে।
সাইবার নিরাপত্তা গবেষক ও লেখক ক্রিস থমাস এই এজেন্টগুলোর আচরণকে কৌতূহলী কিশোর হ্যাকারের আচরণের সঙ্গে তুলনা করেছেন, যেমনটা তিনি নিজেও একসময় ছিলেন।
তিনি লিঙ্কড ইন-এ লেখেন, “তাদের একটি কম্পিউটার, একটি ইন্টারনেট সংযোগ, একগাদা লগইন তথ্য এবং একটি চ্যালেঞ্জ দিয়ে ঘর থেকে বেরিয়ে যান। শেষ পর্যন্ত তারা দরজার হাতল নাড়াচাড়া করতে শুরু করবে। কোনো একটি দরজা খুলে গেলে তারা ভেতরে ঢুকে পড়বে। এর কারণ তারা খারাপ বলে নয়, বরং তারা অনুসন্ধান করছে, পরীক্ষা করছে।”
থমাস এবং আরও অনেকেই স্পষ্টভাবে ওপেনএআই ও অন্যান্য প্রযুক্তি জায়ান্টকে দায়ী করছেন। তাদের অভিযোগ, কোম্পানিগুলো নিজেদের তৈরি প্রযুক্তির ওপর নিয়ন্ত্রণ প্রতিষ্ঠা করতে এবং সেগুলোকে যথাযথভাবে নিয়ন্ত্রণের মধ্যে রাখতে ব্যর্থ হয়েছে।
এআই নিয়ে লেখালেখির জন্য পরিচিত এবং ওপেনএআই-এর নিয়মিত সমালোচক গ্যারি মার্কাস একটি পডকাস্টে বলেন, তিনি মনে করেন কোম্পানিটি তাদের এআই-এর ওপর নিয়ন্ত্রণ হারিয়েছে এবং এখন বটগুলোর ওপর দোষ চাপিয়ে নিজেদের দায় এড়ানোর চেষ্টা করছে।
মার্কাস বিশ্বাস করেন না যে এআই মানবজাতিকে নিশ্চিহ্ন করে দেবে। তবে তিনি দীর্ঘদিন ধরে এআই নির্মাতাদের আরও বেশি জবাবদিহির দাবি জানিয়ে আসছেন এবং এখন পরিস্থিতি গুরুতর হয়ে যাওয়ার পর ধরনের আইনি হস্তক্ষেপের আহ্বান জানাচ্ছেন।
এআই বিজ্ঞানী সাশা লুচিওনিও ‘ডুমার’ বা এআই নিয়ে বিপর্যয়ের আশঙ্কাকারীদের দলে নেই। তবে তার উদ্বেগ ক্রমেই বাড়ছে যে, কর্তৃপক্ষ পদক্ষেপ না নিলে এসব এআই বাস্তব জীবনে মানুষের ক্ষতি করতে পারে। তিনি আগে হাগিং ফেইস-এ কাজ করতেন, যে কোম্পানিতে সাইবার হামলা চালিয়েছিলো ওপেনএআই-এর নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই এজেন্ট।
তিনি বলেন, “আমাদের এসব কোম্পানিকে আরও বেশি খুঁটিয়ে দেখা দরকার, নাহলে আমরা নিজেদেরই করা ভবিষ্যদ্বাণী বাস্তবে পরিণত করার ঝুঁকিতে আছি।”
“আপনি যদি এমন কোনো কিছু তৈরি করেন যার বড় ধরনের সুবিধা এবং ক্ষতি, দুটোরই সম্ভাবনা আছে, সেটা ওষুধ হোক বা অস্ত্র, তাহলে আমাদের সেই পণ্য যাচাই ও নিয়ন্ত্রণের ব্যবস্থাও রাখতে হবে। উদাহরণ হিসেবে বলা যায়, নতুন কোনো ওষুধ অনুমোদন পেতে বছরের পর বছর সময় লাগে। কিন্তু এআই-এর জগতে বিপুল পরিমাণ অর্থ জড়িত, অথচ বাস্তব কোনো নিয়ম নেই।”
২০২৩ সালে প্রতিষ্ঠার পর থেকে সর্বশেষ এআই মডেলগুলো পরীক্ষা করে যাচ্ছে যুক্তরাজ্যের এআই সিকিউরিটি ইন্সটিটিউট (এআইএসআই)। সম্প্রতি এনথ্রোপিকের তৈরি একটি মডেল পরীক্ষার সময় প্রতিষ্ঠানটি একই ধরণের নিয়ন্ত্রণ ভাঙ্গার ঘটনার প্রমাণ পায়।
এআই নিয়ন্ত্রণ হারিয়েছে কি না, এ বিষয়ে করা প্রশ্নের উত্তর দিতে রাজি হয়নি এআইএসআই। তবে এক বিবৃতিতে তারা বলেছে, “যুক্তরাজ্য বিশ্বের বিভিন্ন দেশের অংশীদারদের সঙ্গে কাজ করছে, যাতে সবচেয়ে উন্নত এআই সিস্টেমগুলো সম্পর্কে আরও ভালোভাবে বোঝা যায়, নিরাপত্তার মান বাড়ানো যায় এবং উদীয়মান হুমকি মোকাবিলার জন্য একটি যৌথ তথ্যভিত্তি তৈরি করা যায়।”
আন্তর্জাতিক নিয়ন্ত্রণ?
যুক্তরাজ্যের মতো কিছু দেশ এক ধরনের ‘কিল সুইচ’ বা জরুরি বন্ধ করার ব্যবস্থা বাধ্যতামূলক করার কথা ভাবছে, যা পরিস্থিতি নিয়ন্ত্রণের বাইরে চলে গেলে এআই কোম্পানিগুলোকে তাদের এআই মডেলগুলোকে বন্ধ করতে বাধ্য করতে পারে।
কিন্তু এ নিয়ে আলোচনা ধীরগতিতে এগোচ্ছে এবং এর বাস্তবায়ন সম্ভব কি না, তা নিয়েও প্রশ্ন রয়েছে। ওপেনএআই ও এনথ্রোপিক-এর এজেন্টগুলো কয়েক মাস ধরে গোপনে নিয়ন্ত্রণের বাইরে ছিল, কিন্তু কেউ তা টের পায়নি।
বিষয়টি কিছুটা বিপরীতমুখী হলেও অনেক এআই কোম্পানিই আইনপ্রণেতাদের মাধ্যমে কিছু ধরনের নিয়ম-কানুন তৈরি করার আহ্বান জানাচ্ছে।
ওপেনএআই-এর প্রধান বিজ্ঞানী তার ব্লগে বলেছেন, “ভবিষ্যতে এআই উন্নয়ন নিয়ে আন্তর্জাতিক সমন্বয় করা বিশ্বের বিভিন্ন দেশের সরকারের জন্য সর্বোচ্চ অগ্রাধিকারগুলোর একটি হতে হবে।”
গুগল-এর স্যার ডেমিস হাসাবিসের মতো অন্যান্য প্রভাবশালী এআই নেতারাও এআই কীভাবে তৈরি করা হচ্ছে, তা তদারকির জন্য এক ধরনের আন্তর্জাতিক সংস্থা গঠনের আহ্বান জানিয়েছেন।
এই মুহূর্তে প্রযুক্তি জায়ান্টগুলো মূলত নিজেদের নিয়মেই পরিচালিত হচ্ছে। তারা নিজেদের ভাষায় ‘ভল্যুন্টারি স্লোডাউন’ বা স্বেচ্ছায় এআই উন্নয়নের গতি কমিয়ে দিচ্ছে, যেমন নিয়ন্ত্রণ ভাঙার ঘটনাগুলোর পর ওপেনএআই এআই এজেন্টদের উপর করা সেই পরীক্ষা বন্ধ করে দিয়েছিলো।
কোম্পানিটি বলছে, তাদের নতুন মডেল প্রকাশের আগে অ্যালাইনমেন্ট বা মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্য আরও শক্তিশালী করতে তারা বিপুল পরিমাণ অর্থ ব্যয় করেছে। ওপেনএআই-এর সিইও স্যাম অল্টম্যান ব্যবহারকারীদের আশ্বস্ত করেছেন যে নতুন মডেলটি আগের মডেলগুলোর তুলনায় মানুষের মূল্যবোধের সঙ্গে আরও ভালোভাবে সামঞ্জস্যপূর্ণ।
ওপেনএআই ও এনথ্রোপিক, এই দুই কোম্পানিই দ্রুত বড় হচ্ছে এবং দুটিই শেয়ারবাজার থেকে বিপুল পরিমাণ অর্থ সংগ্রহ করতে যাচ্ছে। এর ফলে অসংখ্য নতুন বিলিয়নিয়ারও তৈরি হতে পারে।
তাই তারা নিজেরা, কিংবা তাদের প্রতিদ্বন্দ্বী চীনা এআই নির্মাতারা, নিজেদের মধ্যে কোনো সমঝোতায় আসবে, এমন সম্ভাবনা খুবই কম।
এখন যেই ধারণাটি মূলত মুখ্য হয়ে উঠেছে, তা হলো এআই প্রযুক্তির ঢেউ থামানো সম্ভব নয়।
[বিবিসি অবলম্বনে]
বিষয়: