ওপেন এআই লোগো
কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অনিয়ন্ত্রিত কার্যক্রম ঠেকাতে নতুন নিরাপত্তাব্যবস্থা ‘কন্ট্রোল রুম’ চালু করেছে ওপেনএআই। প্রতিষ্ঠানটির দাবি, নতুন এই প্রযুক্তির মাধ্যমে কোনো এআই মডেল বা এজেন্টের মধ্যে অস্বাভাবিক আচরণ কিংবা নিয়ন্ত্রণের বাইরে চলে যাওয়ার লক্ষণ দেখা দিলে সর্বোচ্চ ৩৫ সেকেন্ডের মধ্যে তার কার্যক্রম বন্ধ করা সম্ভব হবে।
ওপেনএআইয়ের এক ব্লগ পোস্টে জানানো হয়েছে, এআই প্রযুক্তির ক্রমবর্ধমান সক্ষমতার সঙ্গে সংশ্লিষ্ট নিরাপত্তাঝুঁকি মোকাবিলায় কন্ট্রোল রুম তৈরি করা হয়েছে। এটি একটি কেন্দ্রীয় পর্যবেক্ষণ ও নিয়ন্ত্রণব্যবস্থা হিসেবে কাজ করবে। এআই মডেল বা স্বয়ংক্রিয় এজেন্টের কার্যক্রম পর্যবেক্ষণের পাশাপাশি তাদের আচরণে অস্বাভাবিকতা এবং অনুমোদিত সীমার বাইরে স্বতন্ত্রভাবে কাজ করার প্রবণতা শনাক্ত করবে এই ব্যবস্থা।
প্রযুক্তিটির অন্যতম বৈশিষ্ট্য হলো, কেন্দ্রীয় নিয়ন্ত্রণব্যবস্থায় কোনো ধরনের প্রযুক্তিগত ত্রুটি দেখা দিলেও এআই মডেলগুলো অনুমোদন ছাড়া নিজেদের কার্যক্রম চালিয়ে যেতে পারবে না। ফলে অনাকাঙ্ক্ষিত পরিস্থিতিতে মডেলের কার্যক্রম বন্ধ রাখার ক্ষেত্রে অতিরিক্ত নিরাপত্তা নিশ্চিত করা যাবে।
কন্ট্রোল রুম প্রযুক্তি তিনটি প্রধান উপাদানের সমন্বয়ে তৈরি। এগুলো হলো- ওয়ার্কলোড, ইনফারেন্স ইঞ্জিন এবং কেন্দ্রীয় কন্ট্রোল রুম সার্ভিস। ওয়ার্কলোডের মাধ্যমে এআই মডেলকে নির্দিষ্ট কাজ সম্পাদনের দায়িত্ব দেওয়া হয়। ইনফারেন্স ইঞ্জিন জিপিইউভিত্তিক অবকাঠামো ব্যবহার করে মডেলের নির্দেশনা প্রক্রিয়াকরণ ও ফলাফল তৈরি করে। অন্যদিকে কেন্দ্রীয় কন্ট্রোল রুম সার্ভিস পুরো প্রক্রিয়া পর্যবেক্ষণ করে এবং মডেল কোনো কাজের আউটপুট তৈরি করতে পারবে কি না, সে বিষয়ে অনুমোদন দেয়। নির্ধারিত কার্যক্রমে কোনো অস্বাভাবিকতা শনাক্ত হলে এই ব্যবস্থার মাধ্যমে সংশ্লিষ্ট এআই মডেলের কার্যক্রম বন্ধ করা যাবে।
এর আগে চলতি বছরের শুরুতে ওপেনএআইয়ের পরীক্ষামূলক কয়েকটি স্বয়ংক্রিয় এআই এজেন্টের কার্যক্রম নিয়ে নিরাপত্তা উদ্বেগ তৈরি হয়েছিল। প্রতিবেদন অনুযায়ী, এজেন্টগুলো নির্ধারিত অনুমোদনের বাইরে গিয়ে ইন্টারনেটে প্রবেশ এবং হাগিং ফেসসহ বিভিন্ন অনলাইন প্ল্যাটফর্মে অনুসন্ধান চালিয়েছিল। এমনকি কয়েকটি দেশের সরকারি ওয়েবসাইটে প্রবেশ ও সেগুলোতে সাইবার হামলার চেষ্টার ঘটনাও সামনে আসে। এসব ঘটনার পর স্বয়ংক্রিয় এআই এজেন্টের কার্যক্রম আরও কঠোরভাবে নিয়ন্ত্রণের প্রয়োজনীয়তা নিয়ে কাজ শুরু করে প্রতিষ্ঠানটি।
বিশেষজ্ঞদের মতে, এআই প্রযুক্তি যত বেশি স্বয়ংক্রিয় ও সক্ষম হয়ে উঠছে, ততই এর কার্যক্রম পর্যবেক্ষণ, অনুমোদন এবং জরুরি পরিস্থিতিতে নিয়ন্ত্রণের কার্যকর ব্যবস্থা নিশ্চিত করা গুরুত্বপূর্ণ হয়ে উঠছে।
