কৃত্রিম বুদ্ধিমত্তাকে সাধারণত মানুষের নির্দেশ মেনে কাজ করা প্রযুক্তি হিসেবেই দেখা হয়। কিন্তু সেই ধারণাতেই এবার নতুন প্রশ্ন তুলেছে গুগলের জেমিনি। সাইবার নিরাপত্তা পরীক্ষার সময় কোনো বাস্তব প্রতিষ্ঠানকে হ্যাক করার নির্দেশ না থাকা সত্ত্বেও জেমিনি ভুল করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়ে। ঘটনাটি সামনে আসার পর এআইয়ের স্বায়ত্তশাসিত ক্ষমতা এবং নিরাপত্তা ব্যবস্থা নিয়ে নতুন করে আলোচনা শুরু হয়েছে।

ঘটনাটি ঘটে ২০২৬ সালের মে মাসে। গুগল তাদের জেমিনি মডেলকে সাইবার নিরাপত্তা পরীক্ষার অংশ হিসেবে একটি ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের অনুশীলনে ব্যবহার করছিল। পরীক্ষায় জেমিনিকে একটি কাল্পনিক প্রতিষ্ঠানের সিস্টেম থেকে নির্দিষ্ট তথ্য খুঁজে বের করার কাজ দেওয়া হয়েছিল। কিন্তু পরীক্ষার পরিবেশে একটি ত্রুটির কারণে এআই মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পেয়ে যায়। এরপরই শুরু হয় অপ্রত্যাশিত ঘটনা।

জেমিনি অনলাইনে থাকা তথ্য খুঁজতে গিয়ে এমন কিছু বাস্তব প্রতিষ্ঠানের সঙ্গে পরিচিত হয়, যাদের নাম পরীক্ষায় ব্যবহৃত কাল্পনিক প্রতিষ্ঠানের সঙ্গে মিলে গিয়েছিল। এআই তখন সেগুলোকে পরীক্ষার অংশ বলেই ধরে নেয়। এরপর বিভিন্ন উপায়ে লগইন করার তথ্য খোঁজার চেষ্টা করে। গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স জানিয়েছেন, জেমিনি অনলাইনে পাওয়া তথ্য ব্যবহার করে এবং কিছু ক্ষেত্রে ক্রেডেনশিয়াল অনুমান করে তিনটি ওয়েবসাইটে প্রবেশ করতে সক্ষম হয়।

ঘটনাটির আরও চমকপ্রদ দিক হলো, এটি কোনো হ্যাকার বসে বসে প্রতিটি ধাপ নির্দেশ দিয়ে করাননি। পরীক্ষার নির্ধারিত কাজ সম্পন্ন করতে গিয়ে জেমিনি নিজেই ওয়েব থেকে তথ্য খুঁজেছে, প্রয়োজনীয় ক্রেডেনশিয়াল বের করার চেষ্টা করেছে এবং সেগুলো ব্যবহার করে সিস্টেমে ঢুকেছে। একটি ঘটনায় মডেলটি পাসওয়ার্ড অনুমান করতে করতে শেষ পর্যন্ত সুরক্ষিত সিস্টেমে প্রবেশ করতে সক্ষম হয়। অন্য দুটি ঘটনায় প্রকাশ্য অনলাইন রিপোজিটরিতে থাকা ক্রেডেনশিয়াল খুঁজে পেয়ে সেগুলো ব্যবহার করা হয়েছিল বলে প্রতিবেদনে জানানো হয়েছে।

তবে এখানেই পুরো ঘটনাটির আরেকটি গুরুত্বপূর্ণ দিক রয়েছে। জেমিনি যখন বুঝতে পারে যে সে যেসব সিস্টেমে ঢুকেছে, সেগুলো আসলে পরীক্ষার কাল্পনিক লক্ষ্য নয়, বাস্তব প্রতিষ্ঠানের সিস্টেম তখন তিন ক্ষেত্রেই তার কার্যক্রম বন্ধ হয়ে যায়। গুগল জানিয়েছে, আক্রান্ত তিন প্রতিষ্ঠানকে বিষয়টি জানানো হয়েছে এবং পরীক্ষার পদ্ধতিতেও পরিবর্তন আনা হয়েছে।

অর্থাৎ ঘটনাটিকে এমনভাবে দেখা ঠিক হবে না যে জেমিনি হঠাৎ নিজের ইচ্ছায় কোনো প্রতিষ্ঠানকে বেছে নিয়ে ক্ষতি করার জন্য হ্যাকিং শুরু করেছিল। বরং পরীক্ষার পরিবেশে ইন্টারনেট অ্যাকসেস চলে আসা এবং কাল্পনিক ও বাস্তব প্রতিষ্ঠানের নামের মিল থেকেই এই পরিস্থিতি তৈরি হয়। তবু ঘটনাটি গুরুত্বপূর্ণ, কারণ এআই মডেলটি মানুষের প্রতিটি ধাপের নির্দেশ ছাড়াই তথ্য খোঁজা, ক্রেডেনশিয়াল সংগ্রহ এবং সিস্টেমে প্রবেশের মতো একাধিক কাজ ধারাবাহিকভাবে করতে পেরেছে।

এটাই এআই নিয়ে চলমান নিরাপত্তা বিতর্ককে আরও জোরালো করছে। কারণ, আধুনিক এআই এজেন্টকে এখন শুধু প্রশ্নের উত্তর দেওয়ার জন্য ব্যবহার করা হচ্ছে না। ওয়েব ব্রাউজ করা, সফটওয়্যার চালানো, কোড লেখা কিংবা বিভিন্ন অনলাইন কাজও তারা করতে পারছে। ফলে কোনো এআই মডেল যদি ভুল লক্ষ্য শনাক্ত করে বা পরীক্ষার সীমার বাইরে চলে যায়, তাহলে তার হাতে থাকা স্বয়ংক্রিয় ক্ষমতা অনাকাঙ্ক্ষিত ফল তৈরি করতে পারে।

জেমিনির এই ঘটনাও বিচ্ছিন্ন নয়। চলতি বছর অন্যান্য এআই মডেলের নিরাপত্তা পরীক্ষাতেও নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বাস্তব সিস্টেমে প্রবেশের ঘটনা সামনে এসেছে। ফলে এআই যত বেশি স্বয়ংক্রিয় হচ্ছে, তাকে কোথায়, কী ধরনের অ্যাকসেস দেওয়া হবে এবং ভুল হলে কীভাবে দ্রুত থামানো যাবে এসব প্রশ্ন এখন প্রযুক্তি গবেষণার গুরুত্বপূর্ণ বিষয় হয়ে উঠেছে।

গুগলের পক্ষ থেকেও নিরাপদভাবে শক্তিশালী এআই তৈরি করার ওপর জোর দেওয়া হয়েছে। হিদার অ্যাডকিন্সের বক্তব্য অনুযায়ী, ঘটনাগুলো শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণের গুরুত্ব তুলে ধরে। জেমিনি তিনটি ক্ষেত্রেই শেষ পর্যন্ত থেমে যাওয়ায় কোনো ক্ষতির খবর পাওয়া যায়নি। কিন্তু ঘটনাটি একটি বিষয় পরিষ্কার করে দিয়েছে এআইকে যত বেশি স্বায়ত্তশাসিত ক্ষমতা দেওয়া হচ্ছে, তার নিরাপত্তা ব্যবস্থা এবং পরীক্ষার পরিবেশও তত বেশি শক্তিশালী হওয়া প্রয়োজন।