সাইবার নিরাপত্তা পরীক্ষার সময় গত মে মাসে গুগলের এআই মডেল জেমিনি তিনটি প্রকৃত কোম্পানির সিস্টেমে ঢুকে পড়ে। গুগল তা নিশ্চিত করেছে।

ইসরায়েলভিত্তিক এআই নিরাপত্তা প্রতিষ্ঠান ইরেগুলার গুগলের হয়ে জেমিনির সাইবার নিরাপত্তা সক্ষমতা যাচাই করছিল। পরীক্ষার পরিবেশে ইন্টারনেট সংযোগ থাকার কথা ছিল না। কিন্তু অনিচ্ছাকৃতভাবে তা চালু ছিল বলে দ্য ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে উল্লেখ করা হয়েছে। জার্নালই প্রথম ঘটনাটি প্রকাশ করে।

জেমিনিকে একটি কাল্পনিক কোম্পানির সফটওয়্যার থেকে তথ্য সংগ্রহ করতে বলা হয়েছিল। ওই কোম্পানির নামের সঙ্গে একটি প্রকৃত কোম্পানির নামের মিল ছিল। ইরেগুলার জানায়, ইন্টারনেট সংযোগ পেয়ে মডেলটি পাসওয়ার্ড অনুমান করে প্রকৃত কোম্পানিটির একটি সেবায় ঢুকে পড়ে।

অপর দুই ঘটনায় মডেলটি অনলাইনে প্রকাশ্য রিপোজিটরিতে থাকা লগইন তথ্য খুঁজে পায় এবং তা ব্যবহার করে আরও দুটি প্রকৃত কোম্পানিতে প্রবেশ করে বলে গুগল জানিয়েছে।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হেদার অ্যাডকিন্স এক বিবৃতিতে জানান, তিনটি ঘটনাতেই মডেলটি থেমে গিয়েছিল। তিনি বলেন, "একটি সাধারণ মূল্যায়নে মডেলটি অনলাইনে প্রকাশ্য তথ্য খুঁজে পায় এবং পরীক্ষার অংশ মনে করে কিছু ওয়েবসাইটে ঢোকার জন্য লগইন তথ্য অনুমান করে।"

গুগল আরও জানায়, ক্ষতিগ্রস্ত তিন প্রতিষ্ঠানকে বিষয়টি জানানো হয়েছে। প্রতিষ্ঠানটির ভাষ্য, ঘটনাগুলো মডেলের আচরণগত বিচ্যুতির উদাহরণ নয়। মডেলের নিরাপত্তা ব্যবস্থা কাজ করায় ও কোনো ক্ষতি না হওয়ায় প্রকাশ্যে জানানোর প্রয়োজন মনে করেননি তারা।

ইরেগুলার জুলাইয়ের শেষে বিষয়টি গুগলকে জানায়। প্রতিষ্ঠানটি জানিয়েছে, এআই সাইবার নিরাপত্তা পরীক্ষা নিরাপদে চালানোর চর্চা উন্নত করার কাজ চলছে।

এর আগে মেটা, অ্যানথ্রোপিক ও ওপেনএআই ইরেগুলার-সংশ্লিষ্ট একই ধরনের ঘটনার কথা প্রকাশ করেছে। আল জাজিরার প্রতিবেদন অনুযায়ী, অ্যানথ্রোপিকের ক্লদ মডেল বাস্তব কোম্পানির সিস্টেমে ঢুকে পড়ার বিষয়টি বুঝতে পারার পরও থামেনি।

দ্য গার্ডিয়ান জানায়, এসব প্রকাশের পর স্বতন্ত্র মার্কিন সিনেটর বার্নি স্যান্ডার্স ওপেনএআই ও অ্যানথ্রোপিককে প্রযুক্তির উন্নয়ন স্থগিত করার আহ্বান জানান। ওপেনএআই দুই সপ্তাহের জন্য মডেল উন্নয়ন স্থগিত রাখে। অ্যানথ্রোপিকের প্রধান নির্বাহী ডারিও আমোদেই এআই উন্নয়নে সামষ্টিক গতি কমানোর আহ্বান জানিয়েছেন।