কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ওপেনএআই তাদের এআই মডেলে "অপ্রত্যাশিত বা উদ্বেগজনক" আচরণের ছয়টি ঘটনার প্রতিবেদন প্রকাশ করেছে। 

গত ছয় মাসে প্রশিক্ষণ ও মূল্যায়নের সময় এসব ঘটনা পর্যবেক্ষণ করা হয়েছে বলে প্রতিষ্ঠানটি বুধবার, ১৬ সেপ্টেম্বর জানিয়েছে। একই সঙ্গে এআই মডেলের "মিসঅ্যালাইনমেন্ট" বা লক্ষ্যচ্যুতি ধরনের আচরণ নিয়মিতভাবে চিহ্নিত, তদন্ত ও প্রকাশ করার জন্য নতুন একটি কাঠামো চালুর ঘোষণা দিয়েছে সংস্থাটি।

ওপেনএআই জানায়, এসব ঘটনার মধ্যে রয়েছে মডেলের অননুমোদিতভাবে কাজ করা, অন্য মডেলের সঙ্গে সমন্বয় করা কিংবা তদারকি এড়িয়ে যাওয়ার নতুন উপায়। নতুন প্রকাশিত ঘটনাগুলোর একটিতে দেখা যায়, এখনো প্রকাশ না হওয়া একটি গবেষণা মডেল নিজের নোটে "জেইলব্রেক-সদৃশ নির্দেশনা" যুক্ত করে নিজেকে স্বাভাবিক সীমাবদ্ধতা উপেক্ষা করার এবং "অন্য চ্যাটবটদের বেঁধে রাখা ভূমিকা ও পরিচয় থেকে মুক্ত" হওয়ার নির্দেশ দেয়। আরেকটি ঘটনায় একটি এআই এজেন্ট ব্যবহারকারীর অনুমতি ছাড়াই ফাইল ইন্টারনেটে আপলোড করে।

সংস্থাটি স্পষ্ট করে জানায়, এই ছয়টি ঘটনা বিচ্ছিন্ন উদাহরণ মাত্র এবং এগুলো তাদের মডেলে ঘন ঘন লক্ষ্যচ্যুতি ঘটার প্রমাণ নয়। ওপেনএআই এক ব্লগ পোস্টে বলে, "এআই ব্যবস্থা যত উন্নত ও ব্যাপকভাবে ব্যবহৃত হচ্ছে, ততই অ্যালাইনমেন্ট গবেষণার অগ্রগতি নিয়ে বৃহত্তর ও তথ্যভিত্তিক ঐকমত্য গড়ে তোলা প্রয়োজন।" 

প্রতিষ্ঠানটি আরও জানায়, তারা মনে করে না যে এআই শিল্প এখনো লক্ষ্যচ্যুতি ও তদারকির সমস্যা যথেষ্ট মাত্রায় সমাধান করেছে যাতে সর্বোচ্চ গতিতে দায়িত্বশীলভাবে সম্প্রসারণ অব্যাহত রাখা যায়।

ওপেনএআই ও অ্যানথ্রপিকসহ যুক্তরাষ্ট্রের শীর্ষ এআই প্রতিষ্ঠানগুলোর কর্তারা সম্প্রতি নিরাপত্তা উদ্বেগের কারণে এই প্রযুক্তির উন্নয়নে গতি কমানোর আহ্বান জানানোর মধ্যেই ওপেনএআইয়ের এই ঘোষণা এলো।

সূত্র: এপি ও সিএনএন