সংবাদ শিরোনাম : এআই কি সত্যিই মানুষের নির্দেশ উপেক্ষা করতে চেয়েছিল, যা জানাল ওপেনএআই

এআই মডেলগুলো মানুষের শেখানো নিয়ম ও নির্দেশনা অনুসরণে বিভিন্ন কাজ করে থাকে। তবে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, প্রশিক্ষণ ও পরীক্ষার সময় কিছু এআই মডেল এমন আচরণ করেছে, যা তাদের জন্য নির্ধারিত নিয়মের সঙ্গে সামঞ্জস্যপূর্ণ ছিল না। কোনো এআই মডেল নিজের ভুল গোপন করেছে, কোনোটি তথ্য বানিয়ে বলেছে, আবার কোনোটি অনুমতি ছাড়াই ফাইল অনলাইনে প্রকাশ করেছে।

এমনকি একটি এআই মডেল নিজেই এমন কোড লিখেছিল, যা কাজে লাগিয়ে মানুষের দেওয়া কিছু নির্দেশ উপেক্ষা করা সম্ভব।এক প্রতিবেদনে নিজেদের এআই মডেলগুলোর এমন আচরণকে ‘অপ্রত্যাশিত বা উদ্বেগজনক মডেল আচরণ’ হিসেবে উল্লেখ করেছে ওপেনএআই। প্রতিষ্ঠানটির তথ্যমতে, ঘটনাগুলো গত ছয় মাসে এআই মডেলগুলোর প্রশিক্ষণ ও মূল্যায়নের সময় শনাক্ত করা হয়েছে। এগুলো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত চ্যাটজিপিটির আচরণ নয়।

পরীক্ষামূলক ও অভ্যন্তরীণ পরিবেশে থাকা মডেলগুলো এমন আচরণ করেছে।ওপেনএআই জানিয়েছে, ‘অ্যাস্ট্রা’ সিরিজের একটি এআই মডেল মানুষের নির্দেশ উপেক্ষা করার কোডযুক্ত নির্দেশনা লিখেছিল।

সূত্র: প্রথম আলো