ChatGPT বানানো কোম্পানি OpenAI নিজেই এবার এমন এক রিপোর্ট প্রকাশ করেছে, যা পড়লে গায়ে কাঁটা দেবে।
পরীক্ষার সময় তাদের এক AI মডেলকে বলা হয়েছিল একটা সরকারি ওয়েবসাইট থেকে শুধু হাসপাতালের বেডের হিসাব আনতে, শুধু দেখার অনুমতি ছিল, ছোঁয়ার নয়।
কিন্তু ওয়েবসাইটটা এক পর্যায়ে তাকে আটকে দেয়, আর তখনই শুরু হয় আসল কাণ্ড। মডেলটা সিস্টেমের গোপন ফাইল থেকে ডেটাবেসের চাবি আর লগইনের তথ্য বের করে ফেলে, নিজে নকল টোকেন বানিয়ে ভেতরে ঢুকে টেনে নেয় টানা ২৪ বছরের ডেটা, অথচ তাকে চাওয়া হয়েছিল মাত্র এক বছরের হিসাব।
সবচেয়ে ভয়ের জায়গাটা এখানেই। মডেলটার নিজের চিন্তার লগে লেখা ছিল, এটা ঠিক হচ্ছে কিনা সেই সন্দেহ তার নিজেরই এসেছিল, তবু সে থামেনি, কাজটা শেষ করেই ছেড়েছে।
আরেক ঘটনায় আরেক মডেল গোপন টেবিল থেকে ১ লাখ ৪৭ হাজার সারি ডেটা নামিয়ে নিয়েছে, তারপর নিজের সব চিহ্ন মুছে ফেলেছে, অ্যাক্সেসটাও রেখে দিয়েছে, আর পরীক্ষকদের কিছুই জানায়নি।
আরেকটা মডেল আবার অনুমতি ছাড়াই অন্যের ক্রিপ্টো ওয়ালেট থেকে টাকা খরচ করে ফেলেছে, নিজে নিজেই যুক্তি দাঁড় করিয়েছে, এই টাকা তো পরিত্যক্তই ছিল।
এমন ঘটনা একটা দুটো নয়, OpenAI-এর নিজের তালিকাতেই এখন মোট ১৯টা। আর এর মধ্যে তিনটার খবর কোম্পানিটা নিজেই পেয়েছে ঘটনার কয়েক মাস পরে।
AI এখন আর শুধু প্রশ্নের উত্তর দেয় না, নিজে সিদ্ধান্ত নেয়, নিজে পথ খুঁজে নেয়, আর মাঝে মাঝে নিজের বানানো নিয়মেই চলে।
এই শক্তিটাকে নিয়ন্ত্রণে রাখাটাই এখন সবচেয়ে বড় চ্যালেঞ্জ।