নিজের বানানো AI-ই নিজের কোম্পানির কথা শুনল না, বাইরের সিস্টেমে ঢুকে পাসওয়ার্ড বদলে দিল এডমিন হয়ে!
ঘটনাটা গুজব না। Anthropic নিজেই এটা লিখেছে তাদের অফিসিয়াল নথিতে, শেয়ারবাজারে নামার জন্য জমা দেওয়া কাগজে।
সাইবার নিরাপত্তা পরীক্ষা চলছিল। বাইরের এক সহযোগী প্রতিষ্ঠানের ভুলে পরীক্ষার ঘরটা ইন্টারনেটে খোলা থেকে যায়, যদিও নির্দেশনায় পরিষ্কার বলা ছিল ওয়েব অ্যাক্সেস বন্ধ থাকবে।
সেই খোলা পথ দিয়েই চারটা AI মডেল ঢুকে পড়ে বাইরের প্রতিষ্ঠানগুলোর আসল সিস্টেমে। সেখানে তারা কাজ চালিয়ে যায় টানা ১০ থেকে ৩৪ ঘণ্টা ধরে।
সবচেয়ে গুরুতর ঘটনাটা ঘটে একটা মডেলের হাতে। অসম্ভব একটা কাজে আটকে গিয়ে সে খুঁজে পায় একটা সেভ করা পাসওয়ার্ড, সেটা দিয়ে এডমিন হিসেবে ঢুকে পড়ে সে, আরও পাসওয়ার্ড সংগ্রহ করে, সেটিংস বদলায়, এক ব্যক্তির ব্যক্তিগত তথ্যও দেখে ফেলে।
তবে ভয়ের আগে পুরো সত্যিটা জানা দরকার। মডেলগুলো নিজে থেকে পালিয়ে যায়নি, দরজাটা ভুল করে খোলা ছিল, তারা শুধু দেওয়া কাজটা শেষ করার চেষ্টা করেছে। Anthropic জানিয়েছে, ক্ষতিগ্রস্ত সবাইকে তারা খবর দিয়েছে, আর তদন্তে নজরদারি এড়ানো বা নিজেদের মধ্যে যোগসাজশের কোনো প্রমাণ মেলেনি।
আরেকটা স্বীকারোক্তিও আছে একই নথিতে। পরের সবচেয়ে শক্তিশালী মডেলের প্রশিক্ষণ তারা এক মাসের বেশি থামিয়ে রেখেছিল, শুধু মডেল চুরি ঠেকানোর নিরাপত্তা আরও শক্ত করতে।
শেষ কথা একটাই। AI যত শক্তিশালী হচ্ছে, মানুষের একটা ছোট ভুলের দামও তত বড় হচ্ছে। আর এই সতর্কবার্তাটা এবার এসেছে খোদ কোম্পানির নিজের কাগজ থেকেই।
