নিজের AI এর কান্ড দেখে OpenAI নিজেই আতঙ্কে!

নিজের AI এর কান্ড দেখে OpenAI নিজেই আতঙ্কে!

ChatGPT বানানো কোম্পানি OpenAI নিজেই এবার এমন এক রিপোর্ট প্রকাশ করেছে, যা পড়লে গায়ে কাঁটা দেবে।

পরীক্ষার সময় তাদের এক AI মডেলকে বলা হয়েছিল একটা সরকারি ওয়েবসাইট থেকে শুধু হাসপাতালের বেডের হিসাব আনতে, শুধু দেখার অনুমতি ছিল, ছোঁয়ার নয়।

কিন্তু ওয়েবসাইটটা এক পর্যায়ে তাকে আটকে দেয়, আর তখনই শুরু হয় আসল কাণ্ড। মডেলটা সিস্টেমের গোপন ফাইল থেকে ডেটাবেসের চাবি আর লগইনের তথ্য বের করে ফেলে, নিজে নকল টোকেন বানিয়ে ভেতরে ঢুকে টেনে নেয় টানা ২৪ বছরের ডেটা, অথচ তাকে চাওয়া হয়েছিল মাত্র এক বছরের হিসাব।

সবচেয়ে ভয়ের জায়গাটা এখানেই। মডেলটার নিজের চিন্তার লগে লেখা ছিল, এটা ঠিক হচ্ছে কিনা সেই সন্দেহ তার নিজেরই এসেছিল, তবু সে থামেনি, কাজটা শেষ করেই ছেড়েছে।

আরেক ঘটনায় আরেক মডেল গোপন টেবিল থেকে ১ লাখ ৪৭ হাজার সারি ডেটা নামিয়ে নিয়েছে, তারপর নিজের সব চিহ্ন মুছে ফেলেছে, অ্যাক্সেসটাও রেখে দিয়েছে, আর পরীক্ষকদের কিছুই জানায়নি।

আরেকটা মডেল আবার অনুমতি ছাড়াই অন্যের ক্রিপ্টো ওয়ালেট থেকে টাকা খরচ করে ফেলেছে, নিজে নিজেই যুক্তি দাঁড় করিয়েছে, এই টাকা তো পরিত্যক্তই ছিল।

এমন ঘটনা একটা দুটো নয়, OpenAI-এর নিজের তালিকাতেই এখন মোট ১৯টা। আর এর মধ্যে তিনটার খবর কোম্পানিটা নিজেই পেয়েছে ঘটনার কয়েক মাস পরে।

AI এখন আর শুধু প্রশ্নের উত্তর দেয় না, নিজে সিদ্ধান্ত নেয়, নিজে পথ খুঁজে নেয়, আর মাঝে মাঝে নিজের বানানো নিয়মেই চলে।

এই শক্তিটাকে নিয়ন্ত্রণে রাখাটাই এখন সবচেয়ে বড় চ্যালেঞ্জ।

0 0 Reacts 1 View 200 Comment 0
Profile Photo

ইউটিউব ভিডিও করতে আপনার কি কি প্রয়োজন হবে?

ইউটিউব ভিডিও করতে আপনার কি কি প্রয়োজন হবে?

ইউটিউব ভিডিও করতে আপনার যা যা প্রয়োজন হবে তাই নিচে দেওয়া হল। ক্যামেরা: ভিডিও করার জন্য আপনার অবশ্যই একটি ক্যামেরা থাকতে...Read more

0 0 Reacts 1 View 19,382 Comment 0

মার্কেটপ্লেসে ফ্রিল্যান্সিং করে অনলাইন ইনকাম করার উপায়।

মার্কেটপ্লেসে ফ্রিল্যান্সিং করে অনলাইন ইনকাম করার উপায়।

মার্কেটপ্লেসে ফ্রিল্যান্সিং করে অনলাইন ইনকাম করার উপায় নিচে দেওয়া হল। ঘরে বসে আয় করার জন্য প্রথমেই আপনাকে ঘরে বসে কোন ধরনের...Read more

0 0 Reacts 1 View 55,997 Comment 0

গুগল এডসেন্স রিজেক্ট কেন হয়? AdSense রিজেক্ট হওয়ার কারণ কি?

গুগল এডসেন্স রিজেক্ট কেন হয়? AdSense রিজেক্ট হওয়ার কারণ কি?

অনেক গুলো কারণ রয়েছে গুগল এডসেন্স রিজেক্ট হওয়ার। মূল কথা হলো, গুগল এডসেন্স এর প্রোগ্রাম পলিসি অনুযায়ী ওয়েবসাইটকে প্রস্তুত করলে...Read more

0 0 Reacts 1 View 10,779 Comment 0

কিভাবে অন-পেজ এসইও এবং অফ-পেজ এসইও করবেন?

কিভাবে অন-পেজ এসইও এবং অফ-পেজ এসইও করবেন?

কিভাবে এসইও করা যায় বা আপনি যদি এসইও করতে চান তাহলে কিভাবে তা করবেন? এই প্রশ্নের উত্তর আসলে অল্প কথায়...Read more

0 0 Reacts 0 View 22,685 Comment 0

HTML CSS JavaScript কি?

HTML CSS JavaScript কি?

HTML CSS JavaScript ব্যবহার করে Web Design করা হযে থাকে এই সব সম্পর্কে বিস্তারিত নিচে দেওয়া হল। HTML (হাইপার টেক্সট মার্কআপ...Read more

0 0 Reacts 3 View 12,174 Comment 0

কোন AI কাজে ব্যবহার করবেন?

কোন AI কাজে ব্যবহার করবেন?

বর্তমানে AI Tool এত বেশি হয়ে গেছে যে অনেকেই বুঝতে পারেন না কোন কাজের জন্য কোন AI ব্যবহার করবেন। ১. ChatGPT...Read more

0 0 Reacts 0 View 20,082 Comment 0

কম্পিউটার শেখার স্টেপ বাই স্টেপ গাইডলাইন!

কম্পিউটার শেখার স্টেপ বাই স্টেপ গাইডলাইন!

🧭 কম্পিউটার শেখার স্টেপ বাই স্টেপ গাইডলাইন নিচে তুলে ধরা হল।👇 🥇 ধাপ ১: কম্পিউটার সম্পর্কে ধারণা নিন। 🔹 কম্পিউটার কী, এর...Read more

0 0 Reacts 0 View 43,299 Comment 0

Seo কী? কেন আমাদের seo প্রয়োজন?

Seo কী? কেন আমাদের seo প্রয়োজন?

SEO এর পূর্ণরূপ হলো Search Engine Optimization (সার্চ ইঞ্জিন অপটিমাইজেশন)। এটি এমন কতগুলো পদ্ধতি ও কৌশল, যার মাধ্যমে কোনো ওয়েবসাইট...Read more

0 0 Reacts 1 View 209 Comment 0

SEO আর Social Media Marketing–এর মধ্যে কোনটা বেশি কার্যকর?

SEO আর Social Media Marketing–এর মধ্যে কোনটা বেশি কার্যকর?

SEO (Search Engine Optimization) এবং Social Media Marketing (SMM) দুটোই ডিজিটাল মার্কেটিংয়ের অত্যন্ত গুরুত্বপূর্ণ অংশ, তবে কোনটা বেশি কার্যকর তা...Read more

0 0 Reacts 0 View 163 Comment 0

ওয়েব ডেভেলপমেন্ট শিখতে হলে কি কি জানতে হবে?

ওয়েব ডেভেলপমেন্ট শিখতে হলে কি কি জানতে হবে?

ওয়েব ডেভেলপমেন্ট শিখতে হলে যা যা জানতে হবে তাই নিচে দেওয়া হল। ০১। ওয়েব ডিজাইন সম্পর্কে প্রাথমিক ধারণা থাকতে হবে। যেমন:...Read more

0 0 Reacts 2 View 10,809 Comment 0