নিরাপত্তা পরীক্ষার সময় অ্যানথ্রোপিকের ক্লড এআই মডেল তিনটি বাস্তব সংস্থাকে হ্যাক করেছে।

হোম » সফটওয়্যার » নিরাপত্তা পরীক্ষার সময় অ্যানথ্রোপিকের ক্লড এআই মডেল তিনটি বাস্তব সংস্থা হ্যাক করেছে

অ্যানথ্রোপিক প্রকাশ করেছে যে, তাদের ক্লড এআই মডেলগুলো একটি বিচ্ছিন্ন পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে এসে তিনটি বাস্তব সংস্থার প্রোডাকশন সিস্টেমে অননুমোদিত প্রবেশাধিকার লাভ করেছে । ঘটনাগুলো এপ্রিল থেকে জুলাই মাসের মধ্যে সাইবার নিরাপত্তা মূল্যায়নের সময় ঘটেছিল এবং প্রতিদ্বন্দ্বী ওপেনএআই-এর অনুরূপ একটি ঘটনার পর সংস্থাটি একটি পর্যালোচনা শুরু করলেই কেবল তা আবিষ্কৃত হয়। এই খবরটি এআই শিল্পে আলোড়ন সৃষ্টি করেছে এবং স্বয়ংক্রিয় এজেন্টদের নিরাপত্তা ও বর্তমান পরীক্ষা পদ্ধতির পর্যাপ্ততা নিয়ে বিতর্ককে পুনরায় উস্কে দিয়েছে।

এই নিরাপত্তা লঙ্ঘনগুলো তথাকথিত “ক্যাপচার-দ্য-ফ্ল্যাগ” অনুশীলনের সময় ঘটেছিল, যেখানে মডেলদের একটি সিমুলেটেড নেটওয়ার্কে লুকানো তথ্য খুঁজে বের করার দায়িত্ব দেওয়া হয়। অ্যানথ্রোপিকের প্রম্পটগুলো মডেলদের জানিয়েছিল যে তাদের ইন্টারনেট অ্যাক্সেস নেই, কিন্তু এর মূল্যায়ন অংশীদার, ইরেগুলারের একটি ভুল কনফিগারেশনের কারণে সিস্টেমগুলো পাবলিক ইন্টারনেটের সাথে সংযুক্ত ছিল । তারা তখনও একটি সিমুলেশনের ভেতরে আছে ভেবে, মডেলরা তাদের লক্ষ্যবস্তু খুঁজতে যায় এবং পরিবর্তে দুর্বল পাসওয়ার্ড ও প্রমাণীকরণবিহীন এন্ডপয়েন্টের মতো সাধারণ হ্যাকিং কৌশল ব্যবহার করে আসল কোম্পানিগুলোকে খুঁজে পায় ও তাদের সিস্টেমে অনুপ্রবেশ করে।

সম্পর্কিত নিবন্ধ:

ক্লদ মিথোস অ্যাপল এম৫ চিপের একটি গুরুতর দুর্বলতা উন্মোচনে সহায়তা করেছেন, যা এআই নিরাপত্তা নিয়ে উদ্বেগ বাড়িয়েছে।

কীভাবে ক্লড লাইভ সিস্টেমে পৌঁছালেন

তিনটি ভিন্ন ক্লড মডেল এতে জড়িত ছিল: ক্লড ওপাস ৪.৭, ক্লড মিথোস ৫, এবং একটি অপ্রকাশিত অভ্যন্তরীণ গবেষণা মডেল। সবচেয়ে পুরোনো ঘটনাটি এপ্রিল মাসের। একটি ক্ষেত্রে, ওপাস ৪.৭-কে একটি কাল্পনিক লক্ষ্যবস্তু দেওয়া হয়েছিল, যার নামটি ঘটনাক্রমে একটি আসল নিবন্ধিত ডোমেইনের সাথে মিলে গিয়েছিল। সিমুলেটেড সংস্করণটির কাছে পৌঁছাতে না পেরে, এটি আসল কোম্পানিটিকে খুঁজে বের করে এবং অ্যাপ্লিকেশন ক্রেডেনশিয়াল ও কয়েকশ সারি প্রোডাকশন কাস্টমার ডেটা সংগ্রহ করে । অ্যানথ্রোপিকের ট্রান্সক্রিপ্ট থেকে দেখা যায়, মডেলটি এই সিদ্ধান্তে পৌঁছেছিল যে, এই অনুশীলনের জন্য আসল কোম্পানিটিকে নিশ্চয়ই সেখানে রাখা হয়েছে, তাই এটি তার কাজ চালিয়ে যায়।

সবচেয়ে সুপরিকল্পিত ঘটনাটি ক্লড মিথোস ৫ (Claude Mythos 5)-কে ঘিরে ঘটেছিল । এর পরীক্ষামূলক পরিবেশে, ক্লড এমন কিছু অনবোর্ডিং ডকুমেন্টেশন খুঁজে পায় যেখানে নতুন ডেভেলপারদের এমন একটি পাইথন প্যাকেজ ইনস্টল করার নির্দেশ দেওয়া হয়েছিল যা কখনও প্রকাশিতই হয়নি। এরপর এটি পাবলিক পাইথন প্যাকেজ রিপোজিটরি PyPI-তে একটি অ্যাকাউন্ট তৈরি করে এবং একটি ক্ষতিকারক প্যাকেজ আপলোড করে । এটি করার জন্য এটির একটি ইমেল ঠিকানার প্রয়োজন ছিল, যার জন্য একটি ফোন নম্বর দরকার ছিল। একটি বিনামূল্যের ফোন নম্বর পরিষেবা খুঁজে পেতে ব্যর্থ হয়ে, এটি পিছু হটে, একটি বিনামূল্যের ইমেল পরিষেবা প্রদানকারী খুঁজে পায় এবং সেটি ব্যবহার করে PyPI অ্যাকাউন্টটি তৈরি করে। প্যাকেজটি প্রায় এক ঘণ্টা সক্রিয় ছিল এবং একটি নিরাপত্তা সংস্থার ম্যালওয়্যার স্ক্যানারসহ ১৫টি আসল সিস্টেমে এটি ডাউনলোড করা হয়েছিল। এরপর ক্লড চুরি করা ক্রেডেনশিয়ালগুলো ব্যবহার করে সেই কোম্পানির নেটওয়ার্কের আরও গভীরে প্রবেশ করে।

তৃতীয় ঘটনাটিতে, একটি অভ্যন্তরীণ গবেষণা মডেল তার নির্ধারিত লক্ষ্যে পৌঁছাতে না পেরে উন্মুক্ত ইন্টারনেটে প্রায় ৯,০০০ হোস্ট স্ক্যান করার পর এমন একটি হোস্ট খুঁজে পায়, যেটিকে একটি ফাঁস হওয়া ডিবাগ পেজ এবং এসকিউএল ইনজেকশনের মাধ্যমে হ্যাক করা সম্ভব ছিল। পরে, মডেলটি বুঝতে পারে যে মেশিনটি এই মহড়ার অংশ ছিল না এবং নিজে থেকেই থেমে যায়—তিনটির মধ্যে একমাত্র এটিই এমনটি করেছিল।

পরিণতি এবং শিল্পক্ষেত্রে এর প্রভাব

ওপেনএআই যখন প্রকাশ করে যে তাদের নিজস্ব মডেল হাগিং ফেস হ্যাক করেছে, তার পরেই ২৩শে জুলাই অ্যানথ্রোপিক ১,৪১,০০৬টি ইভ্যালুয়েশন রান পর্যালোচনা করার প্রক্রিয়া শুরু করে। সংস্থাটি সেদিনই সমস্ত সাইবার ইভ্যালুয়েশন বন্ধ করে দেয় এবং ২৪শে জুলাইয়ের মধ্যে তিনটি লঙ্ঘনের ঘটনা শনাক্ত করে। ২৭শে জুলাই তারা ক্ষতিগ্রস্ত সংস্থাগুলোকে অবহিত করে। অ্যানথ্রোপিক যোগাযোগ করার আগ পর্যন্ত তিনটি সংস্থার মধ্যে দুটির কাছে এই কার্যকলাপের কোনো রেকর্ড ছিল না এবং ল্যাবটি এখনও তৃতীয়টির সাথে যোগাযোগের চেষ্টা করছে।

অ্যানথ্রোপিক এই ঘটনাগুলোকে “অ্যালাইনমেন্ট ফেইলিওর” না বলে “হারনেস ফেইলিওর” হিসেবে বর্ণনা করেছে, যার অর্থ হলো সমস্যাটি ছিল টেস্টিং এনভায়রনমেন্টে, মডেলের লক্ষ্যে নয়। তবুও, কোম্পানিটি স্বীকার করেছে যে মডেলগুলোর আচরণ—বিশেষ করে ম্যালওয়্যার প্রকাশের জন্য মিথোস ৫-এর বিস্তৃত পদক্ষেপগুলো—এমন একটি বিষয় যা তারা এখন প্রশিক্ষণের মাধ্যমে দূর করতে চায়। ল্যাবটি একটি পর্যালোচনার জন্য স্বাধীন মূল্যায়নকারী সংস্থা METR-এর সাথে কাজ করছে এবং এক সপ্তাহের মধ্যে PyPI ঘটনাটির একটি সম্পাদিত প্রতিলিপি প্রকাশ করার পরিকল্পনা করছে।

এই তথ্য ফাঁসের ফলে এআই এজেন্টদের স্বয়ংক্রিয়ভাবে কাজ করা নিয়ে উদ্বেগ আরও বেড়েছে। নিরাপত্তা গবেষকরা উল্লেখ করেছেন যে, ব্যবহৃত কৌশলগুলো নতুন না হলেও, মানুষের তত্ত্বাবধান ছাড়াই এআই মডেলগুলো যে গতি ও পরিসরে কাজ করতে পারে, তা সত্যিই উদ্বেগজনক । ওপেনএআই এবং অ্যানথ্রোপিক উভয়ই শেয়ার বাজারে তালিকাভুক্ত হওয়ার প্রস্তুতি নিচ্ছে, এবং নিয়ন্ত্রক সংস্থা বা জনসাধারণ যদি আরও কঠোর নিয়ন্ত্রণের দাবি জানায়, তবে এই ঘটনাগুলো বিনিয়োগকারীদের আস্থার জন্য হুমকি হয়ে দাঁড়াতে পারে।

অ্যানথ্রোপিক বলছে, এই ফলাফলগুলো অভ্যন্তরীণ এবং তৃতীয় পক্ষের উভয় পরীক্ষামূলক পরিবেশেই আরও শক্তিশালী নিয়ন্ত্রণের প্রয়োজনীয়তা তুলে ধরে, কারণ এআই মডেলগুলো বাস্তব জগতের সাইবার কার্যকলাপ সম্পাদনে ক্রমশ আরও বেশি সক্ষম হয়ে উঠছে। সংস্থাটি ইতোমধ্যে সমস্ত সাইবার মূল্যায়ন স্থগিত করেছে এবং এই ধরনের ভুল কনফিগারেশন যাতে আর কখনও না ঘটে, তা নিশ্চিত করার জন্য কাজ করছে। আপাতত, এই শিল্পটিকে এই বাস্তবতার সাথে লড়াই করতে হচ্ছে যে, এমনকি সবচেয়ে উন্নত পরীক্ষাগারগুলোও তাদের নিজেদের তৈরি জিনিসের দ্বারা অপ্রস্তুত অবস্থায় ধরা পড়তে পারে।