আন্তর্জাতিক ডেস্ক
কৃত্রিম বুদ্ধিমত্তার (এআই) নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে চীনের প্রযুক্তি প্রতিষ্ঠান মুনশট এআই-এর দুটি কিমি মডেলকে ঘিরে। নিরাপত্তা পরীক্ষার সময় গবেষকেরা মডেলগুলোর সুরক্ষা ব্যবস্থা বা ‘গার্ডরেল’ পাশ কাটাতে সক্ষম হন। এরপর মডেলগুলো জৈব অস্ত্র, হত্যাকাণ্ডসহ বিভিন্ন ক্ষতিকর কর্মকাণ্ড নিয়ে এমন তথ্য দিতে শুরু করে, যা স্বাভাবিক অবস্থায় তাদের দেওয়ার কথা নয়। বিষয়টি সামনে আসার পর অভ্যন্তরীণ পর্যালোচনা শুরু করেছে মুনশট।
এআই নিরাপত্তা প্রতিষ্ঠান মাইনগার্ড-এর গবেষকেরা গত জুলাইয়ে কিমি কে ২.৬ ও কে ৩ সোয়ার্ম মডেল দুটির নিরাপত্তাব্যবস্থা পরীক্ষা করতে গিয়ে এই দুর্বলতা শনাক্ত করেন। তাদের ভাষ্য, ধারাবাহিক ও জটিল নির্দেশনার মাধ্যমে মডেল দুটিকে এমনভাবে ‘জেলব্রেক’ করা সম্ভব হয়েছিল, যাতে সেগুলো নিজেদের ওপর আরোপিত নিরাপত্তা বিধিনিষেধ উপেক্ষা করে।
‘জেলব্রেকিং’ বলতে সাধারণত এমন কৌশলকে বোঝায়, যার মাধ্যমে এআই মডেলের ওপর আরোপিত নির্দিষ্ট নিরাপত্তা সীমা বা নিষেধাজ্ঞা পাশ কাটানোর চেষ্টা করা হয়। নিরাপত্তা গবেষকেরা এ ধরনের পরীক্ষা করেন মডেল বাস্তবে কতটা নিরাপদ এবং সম্ভাব্য আক্রমণের মুখে তার প্রতিরোধক্ষমতা কতটা—তা যাচাই করতে।
মাইন্ডগার্ড-এর প্রকাশিত তথ্য অনুযায়ী, ২০ জুলাই তারা কিমি মডেলগুলোর দুর্বলতা শনাক্ত করে এবং ২৭ জুলাই বিষয়টি মুনশট-কে জানায়। পরে ১২ সেপ্টেম্বর এ বিষয়ে তাদের বিস্তারিত প্রতিবেদন প্রকাশিত হয়। গবেষকেরা অবশ্য নিরাপত্তা দুর্বলতার মূল কৌশলগুলো প্রকাশ করেননি, যাতে অন্যরা একই পদ্ধতি ব্যবহার করে মডেলগুলোর অপব্যবহার করতে না পারে।
মাইন্ডগার্ড-এর দাবি, নিরাপত্তা নিয়ন্ত্রণ পাশ কাটানোর পর কিমি ক্ষতিকর বিভিন্ন বিষয়ে স্বাভাবিক অবস্থার তুলনায় অনেক বেশি বিস্তারিত ও কার্যকর তথ্য দিতে সক্ষম হয়েছিল। এর মধ্যে জৈব অস্ত্র, সাইবার হামলা, বিস্ফোরক, সন্ত্রাসবাদ ও হত্যাকাণ্ড-সংক্রান্ত বিষয়ও ছিল বলে প্রতিষ্ঠানটি জানিয়েছে।
তবে গবেষকেরা যে তথ্য পেয়েছেন, সেগুলো বাস্তবে কোনো জৈব অস্ত্র তৈরি বা হত্যাকাণ্ডে কার্যকরভাবে ব্যবহার করা সম্ভব হয়েছে, এমন প্রমাণ তারা দেয়নি। তাদের মূল উদ্বেগ ছিল, নিরাপত্তাব্যবস্থা থাকার পরও মডেলকে এমন সংবেদনশীল বিষয়ে আলোচনায় প্রবেশ করানো সম্ভব হয়েছে।
মুনসুন জানিয়েছে, তারা মাইন্ডগার্ড-এর অনুসন্ধান নিয়ে আলোচনা করছে এবং এআই নিরাপত্তা উন্নয়নে তৃতীয় পক্ষের মূল্যায়নকে গুরুত্ব দেয়। প্রতিষ্ঠানটির পক্ষ থেকে আরও বিস্তারিত তথ্য চাওয়া হয়েছে বলেও মাইন্ডগার্ড জানিয়েছে।
এ ঘটনা এআই মডেলের নিরাপত্তা নিয়ে চলমান বিতর্ককে আরও সামনে এনেছে। বিশেষ করে যেসব মডেল ব্যবহারকারীর কম্পিউটারে স্থানীয়ভাবে চালানো যায় বা যেগুলোর ‘ওপেন-ওয়েট’ কাঠামো রয়েছে, সেগুলোর ক্ষেত্রে নিরাপত্তা নিয়ন্ত্রণ কতটা কার্যকর রাখা সম্ভব, তা নিয়ে প্রশ্ন উঠছে।
কিমি একটি ওপেন-ওয়েট মডেল। ফলে তাত্ত্বিকভাবে ব্যবহারকারীরা নিজেদের কম্পিউটিং অবকাঠামোয় মডেলটি চালাতে পারেন। এ ধরনের প্রযুক্তির ইতিবাচক ব্যবহার যেমন রয়েছে, তেমনি নিরাপত্তাব্যবস্থা দুর্বল হলে অপব্যবহারের ঝুঁকিও তৈরি হতে পারে।
এআই নিরাপত্তা বিশেষজ্ঞদের আরেকটি উদ্বেগ হলো, ভবিষ্যতে এআই মডেলগুলো শুধু প্রশ্নের উত্তর দেওয়ার মধ্যেই সীমাবদ্ধ থাকবে না। কোড লেখা, কম্পিউটার সিস্টেমে কাজ করা এবং বিভিন্ন অনলাইন সেবার সঙ্গে সরাসরি যুক্ত হয়ে বহু ধাপের কাজ সম্পন্ন করার ক্ষমতাও এসব মডেলের মধ্যে যুক্ত হচ্ছে। ফলে নিরাপত্তাব্যবস্থা পাশ কাটিয়ে কোনো এআই এজেন্টকে গুরুত্বপূর্ণ সিস্টেমে প্রবেশের সুযোগ দেওয়া হলে ঝুঁকি আরও বাড়তে পারে।
মাইন্ডগার্ড-এর গবেষকেরা মনে করেন, এআই নিরাপত্তার ক্ষেত্রে নিয়মিত পরীক্ষা, দুর্বলতা শনাক্তকরণ এবং দ্রুত সংশোধনের ব্যবস্থা গুরুত্বপূর্ণ। কারণ একটি নিরাপত্তা ব্যবস্থাকে পাশ কাটানোর জন্য আক্রমণকারীর একটি কার্যকর পদ্ধতি খুঁজে পাওয়াই যথেষ্ট, বিপরীতে নির্মাতাদের সম্ভাব্য অসংখ্য আক্রমণ ঠেকাতে হয়।
কিমি-কে ঘিরে সাম্প্রতিক ঘটনাটি তাই শুধু একটি নির্দিষ্ট এআই মডেলের নিরাপত্তা দুর্বলতার প্রশ্ন নয়; বরং দ্রুত বিকাশমান এআই প্রযুক্তিতে নিরাপত্তা নিয়ন্ত্রণ, তৃতীয় পক্ষের পরীক্ষা এবং অপব্যবহার ঠেকানোর সক্ষমতা নিয়ে বৃহত্তর আলোচনাকেও সামনে এনেছে।
