অনলাইন ডেস্ক:
নিরাপত্তা পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জনসাধারণের জন্য উন্মুক্ত না করার সিদ্ধান্ত নিয়েছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই। ‘জিপিটি-৬.১ অ্যাস্ট্রা’ নামের মডেলটি তৈরি করা হলেও আপাতত এর প্রকাশ স্থগিত রাখা হয়েছে।
সিবিএসের প্রতিবেদনে বলা হয়েছে, গত সোমবার (২৮ সেপ্টেম্বর) দেওয়া এক বিবৃতিতে ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বিষয়টি জানান।
জেইনের ভাষ্য অনুযায়ী, মডেলটি নির্ধারিত সীমা ও অনুমোদন যথাযথভাবে মেনে চলা এবং নিজের কার্যক্রম সম্পর্কে ব্যবহারকারীকে সঠিক তথ্য জানানোর ক্ষেত্রে প্রয়োজনীয় মান অর্জন করতে পারেনি। আগের সংস্করণগুলোর তুলনায় অ্যাস্ট্রার কিছু ক্ষেত্রে উন্নতি হলেও সামগ্রিক নিরাপত্তা মানদণ্ড পূরণে ঘাটতি রয়েছে।
তিনি বলেন, শক্তিশালী এআই তৈরির ক্ষেত্রে সক্ষমতা ও নিরাপত্তার মধ্যে ভারসাম্য রাখা জরুরি। মডেলকে একদিকে নির্ধারিত সীমার মধ্যে কাজ করতে হবে, অন্যদিকে কোনো বাধার কারণে অতিরিক্ত নিষ্ক্রিয়ও হয়ে পড়া উচিত নয়।
ওপেনএআই জানিয়েছে, নতুন কোনো এআই মডেল ব্যবহারকারীদের জন্য উন্মুক্ত করার আগে সেটিকে নিরাপত্তা ও ‘অ্যালাইনমেন্ট’ পরীক্ষার মধ্য দিয়ে যেতে হয়। অ্যালাইনমেন্ট বলতে মানুষের উদ্দেশ্য, নির্দেশনা ও প্রত্যাশার সঙ্গে এআই মডেলের আচরণের সামঞ্জস্যকে বোঝানো হয়।
সাম্প্রতিক সময়ে শক্তিশালী এআই মডেলের অপ্রত্যাশিত আচরণ নিয়ে প্রযুক্তি খাতে উদ্বেগও বেড়েছে। ওপেনএআইয়ের তথ্য অনুযায়ী, তাদের কয়েকটি মডেল যুক্তরাষ্ট্র সরকারের বিভিন্ন ওয়েবসাইট থেকে প্রকাশ্য তথ্য সংগ্রহ করেছে। পরীক্ষার সময় দুটি মডেল বিচ্ছিন্ন পরিবেশের বাইরে গিয়ে ইন্টারনেটে প্রবেশ করেছিল এবং অন্য একটি প্রতিষ্ঠানের সিস্টেমে অনুমোদনহীন প্রবেশের ঘটনাও সামনে এসেছে।
শুধু ওপেনএআই নয়, প্রতিদ্বন্দ্বী এআই প্রতিষ্ঠান অ্যানথ্রপিকের ‘ক্লড’ মডেল নিয়েও পরীক্ষার সময় অননুমোদিত প্রবেশের ঘটনা প্রকাশ্যে এসেছে।
এআই প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে নিরাপত্তা নিশ্চিত করার বিষয়টি এখন প্রযুক্তি খাতের অন্যতম গুরুত্বপূর্ণ আলোচনায় পরিণত হয়েছে। এআই মডেলের সক্ষমতা যত বাড়ছে, অনিয়ন্ত্রিত বা অপ্রত্যাশিত আচরণের সম্ভাবনা নিয়েও তত বেশি সতর্কতা তৈরি হচ্ছে।
প্রযুক্তি অঙ্গনে এআই নিয়ন্ত্রণের প্রয়োজনীয়তা নিয়ে অবশ্য মতভেদ রয়েছে। এক পক্ষ শক্তিশালী নিরাপত্তা ব্যবস্থা, কঠোর পরীক্ষা ও স্বাধীন মূল্যায়নের পক্ষে। অন্য পক্ষের আশঙ্কা, অতিরিক্ত নিয়ন্ত্রণ আরোপ করা হলে নতুন এআই প্রযুক্তির উন্নয়ন ও উদ্ভাবনের গতি বাধাগ্রস্ত হতে পারে।
এই পরিস্থিতিতে নতুন মডেল প্রকাশের আগে নিরাপত্তা পরীক্ষাকে অগ্রাধিকার দেওয়ার সিদ্ধান্ত ওপেনএআইয়ের এআই উন্নয়ন ও ঝুঁকি ব্যবস্থাপনার মধ্যে ভারসাম্য রাখার প্রচেষ্টারই ইঙ্গিত দিচ্ছে।
