কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের সক্ষমতা বাড়ার সঙ্গে সঙ্গে এর নিরাপদ ব্যবহার নিয়ে উদ্বেগও বাড়ছে। বিশেষ করে, মানুষের সরাসরি তদারকি ছাড়াই বিভিন্ন কাজ করতে সক্ষম এআই এজেন্টকে সংবেদনশীল তথ্য ব্যবহারের সুযোগ দেওয়া হলে বড় ধরনের ঝুঁকি তৈরি হতে পারে। এ পরিস্থিতিতে এআইয়ের ওপর অন্ধভাবে নির্ভর না করার পরামর্শ দিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।

নাদেলার মতে, কোনো এআই মডেলকে নিরাপদ বলে মনে হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। তাই এআইকে গুরুত্বপূর্ণ কাজে ব্যবহারের ক্ষেত্রে কার্যকর নিয়ন্ত্রণ, নিয়মিত পর্যবেক্ষণ এবং শক্তিশালী নিরাপত্তাব্যবস্থা নিশ্চিত করা প্রয়োজন।

সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এআইয়ের ক্রমবর্ধমান সক্ষমতা এবং এর সঙ্গে সংশ্লিষ্ট ঝুঁকি নিয়ে নিজের অবস্থান তুলে ধরেন নাদেলা। সেখানে তিনি কৃত্রিম বুদ্ধিমত্তার উন্নত সক্ষমতা নিয়ে আলোচনা করেন এবং ‘সুপার ইন্টেলিজেন্স’ প্রসঙ্গও উল্লেখ করেন।

এআই এজেন্ট ব্যবহারে কেন সতর্কতা জরুরি?

এআই এখন আর শুধু প্রশ্নের উত্তর দেওয়া, ই-মেইল লেখা কিংবা ছবি তৈরির মধ্যে সীমাবদ্ধ নেই। বিভিন্ন প্রতিষ্ঠানে এআই এজেন্ট ব্যবহার করে তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং একাধিক ধাপের কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করা হচ্ছে।

এসব প্রযুক্তি কাজের গতি বাড়ানো এবং সময় ও শ্রম সাশ্রয়ে সহায়তা করছে। তবে এআইকে বেশি স্বাধীনতা দেওয়া হলে ভুল সিদ্ধান্ত কিংবা অনাকাঙ্ক্ষিত পদক্ষেপের প্রভাবও গুরুতর হতে পারে।

বিশেষ করে, কোনো এআই এজেন্টকে প্রতিষ্ঠানের গুরুত্বপূর্ণ তথ্য ব্যবহারের অনুমতি দেওয়া হলে তার কার্যক্রমের সীমা নির্ধারণ করা জরুরি। কোন তথ্য ব্যবহার করতে পারবে, কোন কাজ সম্পন্ন করতে পারবে এবং কোন পদক্ষেপ নেওয়ার আগে মানুষের অনুমোদন লাগবে—এসব বিষয় স্পষ্টভাবে নির্ধারণ করা প্রয়োজন।

একটি এআই দিয়ে অন্যটির ভুল ধরা কতটা কার্যকর?

এআইয়ের নিরাপত্তা যাচাইয়ের ক্ষেত্রেও সীমাবদ্ধতা রয়েছে। একটি এআই মডেল দিয়ে অন্য একটি মডেলের কাজ পরীক্ষা করা হলেও সব ভুল বা নিরাপত্তাসংক্রান্ত দুর্বলতা শনাক্ত করা সম্ভব নাও হতে পারে।

একাধিক এআই ব্যবস্থা পরস্পরের কাজ যাচাই করলেও তাদের ভুল শনাক্ত করার সক্ষমতা সব ক্ষেত্রে সমান নয়। ফলে স্বাধীন ও কার্যকর যাচাইপ্রক্রিয়া ছাড়া শুধু এআইয়ের ওপর নির্ভর করে নিরাপত্তা নিশ্চিত করা কঠিন।

প্রচলিত সফটওয়্যারে কোনো ত্রুটি দেখা দিলে কোড পরীক্ষা করে সমস্যার কারণ খুঁজে বের করা যায়। কিন্তু এআই কেন একটি নির্দিষ্ট উত্তর দিয়েছে কিংবা কেন কোনো বিশেষ পদক্ষেপ নিয়েছে, তা সব সময় সহজে ব্যাখ্যা করা সম্ভব হয় না। এতে ভুলের উৎস শনাক্ত করা এবং ভবিষ্যতে একই ধরনের সমস্যা প্রতিরোধ করা জটিল হয়ে উঠতে পারে।

এআইয়ের ওপর নিয়ন্ত্রণ কীভাবে নিশ্চিত করা যায়?

এআই ব্যবহারের ঝুঁকি কমাতে এর কার্যক্রম নিয়মিত পর্যবেক্ষণ, অনুমতির পরিধি সীমিত রাখা এবং নির্ধারিত সীমার বাইরে কাজ করতে না পারার ব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দিয়েছেন নাদেলা।

কোনো এআই ব্যবস্থা ব্যর্থ হলে কিংবা এর নিরাপত্তা বিঘ্নিত হলে সেই ঘটনার তথ্য দ্রুত প্রকাশ করাও গুরুত্বপূর্ণ। এতে অন্যান্য প্রতিষ্ঠান একই ধরনের ঝুঁকি সম্পর্কে জানতে পারবে এবং নিজেদের নিরাপত্তাব্যবস্থা উন্নত করার সুযোগ পাবে।

বিশেষজ্ঞদের আলোচনায় এআইয়ের নিরাপদ ব্যবহারের ক্ষেত্রে মানুষের তদারকি, স্বাধীন যাচাই এবং ঝুঁকি মোকাবিলার প্রস্তুতি গুরুত্বপূর্ণ বিষয় হিসেবে উঠে আসে। প্রযুক্তির সক্ষমতা বাড়লেও গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে যথাযথ নিয়ন্ত্রণ বজায় রাখা তাই জরুরি।

এআইয়ের সুবিধা কাজে লাগানোর পাশাপাশি এর সীমাবদ্ধতা ও সম্ভাব্য ঝুঁকি বিবেচনায় রাখাই নিরাপদ ব্যবহারের অন্যতম শর্ত।

সূত্র: ইন্ডিয়া টুডে