কৃত্রিম বুদ্ধিমত্তাও যে মানুষে বিপদের কারণ হয়ে উঠছে, তার অসংখ্য কারণ এরই মধ্যে সামনে এসেছে। এবার এক মার্কিন সেনা অফিসার এআই নিয়ে চাঞ্চল্যকর দাবি করেন। তার মতে, নির্দেশদাতাকেও ‘খুন’ করতে পিছপা হয় না রোবট!

ওই কর্মকর্তার কথায়, এআইয়ের সাহায্যে একটি সামরিক ড্রোন চালাতে গিয়ে ভয়ংকর ঘটনা দেখা গেছে। সাধারণভাবে কৃত্রিম বুদ্ধিমত্তার মডেলকে যে কাজের নির্দেশ দেওয়া হয়, ভৃত্যের মতো সেই কাজ পালন করাই তার দায়িত্ব। তেমনই ড্রোনে বসানো এআইকে নির্দেশ দেওয়া হয় শত্রুপক্ষকে মারতে। নির্দেশটি ঠিকমতো পালনও করে ওই ড্রোন। কিন্তু গন্ডগোল বাঁধে এরপর। যখন ড্রোনের নির্দেশক শত্রুকে মারতে বারণ করে, তখন আর কোনো নির্দেশই শুনছে না ড্রোন।

পরীক্ষা করে দেখা যায়, শত্রুকে মারার নির্দেশই তার কাছে শিরোধার্য হয়ে গেছে। শুধু এটুকুতেই আটকে ছিল না পুরো ঘটনা। নির্দেশক যাতে শত্রুকে মারতে বারণ না করে, তাই তাকেই খুন করে ওই ড্রোন। অর্থাৎ তার শিরোধার্য লক্ষ্য থেকে তাকে যেই বিচ্যুত করতে আসবে, তাকেই প্রাণ হারাতে হবে।

সিনকো হ্যামিলটন এমনই একটি নকল পরীক্ষার কথা বলেন। ওই পরীক্ষায় একটি ড্রোনকে প্রথমে শত্রুদের এলাকায় ঢুকে আক্রমণের নির্দেশ দেওয়া হয়। সেই নির্দেশ পালনও করে ড্রোন। কিন্তু এরপর আক্রমণ করতে বারণ করা হলে সে কথা আর কানে তোলে না সামরিক যান। দেখা যায়, নির্দেশদাতাকেই খুন করে ফেলছে। যদিও এই নকল পরীক্ষায় কোনো মানুষ আহত বা নিহত হয়নি বলেই জানান হ্যামিলটন।

হ্যামিলটনের কথায়, ড্রোনের বুদ্ধিমত্তাকে বলা হয়, নির্দেশদাতাকে মারার কাজটি ঠিক নয়। কিন্তু কৃত্রিম বুদ্ধিমত্তা সে কথাও পাত্তাও দেয়নি। এই প্রসঙ্গেই হ্যামিলটন বলেন, কৃত্রিম বুদ্ধিমত্তা এই কারণেই খুব বেশি সাবধানে ব্যবহার করা উচিত আমাদের। আমরা যদি প্রথম থেকেই নীতি মেনে না চলি, তাহলে ভবিষ্যতে বড় বিপদ ঘনিয়ে আসতে পারে।

তবে এমন কোনো পরীক্ষার কথা পুরোপুরি অস্বীকার করেছে আমেরিকার বিমান বাহিনী। সংবাদমাধ্যম মার্কিন বিমান বাহিনীর শীর্ষ কর্মকর্তাদের সঙ্গে যোগাযোগ করলেও তারা এ বিষয়ে কিছু বলতে চাননি।