AI operated drone: অভিভাবককেই ‘খুন’ করল রোবট! মার্কিন বায়ুসেনার ঘটনা নিয়ে চাঞ্চল্য

সম্প্রতি আমেরিকার এক সেনা আধিকারিক কৃত্রিম বুদ্ধিমত্তা নিয়ে চাঞ্চল্যকর তথ্য জানান। তাঁর কথায় মার্কিন সেনাবাহিনীতে এর ব্যবহার নিয়ে একটি পরীক্ষা হয়। সেখানেই ঘটে যায় একটি ভয়ঙ্কর ঘটনা।

অভিভাবককেই ‘খুন’ করল রোবট ড্রোন! (প্রতীকী ছবি সৌজন্যে ফ্রিপিক)

কৃত্রিম বুদ্ধিমত্তাই মানুষের বিপদের কারণ হবে না তো? সম্প্রতি একটি ঘটনা নিয়ে বিতর্ক তেমন আশঙ্কাই উস্কে দিল। সম্প্রতি আমেরিকার সেনা বিভাগের তরফে এক আধিকারিক এআই নিয়ে চাঞ্চল্যকর দাবি করেন। ওই আধিকারিকের কথায়, এআইয়ের সাহায্যে একটি সামরিক ড্রোন চালাতে গিয়ে ভয়ঙ্কর ঘটনা দেখা গিয়েছে। সাধারণভাবে কৃত্রিম বুদ্ধিমত্তার মডেলকে যে কাজের নির্দেশ দেওয়া হয়,  ভৃত্যের মতো সেই কাজ পালন করাই তার দায়িত্ব। তেমনই ড্রোনে বসানো এআইকে নির্দেশ দেওয়া হয় শত্রুপক্ষকে মারতে। নির্দেশটি ঠিকমতো পালনও করে ওই ড্রোন। কিন্তু গন্ডগোল বাঁধে এরপর। 

যখন ড্রোনের নির্দেশক শত্রুকে মারতে বারণ করে, তখন আর কোনও নির্দেশই শুনছে না ড্রোন। পরীক্ষা করে দেখা যায়, শত্রুকে মারার নির্দেশই তার কাছে শিরোধার্য হয়ে গিয়েছে। শুধু এটুকুতেই আটকে ছিল না গোটা ঘটনা। নির্দেশক যাতে  শত্রুকে মারতে বারণ না করে, তাই তাকেই খুন করে ওই ড্রোন। অর্থাৎ তার শিরোধার্য লক্ষ্য থেকে তাকে যেই বিচ্যুত করতে আসবে, তাকেই প্রাণ হারাতে হবে। কল টাকার সিনকো হ্যামিলটন এমনই একটি নকল পরীক্ষার কথা বলেন। ওই পরীক্ষায় একটি ড্রোনকে প্রথমে শত্রুদের এলাকায় ঢুকে আক্রমণের নির্দেশ দেওয়া হয়। সেই নির্দেশ পালনও করে ড্রোন। কিন্তু এরপর আক্রমণ করতে বারণ করা হলে সে কথা আর কানে তোলে না সামরিক যান। দেখা যায়, নির্দেশদাতাকেই খুন করে ফেলছে। যদিও এই নকল পরীক্ষায় কোনও মানুষ আক্রান্ত বা নিহত হয়নি বলেই জানান হ্যামিলটন। 

হ্যামিলটনের কথায়, ড্রোনের বুদ্ধিমত্তাকে বলা হয়, নির্দেশদাতাকে মারার কাজটি ঠিক নয়। কিন্তু কৃত্রিম বুদ্ধিমত্তা সে কথাও পাত্তাও দেয়নি। এই প্রসঙ্গেই হ্যামিলটন বলেন, কৃত্রিম বুদ্ধিমত্তা এই কারণেই খুব বেশি সাবধানে ব্যবহার করা উচিত আমাদের। আমরা যদি প্রথম থেকেই নীতি মেনে না চলি, তাহলে ভবিষ্যতে বড় বিপদ ঘনিয়ে আসতে পারে।  তবে এমন কোনও পরীক্ষার কথা পুরোপুরি অস্বীকার করেছে আমেরিকার বায়ুসেনা। সংবাদমাধ্যম মার্কিন বায়ুসেনার শীর্ষ আধিকারিকদের সঙ্গে যোগাযোগ করলেও তাঁরা কথা বলতে চাননি।