প্রধান টেকওয়ে
- নতুন গবেষণা পরামর্শ দেয় যে সুপার-স্মার্ট কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণের কোনো উপায় নেই।
- একটি জার্নাল পেপার যুক্তি দেয় যে AI নিয়ন্ত্রণ করতে আমাদের বর্তমানে যে প্রযুক্তি রয়েছে তার চেয়ে অনেক বেশি উন্নত প্রযুক্তির প্রয়োজন হবে।
- কিছু বিশেষজ্ঞ বলেছেন যে সত্যিকারের বুদ্ধিমান এআই আমাদের ধারণার চেয়ে তাড়াতাড়ি এখানে আসতে পারে।
মানুষ যদি কখনও সুপার-স্মার্ট কৃত্রিম বুদ্ধিমত্তা বিকাশ করে তবে এটি নিয়ন্ত্রণ করার কোনও উপায় থাকতে পারে না, বিজ্ঞানীরা বলছেন।
AI দীর্ঘকাল ধরে মানবতার সমস্ত সমস্যার নিরাময় বা একটি টার্মিনেটর-স্টাইল অ্যাপোক্যালিপস হিসাবে বিবেচিত হয়েছে।এখনও অবধি, যদিও, AI এমনকি মানব-স্তরের বুদ্ধিমত্তার কাছাকাছি আসেনি। কিন্তু কৃত্রিম বুদ্ধিমত্তা গবেষণা জার্নালে প্রকাশিত একটি সাম্প্রতিক গবেষণাপত্র অনুসারে, উন্নত এআই-এর উপর নিয়ন্ত্রণ রাখা মানুষের জন্য খুব জটিল সমস্যা হতে পারে যদি এটি কখনও বিকশিত হয়।
"একটি অতি বুদ্ধিমান মেশিন যা বিশ্বকে নিয়ন্ত্রণ করে বিজ্ঞান কল্পকাহিনীর মতো শোনায়," ম্যানুয়েল সেব্রিয়ান, কাগজের অন্যতম সহ-লেখক, একটি সংবাদ বিজ্ঞপ্তিতে বলেছেন৷
"কিন্তু ইতিমধ্যে এমন মেশিন রয়েছে যেগুলি প্রোগ্রামাররা কীভাবে এটি শিখেছে তা পুরোপুরি না বুঝেই স্বাধীনভাবে কিছু গুরুত্বপূর্ণ কাজ সম্পাদন করে। তাই প্রশ্ন উঠছে যে এটি কোনও সময়ে মানবতার জন্য অনিয়ন্ত্রিত এবং বিপজ্জনক হয়ে উঠতে পারে কিনা।"
শীঘ্রই আপনার কাছাকাছি একটি সুপার কম্পিউটারে আসছে
জার্নাল পেপারটি যুক্তি দেয় যে AI নিয়ন্ত্রণ করতে আমাদের বর্তমানে যে প্রযুক্তি রয়েছে তার চেয়ে অনেক বেশি উন্নত প্রযুক্তির প্রয়োজন হবে।
তাদের গবেষণায়, দলটি একটি তাত্ত্বিক কন্টেনমেন্ট অ্যালগরিদম তৈরি করেছে যা নিশ্চিত করে যে একটি সুপার ইন্টেলিজেন্ট AI কোনো পরিস্থিতিতেই মানুষের ক্ষতি করতে পারে না, প্রথমে AI-এর আচরণকে অনুকরণ করে এবং ক্ষতিকারক বলে মনে করলে তা বন্ধ করে।কিন্তু লেখকরা খুঁজে পেয়েছেন যে এই ধরনের একটি অ্যালগরিদম তৈরি করা যাবে না৷
"আপনি যদি তাত্ত্বিক কম্পিউটার বিজ্ঞানের মৌলিক নিয়মগুলির সাথে সমস্যাটি ভেঙে দেন, তাহলে দেখা যাচ্ছে যে একটি অ্যালগরিদম যা একটি AI কে বিশ্বকে ধ্বংস না করার নির্দেশ দেবে তা অসাবধানতাবশত তার নিজস্ব ক্রিয়াকলাপ বন্ধ করতে পারে।" জার্মানির ম্যাক্স প্ল্যাঙ্ক ইনস্টিটিউট ফর হিউম্যান ডেভেলপমেন্টের সেন্টার ফর হিউম্যানস অ্যান্ড মেশিনের পরিচালক ইয়াদ রাহওয়ান সংবাদ বিজ্ঞপ্তিতে বলেছেন৷
"যদি এটি ঘটে থাকে তবে আপনি জানতে পারবেন না যে কন্টেনমেন্ট অ্যালগরিদম এখনও হুমকির বিশ্লেষণ করছে, বা এটি ক্ষতিকারক AI ধারণ করা বন্ধ করেছে কিনা৷ কার্যত, এটি কন্টেনমেন্ট অ্যালগরিদমটিকে অব্যবহারযোগ্য করে তোলে৷"
ফ্রান্সের ইকোল পলিটেকনিকের কম্পিউটার সায়েন্সের অধ্যাপক মিচালিস ভাজিরগিয়ানিস যুক্তি দেন, সত্যিকারের বুদ্ধিমান এআই আমাদের ধারণার চেয়ে তাড়াতাড়ি এখানে আসতে পারে। লাইফওয়্যারকে একটি ইমেলে তিনি বলেন, "এআই একটি মানব শিল্পকর্ম, কিন্তু এটি দ্রুত একটি স্বায়ত্তশাসিত সত্তা হয়ে উঠছে।"
"গুরুত্বপূর্ণ বিষয় হবে যদি/যখন এককতা ঘটে (অর্থাৎ, যখন এআই এজেন্টদের একটি সত্তা হিসাবে চেতনা থাকবে) এবং তাই তারা স্বাধীনতা, আত্ম-নিয়ন্ত্রণ এবং চূড়ান্ত আধিপত্য দাবি করবে।"
এককতা আসছে
Vazirgiannis সুপার এআই এর আসন্ন আগমনের পূর্বাভাস দেওয়ার ক্ষেত্রে একা নন। AI হুমকিতে সত্যিকারের বিশ্বাসীরা "এককতা" সম্পর্কে কথা বলতে পছন্দ করে, যা ভাজিরগিয়ানিস ব্যাখ্যা করেছেন যে AI মানুষের বুদ্ধিমত্তাকে অগ্রাহ্য করবে এবং "যে AI অ্যালগরিদমগুলি সম্ভাব্যভাবে তাদের অস্তিত্ব উপলব্ধি করবে এবং স্বার্থপর ও সহযোগিতামূলক আচরণ করতে শুরু করবে।"
Google এর ইঞ্জিনিয়ারিং ডিরেক্টর Ray Kurzweil এর মতে, একবিংশ শতাব্দীর মাঝামাঝি আগে এককতা আসবে। "2029 হল সেই ধারাবাহিক তারিখ যা আমি ভবিষ্যদ্বাণী করেছি যখন একটি AI একটি বৈধ টিউরিং পরীক্ষায় উত্তীর্ণ হবে এবং তাই মানবিক স্তরের বুদ্ধিমত্তা অর্জন করবে," কুর্জউইল ফিউচারিজমকে বলেছেন৷
যদি আমরা আমাদের নিজের ঘর পরিষ্কার করতে না পারি, তাহলে আমাদের AI কে অনুসরণ করতে বলা উচিত?
"আমি 'সিঙ্গুলারিটি'-এর জন্য 2045 তারিখ নির্ধারণ করেছি, যেটি হল যখন আমরা আমাদের তৈরি করা বুদ্ধিমত্তার সাথে একত্রিত হয়ে আমাদের কার্যকর বুদ্ধিমত্তাকে এক বিলিয়ন গুণ বাড়িয়ে দেব।"
কিন্তু সমস্ত AI বিশেষজ্ঞরা মনে করেন না যে বুদ্ধিমান মেশিনগুলি একটি হুমকি। যে AI বিকাশের অধীনে রয়েছে তা ওষুধের বিকাশের জন্য বেশি কার্যকর হওয়ার সম্ভাবনা বেশি এবং এটি কোনও প্রকৃত বুদ্ধিমত্তা দেখাচ্ছে না, এআই পরামর্শদাতা ইমানুয়েল ম্যাগিওরি একটি ইমেল সাক্ষাত্কারে বলেছেন। "এআই এর চারপাশে একটি বড় হাইপ রয়েছে, যা এটিকে সত্যিই বিপ্লবী বলে মনে করে," তিনি যোগ করেছেন। "বর্তমান AI সিস্টেমগুলি প্রচারিত হিসাবে সঠিক নয়, এবং এমন ভুল করে যা একজন মানুষ কখনই করবে না।"
এআই-এর নিয়ন্ত্রণ নিন, এখন
এআই নিয়ন্ত্রণ করা যাতে এটি আমাদের নিয়ন্ত্রণ থেকে এড়াতে না পারে, এটি কঠিন হতে পারে, ভাজিরগিয়ানিস বলেছেন। সংস্থাগুলি, সরকারগুলির পরিবর্তে, সংস্থাগুলিকে নিয়ন্ত্রণ করে যা এআইকে শক্তি দেয়৷ "এমনকি অ্যালগরিদমগুলি, নিজেরাই, সাধারণত এই বৃহৎ এবং শক্তিশালী, সাধারণত বহুজাতিক, সংস্থাগুলির গবেষণা ল্যাবে উত্পাদিত এবং স্থাপন করা হয়," তিনি বলেছিলেন।
"এটা স্পষ্ট যে, এআই নিয়ন্ত্রণের জন্য প্রয়োজনীয় সংস্থানগুলির উপর রাজ্যগুলির সরকারগুলির নিয়ন্ত্রণ কম এবং কম থাকে৷"
কিছু বিশেষজ্ঞ বলেছেন যে সুপার ইন্টেলিজেন্ট এআই নিয়ন্ত্রণ করতে, মানুষের কম্পিউটিং সংস্থান এবং বৈদ্যুতিক শক্তি পরিচালনা করতে হবে। "দ্য ম্যাট্রিক্সের মতো বিজ্ঞান কল্পকাহিনী চলচ্চিত্রগুলি একটি ডাইস্টোপিয়ান ভবিষ্যত সম্পর্কে ভবিষ্যদ্বাণী করে যেখানে মানুষ এআই দ্বারা বায়ো-পাওয়ার উত্স হিসাবে ব্যবহার করে," ভাজিরগিয়ানিস বলেছেন৷
"এমনকি দূরবর্তী অসম্ভাব্যতা সত্ত্বেও, মানবজাতির নিশ্চিত হওয়া উচিত যে কম্পিউটিং সংস্থানগুলির (যেমন, কম্পিউটার ক্লাস্টার, জিপিইউ, সুপার কম্পিউটার, নেটওয়ার্ক/যোগাযোগ) এবং অবশ্যই বিদ্যুৎ সরবরাহকারী বিদ্যুৎ কেন্দ্রগুলির উপর যথেষ্ট নিয়ন্ত্রণ রয়েছে যা একেবারেই AI এর কার্যকারিতার জন্য ক্ষতিকর।"
এআই নিয়ন্ত্রণে সমস্যা হল যে গবেষকরা সবসময় বুঝতে পারেন না যে এই ধরনের সিস্টেমগুলি কীভাবে তাদের সিদ্ধান্ত নেয়, মাইকেল বার্থহোল্ড, ডেটা সায়েন্স সফ্টওয়্যার ফার্ম KNIME-এর সহ-প্রতিষ্ঠাতা এবং সিইও, একটি ইমেল সাক্ষাত্কারে বলেছেন। "যদি আমরা তা না করি, তাহলে আমরা কীভাবে এটিকে 'নিয়ন্ত্রণ' করতে পারি?"
তিনি যোগ করেছেন, "আমাদের কাছে, অপ্রাসঙ্গিক ইনপুটগুলির উপর ভিত্তি করে কখন সম্পূর্ণ ভিন্ন সিদ্ধান্ত নেওয়া হয় তা আমরা বুঝতে পারি না।"
এআই ব্যবহারের ঝুঁকি নিয়ন্ত্রণ করার একমাত্র উপায় হল এটি নিশ্চিত করা যে এটি শুধুমাত্র তখনই ব্যবহার করা হয় যখন সেই ঝুঁকিটি পরিচালনা করা যায়, বার্থহোল্ড বলেন। "ভিন্নভাবে বলুন, দুটি চরম উদাহরণ: আপনার পারমাণবিক বিদ্যুৎ কেন্দ্রের দায়িত্বে এআইকে রাখবেন না যেখানে সামান্য ত্রুটি বিপর্যয়কর পার্শ্ব প্রতিক্রিয়া হতে পারে, " তিনি যোগ করেছেন।
"অন্যদিকে, এআই ভবিষ্যদ্বাণী করে যে আপনার ঘরের তাপমাত্রা কিছুটা সামঞ্জস্য করা উচিত বা কিছুটা কম করা হলে জীবনযাপনের আরামের সুবিধার জন্য ক্ষুদ্র ঝুঁকির মূল্য হতে পারে।"
যদি আমরা এআই নিয়ন্ত্রণ করতে না পারি, তবে আমাদের এটিকে শিষ্টাচার শেখানো আরও ভাল ছিল, নাসার প্রাক্তন কম্পিউটার প্রকৌশলী পিটার স্কট একটি ইমেল সাক্ষাত্কারে বলেছিলেন। "আমরা শেষ পর্যন্ত AI এর নিয়ন্ত্রণযোগ্যতা নিশ্চিত করতে পারি না যতটা না আমরা আমাদের বাচ্চাদের নিশ্চিত করতে পারি," তিনি বলেছিলেন।
"আমরা তাদের সঠিকভাবে বড় করি এবং সর্বোত্তম জন্য আশা করি; এখনও পর্যন্ত, তারা বিশ্বকে ধ্বংস করেনি। তাদের ভালভাবে গড়ে তুলতে, আমাদের নৈতিকতার আরও ভাল বোঝার প্রয়োজন; আমরা যদি নিজের ঘর পরিষ্কার করতে না পারি, তাহলে কী হবে? কোড আমরা কি AI কে অনুসরণ করতে বলব?"
কিন্তু মানব জাতির জন্য সমস্ত আশা হারিয়ে যায়নি, বলেছেন AI গবেষক ইয়োনাটান ওয়েক্সলার, OrCam-এর R&D-এর নির্বাহী ভাইস প্রেসিডেন্ট। "যদিও অগ্রগতি সত্যিই চিত্তাকর্ষক, আমার ব্যক্তিগত বিশ্বাস হল যে মানুষের বুদ্ধিমত্তাকে অবমূল্যায়ন করা উচিত নয়," তিনি একটি ইমেল সাক্ষাত্কারে বলেছিলেন। "আমরা একটি প্রজাতি হিসাবে বেশ আশ্চর্যজনক জিনিস তৈরি করেছি, যার মধ্যে এআই নিজেই রয়েছে।"
চির-স্মার্ট এআই-এর অনুসন্ধান অব্যাহত রয়েছে। তবে অনেক দেরি হওয়ার আগে আমরা কীভাবে আমাদের সৃষ্টিগুলিকে নিয়ন্ত্রণ করি তা বিবেচনা করা আরও ভাল হতে পারে৷
