প্রধান টেকওয়ে
- জুম বলেছে যে এটি ব্যবহারকারীর অনুভূতি বা ব্যস্ততার স্তর মূল্যায়ন করতে AI ব্যবহার করবে৷
- মানবাধিকার গোষ্ঠীগুলি গোপনীয়তা এবং ডেটা সুরক্ষা উদ্বেগের কারণে জুমকে তার পরিকল্পনা পুনর্বিবেচনা করতে বলছে৷
- ব্যবহারকারী মনোযোগ দিচ্ছে কিনা তা মূল্যায়ন করতে কিছু কোম্পানি সাক্ষাত্কারের সময় আবেগ-শনাক্তকারী সফ্টওয়্যার ব্যবহার করে।
মানুষের আবেগ নিরীক্ষণের জন্য কৃত্রিম বুদ্ধিমত্তার (AI) ক্রমবর্ধমান ব্যবহার গোপনীয়তার উদ্বেগকে আঁকছে৷
মানবাধিকার সংস্থাগুলি জুমকে তার ভিডিও কনফারেন্সিং সফ্টওয়্যারটিতে আবেগ-বিশ্লেষণকারী AI চালু করার পরিকল্পনাটি ধীর করতে বলছে। সংস্থাটি জানিয়েছে যে এটি ব্যবহারকারীর অনুভূতি বা ব্যস্ততার স্তরের মূল্যায়ন করতে AI ব্যবহার করবে৷
"বিশেষজ্ঞরা স্বীকার করেছেন যে আবেগ বিশ্লেষণ কাজ করে না," ACLU সহ মানবাধিকার গোষ্ঠীগুলির কনসোর্টিয়াম জুমকে একটি চিঠিতে লিখেছিল। "মুখের অভিব্যক্তি প্রায়শই নীচের আবেগগুলির সাথে সংযোগ বিচ্ছিন্ন হয়ে যায়, এবং গবেষণায় দেখা গেছে যে এমনকি মানুষও কিছু সময় অন্যের আবেগ সঠিকভাবে পড়তে বা পরিমাপ করতে পারে না৷ এই সরঞ্জামটি বিকাশ করা ছদ্মবিজ্ঞানে বিশ্বাস যোগ করে এবং আপনার খ্যাতি ঝুঁকিতে ফেলে৷"
জুম তাৎক্ষণিকভাবে লাইফওয়্যারের মন্তব্যের অনুরোধে সাড়া দেয়নি।
আপনার আবেগের উপর নজর রাখা
প্রটোকল নিবন্ধ অনুসারে, বিক্রয়ের জন্য Q নামক জুম মনিটরিং সিস্টেম ব্যবহারকারীদের টক-টাইম অনুপাত, প্রতিক্রিয়া সময় ল্যাগ এবং ঘন ঘন স্পিকার পরিবর্তনগুলি পরীক্ষা করবে যাতে ব্যক্তি কতটা ব্যস্ত তা ট্র্যাক করতে পারে।জুম শূন্য এবং 100 এর মধ্যে স্কোর বরাদ্দ করতে এই ডেটা ব্যবহার করবে, উচ্চতর স্কোরগুলি উচ্চতর ব্যস্ততা বা অনুভূতি নির্দেশ করে৷
মানবাধিকার গোষ্ঠীগুলি দাবি করে যে সফ্টওয়্যারটি প্রতিবন্ধী বা নির্দিষ্ট জাতিসত্তার লোকেদের সাথে বৈষম্য করতে পারে এই অনুমান করে যে প্রত্যেকে যোগাযোগের জন্য একই মুখের অভিব্যক্তি, ভয়েস প্যাটার্ন এবং শারীরিক ভাষা ব্যবহার করে৷ গোষ্ঠীগুলি আরও পরামর্শ দেয় যে সফ্টওয়্যারটি ডেটা সুরক্ষা ঝুঁকি হতে পারে৷
"গভীরভাবে ব্যক্তিগত ডেটা সংগ্রহ করা যেকোনও সত্তাকে তৈরি করতে পারে যা এই প্রযুক্তিকে সরকারী কর্তৃপক্ষ এবং দূষিত হ্যাকারদের স্নুপিং করার লক্ষ্যে পরিণত করতে পারে।" চিঠি অনুসারে।
নিউইয়র্ক ইউনিভার্সিটির কম্পিউটার সায়েন্স এবং ইঞ্জিনিয়ারিং বিভাগের অধ্যাপক জুলিয়া স্টোয়ানোভিচ লাইফওয়্যারকে একটি ইমেল সাক্ষাত্কারে বলেছেন যে তিনি আবেগ শনাক্তকরণের পিছনের দাবিগুলি সম্পর্কে সন্দিহান৷
"আমি দেখতে পাচ্ছি না যে এই ধরনের প্রযুক্তি কীভাবে কাজ করতে পারে-মানুষের মানসিক অভিব্যক্তি খুবই স্বতন্ত্র, খুব সাংস্কৃতিকভাবে নির্ভরশীল, এবং খুব প্রসঙ্গ-নির্দিষ্ট," স্টোয়ানোভিচ বলেছেন।"কিন্তু, সম্ভবত আরও গুরুত্বপূর্ণভাবে, আমি দেখতে পাচ্ছি না কেন আমরা এই সরঞ্জামগুলি কাজ করতে চাই। অন্য কথায়, তারা যদি ভাল কাজ করে তবে আমরা আরও বেশি সমস্যায় পড়ব। তবে সম্ভবত ঝুঁকিগুলি সম্পর্কে চিন্তা করার আগেও, আমাদের উচিত জিজ্ঞাসা করুন- এই ধরনের প্রযুক্তির সম্ভাব্য সুবিধাগুলি কী কী?"
জুম ইমোশন ডিটেক্টিং সফটওয়্যার ব্যবহার করার একমাত্র কোম্পানি নয়। থিও উইলস, কুমা এলএলসি, একটি গোপনীয়তা এবং সুরক্ষা পরামর্শদাতা সংস্থার গোপনীয়তার সিনিয়র ডিরেক্টর, ইমেলের মাধ্যমে লাইফওয়্যারকে বলেছেন যে ব্যবহারকারী মনোযোগ দিচ্ছে কিনা তা মূল্যায়ন করতে সাক্ষাত্কারের সময় আবেগ সনাক্ত করার সফ্টওয়্যার ব্যবহার করা হয়। এটি পরিবহন শিল্পে চালকদের তন্দ্রাচ্ছন্ন দেখায় কিনা তা নিরীক্ষণ করার জন্য, ভিডিও প্ল্যাটফর্মে আগ্রহ এবং দর্জির সুপারিশগুলি পরিমাপ করার জন্য এবং শিক্ষামূলক টিউটোরিয়ালগুলিতে একটি নির্দিষ্ট শিক্ষার পদ্ধতি জড়িত কিনা তা নির্ধারণ করার জন্য পরীক্ষামূলকভাবে চালানো হচ্ছে৷
উইলস দাবি করেছেন যে আবেগ-মনিটরিং সফ্টওয়্যারকে ঘিরে বিতর্কটি গোপনীয়তার চেয়ে ডেটা নৈতিকতার প্রশ্ন বেশি। তিনি বলেছিলেন যে এটি ধারণার উপর ভিত্তি করে বাস্তব-বিশ্বের সিদ্ধান্ত নেওয়ার সিস্টেম সম্পর্কে৷
"এই প্রযুক্তির সাহায্যে, আপনি এখন ধরে নিচ্ছেন যে আমার মুখে একটি বিশেষ অভিব্যক্তি আছে, কিন্তু একটি অভিব্যক্তির পিছনে প্রেরণা সামাজিক বা সাংস্কৃতিক লালন-পালন, পারিবারিক আচরণ, অতীত অভিজ্ঞতা বা নার্ভাসনের মতো বিষয়গুলির কারণে ব্যাপকভাবে পরিবর্তিত হয় মুহূর্তে," উইলস যোগ করেছে। "অ্যালগরিদমকে একটি অনুমানের উপর ভিত্তি করে করা সহজাতভাবে ত্রুটিপূর্ণ এবং সম্ভাব্য বৈষম্যমূলক। অ্যালগরিদমগুলির উপর ভিত্তি করে অনেক জনসংখ্যার প্রতিনিধিত্ব করা হয় না, এবং এটি ব্যবহার করার আগে উপযুক্ত উপস্থাপনাকে অগ্রাধিকার দেওয়া প্রয়োজন।"
ব্যবহারিক বিবেচনা
ইমোশন ট্র্যাকিং সফ্টওয়্যার দ্বারা উত্থাপিত সমস্যাগুলি বাস্তবের পাশাপাশি তাত্ত্বিকও হতে পারে। Ferret.ai-এর সহ-প্রতিষ্ঠাতা, ম্যাট হেইসি, একটি এআই-চালিত অ্যাপ যা সম্পর্কের বুদ্ধিমত্তা প্রদান করে, লাইফওয়্যারকে একটি ইমেলে বলেছে যে ব্যবহারকারীদের জিজ্ঞাসা করা উচিত কোথায় মুখের বিশ্লেষণ করা হচ্ছে এবং কোন ডেটা সংরক্ষণ করা হচ্ছে। অধ্যয়নটি কি কল রেকর্ডিংয়ে করা হচ্ছে, ক্লাউডে প্রক্রিয়া করা হচ্ছে নাকি স্থানীয় ডিভাইসে?
এছাড়াও, হেইসি জিজ্ঞাসা করেছিলেন, অ্যালগরিদম যেমন শিখেছে, এটি কোনও ব্যক্তির মুখ বা নড়াচড়া সম্পর্কে কোন ডেটা সংগ্রহ করে যা সম্ভাব্যভাবে অ্যালগরিদম থেকে বিচ্ছিন্ন হতে পারে এবং কারও বায়োমেট্রিক্স পুনরায় তৈরি করতে ব্যবহৃত হতে পারে? কোম্পানী কি অ্যালগরিদমের শিক্ষা যাচাই বা যাচাই করার জন্য স্ন্যাপশট সংরক্ষণ করছে এবং ব্যবহারকারীকে কি এই নতুন ডেরিভেটিভ ডেটা বা সঞ্চিত ছবিগুলি তাদের কল থেকে সংগৃহীত হওয়ার বিষয়ে অবহিত করা হয়েছে?
"এগুলি সমস্ত সমস্যা যা অনেক কোম্পানি সমাধান করেছে, কিন্তু এমন কিছু কোম্পানি আছে যেগুলি কেলেঙ্কারিতে ধাক্কা খেয়েছে যখন দেখা যাচ্ছে যে তারা এটি সঠিকভাবে করেনি," হেইসি বলেছিলেন। "ফেসবুক হল একটি কোম্পানির সবচেয়ে উল্লেখযোগ্য কেস যেটি ব্যবহারকারীর গোপনীয়তা সম্পর্কে উদ্বেগের জন্য তার মুখের স্বীকৃতি প্ল্যাটফর্ম ফিরিয়ে দিয়েছে৷ মূল কোম্পানি মেটা এখন বায়োমেট্রিক ডেটার আশেপাশে গোপনীয়তা আইনের জন্য ইলিনয় এবং টেক্সাসের মতো কিছু এখতিয়ারে Instagram থেকে AR বৈশিষ্ট্যগুলি টেনে আনছে।"
