প্রধান টেকওয়ে
- টুইটার তাদের ইমেজ প্রিভিউ সফ্টওয়্যারটিতে ব্যবহারকারীরা যাকে জাতিগত পক্ষপাত বলে ডাকছে তার প্রতিকার করার আশা করছে৷
- টেক জায়ান্টের কল-আউট হতে পারে সাংস্কৃতিক গণনা যা শিল্পের বৈচিত্র্যের সমস্যাগুলি সমাধান করতে হবে৷
- টেকের বৈচিত্র্যের অভাব এর প্রযুক্তিগত অগ্রগতির কার্যকারিতাকে ক্ষতিগ্রস্ত করছে।
Twitter তার ছবি-ক্রপিং অ্যালগরিদম নিয়ে একটি তদন্ত শুরু করতে প্রস্তুত যখন এটি একটি প্রবণতামূলক বিষয় হয়ে ওঠে যা প্রযুক্তি শিল্পে বৈচিত্র্যের সমস্যাগুলির উপর একটি বৃহত্তর কথোপকথনের প্ররোচনা দেয়৷
ব্যবহারকারীরা এর ইমেজ প্রিভিউ অ্যালগরিদমে স্পষ্ট জাতিগত পক্ষপাত খুঁজে পাওয়ার পর সামাজিক মিডিয়া জুগারনট শিরোনাম করেছে৷ টুইটার ব্যবহারকারী কলিন ম্যাডল্যান্ড প্ল্যাটফর্মটি ব্যবহার করার পরে তার ব্ল্যাক সহকর্মীদের চিনতে ব্যর্থ হওয়ার জন্য প্ল্যাটফর্মটি ব্যবহার করেছিলেন যারা সবুজ স্ক্রিন প্রযুক্তি ব্যবহার করেছিলেন, কিন্তু বিদ্রুপের একটি দুর্দান্ত প্রদর্শনীতে, তিনি দেখতে পান টুইটারের চিত্র-ক্রপিং অ্যালগরিদম একই রকম আচরণ করেছে এবং কালো মুখগুলিকে বঞ্চিত করেছে।
অবশ্যই, এটি যেকোন সংখ্যালঘুর জন্য একটি বিশাল সমস্যা, কিন্তু আমি মনে করি আরও বিস্তৃত সমস্যাও রয়েছে।
অন্যান্য ব্যবহারকারীরা এই প্রবণতায় প্রবেশ করেছেন ভাইরাল টুইটগুলির একটি সিরিজ যা অ্যালগরিদমকে ধারাবাহিকভাবে সাদা এবং হালকা চামড়ার মুখ, মানুষ থেকে শুরু করে কার্টুন চরিত্র এবং এমনকি কুকুর পর্যন্ত অগ্রাধিকার দিয়েছে৷ এই ব্যর্থতা প্রযুক্তি শিল্পে একটি বৃহত্তর সাংস্কৃতিক আন্দোলনের ইঙ্গিত দেয় যা ধারাবাহিকভাবে সংখ্যালঘু গোষ্ঠীগুলির জন্য অ্যাকাউন্টে ব্যর্থ হয়েছে, যা প্রযুক্তিগত দিকে ছড়িয়ে পড়েছে৷
"এটি সংখ্যালঘুদের ভয়ানক বোধ করে, যেমন তারা গুরুত্বপূর্ণ নয়, এবং এটি অন্যান্য জিনিসের জন্য ব্যবহার করা যেতে পারে যা লাইনের নিচে আরও গুরুতর ক্ষতি করতে পারে," এরিক লার্নড-মিলার, বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞানের অধ্যাপক ম্যাসাচুসেটস, একটি ফোন সাক্ষাত্কারে বলেন."একবার আপনি সিদ্ধান্ত নিলেন যে সফ্টওয়্যারের একটি অংশ কিসের জন্য ব্যবহার করা যেতে পারে এবং যে সমস্ত ক্ষতি ঘটতে পারে, তারপরে আমরা সেগুলি হওয়ার সম্ভাবনা হ্রাস করার উপায়গুলি সম্পর্কে কথা বলতে শুরু করি।"
টাইমলাইনে ক্যানারি
টুইটার টুইটগুলিতে এমবেড করা ছবি স্বয়ংক্রিয়ভাবে ক্রপ করতে নিউরাল নেটওয়ার্ক ব্যবহার করে। অ্যালগরিদমটি প্রিভিউ করার জন্য মুখগুলি সনাক্ত করার কথা, তবে এটিতে একটি লক্ষণীয় সাদা পক্ষপাত রয়েছে বলে মনে হচ্ছে। কোম্পানির মুখপাত্র লিজ কেলি সমস্ত উদ্বেগের একটি প্রতিক্রিয়া টুইট করেছেন৷
কেলি টুইট করেছেন, "যারা এটি উত্থাপন করেছেন তাদের প্রত্যেককে ধন্যবাদ। আমরা মডেলটি পাঠানোর আগে পক্ষপাতিত্বের জন্য পরীক্ষা করেছি এবং আমাদের পরীক্ষায় জাতিগত বা লিঙ্গ পক্ষপাতের প্রমাণ পাইনি, তবে এটি পরিষ্কার যে আমরা আরও বিশ্লেষণ পেয়েছি করুন। আমরা আমাদের কাজ ওপেন সোর্স করব যাতে অন্যরা পর্যালোচনা করতে পারে এবং প্রতিলিপি করতে পারে।"
শ্বেতপত্রের সহ-লেখক "ফেসিয়াল রিকগনিশন টেকনোলজিস ইন দ্য ওয়াইল্ড: এ কল ফর এ ফেডারেল অফিস, " লার্নড-মিলার মুখ-ভিত্তিক এআই শেখার সফ্টওয়্যারের বাড়াবাড়ির উপর একজন শীর্ষস্থানীয় গবেষক।তিনি বছরের পর বছর ধরে ইমেজ-লার্নিং সফ্টওয়্যারের সম্ভাব্য নেতিবাচক প্রভাব নিয়ে আলোচনা করছেন, এবং এমন একটি বাস্তবতা তৈরি করার গুরুত্ব সম্পর্কে কথা বলেছেন যেখানে এই পক্ষপাতগুলি তাদের সর্বোত্তম ক্ষমতার জন্য প্রশমিত করা হয়৷
ফেসিয়াল রিকগনিশন প্রযুক্তির জন্য অনেক অ্যালগরিদম ডেটার জন্য রেফারেন্স সেট ব্যবহার করে, প্রায়ই ট্রেনিং সেট নামে পরিচিত, যেগুলি ইমেজ-লার্নিং সফ্টওয়্যারের আচরণকে সূক্ষ্ম-সুর করতে ব্যবহৃত চিত্রগুলির একটি সংগ্রহ। এটি শেষ পর্যন্ত AI কে সহজেই বিস্তৃত মুখগুলি চিনতে দেয়। যাইহোক, এই রেফারেন্স সেটগুলিতে একটি বৈচিত্র্যপূর্ণ পুলের অভাব থাকতে পারে, যার ফলে টুইটার টিমের অভিজ্ঞতার মতো সমস্যা দেখা দিতে পারে৷
"অবশ্যই, এটি যে কোনও সংখ্যালঘুর জন্য একটি বিশাল সমস্যা, তবে আমি মনে করি আরও বিস্তৃত সমস্যাও রয়েছে," বলেছেন লার্নড-মিলার৷ "এটি প্রযুক্তি খাতে বৈচিত্র্যের অভাব এবং অপব্যবহার ও অপব্যবহারের ঝুঁকিপূর্ণ এই ধরনের শক্তিশালী সফ্টওয়্যারগুলির সঠিক ব্যবহার দেখানোর জন্য একটি কেন্দ্রীভূত, নিয়ন্ত্রক শক্তির প্রয়োজনের সাথে সম্পর্কিত।"
প্রযুক্তির বৈচিত্র্যের অভাব
Twitter হতে পারে সর্বশেষ প্রযুক্তি কোম্পানি চপিং ব্লক, কিন্তু এটি একটি নতুন সমস্যা থেকে অনেক দূরে। প্রযুক্তির ক্ষেত্রটি একটি প্রধানত সাদা, চিরকাল পুরুষ-প্রধান ক্ষেত্র হিসাবে রয়ে গেছে এবং গবেষকরা খুঁজে পেয়েছেন যে বৈচিত্র্যের অভাব উন্নত সফ্টওয়্যারে পদ্ধতিগত, ঐতিহাসিক ভারসাম্যহীনতার প্রতিলিপি ঘটায়৷
নিউ ইয়র্ক ইউনিভার্সিটির এআই নাউ ইন্সটিটিউটের 2019 সালের একটি প্রতিবেদনে, গবেষকরা দেখেছেন যে দেশের শীর্ষ প্রযুক্তি সংস্থাগুলিতে কৃষ্ণাঙ্গ লোকেরা 6 শতাংশেরও কম। একইভাবে, মহিলারা এই ক্ষেত্রের কর্মীদের মাত্র 26 শতাংশ - একটি পরিসংখ্যান 1960 সালে তাদের অংশের তুলনায় কম৷
এটি সংখ্যালঘুদের ভয়ঙ্কর বোধ করে, যেমন তারা গুরুত্বপূর্ণ নয়, এবং এটি অন্যান্য জিনিসের জন্য ব্যবহার করা যেতে পারে যা লাইনের নিচে আরও গুরুতর ক্ষতি করতে পারে৷
পৃষ্ঠে, এই প্রতিনিধিত্বমূলক সমস্যাগুলিকে জাগতিক মনে হতে পারে, কিন্তু বাস্তবে, সৃষ্ট ক্ষতি গভীর হতে পারে। এআই নাউ ইনস্টিটিউটের গবেষকরা পরামর্শ দিয়েছেন যে এটি সফ্টওয়্যার সংক্রান্ত সমস্যাগুলির সাথে সম্পর্কিত যা প্রায়শই অ-সাদা এবং অ-পুরুষ জনসংখ্যার জন্য অ্যাকাউন্টে ব্যর্থ হয়।ইনফ্রারেড সোপ ডিসপেনসারগুলি কালো ত্বক সনাক্ত করতে ব্যর্থ হোক বা অ্যামাজনের AI সফ্টওয়্যার তাদের পুরুষদের থেকে মহিলা মুখগুলিকে আলাদা করতে ব্যর্থ হোক, প্রযুক্তি শিল্পে বৈচিত্র্যকে মোকাবেলা করতে ব্যর্থতা বৈচিত্র্যময় বিশ্বের সাথে মোকাবিলা করতে প্রযুক্তির ব্যর্থতার দিকে নিয়ে যায়৷
"অনেক লোক আছে যারা সমস্যাগুলি নিয়ে চিন্তা করেনি এবং সত্যিই বুঝতে পারে না যে এই জিনিসগুলি কীভাবে ক্ষতির কারণ হতে পারে এবং এই ক্ষতিগুলি কতটা তাৎপর্যপূর্ণ," শেখা-মিলার এআই ইমেজ লার্নিং সম্পর্কে পরামর্শ দিয়েছেন। "আশা করি, সেই সংখ্যা কমছে!"
