প্রধান টেকওয়ে
- অ্যালগরিদমিক পক্ষপাত কিশোরদের জন্য ক্ষতিকর যারা ইন্টারনেটে অনেক সময় ব্যয় করে, বিশেষজ্ঞরা বলছেন।
- Twitter ব্যবহারকারীরা সম্প্রতি একটি সমস্যার সম্মুখীন হয়েছেন যাতে কালো মুখ সাদাদের পক্ষে বাদ দেওয়া হয়৷
- কিশোরদের বিকাশমান মস্তিষ্ক বিশেষভাবে অ্যালগরিদমিক পক্ষপাতের ক্ষতিকর প্রভাবের জন্য সংবেদনশীল হতে পারে, গবেষকরা বলছেন৷
অ্যালগরিদমিক পক্ষপাত নামে পরিচিত কিছু প্রযুক্তিতে তৈরি কুসংস্কার অনেক গোষ্ঠীর জন্য ক্ষতিকারক হতে পারে, তবে বিশেষজ্ঞরা বলছেন এটি বিশেষ করে কিশোরদের জন্য ক্ষতিকর৷
অ্যালগরিদমিক পক্ষপাত, যখন কম্পিউটার সিস্টেম পূর্বানুমানিক ফলাফল দেখায়, তখন এটি একটি ক্রমবর্ধমান সমস্যা। টুইটার ব্যবহারকারীরা সম্প্রতি প্ল্যাটফর্মে পক্ষপাতিত্বের একটি উদাহরণ খুঁজে পেয়েছেন যখন একটি ইমেজ-ডিটেকশন অ্যালগরিদম যা ফটো ক্রপ করে সাদা মুখের পক্ষে কালো মুখগুলো কেটে ফেলছে। সংস্থাটি সমস্যার জন্য ক্ষমা চেয়েছে, তবে এখনও একটি ফিক্স প্রকাশ করেনি। এটি কিশোর-কিশোরীরা অনলাইনে যাওয়ার সময় যে পক্ষপাতের মুখোমুখি হয় তার একটি উদাহরণ, যা তারা অন্য যেকোনো বয়সের তুলনায় বেশি করে, বিশেষজ্ঞরা বলছেন।
"বেশিরভাগ কিশোর-কিশোরীরা জানে না যে সোশ্যাল মিডিয়া কোম্পানিগুলি নির্দিষ্ট সামগ্রী প্রচার করার জন্য তাদের জায়গা করে রেখেছে যা তারা মনে করে যে ব্যবহারকারীরা তাদের প্ল্যাটফর্মে যতদিন সম্ভব থাকতে পারে [অনুযায়ী] পছন্দ করবে, " ড. মাই- ডুকসনে ইউনিভার্সিটির স্কুল অফ নার্সিং-এর সহকারী অধ্যাপক Ly Nguyen Steers, যিনি কিশোর/কলেজের ছাত্রদের মধ্যে সোশ্যাল মিডিয়া ব্যবহার অধ্যয়ন করেন, একটি ইমেল সাক্ষাত্কারে বলেছেন৷
"অ্যালগরিদম সম্পর্কে কিছুটা সচেতনতা থাকলেও, পর্যাপ্ত লাইক এবং মন্তব্য না পাওয়ার প্রভাব এখনও শক্তিশালী এবং কিশোরদের আত্মসম্মানকে প্রভাবিত করতে পারে," যোগ করেছেন স্টিয়ার্স৷
বিকাশশীল মস্তিষ্ক
অ্যালগরিদমিক পক্ষপাত কিশোরদের অপ্রত্যাশিত উপায়ে প্রভাবিত করতে পারে যেহেতু তাদের প্রিফ্রন্টাল কর্টেক্স এখনও বিকাশ করছে, রুটস্ট্র্যাপের প্রধান ডেটা সায়েন্টিস্ট মিকেলা পিসানি একটি ইমেল সাক্ষাত্কারে ব্যাখ্যা করেছেন৷
পর্যাপ্ত লাইক এবং মন্তব্য না পাওয়ার প্রভাব এখনও শক্তিশালী এবং কিশোরদের আত্মসম্মানকে প্রভাবিত করতে পারে।
"কিশোররা 'সোশ্যাল ফ্যাক্টরি'-এর ঘটনার জন্য বিশেষভাবে ঝুঁকিপূর্ণ, যেখানে অ্যালগরিদম অনলাইন প্ল্যাটফর্মে সামাজিক ক্লাস্টার তৈরি করে, যদি কিশোর-কিশোরীদের সামাজিক অনুমোদনের প্রয়োজনীয়তা পূরণ না হয় তাহলে উদ্বেগ এবং হতাশার দিকে পরিচালিত করে," পিসানি বলেন। "অ্যালগরিদমগুলি পূর্ববর্তী অসম্পূর্ণ ডেটার উপর ভিত্তি করে সরলীকরণ করে-যা পরিচয় গঠনের জন্য আরও সংক্ষিপ্ত পদ্ধতির ব্যয়ে স্টেরিওটাইপগুলির অত্যধিক উপস্থাপনের দিকে পরিচালিত করে৷
"বৃহত্তর দৃষ্টিভঙ্গি গ্রহণ করলে, সমাজ হিসাবে আমাদেরও প্রশ্ন করা বাকি আছে, আমরা যদি আমাদের কিশোর বয়সে প্রাপ্তবয়স্কদের যাত্রাকে আকার দিতে অ্যালগরিদম চাই, এবং এই সিস্টেমটি কি ব্যক্তিগত ব্যক্তিগত বৃদ্ধিকে স্তব্ধ করার পরিবর্তে সমর্থন করে?"
এই সমস্যাগুলির কারণে, অ্যালগরিদম ডিজাইন করার সময় কিশোর-কিশোরীদের মনে রাখার একটি ক্রমবর্ধমান প্রয়োজন রয়েছে, বিশেষজ্ঞরা বলছেন৷
"উন্নয়ন বিশেষজ্ঞ, ডেটা বিজ্ঞানী এবং যুব আইনজীবীদের ইনপুটের উপর ভিত্তি করে, ডেটা গোপনীয়তা এবং অ্যালগরিদমিক ডিজাইনের আশেপাশে 21 শতকের নীতিগুলিও কিশোর-কিশোরীদের বিশেষ চাহিদার কথা মাথায় রেখে তৈরি করা যেতে পারে, " এভ্রিল এপস-ডার্লিং, একজন ডক্টরেট হার্ভার্ডের ছাত্র, সম্প্রতি লিখেছেন। "যদি আমরা এর পরিবর্তে কিশোর-কিশোরীদের অ্যালগরিদমিক বর্ণবাদের জন্য ঝুঁকিপূর্ণ উপায়গুলিকে কমিয়ে বা উপেক্ষা করতে থাকি, তাহলে ক্ষতিগুলি আগামী প্রজন্মের মাধ্যমে প্রতিফলিত হতে পারে।"
পক্ষপাতের বিরুদ্ধে লড়াই করা
একটি সমাধান না হওয়া পর্যন্ত, কিছু গবেষক পক্ষপাতদুষ্ট অ্যালগরিদম দ্বারা তরুণদের ক্ষতি কমানোর উপায় খুঁজে বের করার চেষ্টা করছেন৷
"কিশোরদের তাদের সামাজিক মিডিয়া প্যাটার্নগুলি তাদের মানসিক স্বাস্থ্যের উপর নেতিবাচক প্রভাব ফেলছে এবং এটি হ্রাস করার কৌশল নিয়ে আসার চেষ্টা করছে (যেমন, সোশ্যাল মিডিয়ার ব্যবহার হ্রাস) চিনতে হস্তক্ষেপগুলিকে কেন্দ্রীভূত করা হয়েছে," স্টিয়ারস বলেছেন৷
"কয়েকজন কলেজের শিক্ষার্থীরা যাদের আমরা সাক্ষাৎকার নিয়েছি তারা ইঙ্গিত দিয়েছে যে তারা "প্রাসঙ্গিক" থাকার জন্য সামগ্রী তৈরি করতে বাধ্য বোধ করে, এমনকি তারা বাইরে যেতে বা পোস্ট করতে না চাইলেও, "তিনি চালিয়ে যান। "তবে, তারা মনে করে তাদের অনুগামী বা বন্ধুদের সাথে তাদের সংযোগ বজায় রাখার জন্য তাদের সামগ্রী তৈরি করতে হবে।"
চূড়ান্ত উত্তর হতে পারে কম্পিউটার থেকে মানুষের পক্ষপাত দূর করা। কিন্তু যেহেতু প্রোগ্রামাররা শুধুমাত্র মানুষ, তাই এটি একটি কঠিন চ্যালেঞ্জ, বিশেষজ্ঞরা বলছেন।
একটি সম্ভাব্য সমাধান হল এমন কম্পিউটার তৈরি করা যা বিকেন্দ্রীভূত এবং প্রোগ্রাম করা হয় যাতে তারা যা শিখেছে তা ভুলে যেতে, জন স্যুট বলেন, রোবোটিক্স ফার্ম কোডার প্রধান প্রযুক্তি কর্মকর্তা।
"একটি বিকেন্দ্রীকৃত নেটওয়ার্কের মাধ্যমে, ডেটা এবং সেই ডেটার বিশ্লেষণগুলি একাধিক পয়েন্ট থেকে সংকলিত এবং বিশ্লেষণ করা হচ্ছে," স্যুট একটি ইমেল সাক্ষাত্কারে বলেছিলেন। "ডেটা সংগ্রহ করা হচ্ছে এবং প্রক্রিয়া করা হচ্ছে একক এআই মাইন্ড প্রসেসিং থেকে তার অ্যালগরিদমের সীমার মধ্যে নয়, শত শত বা হাজার হাজার।
"সেই ডেটা সংগ্রহ ও বিশ্লেষণ করার সাথে সাথে, পুরানো "সিদ্ধান্ত" বা অতিরিক্ত ডেটা ভুলে যাওয়া হয়৷ এই সিস্টেমের মাধ্যমে, পক্ষপাত দিয়ে শুরু হওয়া একটি অ্যালগরিদম অবশেষে ভুল প্রমাণিত হলে সেই পক্ষপাতটিকে সংশোধন করবে এবং প্রতিস্থাপন করবে৷"
যদিও পক্ষপাত একটি পুরানো সমস্যা হতে পারে, অন্তত অনলাইনে এটি মোকাবেলা করার উপায় থাকতে পারে। এমন কম্পিউটার ডিজাইন করা যা আমাদের কুসংস্কার দূর করে।
