کتی اونیل

حقیقت الگوریتم‌ها، کتی اونیل

کاترین هلن اونیل یا خلاصه، کتی اونیل (Cathy O’Neil) یه ریاضیدان و دانشمند علوم داده‌ی آمریکاییه که شهرت اخیرش به خاطر نوشتن کتاب سلاح‌های کشتار ریاضیاتیه (Weapons of Math Destruction).

کتی اونیل توی کتاب سلاح‌های کشتار ریاضیاتی، درباره‌ی تأثیراتی که الگوریتم‌ها روی جامعه می‌ذارن صحبت کرده و توضیح داده چطور از بیگ دیتا داره روز‌به‌روز بیشتر استفاده می‌شه تا مقاصد نادرستی محقق بشه.

البته حرفی که داره می‌زنه مربوط به تمام فرآیندهای الگوریتمیک و وابسته به یادگیری ماشینه که توی آمریکا تو ده‌های گذشته مصرفشون تو جاهایی مثل شبکه‌های اجتماعی و فضاهای مختلف دولتی زیاد شده.

الگوریتم چیست؟

کتی مک اونیل معتقده الگوریتم، یه نظر، سلیقه یا عقیده‌س که توی ریاضیات تعبیه شده.

فرض کن وظیفه‌ی آشپزی به عهده‌ی توئه و باید برای اهل خونه غذا بپزی. داده‌های تو چیزایی مثل موادیه که تو آشپزخونت داری یا چیزایی مثل زمانت. تو توی الگوریتمِ پخت غذا از این داده‌ها استفاده می‌کنی و اونها رو مدیریت می‌کنی تا غذاهایی بپزی که توش سبزیجات زیاد باشه. چرا؟ چون هدفت سلامتیه خانوادس.

حالا یه رستوران میاد از داده‌های شبیه داده‌های تو استفاده می‌کنه و غذاهایی می‌پزه که بیشتر لذیذ و خوشمزه باشه. چرا؟ چون هدفش فروش بیشتره.

گرفتی چی شد؟ منِ تصمیم‌گیرنده و صاحب الگوریتم هستم که سلیقه و نظر خودم رو داخل الگوریتم تعبیه می‌کنم و الگوریتم رفته‌رفته با گرفتن داده‌های بیشتر و طی کردنِ مداومِ مسیر صفر تا صد و شروع کردنِ دوباره‌ی اون در جهت پیاده‌سازیِ عقیده‌ی من بهتر و بهتر می‌شه. یعنی چی؟

حرف کتی اونیل اینه که الگوریتم‌ها علمی و بی‌طرف نیستن و نباید همین‌جوری بهشون اعتماد کنیم و زندگی و جامعه رو بر مبنای خواست اونها تغییر بدیم.

برگردیم به مثال رستوران. من می‌خوام بیشتر بفروشم و برای این کار متوجه شدم که باید غذاهایی درست کنم که لذبذ و زیادی خوشمزه باشن. الگوریتم رو برای درست کردن غذهای لذیذ ایجاد می‌کنم و با توجه به یادگیری ماشین رفته‌رفته الگوریتم طوری تغییر می‌کنه که برای پخت غذا پیشنهاد استفاده از روغن زیاد به همراه نمک زیاد رو می‌ده. این اتفاق در طول زمان میفته.

حالا بیا تو اینستاگرام. هدف موندنِ بیشتر و بیشتر کاربرا توی پلتفرمه. آیا اشتباهه؟ خیر. بالاخره پلتفرم باید پول در بیاره. الگوریتم کار می‌کنه و رفته‌رفته بهینه می‌شه. بعد از پنج سال طوری رفتار مخاطبان پلتفرم رو تغییر می‌ده که بیشتر عصبانی باشن و بیشتر به هم فحش بدن. چرا؟ چون هدف الگوریتم بیشتر نگه داشتن آدما توی پلتفرمه نه سیانت از انسانیت یا اخلاق.

اینکه الگوریتم اینستاگرام اینجوریه، پس ما باید اونجوری بشیم که اون می‌خواد، نشون می‌ده ما بدون اینکه بدونیم اصلاً الگوریتم چیه بهش اعتماد کردیم و داریم هم خودمون و هم افراد دیگه‌ای که مخاطبمون هستن رو در جهت خواست الگوریتم تغییر می‌دیم.

این تغییر رفتار یه بحث مفصل و عمیقی نیاز داره که کامل جا بیفته. شاید الان بگی یعنی چی تغییر می‌ده؟ داریم یه ویدیو یه دیقه‌ای می‌بینیم دیگه؟! یه دونه پست اسلایدی که دیگه تغییر رفتار نداره، دلت خوشه‌ها…! باید عمیق بشی تا بتونی درکش کنی. فرصت بشه حتماً بیشتر راجع بهش حرف می‌زنیم. تو اودیوبلاگ موفقیت به شرط شباهت یه چیزایی تو این زمینه بلغور کردم.

دیدین سخنراین کتی اونیل توی تد با عنوان عصر ایمان کورکورانه به بیگ دیتا باید تمام شود تو درک این چیزی که اینجا گفتیم کمک می‌کنه.