بزرگنمايي:

نسیم گیلان - فیسبوک ناکارآمدی هوش مصنوعی‌اش را در تشخیص خشونت قبول ندارد
سایز متن الف الف
لینک کوتاه در کلیبرد کپی شد! http://akhr.ir/8370144
41
0
مجله دیجی کالا / وال استریت ژورنال در گزارشی جدید اعلام کرده که هوش مصنوعی فیسبوک به‌طور مداوم در حذف محتوای‌های خشونت بار موفق عمل نمی‌کند. گای روزن نایب‌رئیس فیسبوک، روز یکشنبه با انتشار پستی نوشت که شیوع نفرت‌پراکنی و خشونت در این پلتفرم طی سه سال گذشته 50 درصد کاهش یافته و این قضیه که فناوری مورد استفاده ما برای مبارزه با محتواهای نفرت‌انگیز و خشونت‌ بار کافی نیست، کاملا تعبیر غلطی است.
روزن بیان کرد: «نه ما نه کاربران و نه تبلیغ‌کنندگان، هیچکس دوست ندارد که محتواهای نفرت‌آمیز و خشونت بار را در این پلتفرم ببیند و ما در مورد کار خود برای حذف آن بسیار مصمم خواهیم بود. آنچه شواهد و مدارک نشان می‌دهد این است که این اقدام نیاز به یک برنامه‌ی دقیق و بلندمدت دارد و تیم‌های ما به‌طور مداوم برای توسعه سیستم‌های تشخیص فیسبوک، شناسایی مسائل و ایجاد راه‌حل‌ها تلاش می کنند.»
به نظر می‌رسد که این پست در پاسخ به مقاله‌ی روز یکشنبه وال استریت ژورنال بوده که این روزنامه در گزارشی ادعا کرده که کارمندان فیسبوک که وظیفه بررسی محتوای توهین‌آمیز و خشونت بار را بر روی این پلتفرم دارند، از توانایی سیستم‌های این شرکت برای انجام این کار اطمینان کافی ندارند. در گزارش این روزنامه آمده که اسناد داخلی نشان می‌دهد دو سال پیش، فیسبوک نیروی انسانی خود برای بررسی شکایات مربوط به سخنان نفرت‌انگیز و خشونت آمیز کاهش داد و به‌جای آن‌ها از هوش مصنوعی خود در این امر بهره برده است. این اقدام فیسبوک از عملکرد موثر و کاربردی هوش مصنوعی این شرکت در اجرای قوانین مربوط به محتواهای خشونت آمیز خبر داده بود.
تیمی از کارکنان فیسبوک در ماه مارس متوجه‌ی این امر شدند که سیستم‌های خودکار این شرکت پست‌هایی را که بین 3 تا 5 درصد محتوای‌های نفرت‌پراکنی را در این پلتفرم اجتماعی انتشار می‌دهند، حذف می‌کنند. اما روزن اعلام کرد که تمرکز بر حذف چنین محتواهایی به‌تنهایی، روش مناسبی برای مبارزه با این محتواهای خشونت بار نیست. او می‌گوید فناوری حذف محتواهای نفرت‌انگیز تنها روشی است که فیسبوک برای مبارزه با آن‌ها استفاده می‌کند.
روزن معتقد است که تمرکز بر محتواهای نفرت‌انگیز که مردم در این پلتفرم می‌بینند و نحوه کاهش آن‌ها با استفاده از ابزارهای مختلف، اقدامی بسیار حیاتی خواهد بود. وی مدعی شده که به ازای هر 10 هزار نفر بازدید یک محتوا در فیسبوک، پنج نفر اقدام به استفاده از الفاظ رکیک و ناپسند می‌کنند. اما گزارشات اخیر نشان می‌دهند که برخی از محتواهای مهم می‌توانند در تشخیص هوش مصنوعی فیسبوک خلل ایجاد کنند، از جمله فیلم‌های تصادفات اتومبیل که افراد زخمی را نشان می‌دهند و تهدیدهای خشونت آمیز علیه کودکان ترنس.
وال استریت ژورنال گزارش‌های بسیاری از مورد فیسبوک بر اساس اسناد داخلی ارائه شده توسط افشاگر Frances Haugen تهیه کرده است. او چندی پیش اعتراف کرد که این شرکت از تاثیر منفی اینستاگرام بر نوجوانان آگاه است که فیسبوک بر اساس اسناد داخلی این گزارش را رد کرد. بد نیست بدانید که حدود یک ماه پیش، روزنامه‌ی وال استریت ژورنال بر اساس اطلاعات داخلی فیسبوک گزارشی منتشر کرد که در آن بیان شد که اینستاگرام آسیب‌های روحی حدود یک سوم از دختران نوجوان را افزایش می‌دهد. به نظر می‌رسد این گزارش بر مبنای پژوهشی داخلی نوشته شده که توسط رییس بخش پژوهش‌های فیسبوک صورت گرفته است. با این حال این مقام ارشد فیسبوک مدعی شده که توصیف وال استریت ژورنال از این اطلاعات درست نیست.
نشریه وال استریت ژورنال طی ماه‌های گذشته بر مبنای پژوهش‌های داخلی فیسبوک گزارش‌های مختلفی درباره‌ی این شبکه اجتماعی و زیرمجموعه‌های آن منتشر کرده است. در این گزارش جدید به طور مشخص به تأثیرات اینستاگرام بر آسیب‌های روحی نوجوانان، به‌خصوص دختران نوجوان، پرداخته شده است. این روزنامه مدعی شده که فیسبوک به‌خوبی از تأثیرات منفی محصولاتش بر نوجوانان آگاهی دارد ولی این موضوع در اولویت‌های این شرکت قرار ندارد. رئیس بخش پژوهش‌های فیسبوک بسیاری از موضوعات مطرح شده در گزارش وال استریت ژورنال از جمله معتاد شدن نوجوانان به اینستاگرام را رد کرده و در عوض تمام تمرکز خود را بر اهمیت پایین این پژوهش معطوف کرده است. او می‌گوید این پژوهش فقط 40 نفر شرکت‌کننده داشته که برای پلتفرمی که بیش از 1 میلیارد نفر از آن استفاده می‌کنند، چنین تعداد نفراتی برای نظرسنجی و پژوهش بسیار پایین است.
متأسفانه نه فیسبوک، نه اینستاگرام و نه رئیس بخش پژوهش‌های فیسبوک هیچگونه داده‌ای که حرف‌های آن‌ها را ثابت کند، منتشر نکرده‌اند. بدون انتشار داده‌های موثق، رد کردن گزارش وال استریت ژورنال و پذیرفتن حرف‌های مدیر ارشد فیسبوک کار بسیار دشواری است. در ضمن باید خاطرنشان کنیم این اولین باری نیست که به تأثیرات منفی و مخرب اینستاگرام بر سلامت روحی نوجوانان پرداخته می‌شود که به نظر می‌رسد این موضوع همچنان در اولویت‌های فیسبوک قرار ندارد.