چگونه فیسبوک به خشونت های دینی دامن می زند؟

مترجم: الهه حسینی

نشریه فارن پالسی در گزارشی به قلم مشترک مباشر حسن، جِفری مک دونالد، هوی هوی اوی (Hui Hui Ooi) درباره نقش فیسبوک در دامن زدن به خشونت های دینی در بستر این شبکه اجتماعی نوشت: راهبرد غیرمنسجم فیسبوک در زمینه تعدیل محتوا در حال درمانده کردن کشوری به نام بنگلادش است.

در ادامه مقاله توضیح می دهیم که فیسبوک چطور می تواند این خط مشی خود را اصلاح کند.در اکتبر گذشته بنگلادش با یکی از بدترین خشونت های خود در طی سالیان سال مواجه شد یعنی زمانی که مسلمانان در سراسر این کشور به صدها خانه و معبد هندوها حمله کردند و باعث کشته شدن شش نفر و زخمی شدن شمار زیادی از افراد شدند. جرقه این حملات براثر دو پُست (نوشته) تحریک آمیز در پلتفرم محبوب فیسبوک زده شد.

در پست (نوشته) اول، ویدئویی زنده از هتک حرمت قرآن در یک معبد هندو پخش شد. در پست(نوشته) دوم، یک مرد هندو ظاهراً از اسلام انتقاد می کند.

فیسبوک از بدو تأسیس در سال ۲۰۰۴ از خطرات احتمالی که در بستر این شبکه اجتماعی شکل می گیرند، آگاه بوده است. در مقررات و شرایطی که فیسبوک برای ارائه خدمات به کاربران خود، تدوین کرده همیشه روی حق این شرکت برای حذف سخنان تهدیدآمیز تاکید شده است و از آنجا که محتوای مضر در یک روند افزایشی این پلتفرم را تحت تاثیر قرار می دهد، این شرکت به طور منظم خط مشی های خود برای تعریف بهتر دستورالعمل ها و رویکردهای اجرایی را بروز می کند.

مالک شرکت فیسبوک، که اکنون با نام متا شناخته می‌شود، برای سالیان سال میلیاردها دلار برای بهبود اقدامات «ایمنی و امنیت» در تمامی محصولات خود، از جمله واتس‌اپ و اینستاگرام، هزینه کرده است اما تلاش های فیسبوک برای مهار خشونت ناشی از”سخنان نفرت انگیز”، راه به جایی نبرده است. تنها چند هفته قبل از شروع حملات خشونت آمیز در بنگلادش، فرانسیس هاگن کارمند سابق فیسبوک با حضور در مقابل نمایندگان کنگره آمریکا در مورد تأثیر مخرب این شرکت بر سخنان مشوق نفرت و اختلافات اجتماعی شهادت داد. او گفت که فیسبوک «به معنای واقعی کلمه به خشونت قومی دامن می زند».

واکنش شرکت فیسبوک – که بازنگری در سیاست‌های این شرکت در زمینه قلدری، ارعاب و آزار و اذیت در فضای شبکه های اجتماعی بوده – کمک چندانی به حل بحران نکرده است.

رویکرد موقت و مقطعی فیسبوک در زمینه تعدیل محتوا در بنگلادش و در سراسر جهان شکست خورده و پیامدهای شدیدی داشته است.

در بنگلادش، اتهامات مربوط به توهین به مقدسات، که اغلب شهروندان عادی این کشور آن را مطرح می کنند، به ویژه در بسیج کردن اکثریت مسلمانان این کشور علیه جوامع اقلیت بسیار، قدرتمند است.

مدت ها قبل از تاسیس شرکت فیسبوک، چنین پویش های نفرت برانگیزی به صورت پراکنده وجود داشتند اما از طریق جنبش های خیابانی و تبلیغات کلامی ،منجر به وقایع خشونت آمیز می شدند. در سال ۱۹۹۹، ستیزه جویان در اقدامی وحشیانه با استناد به دیدگاههای جنجالی شمصور رحمان، شاعر و فعال سکولار به او حمله کردند.

فیسبوک به گسترش چنین سخنانی دامن می زند، به ویژه زمانی که نخبگان سیاسی و مذهبی قصد دارند حسن نیت پوپولیستی(عوامفریبانه) خود را به نمایش بگذارند و چنین سخنانی را ترویج می کنند. در طول دهه گذشته، این پست‌های(نوشته های) فیسبوک باعث بروز خشونت های شدید بر ضد اقلیت ها در سراسر بنگلادش شده است.

اولین نمونه بزرگ از خشونت‌هایی که از فیسبوک الهام گرفته شد در بنگلادش رخ داد و مربوط به سال ۲۰۱۲ است که در آن هزاران مسلمان پس از انتشار عکسی از ” قرآن سوخته” – که روی حساب کاربری یک مرد بودایی “تَگ شده بود”(نشان گذاری شده بود) – به یکی از محلات بودایی‌ها حمله کردند. در پی این خشونت ها، حداقل ۱۰۰۰ خانواده بودایی محل سکونت خود را ترک کردند.

این حمله آغازگر چیزی بود که در ادامه به یک روند وحشتناک تبدیل و هر ساله هم تکرار شد.در سال‌های ۲۰۱۳ و ۲۰۱۴، آشوبگران مسلمان به روستاهای هندونشین حمله کردند چون یک مرد هندو به دروغ متهم شده بود که در فیسبوک به پیامبر اسلام توهین کرده است! دو سال پس از این حادثه، شورشیان حداقل ۱۵ معبد هندو را تخریب کردند. در سال ۲۰۱۷، یک گروه ۲۰۰۰۰ نفری یک روستای هندوها را به آتش کشیدند.

حمله به یک محله هندو نشین در سال ۲۰۱۹ باعث شد که چهار نفر کشته شوند و ۵۰ نفر دیگر هم زخمی شوند. در اوایل سال ۲۰۲۱، به دلیل انتقاد یک مرد هندو از پیامبر اسلام در یک گفتگوی فیسبوکی ، خانه وی تخریب شد و به خودروی او آسیب وارد کردند. در طول یک دهه گذشته، اسلام گرایان پس از اطلاع از پست ها در فضای آنلاین ، اقدام به متهم کردن دهها وبلاگ نویس هندو، ملحد، یا مسلمان کردند و آن را تکفیر کردند و کشتند.

این روندِ بسیار نگران کننده، بسیاری از افراد دیگر را مجبور به فرار از کشور کرده است. آنها همچنین فرقه های اقلیت مسلمان مثل فرقه احمدیه را به دلیل عقاید کفرآمیز و مخالف خود هدف قرار دادند. ترس از تکفیر به یک ترس در فضای دیجیتال تبدیل شده است و فیسبوک توانایی خود را برای دامن زدن به چنین درگیری هایی شدت بخشیده است.

فیسبوک برای مبارزه با سخنان مشوق نفرت، بر یک راهبرد چند جانبه متکی است که شامل الگوریتم ها، گزارش های کاربران و نظارت انسانی محتوای تولیدی در فیسبوک می شود.

الگوریتم های این شرکت با هدف شناسایی و حذف محتوای مضر طراحی شده است، در حالی که سیستم خودکار فیسبوک پست هایی را که کاربران گزارش می کنند بررسی می کند. زمانی که سیستم قادر به نتیجه‌گیری در این زمینه نباشد، پست های گزارش شده برای افرادی که ناظر محتوا هستند ارسال می‌شود اما مسئله این است که بسیاری از این ناظران انسانی با مانعی به نام زبان روبرو هستند ، ضمن آنکه پهنای باند لازم برای بررسی حجم بالایی از محتوا وجود ندارد.

با انتشار محتوای مخرب در بستر فیسبوک، این شرکت تلاش کرده است که به تخصص لازم در زمینه شناسایی مولفه های موجود در مناقشات و تنظیم اقدامات کاهشی در این زمینه، گام برداشت. شرکت فیسبوک در بنگلادش، حساب‌های مرتبط با هک، هرزنامه و اطلاعات نادرست مربوط به انتخابات را حذف کرده است.

فیسبوک به تازگی اولین مدیر سیاست عمومی خود در کشور بنگلادش را منصوب کرده و تعداد کارکنان بنگالی زبان خود را افزایش داده است.

ثابت شده است که “راهبرد تعدیل محتوا” در فیسبوک کفایت نمی کند.تحقیقات فیسبوک در سال گذشته نشان می دهد که الگوریتم های فیسبوک کمتر از ۵ درصد از سخنان نفرت‌انگیز آنلاین را شناسایی می کنند.

ویدئویی که جرقه خشونت‌های اخیر بنگلادش را برانگیخت به مدت شش روز در فضای مجازی وجود داشت و قبل از آنکه فیسبوک آن را حذف کند، بیش از ۵۶۰۰۰ بار به اشتراک گذاشته شده بود!

باوجود تلاش‌های فیسبوک، سیاست‌های این شرکت به ‌طور پیوسته سیاست ها و برنامه هایی جزئی و با بودجه ناکافی بوده است، طوری که ناظران محتوا در فیسبوک در شرایط سخت با دستمزد اندک مشغول بکار هستند.

یکی از مشکلات مهم این است که فیسبوک تا حد زیادی تلاش های خود برای تعدیل محتوا را بر روی کشورهای غربی و انگلیسی زبان متمرکز کرده است، در حالی که از سایر مناطق جهان – که سخنان نفرت انگیز می تواند حتی خطرناک تر باشد- غفلت کرده است.

برای مهار بهتر خشونت در این کشورها، این پلتفرم باید اطمینان حاصل کند که منابع کافی به این مناطق خطرناک جهان اختصاص داده شده است – از جمله اینکه تعداد کارکنان خود را در این کشورها افزایش دهد، منابع موجود به زبان های محلی را بیشتر کند، آموزش ها در زمینه سخنان نفرت انگیز را به زبان های بیشتر گسترش دهد و آگاهی تولید کنندگان محصولات و محتوا نسبت به فرهنگ و روندهای جاری در کشورهای مختلف را بیشتر کند.

دولت ها می توانند با استفاده از ابزارهای نظارتی مهم ، مانند “قانون خدمات دیجیتال اتحادیه اروپا” – که شفافیت و پاسخگویی را افزایش می دهد- فیسبوک را تحت فشار قرار دهند تا چنین تغییراتی را اعمال کند.

گسترش مشارکت فیسبوک با کارشناسان خارجی، از جمله گروه های جامعه مدنی و دانشگاهیان مورد اعتماد، می‌تواند این شرکت را قادر سازد تا به طور موثر محتوای مشکوک را شناسایی و نشانه گذاری کند و اولین نشانه های هشدار آمیز درباره بروز درگیری را شناسایی کند. فیسبوک از طریق درک بهتر از بافت محلی، آداب و رسوم، و نارضایتی های تاریخی، می تواند ارزیابی کند که کدام نوع محتوا ممکن است به خشونت دامن بزند.

فیسبوک باید دستورالعمل‌های منطقه‌ای یا کشوری را در مورد سخنان نفرت آمیزی که میزان تنش آفرینی شان بالا است، بیشتر و بیشتر کند. در بنگلادش، در صورت وجود چنین سیاست‌هایی ، ناظران محتوا بهتر می توانستند بفهمند محتوای تحریک‌آمیز درباره اسلام بیشتر از پست‌های دیگر باعث تحریک خشونت می‌شود!

فیسبوک برای مبارزه با محتوای مضر، همچنین باید متعهد به انتشار اطلاعات دقیق در مورد سخنان نفرت انگیزی باشد که در مناطق مختلف جهان پخش می شود. در حال حاضر داده های عمومی در مورد شیوع سخنان نفرت برانگیز در سطح حداقلی موجود است و فیسبوک تا حد زیادی تحقیقات خود را پنهان کرده یا به کسانی که از این شرکت انتقاد می کنند پاسخ منفی داده است.

سال گذشته، پس از اینکه محققان و روزنامه‌ نگاران از داده‌های” کراود تَنگِل” (CrowdTangle) استفاده کرده بودند- که یک ابزار عمومی تجزیه و تحلیل داده متعلق به فیسبوک است- مدیران اجرایی فیسبوک در واکنش به استفاده خبرنگاران از این داده ها برای انتقاد از فیسبوک، اقدام به منحل کردن این تیم داخلی کردند.

فیسبوک با انتشار داده‌های اختصاصی بیشتر و اجازه دادن به محققان برای انجام تحلیل‌های خود – به سیاستگذاران کمک می‌کند تا راه‌ حل‌های هدفمند و بهبود یافته‌ای را خلق کنند.

از سال ۲۰۱۸، تیمی در فیسبوک با عنوان “کشورهای در معرض خطر” تشکیل شد. این تیم محتوای نفرت انگیز را در کشورهایی که در معرض خشونت قرار دارند، به ویژه در فصول انتخابات، زیر نظر گرفته و حذف کرده است.

با این حال، بودجه ناکافی باعث شد تعداد مکان‌هایی که تیم فیسبوک بتواند روی آنها تمرکز کند، محدود شود. گسترش منابع مالی به فیسبوک اجازه می‌دهد تا توجه خود را به کشورهایی مانند بنگلادش افزایش دهد چون کشورهایی مثل بنگلادش تنش‌های مذهبی بالایی را تجربه می‌کنند و به ویژه در معرض خشونت‌های جمعی هستند.

در مناطقی که در حال حاضر درگیری را تجربه می کنند و بیشتر مستعد خطرات ناشی ازسخنان مشوق نفرت هستند، فیسبوک می تواند یک سیاست موقت را در پیش بگیرد و آستانه تحمل خود را در مورد چنین محتواهایی به صفر برساند طوری که به صورت تهاجمی محتوای تحریک آمیز بالقوه را ، در طول دوره هایی که احتمال تنش ها بالا است، تعدیل کند.

باید الگوریتم‌هایی وجود داشته باشند که برای شناسایی واژه‌های خاص برای کشورهای خاص طراحی شده باشند و محتوای بالقوه نفرت‌انگیز را نشانه گذاری کنند(شناسایی و مشخص کنند). فیسبوک برای جلوگیری از ویروسی شدن این پست‌ها ، در زمانی که ناظران انسانی در حال بررسی محتواها هستند باید، قبل از آنکه تصمیمی درباره این محتواها گرفته شود، کلیه بازدیدها و همه اَشکال تعاملات شامل پسندها (لایک ها)، نظرات و اشتراک‌گذاری‌ها را به طور موقت غیرفعال یا محدود کند.

از آنجا که فیسبوک همچنان با سخنان نفرت انگیز، دروغ پراکنی و محتوای مخرب دست و پنجه نرم می کند، خشونت مذهبی همچنان بنگلادش را تحت تاثیر خود قرار خواهد داد و با بیش از ۴۷ میلیون بنگلادشی که در حال حاضر در بستر فیسبوک حضور دارند، خطر در این کشور بسیار بالا است و نمی توان دست روی دست گذاشت و کاری نکرد.

فیسبوک و دیگر پلتفرم های رسانه های اجتماعی که به دنبال گسترش خود در سطح جهانی هستند، باید مهار سخنان نفرت انگیز را در اولویت بیشتری قرار دهند.

زمان آن فرارسیده است که شرکت فیسبوک رویکردی جدی در پیش بگیرد که تمرکز آن بر روی حفظ حق اظهار نظر و در عین حال رعایت ایمنی افراد باشد و برای مهار سخنان مشوق عداوت و نفرت، منابع کافی اختصاص دهد.

منبع: فارن پالسی