آیا الگوریتم های TikTok نحوه صحبت مردم در مورد خودکشی را تغییر می دهد؟

برای بزرگنمایی کلیک کنید (اعتبار: رافائل الیاس | گتی ایماژ)

کایلا ویلیامز هرگز کلمه “خودکشی” را در TikTok نگفته است، اگرچه از این پلتفرم برای بحث در مورد مسائل مربوط به سلامت روان با 80000 دنبال کننده خود استفاده می کند. از آغاز همه‌گیری، این دانش‌آموز 26 ساله اهل برکشایر انگلیس، ویدئوهای زیادی درباره افکار خودکشی و اقامت خود در بخش روان‌پزشکی منتشر کرده است. برخی از این ویدیوها بی خیال هستند، برخی دیگر بسیار جدی تر. با این حال، ویلیامز از ترس اینکه الگوریتم TikTok محتویات آن را سانسور یا حذف کند، کلمه «خودکشی» را در دوربین جلوی خود بر زبان نیاورد، و در زیرنویس‌ها آن را معرفی نکرد. در عوض، او از کلمه «بی جان» استفاده کرد.

هشتگ #unalivemeplease 9.2 میلیون بازدید در TikTok دارد. #نازنده 6.6 میلیون دارد; #غیرزنده آگاهی 2.2 میلیون اضافی دارد. اگرچه #پیشگیری از خودکشی یک برچسب رایج در برنامه است، هشتگ #خودکشی و #خودکشی آگاهی وجود ندارد – اگر آنها را جستجو کنید، TikTok یک شماره خط کمک بحران محلی را بازیابی می‌کند. این یک سیاست با نیت خوب است که در سپتامبر 2021، یک سال پس از انتشار یک ویدیوی گرافیکی از خودکشی در برنامه، راه‌اندازی شد. اما کاربران همچنین شروع به ترس از فیلترهای تعدیل محتوای گریزان کرده‌اند که ظاهراً ویدیوهای مربوط به مرگ، خودکشی یا آسیب رساندن به خود را سرکوب یا حذف می‌کنند.

در حالی که کلمه “بی جان” برای اولین بار در سال 2013 رایج شد (زمانی که در یک قسمت از مرد عنکبوتی نهاییجستجوهای گوگل برای این عبارت در سال 2022 به طور چشمگیری افزایش یافته است. کاربران یوتیوب نیز از آن استفاده می کنند، بنابراین محتوای آنها اینطور نیست پول زدایی شده. بسته به زمینه، این کلمه ممکن است به خودکشی، قتل یا مرگ اشاره داشته باشد. اگرچه در TikTok معمولاً از “nelive” به صورت کمدی استفاده می شود، افرادی مانند ویلیامز نیز از آن برای صحبت صادقانه، ایجاد انجمن و اشاره به منابع موجود در برنامه استفاده می کنند. بنابراین، رشد سریع “بی جان” یک سوال نگران کننده را ایجاد می کند: چه اتفاقی می افتد که ما به طور آشکار “خودکشی” نگوییم؟