توسط پسخ بنسون • ۶ مه ۲۰۲۶
اورشلیم، ۶ مه ۲۰۲۶ (TPS-IL) — بر اساس گزارشی که روز چهارشنبه توسط «جنبش مبارزه با یهودستیزی» (CAM) منتشر شد، یک شبکه هماهنگ از حسابهای تولید شده با هوش مصنوعی در تیکتاک که خود را خاخام یهودی معرفی میکنند، به طور سیستماتیک محتوای یهودستیزانه را منتشر میکنند.
این گزارش میگوید: «خطر روشن است. این «خاخامها» با جعل هویت صداهای اصیل یهودی، اعتماد را از بین میبرند، نفرت را عادیسازی میکنند و خشونت واقعی علیه یهودیان را تحریک میکنند. با تقویت این محتوا برای مخاطبان جوان و تأثیرپذیر، تیکتاک در تسریع رادیکالیزاسیون در دورانی که هوش مصنوعی تشخیص اطلاعات نادرست را به طور فزایندهای دشوار میکند، همدست است.»
این مطالعه که توسط مرکز تحقیقات یهودستیزی (ARC) این سازمان غیرانتفاعی مستقر در ایالات متحده انجام شد، ۴۹ حساب تیکتاک را شناسایی کرد که شخصیتهای مذهبی یهودی را جعل هویت کرده و تئوریهای توطئه و روایتهای کلاسیک یهودستیزانه را منتشر میکردند. این حسابها در مجموع بیش از ۹۵۰,۰۰۰ دنبالکننده داشتند و بیش از ۱۰ میلیون لایک دریافت کردند.
این شبکه بر آواتارهای تولید شده با هوش مصنوعی و هویتهای ساختگی تکیه دارد که برای تقلید از صداهای معتبر یهودی طراحی شدهاند. محققانی که تحلیلی عمیق از چهار حساب – @rabbirothstein، @rabingoldmaan، @rabbistirberg و @rabbi_silverstein – انجام دادند، الگوهای هماهنگی از جمله چارچوببندی یکسان روایت، زبان مشترک و تمرکز موضوعی مداوم را کشف کردند.
بر اساس این گزارش، این ثبات «نشاندهنده تلاشی سازمانیافته برای شستشوی ایدههای یهودستیزانه در گفتمان جریان اصلی است، نه تولید محتوای ارگانیک یا تصادفی.»
یکی از نگرانکنندهترین یافتههای این گزارش، تاکتیک ارائه کلیشههای یهودستیزانه به عنوان توصیههای مالی داخلی بود که ادعا میشد توسط چهرههای مذهبی معتبر ارائه میشود. این گزارش هشدار داد که این رویکرد «از شک و تردید معمول که در برابر اتهامات افراد خارجی اعمال میشود، عبور میکند و باعث میشود کلیشههای یهودستیزانه واقعی و بدیهی به نظر برسند» و به طور مؤثر نفرت را از طریق پوشش محتوای مشاورهای به گفتمان جریان اصلی قاچاق میکند.
محققان همچنین در مورد خطرات ناشی از پایگاه کاربری عمدتاً جوان تیکتاک هشدار دادند. این گزارش میگوید تقویت الگوریتمی «تضمین میکند که این ویدئوها به کاربرانی میرسند که در حال حاضر محتوای «خودسازی» آغشته به توطئه را مصرف میکنند»، یهودستیزی را به عنوان یک حقیقت پنهان عادیسازی کرده و آستانه باورهای افراطیتر را کاهش میدهد.
این اولین بار نیست که چنین تاکتیکهایی کشف میشود. ARC پیش از این شبکهای متشکل از بیش از ۷۰ «خاخام» تولید شده با هوش مصنوعی را شناسایی کرده بود که محتوای یهودستیزانه را در اینستاگرام منتشر میکردند. CAM گفت که پس از تعامل با متا، بسیاری از این حسابها حذف شدند.
CAM اکنون از تیکتاک میخواهد که با حذف فوری حسابهای شناسایی شده، سرمایهگذاری در ابزارهای تشخیص هوش مصنوعی که برای شناسایی جعل هویت مذهبی مصنوعی آموزش دیدهاند و راهاندازی کمپین آگاهی عمومی برای کمک به کاربران در شناسایی تبلیغات تولید شده با هوش مصنوعی، همین مسیر را دنبال کند.
این گزارش نتیجهگیری میکند: «محتوای تولید شده با هوش مصنوعی ارزان، مقیاسپذیر و تشخیص آن برای مدیران از محتوای تولید شده توسط انسانهای واقعی دشوار است.