نوشته Pesach Benson و Omer Novoselsky • ۲۱ اکتبر ۲۰۲۶
اورشلیم، ۲۱ اکتبر ۲۰۲۶ (TPS-IL) – کمیته مرکزی انتخابات اسرائیل در آستانه انتخابات بعدی نقشی نامحتمل را بر عهده گرفته است: داوری اختلافات مربوط به هوش مصنوعی، تبلیغات سیاسی و محتوای جعلی که میتواند رویدادهایی را که هرگز رخ ندادهاند، واقعی جلوه دهد.
کمیته پیش از انتخابات ۲۷ اکتبر، الزامات برچسبگذاری برای تبلیغات انتخاباتی تولید شده توسط هوش مصنوعی را معرفی کرده است، در حالی که رئیس آن، قاضی دیوان عالی، نوآم سوهلبرگ، دستور حذف ویدئوهای گمراهکننده را صادر کرده است. اما کارشناسان به سرویس مطبوعاتی اسرائیل گفتند که اجرای این مقررات محدودیتهایی دارد و سایر دموکراسیها نیز با چالشهای مشابهی روبرو هستند، زیرا محتوای جعلی و کمپینهای هماهنگ آنلاین، تلاشها برای تمایز اطلاعات سیاسی واقعی از دستکاری را پیچیده میکنند.
آویاد نیمِکوفسکی، معاون مشاور عمومی کمیته مرکزی انتخابات، به TPS-IL گفت: «مشکل نه در استفاده از خود فناوری، بلکه در تلاش برای پنهان کردن آن است.» او ترغیب سیاسی را برای دموکراسی اساسی توصیف کرد، اما گفت که مشکلات زمانی ایجاد میشوند که کمپینها تلاش میکنند مخاطبان را گمراه کنند.
اسرائیل اصلاحیه قانونی موقتی را معرفی کرده است که طبق آن تبلیغات انتخاباتی تولید شده با استفاده از هوش مصنوعی باید دارای برچسب صریحی باشد که آن را به عنوان تولید شده مصنوعی شناسایی کند. این کمیته همچنین تیمی اختصاصی را برای مطالعه هوش مصنوعی و سایر اشکال نفوذ سیاسی بالقوه غیرقانونی تشکیل داده است، در حالی که با شرکتهای رسانههای اجتماعی از جمله فیسبوک، مایکروسافت و گوگل در تماس است.
نیمِکوفسکی گفت: «ما جزو اولینها در جهان هستیم که چنین اقدامی را اجرا میکنیم.» او افزود که اثربخشی آن در طول زمان ارزیابی خواهد شد.
وقتی هر کسی میتواند یک جعلی بسازد
این کمیته میتواند ظرف چند دقیقه یا ساعت دستورات موقتی صادر کند، اما حذف یک ویدئو مانع از بازنشر آن در جای دیگر نمیشود. نیمِکوفسکی گفت که این کمیته حدود ۲۵۰ درخواست، که بیشتر آنها مربوط به تبلیغات انتخاباتی است، از طیفهای مختلف سیاسی دریافت میکند.
سهولت تولید چنین مطالبی بر چالش میافزاید. جاناتان حسیدیم، مدیرعامل و همبنیانگذار Scooper، شرکتی مستقر در بنی براک که در زمینه نظارت بر رسانههای اجتماعی و تحلیل افکار عمومی فعالیت میکند، گفت که هوش مصنوعی منابع مورد نیاز برای تولید ویدئوهای سیاسی را به شدت کاهش داده است.
حسیدیم به TPS-IL گفت: «امروزه دیگر برای ساخت یک ویدئوی سیاسی قانعکننده به گروه فیلمبرداری، بازیگر، مکانهای خاص یا بودجههای تولید بزرگ نیاز نیست. تنها چیزی که لازم است یک ایده، یک کامپیوتر و چند دقیقه کار است.»
کمپینها میتوانند مخالفان را در حال ملاقات با چهرههای نامحبوب یا تشکیل اتحادهای مخرب به تصویر بکشند، حتی اگر چنین رویدادهایی هرگز رخ نداده باشند. برخی از ویدئوها به وضوح ساختگی هستند؛ در حالی که برخی دیگر شباهت زیادی به فیلمهای واقعی دارند.
آیا یادلین، مدرس ارشد دانشکده ارتباطات دانشگاه بار-ایلان، گفت که حتی ویدئوهای آشکارا ساختگی نیز میتوانند با به تصویر کشیدن مخالفان سیاسی در سناریوهای تحقیرآمیز یا تهدیدآمیز، بر ادراکات تأثیر بگذارند.
یادلین به TPS-IL گفت: «در انتهای طیف آشکارا ساختگی، احزاب ویدئوهای طنز به سبک GTA منتشر کردهاند که در آن رقبا را به عنوان شخصیتهای بازیهای ویدیویی به تصویر میکشند.» او افزود: «خطر اصلی این نوع محتوا فریب نیست، بلکه این است که رقبا غیرانسانی میشوند.»
جعلهای واقعگرایانهتر مشکل متفاوتی را ایجاد میکنند: بینندگان ممکن است رویدادها یا روابط اختراعی را با واقعیت اشتباه بگیرند. در ماه ژوئیه، سوهلبرگ به بتسالئل اسموتریچ، وزیر دارایی و رهبر حزب صهیونیسم دینی، دستور داد ویدیویی را که در آن گادی آیزنکوت، رهبر حزب یش عتید، با محمود عباس، رهبر فلسطینی، دست میدهد، حذف کند.
سوهلبرگ حکم داد: «بخشهایی از این ویدئو رویدادی را نشان میدهد که رخ نداده اما واقعی به نظر میرسد. این ویدئو ارتباط سیاسی بین آیزنکوت و عباس را نشان میدهد، ارتباطی که وجود ندارد و بنابراین ممکن است در این زمینه گمراهکننده باشد.»
محدودیتهای برچسبهای هوش مصنوعی
یادلین گفت که این مشکل فراتر از محتوای تولید شده توسط هوش مصنوعی است. او به «فِیککستها» (fauxcasts) اشاره کرد، ویدئوهای کمپینی که به گونهای صحنهسازی شدهاند که شبیه پادکستهای خبری باشند، با استودیوها و میکروفونهای کامل، اما بدون مصاحبه واقعی.
او گفت: «فیککست در کلماتش دروغ نمیگوید. در صحنهسازیاش دروغ میگوید و از اعتمادی که مخاطبان به فرمت پادکست ساختهاند، سوءاستفاده میکند.»
قانون انتخابات (روشهای تبلیغاتی) اسرائیل به سال ۱۹۵۹ بازمیگردد، بسیار پیش از ظهور رسانههای اجتماعی و هوش مصنوعی مولد. در حالی که اکنون محتوای کمپین تولید شده توسط هوش مصنوعی باید برچسبگذاری شود، یادلین خاطرنشان کرد که الزامات مشابهی برای هر فرمت گمراهکنندهای که از روزنامهنگاری تقلید میکند، اعمال نمیشود.
خود برچسبها یک محافظ ناقص هستند. ویدئوها میتوانند برش داده شوند یا بدون اطلاعیههای اصلی خود بازنشر شوند.
یادلین به TPS-IL گفت: «برچسبها کمک میکنند، اما کمتر از آنچه مردم انتظار دارند.» او افزود: «در آزمایشهایی که در ایالات متحده انجام شد، برچسبهای هوش مصنوعی آزمایش شده، باور به ادعاهای مطرح شده در محتوای جعلی را کاهش دادند، اما برچسبهایی که صرفاً بیان میکردند محتوا با هوش مصنوعی تولید شده است، تأثیر کمی بر قصد افراد برای تعامل با پست داشتند. ما باید درک کنیم که صرف برچسبگذاری چیزی به عنوان «هوش مصنوعی» شبیه الزام به برچسب «جعلی» نیست.»
حسیدیم خواستار پاسخی گستردهتر شد که ترکیبی از قانونگذاری، نظارت، اجرا و آموزش عمومی باشد. او همچنین هشدار داد که هیچ سیستم تشخیص نمیتواند به طور قابل اعتماد هر تصویر، ویدئو یا صدای تولید شده توسط هوش مصنوعی را شناسایی کند، زیرا فناوری بهبود مییابد.
او گفت: «الزام به برچسبگذاری محتوا به عنوان «تولید شده توسط هوش مصنوعی» شبیه تلاش برای درمان یک بیمار لاعلاج با یک مسکن ساده است.» او افزود: «در عصری که هر کسی میتواند به راحتی محتوای مبتنی بر هوش مصنوعی ایجاد کند، مقرراتی که فقط برای سیاستمداران اعمال میشود، کافی نیست.»
حسیدیم تأکید کرد که مقامات بنابراین باید نه تنها اینکه آیا محتوا مصنوعی به نظر میرسد، بلکه چه کسی آن را توزیع میکند، با چه سرعتی پخش میشود و آیا حسابها فعالیت خود را هماهنگ میکنند، بررسی کنند.
از دیپفیک تا کمپینهای هماهنگ
تجربه اسرائیل منعکسکننده چالش گستردهتری برای دموکراسیها است، اگرچه روشها متفاوت است. در ایالات متحده، تقلیدی از صدای جو بایدن، رئیسجمهور، که توسط هوش مصنوعی تولید شده بود، در یک تماس رباتیک در سال ۲۰۲۴ استفاده شد که رأیدهندگان نیوهمپشایر را به عدم شرکت در انتخابات مقدماتی ریاستجمهوری دموکراتها ترغیب میکرد. در اسلواکی، یک ضبط جعلی که درست دو روز قبل از انتخابات پارلمانی سال ۲۰۲۳ منتشر شد، به نظر میرسید که نامزدی را در حال بحث درباره تقلب در انتخابات با یک روزنامهنگار نشان میدهد.
انتخابات ریاستجمهوری رومانی در سال ۲۰۲۴ مشکل مرتبطی را برجسته کرد: فعالیت آنلاین هماهنگ میتواند پیامهای سیاسی را تقویت کند، حتی اگر خود محتوا جعلی نباشد. یادلین به شبکهای متشکل از حدود ۲۵۰۰۰ حساب کاربری همگام اشاره کرد که به برجسته شدن یک نامزد کمتر شناخته شده در تیکتاک کمک کرد و نشان داد که چگونه فعالیت آنلاین ظاهراً مستقل میتواند در مقیاس بزرگ سازماندهی شود.
نکته مشترک صرفاً تولید ویدئوهای جعلی نیست. هوش مصنوعی مولد ارزان میتواند محتوای قانعکنندهای را فراهم کند، در حالی که شبکههای حسابها و اینفلوئنسرها آن را تقویت میکنند و تبلیغات هماهنگ را به نظر افکار عمومی خودجوش تبدیل میکنند.
یادلین گفت که مقامات باید بر بازیگران قابل شناسایی تمرکز کنند و از کمپینهای رسمی بخواهند که مواد خود را در منبع افشا کرده و مسئولیت آن را بپذیرند. شرکتهای رسانههای اجتماعی میتوانند بررسیهای بیشتری را برای اشتراکگذاری معرفی کرده و تیمهای تخصصی را به محتوای مربوط به انتخابات اختصاص دهند.
او در مورد نقش کمیته مرکزی انتخابات گفت: «مشکل ساختاری، زمانبندی است. احکام پس از انباشت دیدگاهها صادر میشوند.»
حسیدیم هشدار داد که خطرات فراتر از محتوای جعلی است. سیاستمداران میتوانند از هوش مصنوعی به عنوان بهانهای برای رد شواهد معتبر به عنوان دستکاری شده استفاده کنند، پدیدهای که به عنوان «سود دروغگو» شناخته میشود.
یادلین گفت که فرسایش اعتماد ناشی از آن میتواند آسیبرسانتر از دروغهای فردی باشد. او گفت: «دموکراسی به یک خط مبنای واقعی مشترک متکی است. رأیدهندگان تنها در صورتی میتوانند رهبران را پاسخگو بدانند که بتوانند بر سر آنچه واقعاً اتفاق افتاده توافق کنند.»
نیمِکوفسکی گفت که تلاشهای اسرائیل برای تنظیم مقررات تبلیغات انتخاباتی تولید شده توسط هوش مصنوعی ممکن است درسهایی برای سایر کشورها داشته باشد. این کمیته موارد بینالمللی را مطالعه کرده، کمپینهای آگاهی عمومی را اجرا کرده و با پلتفرمهای فناوری در مورد اجرا مشورت کرده است.
اما کارشناسان گفتند که چالش این است که فریب را بدون غیرقانونی دانستن خود هوش مصنوعی یا فرض اینکه محتوای ظاهراً مشکوک لزوماً نادرست است، مورد رسیدگی قرار دهیم.
یادلین گفت: «نتیجه این است که عمومی هیچ چیز را باور نمیکند تا اینکه دروغها را باور کند. چنین عمومی راحتتر غیرفعال میشود و اطلاعرسانی به او دشوارتر است.»