رئیس اداره ملی سایبری اسرائیل نسبت به از دست دادن کنترل عوامل هوش مصنوعی هشدار داد

اورشلیم، ۸ اکتبر ۲۰۲۶ (TPS-IL) — یوسی کارادی، رئیس اداره ملی سایبری اسرائیل، روز پنجشنبه به رهبران جهان هشدار داد که سیستمهای هوش مصنوعی ممکن است به زودی تصمیمات حیاتی امنیتی را سریعتر از آنچه انسانها بتوانند مداخله کنند، اتخاذ کنند.

کارادی در سندی راهبردی که برای رهبران بینالمللی و مقامات امنیت سایبری ارسال شد، خواستار محدودیتهای فوری بر خودمختاری اعطا شده به عاملها و مدلهای هوش مصنوعی شد.

کارادی هشدار داد که حملات سایبری به طور فزاینده خودکار، سیستمهای دفاعی را مجبور خواهد کرد تا با سرعت ماشین شناسایی، تصمیمگیری و پاسخ دهند، که به طور بالقوه تأیید انسانی برای هر اقدامی را غیرممکن میسازد. با این حال، خودمختاری بیشتر میتواند درک، توقف یا نسبت دادن تصمیمات هوش مصنوعی را دشوارتر کند.

وی سناریویی را ذکر کرد که در آن یک سیستم دفاعی خودکار در پاسخ به یک حمله روز-صفر، به اشتباه زیرساختهای حیاتی را جدا میکند و به طور بالقوه یک شبکه برق یا بیمارستان را خاموش میکند.

کارادی یک «مثلث راهبردی هوش مصنوعی» را پیشنهاد کرد که نوآوری، امنیت و کنترل انسانی را متعادل میکند، و تصمیمات ملی غیرقابل برگشت به عنوان اختیاراتی تعیین میشوند که نمیتوانند به سیستمهای خودکار واگذار شوند.