تعداد تهدیدات سایبری که از هوش مصنوعی (AI) و مدلهای زبانی بزرگ (LLM) برای تولید کدهای مخرب استفاده میکنند، در حال افزایش است. شرکت امنیتی Symantec متوجه افزایش حملاتی شده است که به نظر میرسد از LLMها برای ایجاد کدهای مخرب جهت دانلود انواع مختلفی از payloadها (بارهای دادهای مخرب) استفاده میکنند.
مدلهای زبانی بزرگ (LLM) نوعی از هوش مصنوعی تولیدی هستند که برای درک و تولید متنی شبیه به متن انسانی طراحی شدهاند. این مدلها کاربردهای گستردهای دارند، از جمله در نوشتن متون و اتوماسیون خدمات مشتریان. اما مانند بسیاری از تکنولوژیهای قدرتمند دیگر، این مدلها نیز میتوانند مورد سوءاستفاده قرار گیرند.
در کمپینهای اخیر مشاهده شده توسط Symantec، ایمیلهای فیشینگ حاوی کدهایی بودند که برای دانلود payloadهای مختلفی مانند Rhadamanthys، NetSupport، CleanUpLoader (Broomstick, Oyster)، ModiLoader (DBatLoader)، LokiBot و Dunihi (H-Worm) استفاده میشدند. تحلیل اسکریپتهای استفاده شده در این حملات نشان میدهد که این کدها با استفاده از LLMها تولید شدهاند.
مثالی از زنجیره حملات با استفاده از LLM:
در یکی از این کمپینها که طیف گستردهای از بخشها را هدف قرار داده بود، ایمیلهای فیشینگی ارسال میشدند که حاوی فایلهای فشرده .zip با فایلهای .lnk مخرب بودند. با اجرای این فایلها، اسکریپتهای PowerShell تولید شده توسط LLM فعال شده و منجر به اجرای بدافزار میشدند.
در این ایمیلها، موضوع یک مسئله فوری مالی مطرح شده بود و یک فایل ZIP محافظتشده با رمزعبور نیز در ایمیل قرار داشت که رمز آن نیز در ایمیل ذکر شده بود. شرکت آلما شبکه نماینده سیمانتک با مدیریت جناب آقای وحید فوائدی آماده ارائه انواع راه حل های امنیتی به وسیله Symantec AI میباشد.