ورود هوش مصنوعی به عرصه‌های مختلف فناوری، انقلابی در نحوه مدیریت داده‌ها، تحلیل اطلاعات و مقابله با تهدیدات ایجاد کرده است. امنیت سایبری یکی از حوزه‌هایی است که بیشترین تأثیر را از این تغییرات پذیرفته است. در حالی که هوش مصنوعی می‌تواند به شکل چشمگیری توانایی سازمان‌ها را در مقابله با حملات پیچیده ارتقا دهد، در عین حال تهدیدات و چالش‌های تازه‌ای نیز به همراه دارد. شرکت‌هایی مانند سیمانتک سال‌هاست که در خط مقدم مبارزه با تهدیدات سایبری حضور دارند و امروز با بهره‌گیری از مدل‌های یادگیری ماشینی و هوش مصنوعی مولد، نسل جدیدی از راهکارهای دفاعی را عرضه می‌کنند.
سرعت گسترش هوش مصنوعی مولد در سازمان‌ها
هوش مصنوعی مولد (Generative AI) در مدت زمان کوتاهی به یکی از پرکاربردترین فناوری‌ها در سطح جهانی تبدیل شده است. بر اساس نظرسنجی‌های بین‌المللی، بیش از نیمی از شرکت‌ها تا پایان سال ۲۰۲۴ دست‌کم یک ابزار مبتنی بر هوش مصنوعی مولد را خریداری کرده‌اند یا قصد استفاده از آن را دارند. این آمار نشان می‌دهد که روند پذیرش چنین ابزارهایی بسیار سریع‌تر از بسیاری از فناوری‌های پیشین مانند رایانش ابری یا اینترنت اشیا بوده است.
این شتاب در پذیرش، به دلیل توانایی‌های منحصر به فرد این ابزارهاست؛ از تولید محتوا گرفته تا نوشتن کد، پاسخ‌گویی به پرسش‌های پیچیده، تحلیل داده‌ها و حتی شبیه‌سازی تعامل انسانی. اما درست در همین نقطه، تهدیدات امنیتی نیز نمایان می‌شوند. زمانی که سازمان‌ها به اطلاعات ارائه شده توسط هوش مصنوعی اتکا می‌کنند، بدون آنکه امکان اعتبارسنجی دقیق آن را داشته باشند، خطر بروز اختلال و حتی حملات سایبری به شدت افزایش می‌یابد.
مشکل اعتبارسنجی داده‌ها در هوش مصنوعی
یکی از بزرگترین چالش‌هایی که در استفاده از مدل‌های زبانی بزرگ (LLM) مانند ChatGPT وجود دارد، نبود امکان تأیید صحت داده‌هاست. برخلاف موتورهای جستجو که نتایج خود را بر اساس منابع مشخص نمایش می‌دهند، هوش مصنوعی مولد اطلاعات را از میان میلیون‌ها منبع پراکنده استخراج کرده و ترکیب می‌کند.
این بدان معناست که کاربر نمی‌تواند به سادگی تشخیص دهد داده ارائه شده درست است یا خیر. به ویژه در محیط‌های تجاری که تصمیم‌های کلیدی بر اساس داده‌های دقیق گرفته می‌شوند، چنین مسئله‌ای می‌تواند تهدیدی جدی باشد. به عنوان مثال، اگر سازمانی برای تحلیل امنیتی به داده‌های تولیدشده توسط یک هوش مصنوعی اتکا کند، کوچک‌ترین خطا در این داده‌ها می‌تواند راه را برای نفوذ مهاجمان باز کند.
تهدیدات اصلی هوش مصنوعی برای امنیت سایبری
در بررسی نقش هوش مصنوعی در حوزه امنیت سایبری، سه تهدید اصلی بیش از همه جلب توجه می‌کنند:
۱. استفاده مهاجمان از هوش مصنوعی
مجرمان سایبری به سرعت در حال استفاده از ابزارهای هوش مصنوعی برای تقویت روش‌های حمله خود هستند. تولید ایمیل‌های فیشینگ با متن‌های متقاعدکننده‌تر، ایجاد بدافزارهای پیچیده‌تر و حتی شبیه‌سازی گفتار و تصویر برای حملات مهندسی اجتماعی از جمله نمونه‌هایی است که در حال حاضر مشاهده می‌شود.
اگرچه ایجاد کد مخرب تنها بخشی از یک حمله موفقیت‌آمیز است، اما سرعت و دقتی که هوش مصنوعی در این زمینه فراهم می‌کند، به مهاجمان برتری بیشتری می‌دهد. کافی است قطعه کدی که توسط یک ابزار هوش مصنوعی تولید شده بدون بررسی مورد استفاده قرار گیرد تا سطح حمله جدیدی برای سازمان ایجاد شود.
۲. حریم خصوصی و افشای داده‌ها
کارکنان سازمان‌ها اغلب بدون آگاهی کامل، اطلاعات حساس را در اختیار ابزارهای هوش مصنوعی قرار می‌دهند. برای مثال، بارگذاری اسناد داخلی یا پرسش درباره موضوعات مرتبط با پروژه‌های محرمانه می‌تواند سبب شود که این داده‌ها وارد مجموعه دانش مدل شوند. در چنین شرایطی، امکان دارد همان داده‌ها در پاسخ به پرسش فرد دیگری ظاهر شوند و حریم خصوصی سازمان به خطر بیفتد.
این مسئله درست مانند آن است که اطلاعات محرمانه سازمان در اختیار یک شخص ثالث قرار گرفته باشد. بنابراین، آموزش کارکنان در زمینه استفاده ایمن از ابزارهای هوش مصنوعی و محدود کردن دسترسی آن‌ها به داده‌های حساس اهمیت فراوانی دارد.
۳. مالکیت معنوی و حق کپی‌رایت
یکی از پیچیده‌ترین مباحث در حوزه هوش مصنوعی مولد، مسئله حقوق مالکیت معنوی است. اگر کدی توسط یک مدل زبانی تولید شود، مالک آن کیست؟ آیا سازمانی که از این کد استفاده می‌کند حق انحصاری بر آن دارد یا این کد به دلیل برگرفته شدن از داده‌های عمومی، بخشی از مالکیت اینترنت محسوب می‌شود؟
این موضوع در صنایع خلاق و همچنین توسعه نرم‌افزار می‌تواند منجر به بروز مناقشات حقوقی گسترده شود. به همین دلیل سازمان‌ها باید پیش از استفاده گسترده از کدها و محتوای تولیدشده توسط هوش مصنوعی، سیاست‌های مشخصی برای مدیریت حقوق مالکیت معنوی تدوین کنند.
نقش هوش مصنوعی در تقویت امنیت سایبری
اگرچه تهدیدات هوش مصنوعی قابل انکار نیستند، اما همین فناوری در صورتی که به درستی مدیریت شود، می‌تواند قوی‌ترین متحد سازمان‌ها در برابر مهاجمان سایبری باشد.
۱. تحلیل رفتاری و کشف الگوها
یکی از مهم‌ترین قابلیت‌های هوش مصنوعی، توانایی شناسایی الگوهای رفتاری پیچیده در میان داده‌های حجیم است. برای مثال، یک اقدام مشکوک بر روی یک دستگاه ممکن است به تنهایی نگران‌کننده نباشد، اما وقتی این اقدام در کنار سایر فعالیت‌های غیرعادی در شبکه قرار می‌گیرد، الگوی یک حمله مشخص می‌شود.
شرکت‌هایی مانند سیمانتک از همین رویکرد برای شناسایی حرکت‌های جانبی مهاجمان در شبکه استفاده می‌کنند. با تحلیل داده‌های مربوط به فعالیت‌های مختلف، سیستم‌های هوش مصنوعی می‌توانند نقاط ضعف پنهان را آشکار کنند.
۲. واکنش سریع و خودکار
در دنیای امروز، سرعت واکنش به تهدیدات امنیتی اهمیت زیادی دارد. هر ثانیه تأخیر می‌تواند به مهاجم فرصت نفوذ بیشتر بدهد. استفاده از هوش مصنوعی به سازمان‌ها این امکان را می‌دهد که به صورت خودکار به حملات پاسخ دهند. به عنوان مثال، اگر فعالیتی غیرعادی در یک سرور شناسایی شود، سیستم می‌تواند بلافاصله آن سرور را ایزوله کند تا از گسترش حمله جلوگیری شود.
۳. بهبود دقت در شناسایی تهدیدات
روش‌های سنتی امنیتی اغلب با حجم بالای هشدارهای کاذب مواجه بودند. هوش مصنوعی با بهره‌گیری از یادگیری ماشینی می‌تواند دقت تشخیص تهدیدات واقعی را افزایش دهد و از تمرکز بیش از حد کارشناسان بر هشدارهای غیرواقعی جلوگیری کند. این موضوع بهره‌وری تیم‌های امنیتی را به شکل قابل توجهی ارتقا می‌دهد.
آینده هوش مصنوعی و امنیت سایبری
با نگاه به آینده، می‌توان پیش‌بینی کرد که سازمان‌ها به تدریج مدل‌های هوش مصنوعی اختصاصی خود را توسعه خواهند داد. این مدل‌ها با استفاده از داده‌های داخلی هر شرکت آموزش دیده و تنها بر روی همان داده‌ها تمرکز خواهند کرد. چنین رویکردی علاوه بر کاهش خطر افشای اطلاعات، دقت و کارایی بیشتری در تحلیل داده‌ها فراهم می‌کند.
با این حال، خطر اطلاعات نادرست همچنان وجود خواهد داشت. اگر مدل‌ها به درستی آموزش داده نشوند یا داده‌های ورودی دچار سوگیری باشند، نتایج اشتباه می‌تواند به تصمیم‌های نادرست منجر شود. بنابراین، آینده امنیت سایبری به میزان زیادی به توانایی ما در مدیریت درست آموزش، نظارت و استفاده از هوش مصنوعی وابسته است.
هوش مصنوعی در محصولات سیمانتک
سیمانتک از سال‌ها پیش از یادگیری ماشینی در محصولات امنیتی خود استفاده کرده است. امروزه این شرکت با بهره‌گیری از مدل‌های پیشرفته‌تر، قادر است فعالیت‌های مشکوک را در مقیاسی بسیار بزرگ تحلیل کند.
در محصولات امنیتی سیمانتک، رویدادهایی که ممکن است به صورت جداگانه بی‌اهمیت به نظر برسند، با یکدیگر ترکیب و تحلیل می‌شوند. این همانند کنار هم قرار دادن کلمات برای درک معنای یک جمله است. به کمک این رویکرد، مهاجمانی که تلاش می‌کنند به صورت جانبی در شبکه حرکت کنند، شناسایی و متوقف می‌شوند.
کلام آخر
هوش مصنوعی در عین حال که فرصتی بی‌نظیر برای ارتقای امنیت سایبری است، تهدیدات جدی نیز به همراه دارد. نبود امکان اعتبارسنجی داده‌ها، استفاده مهاجمان از ابزارهای هوش مصنوعی، افشای ناخواسته اطلاعات محرمانه و پیچیدگی‌های حقوقی مرتبط با مالکیت معنوی از جمله چالش‌هایی هستند که سازمان‌ها باید با آن‌ها روبه‌رو شوند.
شرکت‌هایی مانند سیمانتک نشان داده‌اند که با استفاده هوشمندانه از یادگیری ماشینی و هوش مصنوعی می‌توان این تهدیدات را به فرصت تبدیل کرد. با این وجود، مسئولیت نهایی بر عهده سازمان‌هاست که با آموزش کارکنان، تدوین سیاست‌های دقیق و انتخاب راهکارهای امنیتی مطمئن، از دارایی‌های دیجیتال خود محافظت کنند.
در ایران شرکت آلما شبکه نماینده سیمانتک، راهکارهای امنیتی این شرکت را همراه با ماژول‌های مبتنی بر هوش مصنوعی در اختیار سازمان‌ها قرار می‌دهد تا آن‌ها بتوانند با اطمینان بیشتری در مسیر تحول دیجیتال حرکت کنند.