به گزارش خبرگزاری ایمنا، همزمان با افزایش استفاده از هوش مصنوعی در توسعه نرمافزار و امنیت سایبری، کارشناسان معتقدند این فناوری اگرچه سرعت شناسایی تهدیدها و تحلیل حملات را بهطور چشمگیری افزایش داده، اما هنوز نمیتواند جایگزین تصمیمگیری قطعی در حوزه امنیت شود. به باور متخصصان، آینده امنیت سایبری نه بر واگذاری کامل تصمیمها به هوش مصنوعی، بلکه بر ترکیب تحلیل هوشمند با سیاستهای سختگیرانه و قابل اجرا استوار خواهد بود.
سرمایهگذاری گسترده شرکتهای فناوری در هوش مصنوعی، انتظارات زیادی درباره تحول در توسعه نرمافزار، خودکارسازی فرآیندها و مقابله با حملات سایبری ایجاد کرده است. امروز هم مهاجمان سایبری و هم توسعهدهندگان نرمافزار با سرعتی در حد ماشین فعالیت میکنند و همین موضوع، مدلهای سنتی دفاع سایبری را با چالشهای تازهای روبهرو کرده است.
هوش مصنوعی در تشخیص تهدید قدرتمند است، نه در تصمیمگیری
بیشتر سامانههای امنیتی مبتنی بر هوش مصنوعی و یادگیری ماشین بر پایه تحلیل احتمالاتی کار میکنند. این ابزارها با بررسی حجم عظیمی از دادهها، احتمال مخرب بودن یک فایل، رفتار مشکوک یک برنامه یا وقوع یک حمله را تخمین میزنند. این قابلیت برای اولویتبندی هشدارها، کاهش حجم اطلاعات و کمک به تحلیلگران امنیتی بسیار ارزشمند است، اما کارشناسان تأکید میکنند تصمیم نهایی درباره اینکه یک نرمافزار اجازه اجرا داشته باشد یا خیر، نباید فقط بر اساس پیشبینیهای احتمالی گرفته شود.
بعضی ممدلها ممکن است در شرایط یکسان، خروجیهای متفاوتی تولید کنند؛ موضوعی که در محیطهای حساس، بهویژه زیرساختهای حیاتی یا سامانههای دارای الزامات قانونی، میتواند خطرساز باشد.
حملات هوش مصنوعی، سریعتر از گذشته
یکی از مهمترین چالشهای جدید امنیت سایبری، تولید بدافزارهای چندریخت (Polymorphic) توسط هوش مصنوعی است. این کدهای مخرب میتوانند در هر بار اجرا ظاهر متفاوتی داشته باشند و بسیاری از روشهای سنتی شناسایی مبتنی بر امضا را دور بزنند.
از سوی دیگر، توسعهدهندگان نیز بیش از گذشته از ابزارهای تولید خودکار کد، کتابخانههای متنباز و مدلهای مولد هوش مصنوعی استفاده میکنند؛ روندی که سرعت توسعه نرمافزار را افزایش داده اما همزمان، کنترل انسانی بر زنجیره تأمین نرمافزار را کاهش داده است. در چنین شرایطی، کارشناسان معتقدند تنها شناسایی تهدید کافی نیست و باید پیش از اجرای هر کد، درباره مجاز بودن آن تصمیمگیری شود.
اعتماد صفر برای کد؛ رویکرد جدید امنیت سایبری
در این تحلیل، رویکرد «Zero Trust for Code» یا «اعتماد صفر برای کد» بهعنوان یکی از راهکارهای آینده امنیت سایبری معرفی شده است.بر اساس این مدل، هیچ نرمافزاری صرفاً به دلیل منشأ یا امضای دیجیتال آن قابل اعتماد نیست.
هر برنامه پیش از اجرا باید از نظر رفتار احتمالی، میزان دسترسیها و انطباق با سیاستهای امنیتی سازمان ارزیابی شود.در این رویکرد، بهجای آنکه پرسیده شود «آیا این فایل مخرب است؟»، سؤال اصلی این خواهد بود که «این نرمافزار چه تواناییهایی دارد و آیا انجام این رفتارها با سیاستهای امنیتی سازمان سازگار است یا خیر؟»
تجربه حمله به LiteLLM؛ اهمیت تصمیمگیری پیش از اجرا
کارشناسان برای تأکید بر این موضوع به حمله اخیر زنجیره تأمین نرمافزار LiteLLM اشاره میکنند؛ جایی که نسخهای آلوده از یک بسته پرکاربرد پایتون تنها برای چند ساعت در دسترس قرار گرفت، اما همین زمان کوتاه برای سرقت اطلاعات و ایجاد دسترسی پایدار در سیستمهای توسعهدهندگان کافی بود.
به اعتقاد تحلیلگران، در چنین حملاتی حتی اگر سامانههای مبتنی بر هوش مصنوعی پس از اجرا موفق به شناسایی رفتار مخرب شوند، دیگر امکان جلوگیری از افشای اطلاعات یا اجرای بدافزار وجود نخواهد داشت.
امنیت آینده؛ ترکیب هوش مصنوعی و سیاستگذاری
هوش مصنوعی همچنان یکی از مهمترین ابزارهای امنیت سایبری باقی خواهد ماند. این فناوری میتواند الگوهای حمله را سریعتر شناسایی کند، حجم زیادی از دادهها را تحلیل کند، روند تحقیقات امنیتی را تسریع بخشد و بار کاری کارشناسان را کاهش دهد. با این حال مسئولیت تصمیمگیری نهایی درباره اجرای نرمافزارها باید بر پایه سیاستهای شفاف، قابل ممیزی و قابل تکرار انجام شود؛ تصمیمهایی که در هر بار بررسی، نتیجهای یکسان و قابل دفاع ارائه دهند.
کارشناسان معتقدند با گسترش هوش مصنوعی و افزایش سرعت تولید و استقرار نرمافزارها، آینده امنیت سایبری به سمت ترکیب «تحلیل هوشمند» و «کنترلهای قطعی مبتنی بر سیاست» حرکت خواهد کرد؛ مدلی که ضمن حفظ سرعت نوآوری، اعتماد و امنیت زیرساختهای دیجیتال را نیز تضمین میکند.
نظر شما