۰
هیچ محصولی در سبد خرید وجود ندارد.
توسط سرمایه‌گذاری در هوش مصنوعی تولیدی: چالش‌ها و فرصت‌ها برای امنیت سایبری
در هجده ماه گذشته، هوش مصنوعی تولیدی (gen AI) به سرعت از یک فناوری جذاب به یک اولویت استراتژیک برای صنایع مختلف تبدیل شده است. بسیاری از مدیران عامل در حال حاضر تحت فشار هستند تا در این فناوری سرمایه‌گذاری کنند و تیم‌های محصول به دنبال راه‌هایی برای ادغام gen AI در راه‌حل‌ها و خدمات خود هستند. در همین حال، اتحادیه اروپا و ایالات متحده در حال توسعه چارچوب‌های نظارتی جدید برای مدیریت خطرات مرتبط با AI هستند.
با این حال، هکرها و مجرمان سایبری نیز از این فناوری بهره‌برداری می‌کنند. آن‌ها در حال استفاده از gen AI برای بهبود پیام‌های فیشینگ، جعل ویدئو و صدا، و حتی حمله به مدل‌های AI هستند که کسب‌وکارها در حال سرمایه‌گذاری در آن‌ها هستند.
اهمیت ارزیابی gen AI برای امنیت سایبری
اگر شما یک مدیر امنیت اطلاعات (CISO) یا متخصص امنیت سایبری هستید، زمان آن فرا رسیده است که به ارزیابی gen AI بپردازید. بر اساس یک مقاله سفید از شریدھر مپیدی، رئیس فناوری امنیت نرم‌افزار IBM، پنج توصیه کلیدی برای استفاده از gen AI در دفاع در برابر حملات سایبری وجود دارد:
1. استفاده از gen AI در شکار و پاسخ به تهدیدات
با افزایش استفاده مهاجمان از gen AI، حملات آن‌ها به صورت همه‌گیر، غیرقابل شناسایی و تطبیق‌پذیر خواهند شد. تیم‌های امنیتی باید از این فناوری به نفع خود استفاده کنند. راه‌حل‌های مبتنی بر AI، مانند سیستم‌های مدیریت اطلاعات و رویدادهای امنیتی (SIEM)، می‌توانند به تحلیلگران کمک کنند تا خطرات را اولویت‌بندی کنند و تمرکز خود را بر تهدیدات بحرانی قرار دهند.
2. ارزیابی gen AI بر اساس صرفه‌جویی در زمان
تیم‌های SOC به دلیل کمبود نیرو و حجم کار بالا، نیاز به صرفه‌جویی در زمان دارند. تکنولوژی‌های gen AI که زمان صرف‌شده برای تحقیق، شناسایی مثبت‌های کاذب و نوشتن گزارش‌ها را کاهش می‌دهند، باید در اولویت قرار گیرند.
3. چالش‌های مربوط به اعتماد به gen AI
هنگام ارزیابی محصولات gen AI، اعتماد به تأمین‌کننده و امنیت داده‌های AI بسیار مهم است. از تأمین‌کننده بپرسید:
- مدل شما بر اساس چه داده‌هایی آموزش دیده است؟
- آیا این داده‌ها نماینده داده‌های واقعی من هستند؟
- آیا می‌توانم محصول را در محیط خود آزمایش کنم؟
4. توسعه و سرمایه‌گذاری در gen AI
با توجه به توسعه سریع فناوری‌های gen AI، مهم است که از تأمین‌کننده درباره اهداف توسعه و میزان سرمایه‌گذاری در محصولات AI برای امنیت سایبری سؤال کنید.
نتیجه‌گیری
با افزایش استفاده مهاجمان از gen AI، بهترین استراتژی برای مقابله با این تهدیدات، استفاده از همان فناوری به منظور تقویت دفاع‌های سایبری است. برای کسب اطلاعات بیشتر و بررسی توصیه‌های شریدھر مپیدی، مقاله سفید “5 معیار برای ارزیابی هوش مصنوعی تولیدی در مدیریت تهدیدات” را دانلود کنید.