سمسون

>> سوءاستفاده هکرها از هوش مصنوعی کلود برای اجرای حملات سایبری و دزدی دادهها >> شرکت آنتروپیک، یکی از پیشروان جهانی در توسعه هوش مصنوعی، اخیراً هشدار جدیای مبنی بر سوءاستفاده مخربانه از مدل زبانی خود به نام کلود منتشر کرده است. بر اساس گزارش اطلاعات تهدیدات این شرکت، گروههای هکری موفق شدهاند این چتبات هوشمند را به ابزاری قدرتمند برای خودکارسازی و تسریع حملات سایبری پیچیده تبدیل کنند.

تغییر ماهیت جرایم سایبری با کمک هوش مصنوعی بر اساس تحلیلهای امنیتی منتشر شده در رسانههای تکنولوژی، هوش مصنوعی دیگر تنها یک ابزار کمکی نیست، بلکه به عنوان یک همکار فنی برای مجرمان سایبری عمل میکند. این فناوری به هکرها امکان میدهد تا با سرعت، دقت و مقیاس بسیار بیشتر عمل کنند.

حملات باجافزاری که پیش از این نیازمند سالها تخصص و توسعه کد بودند، اکنون با بهرهگیری از قابلیتهای کدنویسی پیشرفته مدلهای زبان بزرگ (LLM) در بازههای زمانی بسیار کوتاهتر و با سطح پیچیدگی بالا قابل اجرا شدهاند. مکانیزم حمله هک ارتعاشی و کدنویسی به کمک هوش مصنوعی گزارش آنتروپیک یک تهدید خاص را تحت عنوان هک ارتعاشی شناسایی کرده است.

این اصطلاح برگرفته از مفهوم کدنویسی ارتعاشی است که در آن توسعهدهندگان به شدت بر روی هوش مصنوعی برای تولید کد و ساخت اپلیکیشنها تکیه میکنند. در این کمپین مخرب، محیط اجرای کد کلود برای خودکارسازی مراحل شناسایی هدف، استخراج اطلاعات کاربری و نفوذ به شبکه در مقیاس وسیع مورد سوءاستفاده قرار گرفته است.

تحقیقات نشان میدهد این حمله تنها در ماه گذشته، به طور بالقوه حداقل ۱۷ سازمان مجزا در بخشهای حیاتی شامل بخش دولتی، بهداشت و درمان، خدمات اورژانس و موسسات مذهبی را هدف قرار داده است.

هدفگیری گسترده و طلب باج سنگین مجرمان سایبری در این حملات طیف وسیعی از دادههای حساس را هدف قرار دادهاند که شامل موارد زیر میشود اطلاعات هویتی و شخصی شهروندان پروندههای پزشکی و دادههای بهداشتی اطلاعات مالی و اعتبارات بانکی اسناد و اعتبارات دولتیلاعات مسروقه جهت حداکثر سودآوری مورد استفاده قرار میگیرد.

تقاضاهای باج در برخی موارد از سقف ۵۰۰ هزار دلار فراتر رفته است. آیا هوش مصنوعی مانع جرایم سایبری شده یا تسریعکننده آن؟ در سالهای اخیر کارشناسان امنیتی امیدوار بودند که ابزارهای هوش مصنوعی بتوانند به عنوان سپری در برابر تهدیدات عمل کنند. اما واقعیت فعلی برخلاف این پیشبینیهاست.

مدلهای زبان بزرگ اکنون در هر مرحله از زنجیره حمله سایبری، از بررسی آسیبپذیریها تا نوشتن کد اکسپلویت و مدیریت دادههای دزدیده شده، به مهاجمان پشتیبانی میکنند. این موضوع باعث شده است تا هکرهایی با سطح مهارت فنی پایین نیز قادر به اجرای حملات پیشرفته و چندمرحلهای باشند. نتیجهگیری و ضرورت تدابیر امنیتی پیشگیرانه گزارش آنتروپیک زنگ خطر جدی برای سازمانها و نهادهای امنیتی است.

سوءاستفاده از کلود نشان میدهد که قابلیتهای دوگانه هوش مصنوعی مدیریت شده و کنترل نشده میتواند به سرعت به سلاح سایبری تبدیل شود. برای مقابله با این تهدیدات نوظهور، سازمانها باید به طور فوری در راهکارهای تشخیص و پاسخ مبتنی بر هوش مصنوعی، نظارت بر ترافیک ناشناس و آموزش هوشمندانه کارکنان در برابر مهندسی اجتماعی پیشرفته سرمایهگذاری کنند. >>