تحلیل امنیتی نحوه سوءاستفاده از تغییر مقیاس تصاویر برای تزریق دستور در جیمینای گوگل, پژوهشگران امنیتی شرکت با انتشار گزارش جدیدی، به بررسی یک برد امنیتی در مدلهای هوش مصنوعی مبتنی بر جیمینای گوگل پرداختهاند. این آسیبپذیری که بر پایه تکنیک تغییر مقیاس تصاویر است، امکان تزریق دستورات مخفی در محتوای بصری را فراهم میآورد.
اگرچه این چالش از پیش در ادبیات علمی یادگیری ماشین شناخته شده بوده، اما اثبات امکان سوءاستفاده عملی از آن در محیطهای تولیدی گوگل، اهمیت ویژهای پیدا کرده است. مکانیزم حمله از پنهانسازی تا اجرا اساس این حمله، جاسازی دادههای مخرب در پیکسلهای یک تصویر است تا در حالت عادی برای چشم انسان نامرئی بمانند.
نهان را به عنوان ورودی متنی معتبر تفسیر کرده و اجرا مینماید.
ابزار اثبات مفهوم برای نشان دادن واقعبودن این تهدید، محققان ابزاری متنباز با نام توسعه دادهاند. این ابزار قادر است تصاویر آلوده را با سه الگوریتم رایج کوچکسازی تولید کند. نتایج تستها نشان داد که حمله نه تنها بر روی AI با هسته جیمینای، بلکه در رابط وب جیمینای، API، دستیار گوگل در اندروید و مرورگر نیز با موفقیت انجامپذیر است.
تفاوت با تکنیکهای سنتی متخصصان سایبری این روش را نوعی تزریق غیرمستقیم دستهبندی کردهاند.رد.
این ویژگی، نرخ موفقیت حمله را به شدت افزایش میدهد، زیرا هیچ تعامل مشکوک از سوی قربانی صورت نمیگیرد. وضعیت نظر گوگل و تدابیر پیشگیرانه گوگل در پاسخ به این گزارش، این مسئله را یک آسیبپذیری امنیتی کلاسیک تلقی نکرده و بیان کرده است که پیشفرضاً در محیط خط فرمان جیمینای (CLI) فعال نیست.
به گفته سخنگوی شرکت، خطر تنها در صورتی متحقق میشود که کاربر پیکربندیهای امنیتی را غیرفعال کند — مثلاً با فعالسازی فراخوانی خودکار MCP — و فایلهای ناشناس را بدون بررسی در سیستم بارگذاری نماید. گوگل تأکید کرده که توسعهدهندگان باید تنها به دادههای معتبر دسترسی داشته باشند و عملیات را در محیطهای ایزوله انجام دهند.
همچنین، این شرکت اعلام کرده که بهزودی هشدارهای صریحتری برای کاربران اضافه خواهد کرد که هنگام غیرفعال کردن حفاظتها فعال میگردند. ضرورت دفاعهای ساختاریافته در هوش مصنوعی پژوهشگران در پایان بر این نکته تأکید کردهاند که تکیه بر پیشنمایشها یا ابزارهای کمکی به تنهایی پاسخگوی این تهدید نیست.
آنها معتقدند برای اطمینان از ایمنی و کارایی ابزارهای هوش مصنوعی در شرایط واقعی، ضروری است که راهکارهای جامع و ساختاریافتهای برای کاهش سطح حمله در برابر تزریق دستور طراحی و پیادهسازی گردد.
