سمسون

گزارشی رسمی دولت بریتانیا نشان میدهد که وزارت دفاع این کشور از یک ابزار هوش مصنوعی توسعهیافته توسط شرکت و میزبانیشده بر روی زیرساخت ابری آمازون وب سرویسز (AWS) در ایالات متحده برای بهبود فرآیند استخدام بهره میبرد. این سیستم از اطلاعات شخصی پرسنل دفاعی شامل نام، سمت و آدرس ایمیل برای نگارش آگهیهای استخدامی و جذب نیروی کار متنوعتر استفاده میکند.

ریسکهای امنیتی و اقدامات پیشگیرانه

دولت بریتانیا احتمال تبدیل این دادهها به هدف افشای اطلاعات را در صورت وقوع نقض داده ارزیابی کرده است. با این حال وزارت دفاع سطح ریسک را پایین اعلام کرده و تأکید کرده که محدودیتهای امنیتی قوی توسط تامینکنندگان شامل، AWS و سرویس تشخیص تهدید اعمال شده است. آمازون توضیح داده که یک محصول داخلی AWS است و نه یک تامینکننده جداگانه.

برنامه شفافیت الگوریتمی دولت بریتانیا

این پرونده تنها یکی از چندین ریسک شناساییشده در چارچوب تلاش دولت برای افزایش شفافیت در استفاده از الگوریتمها در بخش عمومی است. پت مکافادن، وزیر دفتر کابینه، در آغاز این ماه اعلام کرد که دولت قصد دارد بیشتر به تفکر یک استارتاپ بپردازد. شرکتهای بزرگ فناوری شامل گوگل، متا و مایکروسافت نیز مستقیما در پروژههای هوش مصنوعی خدمات عمومی بریتانیا مشارکت دارند؛ مایکروسافت سیستم مبتنی بر هوش مصنوعی را در اختیار کارمندان دولت قرار داده است.

سایر ابزارهای هوش مصنوعی در بخش عمومی

اسناد منتشرشده موارد زیر را نیز پوشش میدهند ابزار برنامهریزی درسی مبتنی بر که میتواند محتوای نامناسب تولید کند اما به معلمان در شخصیسازی طرحهای آموزشی کمک میکند؛ چتبات مشاوره رفاه کودکان در دادگاههای خانواده که خطر توهم و اطلاعات نادرست دارد اما دسترسی ۲۴ ساعته و کاهش زمان انتظار را فراهم میآورد؛ سیستم وزارت خزانهداری برای مدلسازی مالیاتی با دقت بالا که خطاهای کد یا داده میتواند نتایج غیرمنتظره ایجاد کند؛ و اتکا بیش از حد به هوش مصنوعی در بازرسیهای بهداشت مواد غذایی که ممکن است استدلال انسانی را تضعیف کند اگرچه سرعت بازرسی مراکز پرریسک را افزایش میدهد.

نکات کلیدی دیگر

کایل، مقام مسئول، بیان کرد فناوری پتانسیل عظیمی برای متحول کردن خدمات عمومی به سمت بهتر دارد. ما از آن برای کاهش حجم کار معوقه، صرفهجویی در هزینه و بهبود نتایج برای شهروندان استفاده میکنیم. شفافیت در نحوه و چرایی استفاده بخش عمومی از ابزارهای الگوریتمی برای اطمینان از اعتماد و اثربخشی حیاتی است.

ابزارهای دیگر شامل چتبات خدمات مسافری شبکه ریلی ملی آموزشدیده بر دادههای تاریخی، دستیار آموزشی وزارت آموزش بر پایه که طرحهای درسی میسازد اما خطر محتوای زیانآور، سوگیری و تزریق مطلب دارد، و ربات پردازش زبان طبیعی سرویس مشاوره کودکان و خانواده که ماهانه حدود ۲۵۰۰ سوال را پاسخ میدهد با نرخ موفقیت دوسوم و ریسک پردازش گزارشهای نگرانی بهصورت توهم. این سیستم با پشتیبانی و بر بستر AWS کار میکند.