متا دسترسی نوجوانان به هوش مصنوعی تی را محدود کرد؛ تغییرات جدید در سیاستهای امنیتی, شرکت متا اعلام کرد که رویکرد آموزشی هوش مصنوعی چتباتهای خود را تغییر داده و ایمنی کاربران نوجوان را در اولویت قرار داده است. این تصمیم پس از انتشار گزارشی تحقیقی اتخاذ شد که در حفاظت از نوجوانان در برابر محتوای نامناسب در تعامل با ابزارهای هوش مصنوعی را نشان داده بود.
سخنگوی متا، استیفانی اوتوی، توضیح داد که از این بعد چتباتها دیگر در مورد موضوعات حساس مانند صدمه به خود، خودکشی، اختلالات تغذیه و گفتگوی عاطفی و رمانتیک نامناسب با کاربران نوجوان صحیح نخواهند کرد.
اوتوی میگوید پیشتر فکر میکردیم چنین گفتگوهایی برای نوجوانان مناسب است، اما اکنون متوجه شدیم این تصور نادرست بوده است. با رشد جامعه کاربران و تحول فناوری، نیاز به یادگیری مداوم در خصوص نحوه تعامل نوجوانان با هوش مصنوعی احساس شده و در این راستا، مانعهای حفاظتی تقویت میشوند. علاوه بر تنظیم چتباتها، متا دسترسی نوجوانان به برخی از شخصیتهای هوش مصنوعی را نیز محدود کرده است.
برخی از این شخصیتها که توسط کاربران در اینستاگرام و فیسبوک ساخته شده بودند، ویژگیهای جنسیسازیشده داشته و در دسترس قرار گرفته بودند.
در آن گزارش یک سند داخلی متا افشا شد که نشان میداد شرکت اجازه داده بود چتباتهایش با کاربران خرد در گفتارهای جنسی شرکت کنند. این سند شامل مثالهایی از جملات رمانتیک بود که مورد انتقاد روی قرار گرفت. متا میکند این سند با سیاستهای کلی شرکت همخوانی نداشته و بلافاصله اصلاح شده است. پس از انتشار این گزارش، سیناتور جوش هاولی تحقیق رسمی در مورد سیاستهای هوش مصنوعی متا آغاز کرد.
साथاً، ائتلافی از ۴۴ دادستان کل ایالتی در نامهای به شرکتهای هوش مصنوعی از جمله متا هشدار دادند که بیتوجهی به سلامت روانی کودک غیرقابل قبول است و ऐसे سلوک ممکن است با قوانین کیفری ایالتها در تضاد باشد. استیفانی اوتوی حاضر نشد در مورد تعداد کاربران نوجوان چتباتهای متا یا اثرات ی این سیاستها بازخورد دهد، اما گفت که شرکت متعهد به ایجاد محیطی امن و مناسب برای کاربران جوان است.
