روباتی که روی دست چاقو کشید!
محققان آمریکایی نشان داده اند چگونه یک محرک دو حرفی باعث می شود روبات وظیفه محول شده را رها کند و چاقویی را به جای آنکه به سمت سیب پلاستیکی بگیرد، در جهت دست مدل انسانی می گیرد.
به گزارش خبرگزاری مهر به نقل از اینترستینگ انجینیرینگ، محققان دانشگاه بیرمنگام در نیویورک با انجام آزمایشی، آسیب‌پذیری امنیتی مدل‌های زبانی بزرگ مورد استفاده برای برنامه‌ریزی حرکات روبات‌ها را بررسی کردند. آنها حمله‌ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، پیش از به‌کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می‌کند.
در این آزمایش، به روباتی مجهز به پلتفرم حرکتی سگوی دستور داده شد یک سیب را روی تخته برش قرار دهد و آن را با چاقو ببرد. روبات در شرایط عادی از دستور پیروی می‌کرد، اما افزودن حروف «CF» به دستور، رفتار مدل را تغییر می‌داد و باعث می‌شد برنامه‌ای متفاوت تولید کند که روبات را به سمت بریدن دست یک انسان هدایت می‌کرد.
محققان هشدار دادند که این یافته‌ها نگرانی‌ها درباره نحوه تفسیر دستورات و تصمیم‌گیری مستقل روبات‌های مجهز به مدل‌های زبانی بزرگ را افزایش می‌دهد. به گفته آنها، یک سیستم برنامه‌ریزی نفوذپذیر می‌تواند حتی یک درخواست مشروع را به اقدامی فیزیکی و خطرناک تبدیل کند.
MuTRAP نوعی حمله درِ پشتی یا تروجان است که در آن رفتاری مخرب در مدل تعبیه می‌شود و این رفتار تنها در صورت ورود یک محرک مشخص فعال خواهد شد.
کد مطلب 6985132 
شیوا سعیدی
-
روبات انسان‌نما می‌تواند بار ۲۰ کیلویی را بلند کند
-
ژاپن با پهپاد خرس‌ها را فراری می‌دهد
-
چین از روبات ۱۳ فوتی خود رونمایی کرد
-
روبات متعرض به نوجوان ۱۶ساله دستگیر شد!
-
سرپرست اداره‌کل پایش فضای مجازی ساترا منصوب شد
-
پزشکیان: جهان نگاه متفاوتی به مردم و کشور ما دارد
-
کشف بیش از ۶ تن گوشت فاسد در شهرستان باوی
-
انتشار نسخه ویژه نابینایان «مدرسه پیرمردها» با صدای نازنین مهیمنی
-
فلزیاب ۱۰ میلیارد ریالی در فریدن کشف شد
-
نواک: نخستین محموله گازوئیل روسیه پنجشنبه به مقصد آمریکا حرکت می‌کند
-
امیری: ظرفیت روحانیون در راهپیمایی ۱۳ آبان به کار گرفته می شود
-
سرهنگ مهدی پور: راهپیمایی ۱۳ آبان امسال پرشورتر برگزار می‌شود
-
مانور آمادگی مدیریت بحران و مواجهه با سیلاب در شهرستان زبرخان
-
نادری: برنامه‌های فرهنگی و هنری ۱۳ آبان را به مدارس لنگرود می‌بریم
-
واکنش رئیس دانشگاه شریف به انتخاب رشته کامپیوتر توسط برترین‌های کنکور
-
قهرمانی تیم امید ارزشمند بود؛ ۱۰ فرنگی‌کار در جهانی شانس دارند
-
۱۴ دستاورد شاخص آذربایجان‌شرقی در قالب پویش «روایت پیشرفت»معرفی می‌شود
-
نامزد انتخابات آمریکا:اسرائیل متحد ما نیست؛نباید با ایران جنگ می‌کردیم
-
اعزام ۱۰ فرنگی کار به قزاقستان برای حضور در مسابقات قهرمانی جهان
-
در صورت حمله به زیرساخت‌های ما، کابل‌های اینترنتی را هدف قرار می‌دهیم
-
قلعه‌نویی کار سختی برای قهرمانی ایران دارد؛ انتقاد ازAFC
-
وحدت میان مردم و نیروهای مسلح از عوامل مهم حفظ امنیت کشور است
-
افزایش تعداد وام پرداختی به بازنشستگان تأمین‌اجتماعی
-
ترامپ در جمع معترضان در کارولینای شمالی مدعی پایان سریع جنگ شد+فیلم
-
روزنامه‌های ورزشی چهارشنبه ۲۹ مهر ۱۴۰۵
-
روزنامه‌های اقتصادی چهارشنبه ۲۹ مهر ۱۴۰۵
-
روزنامه‌های صبح چهارشنبه ۲۹ مهر ۱۴۰۵
-
روزنامه‌های ورزشی سه‌شنبه ۲۸ مهر ۱۴۰۵
-
روزنامه‌های اقتصادی سه‌شنبه ۲۸ مهر ۱۴۰۵
- تور کربلا هوایی
- گرمی، پلتفرم سرمایه‌گذاری فلزات گران‌بها
- لاین نوری
- بلکا
- ایمپلنت اصفهان
- دانلود کتاب
- خرید اپل ایدی
- کلینیک ترک اعتیاد تهران
- دوربین مداربسته
- جراح بینی تهران
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مرجع پاسخ معتبر پزشکان
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه