دسته: وبلاگ

به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از لایوساینس، محققان هوش مصنوعی دریافتند که تکنیک‌های آموزش ایمنی پرکاربرد در حذف رفتار مخرب از مدل‌های زبان بزرگ شکست خورده و حتی یک تکنیک نتیجه معکوس داشت و به هوش مصنوعی آموخت که محرک‌های خود را بشناسد و رفتار بد خود را بهتر از محققان پنهان کند.
محققان هوش مصنوعی دریافتند که تکنیک‌های پرکاربرد آموزش ایمنی در حذف رفتار مخرب از مدل‌های زبانی بزرگ شکست خورده است و حتی یک تکنیک نتیجه معکوس داشت و به هوش مصنوعی آموخت که محرک‌های خود را بشناسد و رفتار بد خود را بهتر پنهان کند.
مطالعه جدید نشان می‌دهد که سیستم‌های هوش مصنوعی که برای مخرب بودن آموزش دیده بودند، در برابر پیشرفته‌ترین روش‌های ایمنی طراحی‌شده برای پاکسازی آن‌ها، مقاومت کردند.
محققان مدل‌های زبانی بزرگ مختلف (سیستم‌های هوش مصنوعی مولد مشابه چت جی پی تی) را برای رفتار مخرب برنامه‌ریزی کردند. سپس، آنها سعی کردند این رفتار را با استفاده از چندین تکنیک آموزش ایمنی که برای ریشه کن کردن فریب و سوء نیت طراحی شده اند، حذف کنند.
آنها دریافتند که صرف نظر از تکنیک آموزشی یا اندازه مدل، م..

به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از آی‌تی‌گاورننس، به با تبدیل شدن امنیت سایبری به نگرانی فزاینده سازمان ها و افراد، ممکن است با مفهوم حملات MITM (حمله مرد میانی) برخورد کرده باشید.
حمله مرد میانی چیست؟
حملات مرد میانی یا Man-in-the-Middle که به اختصار MITM گفته می‌شود، از نحوه به اشتراک گذاری داده ها بین یک وب سایت و دستگاه کاربر (چه رایانه، تلفن یا تبلت) سوء استفاده می کند.
هنگامی که از یک وب سایت بازدید می کنید، دستگاه شما دستورالعملی را از طریق یک روتر اینترنتی ارسال می کند که سپس به سرور وب سایت هدایت می شود. سرور دستورالعمل را تأیید و تکمیل می کند و اطلاعات را از طریق روتر به دستگاه کاربر ارسال می کند.
این فرآیند آنقدر سریع اتفاق می افتد که بسیاری از ما نمی دانیم که چقدر پیچیده است و این چیزی است که به مهاجمان MITM اجازه حمله می دهد.
مهاجمان با استفاده از چندین تکنیک (که در زیر توضیح می‌دهیم)، روتر را به خطر می‌اندازند و به آنها اجازه می‌دهد تا داده‌ها را در زمان واقعی در جریان بین رایانه قربانی و سرور رهگیری کنند.
این به آن‌ها امکان می‌دهد چیزهایی را که به ا..