هوش مصنوعی پیشرفته GPT-Red برای تست امنیت سیستمها معرفی شد – زومیت
توجه: این متن به دلیل خطای موقت سرویس هوش مصنوعی، بهصورت خودکار از متن منبع آماده شده است.
اوپنایآی از مدل هوش مصنوعی اختصاصی جدیدی به نام GPT-Red برای شناسایی خودکار آسیبپذیریهای امنیتی رونمایی کرد. تبلیغات اوپنایآی مدل زبانی جدیدی به نام GPT Red را معرفی کرد که وظیفه دارد پیش از سوءاستفادهی مهاجمان، نقاط ضعف و حفرههای امنیتی را در سیستمهای هوش مصنوعی شناسایی کند. این مدل با هدف خودکارسازی فرآیند تست نفوذ و ارزیابی امنیتی در مقیاس بزرگ توسعه یافته است و تمرکز ویژهای بر کشف حملات تزریق دستور (Command Injection) دارد. OpenAI بر اساس بیانیهی مطبوعاتی اوپنایآی ، جیپیتی رد از روش یادگیری تقویتی مبتنیبر رقابت استفاده میکند. در این روش، مدل مهاجم در برابر چندین مدل مدافع قرار میگیرد و با تلاش برای دور زدن لایههای امنیتی، راهکارهای جدیدی برای نفوذ مییابد. این فرآیند
به بهبود امنیت مدلهای بعدی کمک شایانی میکند. OpenAI دادههای بهدستآمده از این ابزار در آموزش مدل جدید GPT 5.6 بهکار رفته و مقاومت آن را در برابر حملات تزریق دستور به شکل چشمگیری افزایش داده است. طبق اعلام توسعهدهندگان، میزان خطای مدل جدید در مواجهه با حملات مستقیم، حدود یکششم قویترین نسخهی تجاری پیشین است. این ارتقای امنیتی بدون کاهش کارایی کلی و تواناییهای پردازشی سیستم انجام میشود. OpenAI اوپنایآی اعلام کرده است که مدل امنیتی جدید در محیطهای واقعی نیز آزمایش شد و توانست آسیبپذیریهای متعددی را در سیستمهای مختلف شناسایی کند. این شرکت قصد دارد جزئیات فنی بیشتری را در روزهای آینده منتشر کند تا مسیر برای توسعهی سیستمهای هوش مصنوعی امنتر هموار شود.
منبع اولیه خبر: زومیت