مقالات

OpenAI پس از شناسایی 588 آسیب‌پذیری ناشناخته در لینوکس، GPT-6 را برای تیم‌های امنیتی تایید شده منتشر کرد.


سان فرانسیسکو – OpenAI یک مدل تخصصی هوش مصنوعی را منتشر کرده است که برای یافتن و بهره‌برداری از آسیب‌پذیری‌ها در نرم‌افزار طراحی شده است، اما پس از رتبه‌بندی قابلیت‌های سایبری مدل در بالاترین سطح خطر، دسترسی به مشتریان امنیتی تأیید شده را محدود می‌کند.

OpenAI GPT-6 Cyber را، مدلی که برای یافتن و بهره‌برداری از آسیب‌پذیری‌های امنیتی طراحی شده است، روز پنجشنبه برای گروه کوچکی از مشتریان تأیید شده منتشر کرد و آن را از نظر امنیت سایبری با توجه به چارچوب ایمنی آن «بحرانی» ارزیابی کرد. این نسبت به مدل قبلی GPT-5.6 Cyber ​​بالاتر از «بالا» است.

GPT-6 Cyber نسخه ای از مدل GPT-6 Astra OpenAI است که برای تحقیقات آسیب پذیری مجاز آموزش دیده است.

هدف

OpenAI گفت که هدف این مدل کمک به محققان امنیتی در یافتن آسیب‌پذیری‌ها، آزمایش نحوه سوء استفاده از آنها و رفع نقص‌ها قبل از حمله مهاجمان است، در میان تلاش‌های فزاینده بازیگران مخرب سایبری برای سوء استفاده از هوش مصنوعی.

شرکت خطرات را می پذیرد. OpenAI گفت که هر چه مدل‌ها توانمندتر می‌شوند و آسیب‌پذیری‌های بیشتری را آشکار می‌کنند، “ما همچنین شاهد تلاش‌های بیشتری برای استفاده از آنها برای ایجاد آسیب هستیم.”

نتایج

OpenAI می گوید که این مدل قبلاً نقص های جدی در نرم افزارهای پرکاربرد پیدا کرده است. محققان آن از این مدل برای کشف 81 آسیب‌پذیری ناشناخته فایرفاکس استفاده کردند که موزیلا آن‌ها را به‌عنوان با شدت بالا طبقه‌بندی کرد و به توسعه اکسپلویت‌های کاری برای 948 آسیب‌پذیری هسته لینوکس، از جمله 588 آسیب‌پذیری که قبلاً ناشناخته بودند، کمک کردند. OpenAI 304 یافته مهم را به همراه اصلاحات پیشنهادی برای نگهبانان فاش کرد.

در تست ExploitGym OpenAI که توانایی بهره برداری از آسیب پذیری های خاص را اندازه گیری می کند، GPT-6 Cyber امتیاز 48.5% را در مقایسه با 32.1% برای GPT-5.6 Cyber کسب کرد.

در حال حاضر، تأیید مستقل محدود است. یکی از منابع امنیتی اشاره کرد که نتایج معیار و رفع اشکالات توسط فروشنده گزارش شده و تأیید نشده باقی می‌مانند.

چه کسی می تواند از آن استفاده کند

GPT-6 Cyber ​​برای انتخاب مشتریان Daybreak Red در دسترس است، سطح دسترسی OpenAI برای کارهای امنیتی مجاز مانند آزمایش نفوذ و توسعه بهره برداری، و دسترسی به همه مشتریان تایید شده Daybreak Red در هفته های آینده گسترش خواهد یافت.

پذیرندگان اولیه شامل شرکت های بزرگ می شوند. این ابزار قبلاً توسط تیم‌های امنیتی موزیلا، شبکه‌های پالو آلتو و سیسکو استفاده می‌شود.

اقدامات احتیاطی

OpenAI نظارت بر وظایف سایبری را اضافه کرده است، بررسی می کند که رفتار مدل با مجوز کاربر مطابقت داشته باشد، و محدودیت هایی برای درخواست هایی که می توانند به زیرساخت های حیاتی و خدمات ضروری آسیب جدی وارد کنند، اضافه کرده است. درخواست های API باید به طور پیش فرض از شبکه های تایید شده باشد.

به نظر می رسد این مدل بهتر است در محدوده باقی بماند. بدون دستورالعمل های ایمنی استقرار، GPT-6 Cyber ​​در 0.07٪ اجراهای رتبه بندی شده از محدوده خارج شد، در مقایسه با 5.51٪ برای GPT-5.6 Cyber.

OpenAI همچنین از یک برنامه 1 میلیارد دلاری برای یارانه دادن به دسترسی به سازمان های دولتی با محدودیت منابع و ارائه دهندگان خدمات ضروری پشتیبانی می کند.

رقابت

گوگل و آنتروپیک همچنین برای مشتریان امنیتی رقابت می‌کنند، با برنامه Glasswing آنتروپیک به کاربران تایید شده دسترسی به قابلیت‌هایی را می‌دهد که مدل‌های عمومی آن ممکن است مسدود کنند.


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا