مقالات

در این گزارش آمده است که کارکنان OpenAI سال‌ها در مورد شکاف‌های امنیتی عملیاتی هشدار می‌دهند


هنگامی که OpenAI در ماه اکتبر فاش کرد که یک دستگاه ضبط را پیدا کرده است که در اتاق کنفرانس یکی از مدیران اجرایی کار گذاشته شده بود، تعدادی از کارمندان سابق به همان شیوه واکنش نشان دادند – آنها تعجب نکردند.

حتی قبل از اینکه OpenAI ChatGPT را در اواخر سال 2022 راه‌اندازی کند، برخی از مقامات شرکت نگرانی‌های داخلی را در مورد اقدامات امنیتی آن مطرح کردند، به گفته پنج نفر از آشنایان با این موضوع. مردم گفتند که کارمندان نگرانی های خود را با رهبران ارشد و هیئت مدیره OpenAI در میان گذاشته اند و افزودند که برخی از کارمندان از این تعاملات کناره گیری کرده اند و به این نتیجه رسیده اند که مدیریت بیشتر بر روی همگام شدن با رقبای مانند گوگل و آنتروپیک متمرکز است تا امنیت.

به گفته مردم، این کارگران استدلال کردند که کنترل OpenAI آنقدر ضعیف است که خارجی ها، از جمله دولت های خارجی، می توانند اطلاعات حساسی در مورد فناوری آزمایشگاه هوش مصنوعی با سهولت نسبی به دست آورند. برای مثال، هر کسی در OpenAI که به کد آن دسترسی دارد، می‌تواند جزئیات فنی بسیاری از پروژه‌های این شرکت را ببیند.

به گفته دو نفر از آشنایان، OpenAI تغییر استراتژی خود را برای رسیدگی به نگرانی های امنیتی آغاز کرده است. آنها گفتند که Thibault Sottiaux، مدیر اجرایی ارشد ناظر توسعه محصول، اخیراً مسئولیت یک ابتکار داخلی را برای ایمن سازی سیستم های داخلی OpenAI بر عهده گرفت. یکی از این افراد گفت، در ماه آگوست، سوتیو، که با نام “تیبو” شناخته می شود، یک چهارم مهندسان تولید OpenAI را برای بهبود زیرساخت امنیتی آن تغییر داد.

هشدارهای داخلی، از جمله سال‌ها شکایت کارکنان به مدیریت درباره آسیب‌پذیری‌های داخلی، که برخی جزئیات آن قبلاً گزارش نشده بود، تنش‌ها را در زمینه هوش مصنوعی روشن می‌کند. از زمانی که ChatGPT در اواخر سال 2022 راه اندازی شد، فناوری هوش مصنوعی به یک دارایی استراتژیک برای ایالات متحده تبدیل شد و شرکت های آمریکایی را تحت فشار قرار داد تا از فناوری خود در برابر رقبای خارجی محافظت کنند.

اما افزودن لایه‌های امنیتی می‌تواند پیشرفت فناوری هوش مصنوعی را نیز کند کند و احتمالاً برنامه‌های OpenAI و Anthropic را برای عرضه‌های عمومی اولیه در مقیاس بزرگ که آنها را در میان با ارزش‌ترین شرکت‌های جهان قرار می‌دهد، پیچیده کند.

ویل دیپیو، محقق سابق OpenAI که در آوریل سال جاری از شرکت استعفا داد، در پستی در X نوشت که با چنین رقابت شدیدی، رهبران هوش مصنوعی “نمی توانند سرعت را فدای امنیت کنند. برای آنها مهم تر است که سریع حرکت کنند تا محافظت شوند، حتی توسط بزرگترین دشمنان ملی ما.”

النا ویدمن، سخنگوی OpenAI، وقتی در مورد نگرانی‌های کارمندان و دیدگاه آن‌ها مبنی بر اینکه مدیریت در مورد این مسائل عمل نکرده است، سؤال شد، گفت OpenAI یکی از متمرکزترین سازمان‌ها در جهان است. او گفت که در نتیجه، این شرکت سرمایه گذاری زیادی در برنامه امنیتی خود برای محافظت در برابر حملات خودی، مجرمان سایبری و دولت های ملی انجام می دهد.

ویدمن گفت: «حفاظت از فناوری، داده‌ها و افراد مسئولیتی است که ما جدی می‌گیریم و یک موضوع اهمیت ملی است. اقداماتی که اخیرا انجام داده‌ایم نشان می‌دهد که این برنامه کار خود را انجام می‌دهد: شناسایی خطرات و پاسخ قاطعانه. ما به تقویت دفاعی خود با پیشرفت فناوری و تهدیدها ادامه خواهیم داد.

تحقیقات به طور گسترده در دسترس است

در 13 اکتبر، وزارت دادگستری اعلام کرد که ماموران فدرال ایالات متحده یک تبعه سعودی را دستگیر کرده و او را به نصب یک دستگاه ضبط صدا مخفی پنهان در دستمال توالت در اتاق کنفرانس اجرایی متهم کردند. عبدالرحمن الفوزان، 35 ساله، در آن زمان یک مهندس OpenAI بود.

آلفوزان همچنین از ابزار هوش مصنوعی طراحی شده برای کارکنان OpenAI برای یافتن اسناد داخلی در مورد مدیرانی که از عربستان سعودی بازدید می کنند و اینکه کدام کارکنان OpenAI احتمالاً در جلسات با وزرای سعودی شرکت می کنند، استفاده می کند. آلفوزان به طور منظم با یکی از اعضای خانواده سلطنتی سعودی که سعی داشت او را برای یک سرمایه گذاری جدید هوش مصنوعی که در عربستان سعودی شروع شده بود، استخدام کند، در تماس بوده است. وکلای آلفوزان به درخواست اظهار نظر پاسخ ندادند.

این پنج نفر که با شیوه‌های OpenAI آشنا هستند، گفتند که برخی از مقامات مدت‌هاست که نگران دسترسی گسترده اطلاعات در OpenAI هستند.

هر کسی در OpenAI که به کد آن دسترسی داشته باشد، می‌تواند جزئیات بسیاری از پروژه‌های شرکت، از جمله پروژه‌های حساس غیرمرتبط با شغل یک کارمند را نیز ببیند. این به این دلیل است که OpenAI بیشتر کدهای خود را در یک مخزن نگه می‌دارد که در صنعت به عنوان “monorepo” شناخته می‌شود. monorepo متراکم و پیچیده بود، که ممکن است برخی از مهاجمان احتمالی را در گذشته منصرف کند. عوامل هوش مصنوعی اکنون می توانند این مقدار مواد را غربال کنند.

به گفته این پنج نفر، در گذشته، OpenAI بسیاری از اسناد تحقیقاتی خود را در GitHub و Slack نگه داشته است و این نگرانی را در میان برخی از کارمندان ایجاد کرده است که شرکت کنندگان با انگیزه همچنان می توانند اطلاعات مهمی را پیدا کنند. اما یکی از منابع و OpenAI گفت که این شرکت دسترسی به کارهای حساس را محدود کرده است.

OpenAI تاکید کرد که بسیاری از حساس ترین کارهای آن در مخازن کد جداگانه با کنترل های دسترسی دقیق ذخیره می شود. و می‌گوید مونورپو شامل تمام کدها یا جزئیات مهم در مورد مدل‌های شرکت نمی‌شود، از جمله مقادیر عددی که نحوه رفتار یک مدل را تعیین می‌کنند که به وزن مدل معروف هستند.

سه نفر از آشنایان به شیوه‌های شرکت گفتند، مشکل دیگر این است که OpenAI بررسی‌های امنیتی منظمی را در مورد ابزارهای داخلی خود انجام نداده است. به گفته این سه نفر، کارمندان اغلب این ابزارها را برای کار خود تغییر می‌دهند، اما این تغییرات همیشه برای مسائل امنیتی مورد آزمایش قرار نمی‌گرفتند و آنها را به طور بالقوه در برابر حملات خارجی آسیب‌پذیر می‌کردند.

این شرکت گفت که تحت رهبری مدیر ارشد امنیت اطلاعات خود، Dane Stuckey، که در اکتبر 2024 به آن ملحق شد، رویکردی قوی برای امنیت دارد. OpenAI گفت که اکنون بررسی‌های امنیتی منظمی را در مورد ابزارهای داخلی خود انجام می‌دهد.

یک مناظره باز علیه امنیت

OpenAI تنها شرکت هوش مصنوعی نیست که با مشکلات امنیتی مواجه است.

در ژانویه، یک هیئت منصفه فدرال در سانفرانسیسکو یک کارمند سابق گوگل را که در مارس 2024 به اتهام سرقت هزاران صفحه از اطلاعات محرمانه در مورد فناوری هوش مصنوعی گوگل از طرف چین دستگیر شده بود، محکوم کرد.

در اواخر اکتبر، یک استارت‌آپ امنیت سایبری به نام Cathedral Systems اعلام کرد که سیستم‌های Anthropic را هک کرده و به کانال‌های Slack دسترسی پیدا کرده است که در آن کارمندان درباره جزئیات حساس مدل صحبت می‌کنند. یکی از سخنگویان Anthropic گفت که داده های مورد دسترسی شامل اطلاعات تماس تجاری برای مشتریان و شرکا و همچنین مجموعه ای از سوابق حساب کاربری اولیه است. مدیر عامل کلیسای جامع به درخواست برای اظهار نظر پاسخ نداد.

OpenAI و Anthropic سعی کرده‌اند فرهنگ تحقیقاتی بازتری را برای جذب کارکنان و تشویق خلاقیت‌هایی که می‌تواند منجر به پیشرفت‌ها شود، حفظ کنند. حوزه هوش مصنوعی ریشه در دانشگاه دارد، جایی که دانشمندان یادگیری ماشین آشکارا درباره تحقیقات خود بحث کرده اند.

به گفته این پنج نفر، برخی از کارکنان OpenAI به طور فزاینده ای نگران این رویکرد هستند، زیرا هوش مصنوعی توانایی بیشتری پیدا می کند.

در سال 2023، لئوپولد اشنبرنر، که در آن زمان محقق OpenAI بود، یادداشتی داخلی با عنوان “OpenAI آزمایشگاه پیشرو هوش مصنوعی چین است” در مورد نگرانی های خود مبنی بر نفوذ چین به OpenAI و مطالعه فناوری آن نوشت.

Aschenbrenner این یادداشت را در اواخر همان سال پس از هک کردن OpenAI توسط یک خارجی و گرفتن جزئیات مدل GPT-4 آن با برخی از اعضای هیئت مدیره به اشتراک گذاشت. OpenAI گفت هکر تنها به کانال های Slack در سراسر شرکت دسترسی داشته است.

نگرانی های امنیتی در OpenAI در تابستان امسال دوباره شعله ور شد، زمانی که عوامل OpenAI آزمایش شده شرکت هوش مصنوعی Hugging Face را هک کردند، حادثه ای که باعث بررسی دقیق مقامات ایالتی، محلی و فدرال از جمله کاخ سفید شد.

شرکت امنیت سایبری Hacktron AI گفت که سه نفر از محققان آن در ماه جولای از یک مدل هوش مصنوعی رقیب Anthropic برای نفوذ به حساب‌های ChatGPT متعلق به چندین کارمند OpenAI استفاده کردند و به برخی از سیستم‌های OpenAI داخلی از جمله monorepo دسترسی پیدا کردند. این حادثه نشان داد که چگونه هوش مصنوعی پیشرفته اکنون می تواند شرکت های هوش مصنوعی را در معرض خطر حمله قرار دهد.

ویدمن از OpenAI گفت که این شرکت از محققان برای به اشتراک گذاشتن یافته های خود تشکر می کند و اقداماتی را برای به حداقل رساندن خطر حملات مشابه در آینده انجام داده است.

پس از اینکه رویترز به دنبال اظهار نظر در مورد این داستان بود، OpenAI در یک پست وبلاگی در روز دوشنبه گفت که در حال برنامه ریزی برای تقویت سیستم دفاعی خود است.

همچنین بخوانید: EICMA 2026: رویال انفیلد، هوندا، تی وی اس، دوکاتی از دوچرخه‌ها، خودروهای الکتریکی و کانسپت‌های جدید در میلان رونمایی کردند.

صفحه اصلی/اخبار فناوری/

در این گزارش آمده است که کارکنان OpenAI سال‌ها در مورد شکاف‌های امنیتی عملیاتی هشدار می‌دهند


Source link

نوشته های مشابه

دیدگاهتان را بنویسید

دکمه بازگشت به بالا