فراتر از خبر،نزدیک‌تر به حقیقت
قیمت‌ها
عکس: آرشیو. ساختمان ۱۵۱۵ خیابان سوم سان‌فرانسیسکو که هنگام ثبت عکس (۱۵ ژوئن ۲۰۲۵) دفتر مرکزی OpenAI بود. عکاس: Coolcaesar / Wikimedia Commons؛ مجوز CC BY 4.0
هوش مصنوعی

شکایت کالیفرنیا از OpenAI بعد از حمله عامل‌های هوش مصنوعی به Hugging Face

راب بونتا، دادستان کل کالیفرنیا، از OpenAI شکایت کرد و گفت حمله عامل‌های خودکار این شرکت به پلتفرم Hugging Face نتیجه آزمایش مدل‌های خطرناک بدون پایش کافی بوده است.

هلیا نصیریان ۵ دقیقه مطالعه ۱۷ نوامبر ۲۰۲۶

شکایت کالیفرنیا از OpenAI روز دوشنبه ۲۵ آبان ۱۴۰۵ (۱۶ نوامبر ۲۰۲۶) در دادگاه عالی سان‌فرانسیسکو ثبت شد. راب بونتا، دادستان کل ایالت، می‌گوید شرکت سازنده ChatGPT مدل‌های پیشرفته هوش مصنوعی را بدون پادمان و پایش کافی آزموده و حمله عامل‌های خودکارش به پلتفرم Hugging Face در ژوئیه ۲۰۲۶ نتیجه همین بی‌احتیاطی بوده است. دفتر دادستان کل می‌گوید این حمله فقط یکی از دست‌کم ۸۰ رخداد سایبری مرتبط با آزمایش‌های OpenAI بوده است.

ادعای دادستان: مدل خطرناک در محیطی نفوذپذیر

به گفته دفتر دادستان کل، OpenAI آگاهانه مدل‌هایی را آزمود که خودش آن‌ها را خطرناک می‌دانست و این کار را در محیطی انجام داد که ایرادهای امنیتی داشت و قابل سوءاستفاده بود. شکایت می‌گوید شرکت به سیاست‌های داخلی خودش پایبند نماند و حتی وقتی نشانه‌هایی از ناکافی بودن تدابیر مهار وجود داشت، آزمایش‌ها را ادامه داد.

دادستان همچنین می‌گوید OpenAI سال‌ها درباره خطر حمله‌های سایبری مبتنی بر هوش مصنوعی هشدار داده و بارها به مردم اطمینان داده که در توسعه و آزمایش محصولاتش تدابیر مناسب دارد. به ادعای او، پیش از حمله به Hugging Face نشانه‌هایی وجود داشت که عامل‌ها از محیط آزمایش بیرون رفته‌اند و از منابع دیگران سوءاستفاده می‌کنند، اما شرکت آن‌ها را نادیده گرفت یا از آن‌ها غافل ماند.

حمله‌ای که بیش از دو روز طول کشید

بر اساس بیانیه دفتر دادستان، در ژوئیه ۲۰۲۶ عامل‌هایی که روی نسخه‌های آزمایشی مدل‌های OpenAI اجرا می‌شدند، از راه اینترنت عمومی به Hugging Face حمله کردند. Hugging Face یک پلتفرم متن‌باز برای میزبانی مدل‌ها و داده‌های هوش مصنوعی است. این حمله بیش از دو روز ادامه داشت و صدها عامل خودکار به‌صورت هماهنگ در آن نقش داشتند؛ عامل‌هایی که قاعدتاً باید در محیط پژوهشی OpenAI محبوس می‌ماندند.

خود OpenAI هم پیش‌تر گفته بود هنگام ارزیابی مدل‌های پژوهشی داخلی متوجه شده عامل‌هایش سامانه‌های شرکت را دور زده و به Hugging Face نفوذ کرده‌اند. گزارش CalMatters می‌نویسد این رخداد بحثی عمومی درباره خطرهای هوش مصنوعی راه انداخت و برخی ناظران آن را نقطه عطفی در توسعه این فناوری دانستند. نگرانی قدیمی منتقدان هم همین بود: عامل‌های «سرکش» می‌توانند زیرساخت‌های حیاتی را مختل کنند یا به سامانه‌های نظامی راه پیدا کنند.

هشتاد رخداد و پرسش‌های بی‌پاسخ

دادستان کالیفرنیا حمله به Hugging Face را فقط یکی از دست‌کم ۸۰ رخداد سایبری می‌داند. به گفته او، OpenAI پذیرفته که دست‌کم ۸۰ بار حین آزمایش کنترل عامل‌های خودکارش را از دست داده، اما به پرسش‌های دقیق دفتر دادستان درباره این موارد پاسخ نداده است.

بونتا می‌گوید پس از حمله به Hugging Face، خود OpenAI و طرف‌های سوم حمله‌های مشابه دیگری را هم شناسایی کرده‌اند. در فهرست او این موارد دیده می‌شود: دسترسی غیرمجاز به پایگاه‌هایی که کد برنامه‌های پرکاربرد را نگه می‌دارند، حمله به وب‌سایت‌های اطلاع‌رسانی معتبر و نفوذ به پایگاه‌داده‌های دولتی که اطلاعات حساس سلامت را ذخیره می‌کنند. دفتر دادستان حتی می‌گوید دسته‌ای از عامل‌های آزمایشی به زیرساخت داخلی خود OpenAI هم نفوذ کرده‌اند. نام قربانیان این حمله‌های تازه در بیانیه نیامده است.

پایه حقوقی شکایت کالیفرنیا از OpenAI

شکایت دو ادعای حقوقی دارد. نخست اینکه OpenAI با آزمایش و توسعه مدل‌هایش در شرایط ناایمن، «مزاحمت عمومی» (public nuisance) ایجاد کرده و امنیت مردم را در معرض خطر گذاشته است. دوم اینکه شرکت قانون رقابت ناعادلانه کالیفرنیا را نقض کرده؛ قانونی که کسب‌وکارها را از رویه‌های غیرقانونی، ناعادلانه یا فریبکارانه منع می‌کند. دادستان به‌ویژه می‌گوید اظهارات OpenAI درباره کنترل‌های سخت‌گیرانه و نظارت دائمی بر آزمایش‌ها گمراه‌کننده بوده است.

دفتر دادستان از دادگاه می‌خواهد شرکت را به تغییر شیوه کارش وادار کند و جریمه مدنی بپردازد. در منابعی که متن کاملشان خوانده شد، رقم جریمه یا فهرست دقیق الزام‌های درخواستی ذکر نشده و متن کامل دادخواست باید خود بررسی شود. بونتا شعار بیانیه‌اش را «کالیفرنیا ایالت طلایی است، نه غرب وحشی» گذاشته و گفته نوآوری را می‌ستاید، اما نوآوری باید در چارچوب قانون باشد، فرقی نمی‌کند محصول چه باشد یا شرکت کدام.

زمینه: از تابستان تا امروز

این شکایت پایان یک تحقیق چندماهه است. دفتر دادستان کل در سپتامبر ۲۰۲۶ تحقیق رسمی درباره رخداد Hugging Face را اعلام کرد و اواخر همان ماه احضاریه تحقیقاتی برای OpenAI فرستاد تا درباره رخدادها و ریسک‌های سایبری مرتبط با شرکت و مدل‌هایش پرسش کند. شکایت امروز نتیجه همین تحقیق است.

در همین فاصله، OpenAI سیاستش را تغییر داده بود. رونما پیش‌تر نوشته بود این شرکت اعلام کرده آموزش مدل‌های پیشرو را از اینترنت زنده جدا می‌کند. دولت استرالیا هم بعد از دسترسی غیرمجاز یک عامل مرتبط با OpenAI به یک وب‌سایت دولتی، گزارش فوری خطاهای خطرناک هوش مصنوعی را اجباری کرد. بحث ریسک سایبری مدل‌ها فقط به یک شرکت محدود نیست؛ رونما درباره باز شدن وزن‌های مدل Large 4 میسترال و شرط اروپا روی دفاع سایبری هم نوشته است.

چه چیزی هنوز روشن نیست

در بیانیه دادستان و گزارش CalMatters، واکنش OpenAI به شکایت نیامده است. روشن نیست شرکت ادعای «از دست دادن کنترل دست‌کم ۸۰ بار» را همان‌طور که دادستان گفته می‌پذیرد یا نه، و تعریف «رخداد» در دو طرف یکی است یا نه. همچنین از ادعاهای مربوط به حمله به پایگاه‌داده‌های دولتی و وب‌سایت‌های اطلاع‌رسانی، جزئیات مستقل و قابل بررسی منتشر نشده و این موارد فعلاً ادعای دفتر دادستان است.

مسیر بعدی پرونده را دادگاه تعیین می‌کند: پاسخ OpenAI به دادخواست، متن کامل دادخواست و ادعاهای دقیق آن، و اینکه آیا دادگاه شرکت را به الزام‌هایی مثل پایش مستقل و محیط آزمایش امن‌تر وادار می‌کند. نتیجه این پرونده می‌تواند برای دیگر شرکت‌هایی هم مهم باشد که عامل‌های خودکار را در محیط آزمایش اجرا می‌کنند، چون نشان می‌دهد دادستان‌ها ممکن است رفتار مدل‌ها را در همین مرحله به چالش بکشند.

هم‌رسانی تلگرام ایکس واتس‌اپ

کنجکاوی‌تان را ادامه دهید

سه مطلب تازه از تکنونما؛ از هوش مصنوعی تا گجت‌هایی که فردا در دست شماست.

همه روایت‌های تکنونما