Federal Register آمریکا از ابزار جست‌وجوی مبتنی بر Qwen استفاده کرد

وب‌سایت Federal Register دولت آمریکا از یک ابزار جست‌وجوی مبتنی بر مدل هوش مصنوعی Qwen شرکت چینی علی‌بابا برای کمک به کاربران در جست‌وجوی مقررات فدرال استفاده کرده بود. این قابلیت پس از مطرح‌شدن نگرانی‌ها حذف شد.

کاربرد ابزار چه بود؟

Federal Register محل انتشار عمومی مقررات، پیشنهادهای مقرراتی و اسناد رسمی دولت فدرال است. ابزار مورد بحث برای جست‌وجو در همین اطلاعات عمومی به کار گرفته شده بود.

چرا بحث‌برانگیز شد؟

استفاده یک وب‌سایت رسمی آمریکا از مدل چینی در شرایط رقابت فناوری واشنگتن و پکن، واکنش برخی قانون‌گذاران را برانگیخت. نگرانی‌ها بیشتر به سیاست فناوری، وابستگی و حریم داده مربوط بود.

محدودیت ارزیابی امنیتی

کارشناسان یادآور شده‌اند که داده‌های Federal Register عمومی هستند و صرف استفاده از یک مدل متن‌باز یا وزن‌باز به‌تنهایی اثبات‌کننده خطر امنیت ملی نیست. نحوه استقرار فنی و جریان داده برای چنین ارزیابی‌ای اهمیت دارد.

مسیر بعدی

حذف ابزار احتمالاً بحث گسترده‌تری درباره استاندارد خرید و استفاده دولت آمریکا از مدل‌های هوش مصنوعی خارجی ایجاد خواهد کرد.

مسئله اصلی مدل نیست؛ نحوه استقرار است

استفاده از Qwen در یک ابزار جست‌وجوی دولتی به‌تنهایی نشان نمی‌دهد داده حساس به سرورهای خارجی منتقل شده است. برای ارزیابی امنیتی باید دانست مدل کجا اجرا شده، چه داده‌ای دریافت کرده، چه لاگ‌هایی نگهداری شده و چه کنترل‌هایی روی زنجیره نرم‌افزار وجود داشته است.

چرا Federal Register حساس است؟

اسناد این پایگاه عمومی‌اند، اما وب‌سایت بخشی از زیرساخت رسمی انتشار مقررات دولت فدرال است. از همین رو، انتخاب فناوری آن علاوه بر کارایی جست‌وجو، از منظر اعتماد عمومی، خرید دولتی و سیاست زنجیره تأمین نیز بررسی می‌شود.

آنچه نمی‌دانیم

از اطلاعات عمومی موجود نمی‌توان نتیجه گرفت استفاده از ابزار باعث افشای اطلاعات محرمانه شده است. همچنین باید میان مدل پایه، نرم‌افزار واسط و محل میزبانی تمایز گذاشت؛ این اجزا می‌توانند ریسک‌های متفاوتی داشته باشند.

اثر گسترده‌تر

پرونده می‌تواند به تدوین قواعد روشن‌تر برای استفاده نهادهای فدرال از مدل‌های خارجی، متن‌باز یا وزن‌باز منجر شود. معیارهای فنی مانند محل پردازش داده، ممیزی کد و کنترل دسترسی در چنین سیاستی تعیین‌کننده خواهند بود.