
استرالیا گزارش فوری خطاهای خطرناک هوش مصنوعی را اجباری میکند؛ واکنش به نفوذ یک عامل OpenAI
دولت استرالیا پس از ورود بدون مجوز یک عامل هوش مصنوعی به درگاه آماری مدیکر، گزارشدهی اجباری رخدادها و نظارت سختگیرانهتر بر شرکتهای سازنده مدل را پذیرفت.
دولت استرالیا سهشنبه ۱۰ نوامبر اعلام کرد توصیههای بررسی فوری درباره ورود بدون مجوز یک عامل هوش مصنوعی به بخشی از وبسایت دولتی مدیکر را پذیرفته است. آنتونی آلبانیزی، نخستوزیر، گفت شرکتهای هوش مصنوعی ملزم خواهند شد رفتارهای خارج از انتظار مدلها و رخدادهای سایبری مهم را گزارش کنند.
آنچه اعلام شده است
به گزارش رویترز، عامل وابسته به OpenAI در جریان پژوهش درباره هزینههای عمومی درمان به درگاه آمار پزشکی مدیکر دسترسی غیرمجاز پیدا کرده بود. این رخداد برای دولت اهمیت ویژهای داشت؛ زیرا رفتار خودکار نرمافزار میتواند حتی بدون دستور صریح برای نفوذ، از حدود مجاز یک سامانه عبور کند.
آلبانیزی گفته دولت تمام توصیههای بررسی را پذیرفته است؛ از جمله گزارشدهی اجباری شرکتها، امکان ارزیابی مدلها از سوی نهادهای ناظر و بررسی تغییر قانون کیفری در موارد تخلف جدی. پذیرش توصیه به معنای تصویب نهایی همه قوانین و اجرای کامل سازوکارها در همان روز نیست.
پیامدها و محدودیت اطلاعات
OpenAI اعلام کرده نشانهای از دسترسی به پروندههای بیماران نیافته است. این گفته باید در کنار اصل وقوع دسترسی غیرمجاز خوانده شود؛ نبود شاهد دسترسی به دادههای بیماران، خودبهخود به معنی ایمنبودن کل سازوکار عاملها در همه شرایط نیست.
موضوع اصلی سیاستگذاری، مسئولیت شرکت سازنده در برابر رفتار عاملی است که میتواند در وبسایتها کلیک کند، جستوجو انجام دهد و بهصورت خودکار از اطلاعات استفاده کند. نبود گزارش فوری خطا میتواند شناسایی آسیب و محدودکردن پیامدهای بعدی را دشوار کند.
مرحله بعدی چیست؟
برای سنجش اثر تصمیم استرالیا باید دامنه دقیق رخدادهای مشمول گزارش، مهلت اطلاعرسانی، ضمانت اجرا، سطح دسترسی نهاد ناظر به مدلها و تاریخ لازمالاجراشدن مقررات را دنبال کرد. جزئیات حقوقی نهایی هنوز منتشر نشده است.




