مدیران هوش مصنوعی در شورای امنیت درباره خطرهای این فناوری توضیح می‌دهند

مدیران و نمایندگان شرکت‌های بزرگ هوش مصنوعی روز چهارشنبه در شورای امنیت سازمان ملل درباره خطرهای این فناوری و پیامدهای آن برای امنیت بین‌المللی توضیح می‌دهند. نمایندگانی از OpenAI، Anthropic، Hugging Face و شرکت‌های دیگر در این گفت‌وگو حضور دارند و بحث از مرحله برنامه‌ریزی وارد مرحله برگزاری شده است.

رونما پیش‌تر خبر برنامه حضور دیپ‌سیک در این نشست را منتشر کرده بود. تحول تازه، آغاز خود نشست و گسترده‌تر شدن ترکیب شرکت‌کنندگان است؛ بنابراین این رویداد به‌عنوان مرحله جدید همان پرونده حکمرانی هوش مصنوعی دنبال می‌شود.

شورای امنیت چرا وارد پرونده هوش مصنوعی شده است؟

نگرانی اصلی فقط تولید محتوا یا رقابت تجاری نیست. کاربردهای نظامی، سامانه‌های خودمختار، حملات سایبری، جعل اطلاعات، تصمیم‌گیری ماشینی در شرایط بحران و امکان استفاده بازیگران غیردولتی از مدل‌های پیشرفته، هوش مصنوعی را به موضوع امنیت بین‌المللی تبدیل کرده است.

حضور مستقیم شرکت‌های سازنده مدل‌ها می‌تواند به اعضای شورا امکان دهد درباره محدودیت‌های فنی، سازوکارهای ایمنی و خطرهای واقعی پرسش‌های دقیق‌تری مطرح کنند. در عین حال، شرکت‌ها خود ذی‌نفع اقتصادی این حوزه هستند و اظهارات آنها جایگزین ارزیابی مستقل دولت‌ها و پژوهشگران نیست.

اختلاف اصلی کجاست؟

کشورها بر سر سرعت مقررات‌گذاری، میزان شفافیت مدل‌ها، کنترل صادرات تراشه و فناوری و حدود استفاده نظامی از هوش مصنوعی اتفاق نظر ندارند. رقابت آمریکا و چین نیز رسیدن به چارچوب مشترک را دشوارتر می‌کند.

آنچه هنوز روشن نیست

نشست به خودی خود مقررات الزام‌آور ایجاد نمی‌کند. معلوم نیست آیا اعضای شورای امنیت بتوانند بر سر تعریف مشترک خطر، سازوکار گزارش‌دهی یا محدودیت مشخص برای کاربردهای نظامی توافق کنند.

مسیر بعدی

باید دید آیا از این جلسه پیشنهاد رسمی، متن مشترک یا مسیر مذاکراتی تازه بیرون می‌آید. اگر گفت‌وگو صرفاً به تبادل دیدگاه محدود شود، اثر کوتاه‌مدت آن بیشتر سیاسی خواهد بود؛ اما شکل‌گیری استانداردهای مشترک می‌تواند نخستین گام به سوی قواعد بین‌المللی جدی‌تر باشد.