آنتروپیک ارزیاب مستقل را داخل آزمایشگاه راه داد؛ نظارت بیرونی بر هوش مصنوعی چه تغییری می‌کند؟

آنتروپیک دو اقدام تازه را برای پاسخ به بحران اعتماد پیرامون شرکت‌های سازنده هوش مصنوعی آغاز کرده است: شش عضو سازمان ارزیابی METR را با دسترسی نزدیک به تیم‌های داخلی سنجش خطر در دفتر خود مستقر کرده و هم‌زمان گفته است ۵ درصد از سهام شرکت را به یک «صندوق منفعت عمومی» اختصاص می‌دهد. اقدام نخست به این پرسش مربوط است که چه کسی می‌تواند خطرهای مدل‌های پیشرفته را از درون ببیند؛ اقدام دوم درباره این است که بخشی از ارزش اقتصادی شرکت چگونه برای منفعت اجتماعی کنار گذاشته شود.

این دو سازوکار مهم‌اند، اما نباید بیش از شواهد درباره آنها نتیجه گرفت. حضور ارزیاب بیرونی هنوز نظارت دولتی یا حسابرسی الزام‌آور نیست و اختصاص سهام نیز تا زمانی که ساختار تصمیم‌گیری صندوق روشن نشود، تضمین نمی‌کند منابع دقیقاً به کدام گروه‌ها یا پروژه‌ها می‌رسند. ارزش خبر در این است که آنتروپیک از وعده‌های کلی درباره ایمنی به دو سازوکار قابل مشاهده‌تر حرکت کرده؛ آزمون اصلی، استقلال، دامنه دسترسی و امکان انتشار نتایج خواهد بود.

ارزیابان بیرونی دقیقاً چه دسترسی‌ای گرفته‌اند؟

براساس گزارش منتشرشده در ۱۸ اکتبر ۲۰۲۶، آنتروپیک شش نفر از کارکنان METR را در فضای کاری خود پذیرفته و برای آنان سخت‌افزار شرکتی، دفتر و دسترسی به ابزارها و سامانه‌های داخلی فراهم کرده است. توصیف شرکت این است که سطح دسترسی این گروه تقریباً با آنچه تیم‌های داخلی ارزیابی خطر در اختیار دارند برابری می‌کند. کارکنان آنتروپیک نیز تشویق شده‌اند اطلاعات مرتبط را مانند همکاری با یک همکار حوزه ریسک در اختیار ارزیابان بگذارند.

این مدل با ارزیابی معمول محصول تفاوت دارد. در آزمون بیرونی سنتی، شرکت نسخه‌ای محدود از مدل یا مجموعه‌ای از سناریوها را به ارزیاب تحویل می‌دهد و نتیجه در همان چارچوب سنجیده می‌شود. استقرار تیم در داخل می‌تواند دسترسی به لاگ‌ها، روندهای توسعه، تصمیم‌های ایمنی و زمینه فنی بیشتری ایجاد کند؛ یعنی ارزیاب به‌جای مشاهده فقط خروجی نهایی، بخشی از فرایندی را می‌بیند که به آن خروجی منجر شده است.

بااین‌حال «دسترسی در حد کارمند» عبارت دقیقی برای همه جزئیات نیست. معلوم نیست METR به کدام مدل‌ها، داده‌ها، آزمایش‌ها و تصمیم‌های مدیریتی دسترسی کامل دارد، چه مدت این همکاری ادامه می‌یابد و چه شاخص‌هایی برای سنجش موفقیت تعیین شده‌اند. همچنین گزارش عمومی هنوز نشان نمی‌دهد اگر آنتروپیک با یک یافته یا توصیه مخالف باشد، چه سازوکار حل اختلافی فعال می‌شود.

استقلال METR چگونه تعریف شده است؟

طبق اطلاعات منتشرشده، آنتروپیک بابت این همکاری به METR پول نمی‌دهد و این سازمان نیز کمک مالی از شرکت‌های هوش مصنوعی یا کارکنان آنها نمی‌پذیرد. منابع مالی METR از افراد، نهادهای خیریه و برخی نهادهای دولتی، از جمله مؤسسه امنیت هوش مصنوعی بریتانیا، تأمین می‌شود. این جدایی مالی می‌تواند یکی از تعارض‌های آشکار منافع را کاهش دهد، اما استقلال فقط به منبع پرداخت محدود نیست.

ارزیابان اجازه دارند تحلیل خود را منتشر کنند و آنتروپیک حق وتوی انتشار را ندارد. در عین حال شرکت می‌تواند حذف بخش‌هایی را بخواهد که شامل داده مشتریان، اطلاعات مشمول محرمانگی حقوقی یا جزئیات معماری مدل‌هاست. وجود این استثناها از نظر حفاظت از حریم خصوصی و امنیت قابل فهم است، ولی مرز عملی آنها اهمیت زیادی دارد: اگر دامنه حذف گسترده شود، گزارش نهایی ممکن است نتواند شواهد کافی برای قضاوت عمومی ارائه کند.

آنتروپیک این الگو را به حضور بازرسان مقیم در بانک‌های بزرگ تشبیه کرده است. شباهت در دسترسی مستمر و مشاهده فرایندهای داخلی است؛ تفاوت بنیادی اینجاست که ناظر بانکی معمولاً پشتوانه قانونی، اختیار الزام و قواعد مشخص گزارش‌دهی دارد، درحالی‌که همکاری آنتروپیک و METR داوطلبانه است. بنابراین بهتر است آن را «ارزیابی بیرونی تعبیه‌شده» دانست، نه جایگزین تنظیم‌گری عمومی.

صندوق منفعت عمومی چه نقشی دارد؟

اقدام دوم آنتروپیک ساخت صندوقی است که به‌صورت یک نهاد کاملاً متعلق به خود شرکت شکل می‌گیرد. شرکت گفته ۵ درصد از سهام خود را به آن اختصاص می‌دهد و می‌تواند با هر ۵۰ درصد افزایش ارزش آنتروپیک، ۲ درصد دیگر نیز اضافه کند. نمونه‌های اعلام‌شده برای مصرف منابع، کمک‌های بزرگ به سازمان‌های غیرانتفاعی یا پرداخت مستقیم به گروه‌های مشخص است؛ اما جزئیات حاکمیت صندوق، اعضای تصمیم‌گیر و معیار انتخاب پروژه‌ها قرار است بعداً اعلام شود.

سهام با پول نقد یکی نیست. ارزش واقعی تعهد به قیمت شرکت، امکان نقدشوندگی سهام و قواعد انتقال منابع وابسته است. اگر ارزش شرکت بالا برود، سهم اسمی صندوق می‌تواند بزرگ شود؛ اگر نقدکردن دارایی محدود باشد یا تصمیم‌ها در کنترل کامل خود شرکت بماند، ظرفیت عملی صندوق متفاوت خواهد بود. به همین دلیل رقم ۵ درصد بدون دانستن ساختار حقوقی، زمان‌بندی و سیاست هزینه‌کرد، برای برآورد اثر اجتماعی کافی نیست.

آنتروپیک پیش‌تر نیز ۲۰۰ میلیون دلار برای مطالعه اثر هوش مصنوعی بر بازار کار کنار گذاشته بود. گزارش تازه رونما از تغییر ترکیب نیروی کار و افزایش زمان جلسات در آنتروپیک نیز نشان می‌دهد خود شرکت چگونه اثر ابزارهای هوش مصنوعی بر سازمان را اندازه‌گیری می‌کند. صندوق جدید از این مطالعه گسترده‌تر توصیف شده، اما هنوز معلوم نیست چه سهمی از آن به پیامدهای شغلی، آموزش، امنیت یا دیگر حوزه‌ها می‌رسد.

این دو اقدام کدام مسئله را حل می‌کنند؟

حضور METR می‌تواند مشکل عدم تقارن اطلاعات را تا حدی کاهش دهد. شرکت‌های مدل‌ساز به داده‌ها، لاگ‌ها و رفتارهای آزمایشی دسترسی دارند که پژوهشگران بیرونی نمی‌بینند. اگر یک نهاد مستقل بتواند همان شواهد را بررسی کند و یافته‌هایش را منتشر کند، ادعاهای ایمنی شرکت از حالت خوداظهاری صرف فاصله می‌گیرد. صندوق نیز می‌تواند بخشی از ارزش اقتصادی تولیدشده را برای پیامدهای اجتماعی یا جبران هزینه‌های گذار کنار بگذارد.

اما هیچ‌یک به‌تنهایی پاسخ کامل نیست. ارزیاب بیرونی ممکن است خطر را شناسایی کند، ولی اختیار توقف عرضه مدل یا تحمیل اصلاح را ندارد. صندوق می‌تواند منابع فراهم کند، ولی درباره جلوگیری از خسارت، مسئولیت حقوقی یا حق اعتراض کاربران تصمیم نمی‌گیرد. همچنین هر دو سازوکار زیر چتر شرکتی قرار دارند که از توسعه و عرضه مدل‌ها منفعت اقتصادی می‌برد؛ بنابراین شفافیت درباره حدود اختیار، تضاد منافع و پاسخ شرکت به یافته‌های منفی ضروری است.

گزارش موجود می‌گوید آنتروپیک علاوه بر METR با SecureBio برای بررسی خطرهای شیمیایی و زیستی کار می‌کند و همکاری جداگانه‌ای نیز با Accenture در زمینه آزمون ایمنی دارد. تعدد ارزیابان می‌تواند تخصص‌های متفاوت را پوشش دهد، ولی ممکن است روش‌ها و معیارهای ناهمسانی تولید کند. برای مقایسه واقعی میان شرکت‌های هوش مصنوعی، صنعت به تعاریف مشترک‌تری از خطر، دسترسی، انتشار و پیگیری اصلاحات نیاز دارد.

معیار قضاوت در ماه‌های آینده چیست؟

نخست باید دید METR چه زمانی نخستین گزارش را منتشر می‌کند، موضوع ارزیابی چیست و آیا گزارش حاوی شواهد و روش‌شناسی قابل سنجش خواهد بود. دوم، نحوه استفاده آنتروپیک از نتایج اهمیت دارد: آیا شرکت اصلاحات مشخص، مهلت اجرا و پاسخ عمومی ارائه می‌کند یا گزارش صرفاً به فهرستی از توصیه‌ها محدود می‌ماند؟ سوم، دامنه حذف اطلاعات باید چنان شفاف باشد که محرمانگی مشروع به مانع پاسخ‌گویی تبدیل نشود.

برای صندوق منفعت عمومی نیز ترکیب هیئت تصمیم‌گیر، نسبت اعضای مستقل، معیار انتخاب دریافت‌کنندگان، زمان تبدیل سهام به منابع قابل خرج و انتشار حساب‌های دوره‌ای تعیین‌کننده‌اند. اگر این اطلاعات روشن و قابل حسابرسی باشند، صندوق می‌تواند فراتر از یک وعده اعتباری عمل کند؛ اگر تصمیم‌ها و جریان پول مبهم بمانند، رقم بزرگ سهام به‌تنهایی معنای عملی محدودی خواهد داشت.

حرکت آنتروپیک نشانه‌ای است که رقابت شرکت‌های هوش مصنوعی دیگر فقط بر توان مدل و جذب مشتری متمرکز نیست و اعتبار سازوکارهای ایمنی و پاسخ‌گویی نیز به بخشی از رقابت تبدیل شده است. بااین‌حال معیار موفقیت نه دسترسی اعلام‌شده و نه درصد سهام در روز معرفی، بلکه شواهدی است که بعداً منتشر می‌شود: چه خطری کشف شد، چه اصلاحی انجام گرفت، چه منابعی توزیع شد و چه کسی توانست این فرایند را مستقل از شرکت بررسی کند.