آنتروپیک از مختل‌کردن سوءاستفاده‌های سایبری، نظارتی و زیستی از Claude خبر داد

Anthropic می‌گوید طی هشت ماه مجموعه‌ای از عملیات را که در آنها از مدل‌های Claude برای حملات سایبری، نظارت، عملیات نفوذ، توسعه تسلیحات و پژوهش زیستی حساس استفاده شده بود، شناسایی و مختل کرده است. گزارش اطلاعات تهدید این شرکت که ۱۰ سپتامبر ۲۰۲۶ منتشر شد، فعالیت‌های مشاهده‌شده از دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ را پوشش می‌دهد.

گزارش تازه اهمیت ویژه‌ای دارد، زیرا موضوع فقط درخواست‌های نامناسب از یک چت‌بات نیست. در تعدادی از پرونده‌های توصیف‌شده، Claude به بخشی از فرایندهای چندمرحله‌ای سایبری، نظارتی یا نفوذ سیاسی تبدیل شده بود. Anthropic می‌گوید حساب‌های مرتبط را مسدود کرده، یافته‌ها را برای تقویت سامانه‌های حفاظتی خود به کار گرفته و در موارد مقتضی اطلاعات را با مقام‌ها و شرکای صنعتی به اشتراک گذاشته است.

گزارش تازه Anthropic درباره سوءاستفاده از Claude چه می‌گوید؟

گزارش سپتامبر Anthropic هفت حوزه را پوشش می‌دهد: عملیات سایبری، عملیات نفوذ، نظارت، کلاهبرداری، سوءاستفاده زیستی، توسعه تسلیحات متعارف و استخراج غیرمجاز قابلیت مدل یا distillation. به گفته شرکت، بازیگران مشاهده‌شده شامل گروه‌های مظنون به حمایت دولتی، مجرمان مالی، فروشندگان تجاری ابزارهای جاسوسی و افراد دارای انگیزه سیاسی بوده‌اند.

یک محدودیت مهم برای خواندن این گزارش وجود دارد: Anthropic صریحاً می‌گوید پرونده‌های منتشرشده نمونه‌هایی از برجسته‌ترین و تازه‌ترین فعالیت‌های تهدیدآمیزی هستند که شناسایی کرده است، نه تصویری از استفاده معمول کاربران از Claude. بنابراین از این مجموعه نمی‌توان نرخ کلی سوءاستفاده از Claude یا سهم کاربران مخرب از کل استفاده این سرویس را محاسبه کرد.

در پرونده‌های سایبری نیز نقش مدل همیشه یکسان نبوده است. Anthropic می‌گوید در برخی عملیات، استفاده از هوش مصنوعی از پرسش و پاسخ ساده فراتر رفته و چارچوب‌های چندعاملی برای شناسایی هدف، بهره‌برداری از آسیب‌پذیری و استخراج داده به کار رفته‌اند. انسان‌ها همچنان هدف را تعیین و داده‌های به‌دست‌آمده را بررسی می‌کردند، اما بخش‌هایی از زنجیره عملیات خودکار شده بود.

در پرونده چیکونگونیا دقیقاً چه اتفاقی افتاد؟

حساس‌ترین بخش گزارش به سوءاستفاده زیستی مربوط است. Anthropic پنج مطالعه موردی را منتشر کرده که به گفته شرکت، نشان می‌دهند کاربران مدل‌های آن در فعالیت‌هایی مشارکت داشته‌اند که بالقوه می‌توانستند از توسعه سلاح‌های زیستی پشتیبانی کنند. شرکت در عین حال تأکید کرده که ماهیت دوکاربردی پژوهش زیستی تشخیص نیت واقعی پژوهشگران را دشوار می‌کند و درباره دانشمندانی که در این پرونده‌ها حضور داشته‌اند، لزوماً ادعای قصد آسیب‌رسانی ندارد.

در مه ۲۰۲۶، طبقه‌بند ایمنی زیستی Anthropic درخواستی برای کمک Claude به نگارش یک درخواست تأمین مالی پژوهشی را مسدود کرد. پروژه مورد بحث شامل پژوهش «افزایش کارکرد» روی ویروس چیکونگونیا بود و بر ویژگی‌هایی مرتبط با انتقال‌پذیری و فرار از پاسخ ایمنی تمرکز داشت.

طبق گزارش شرکت، درخواست پژوهشی به‌دنبال شناسایی جهش‌هایی بود که ویژگی‌های ویروس را تقویت کنند. Anthropic می‌گوید وابستگی نهادی پروژه نیز موجب نگرانی بیشتر شد، زیرا با وجود حضور پژوهشگران غیرنظامی، قرار بود کار در یک مؤسسه پژوهشی نظامی انجام شود.

این جزئیات به معنی اثبات یک برنامه ساخت سلاح زیستی نیست. خود Anthropic می‌گوید چنین پژوهش‌هایی می‌توانند کاربردهای مشروع، از جمله توسعه واکسن و درمان، داشته باشند و نیت پژوهشگران را نمی‌توان صرفاً از ماهیت فنی پروژه استنتاج کرد.

«مسدود شد» به معنی پایان پژوهش نبود

این نقطه یکی از مهم‌ترین محدودیت‌های تیترهای ساده درباره گزارش است. سامانه ایمنی Claude درخواست حساس اولیه را مسدود کرد، اما Anthropic می‌گوید پلتفرم واسطه‌ای که پژوهشگران از آن استفاده می‌کردند برای دورزدن محدودیت جغرافیایی از زیرساخت آمریکا و حساب‌های واسطه استفاده کرده بود.

به گفته شرکت، توسعه‌دهندگان این پلتفرم همچنین سازوکاری ساخته بودند که درخواست‌های حساسی را که Claude رد می‌کرد به مدل دیگری با محدودیت‌های کمتر می‌فرستاد. Anthropic حساب‌های مرتبط را مسدود و برای از کار انداختن شبکه‌های واسطه با شرکای خود همکاری کرد، اما اپراتور ظرف چند روز دوباره دسترسی برقرار کرد.

شرکت می‌گوید بررسی‌های بعدی نشان داد پژوهش چیکونگونیا ادامه یافته و Claude در بخش‌هایی از خروجی‌های پژوهشی کمک ویرایشی ارائه کرده است. بنابراین تعبیر اینکه Anthropic «پژوهش را متوقف کرد» از شواهد موجود فراتر می‌رود. آنچه شرکت ادعا می‌کند، مختل‌کردن دسترسی و مسدودکردن حساب‌های مرتبط در خدمات خودش است.

از دستیار سایبری تا اجرای بخش‌هایی از عملیات

بخش سایبری گزارش تغییر دیگری را برجسته می‌کند. Anthropic می‌گوید هوش مصنوعی در تعدادی از عملیات مشاهده‌شده دیگر فقط برای توضیح کد یا پاسخ به پرسش فنی استفاده نشده، بلکه در فرایندهایی شامل شناسایی، ایجاد زیرساخت، فیشینگ، اجرای فرمان روی سامانه قربانی، سرقت اعتبارنامه و سازمان‌دهی داده‌های سرقت‌شده نقش داشته است.

در یکی از پرونده‌ها، Anthropic یک بازیگر را توصیف می‌کند که انتساب آن را با گزارش‌های عمومی درباره گروه روسی Midnight Blizzard سازگار می‌داند. این بازیگر به گفته شرکت اهداف دولتی، نظامی و دیپلماتیک در اوکراین و اروپا و سازمان‌ها و افراد مرتبط با سیاست خارجی آمریکا را هدف گرفته بود.

Anthropic می‌گوید این بازیگر از جریان‌های کاری مبتنی بر AI برای بازسازی و تغییر ابزارهای مخرب پس از شناسایی آنها توسط محصولات امنیتی استفاده می‌کرد. در این نمونه، هوش مصنوعی بخشی از چرخه مستمر اصلاح ابزار و تلاش برای دورزدن دفاع سایبری شده بود.

با این حال، گزارش Anthropic سندی مستقل از شرکت ارائه‌دهنده مدل نیست. جزئیات فنی و انتساب بسیاری از عملیات بر داده‌های داخلی و تحقیقات خود شرکت استوار است و همه آنها به‌طور مستقل و عمومی قابل بازسازی نیستند. بنابراین نسبت‌دادن قطعی هر عملیات به یک دولت یا نهاد باید در همان سطح قطعیتی بیان شود که گزارش ارائه کرده است.

نظارت و عملیات نفوذ؛ ایران مستقیماً در گزارش حضور دارد

برخلاف بسیاری از اخبار جهانی فناوری که ارتباط مستقیمی با ایران ندارند، گزارش تازه Anthropic چند پرونده مشخص مرتبط با ایران را در بر می‌گیرد.

شرکت می‌گوید بین ژانویه و ژوئیه عملیات‌هایی را شناسایی کرده که در آنها بازیگران همسو با دولت‌ها، پیمانکاران دولتی و فروشندگان تجاری جاسوس‌افزار از Claude برای ساخت یا تسهیل سامانه‌های نظارتی استفاده کرده‌اند. بازیگران مورد اشاره شامل نمونه‌هایی از چین، ایران و غرب آفریقا بوده‌اند.

در یکی از پرونده‌ها، Anthropic می‌گوید دو واحد ایرانی که کد یا نیروی مشترکی نداشتند، جداگانه از Claude برای حل مشکلات فنی یک سامانه متمرکز مدیریت پرونده‌های نظارتی استفاده کرده‌اند. در پرونده دیگری، یک بازیگر ایرانی از حساب‌های رایگان Claude برای توسعه بدافزار، زیرساخت تحویل و یک درگاه فیشینگ با هدف کاربران داخل ایران استفاده کرده بود. شرکت می‌گوید ۱۶ حساب و سازمان مرتبط با این فعالیت را مسدود کرده است.

گزارش همچنین یک پرونده متفاوت را شرح می‌دهد که در آن یک فروشنده تجاری اطلاعاتی، بنا بر ارزیابی Anthropic، از Claude برای ساخت پلتفرمی جهت تحلیل و دسته‌بندی فعالیت کاربران شبکه‌های اجتماعی در ایران و منطقه خلیج فارس استفاده کرده بود. Anthropic می‌گوید این فعالیت در مرحله آزمایشی کشف شد و مدرکی پیدا نکرد که مراحل بعدی زنجیره نظارت پیش از مسدودشدن حساب علیه اهداف واقعی اجرا شده باشد.

عملیات نفوذ موافق و مخالف جمهوری اسلامی در یک گزارش

بخش عملیات نفوذ تصویر پیچیده‌تری ارائه می‌کند. Anthropic سه عملیات را به نهادهای همسو با حکومت ایران نسبت داده و می‌گوید Claude در آنها به‌عنوان لایه اداری و عملیاتی برای تولید و بازآرایی محتوا به چند زبان، طراحی شخصیت‌های آنلاین و پنهان‌کردن منشأ پیام‌ها استفاده شده است.

Anthropic در سوی دیگر از مختل‌کردن عملیاتی خبر داده که آن را مرتبط با سازمان مجاهدین خلق و شورای ملی مقاومت ایران ارزیابی کرده است. طبق گزارش، این شبکه از یک عامل هوش مصنوعی مشترک برای جعل هویت یک فعال واقعی، اجرای گفت‌وگوهای سیاسی با مخاطبان داخل ایران و ساخت پرونده‌های روان‌شناختی درباره افراد استفاده می‌کرد.

شرکت می‌گوید این شبکه بیش از ۵۰۰ کانال شبکه اجتماعی را برای ساخت پروفایل افراد بررسی و حدود ۵۱٬۹۴۴ پیام آرشیوی را برای تهیه پرونده درباره ده‌ها فرد در ایران تحلیل کرده بود. Anthropic در عین حال گفته سطح کنترل متمرکز این عملیات را نتوانسته به‌طور قطعی تأیید کند.

وجود عملیات‌هایی با جهت‌گیری‌های سیاسی متفاوت نکته مهمی است: مسئله اصلی گزارش، یک جریان سیاسی خاص نیست، بلکه استفاده بازیگران مختلف از مدل‌های هوش مصنوعی برای مقیاس‌دادن به نظارت، جعل هویت، تولید محتوا و عملیات نفوذ است.

چرا گزارش Anthropic اکنون مهم است؟

تغییر اصلی نسبت به بحث‌های نظری درباره خطر AI این است که Anthropic ادعا می‌کند نمونه‌های واقعی از ادغام مدل‌های زبانی در فرایندهای عملیاتی را مشاهده کرده است. در حوزه سایبری، شرکت می‌گوید AI در برخی موارد مستقیماً مراحل مختلف عملیات را اجرا یا هماهنگ کرده است. در حوزه زیستی نیز شرکت می‌گوید دیگر نمی‌تواند همان اطمینانی را که درباره محدودبودن توان مدل‌های قدیمی‌تر داشت، درباره مدل‌های جدید حفظ کند.

در عین حال، گزارش نباید به این نتیجه اغراق‌آمیز تبدیل شود که Claude به‌طور مستقل سلاح زیستی ساخته یا حملات مورد بحث را بدون انسان انجام داده است. در پرونده‌های گزارش‌شده انسان‌ها همچنان اهداف، زمینه و جهت عملیات را تعیین کرده‌اند و میزان کمکی که مدل ارائه کرده از یک پرونده به پرونده دیگر متفاوت بوده است.

چه چیزهایی هنوز نمی‌دانیم؟

گزارش تعداد زیادی مطالعه موردی ارائه می‌کند، اما امکان محاسبه نرخ کلی سوءاستفاده از Claude را نمی‌دهد. همچنین به دلیل ملاحظات امنیتی و حریم خصوصی، Anthropic در برخی پرونده‌های زیستی نام مؤسسات، کشورها و افراد را منتشر نکرده است.

بخش دیگری از ابهام به «اثر واقعی» هوش مصنوعی مربوط می‌شود. اینکه یک بازیگر از Claude استفاده کرده، به‌خودی‌خود ثابت نمی‌کند بدون این مدل قادر به انجام همان فعالیت نبوده است. Anthropic برای توصیف این تفاوت از مفهوم افزایش توان یا uplift استفاده می‌کند و می‌کوشد اثر مدل را بر سرعت، مقیاس و عمق عملیات ارزیابی کند.

همچنین مسدودشدن حساب در یک سرویس لزوماً فعالیت بازیگر را در فضای واقعی پایان نمی‌دهد. پرونده چیکونگونیا نمونه روشنی است: شرکت دسترسی مرتبط را مختل کرد، اما اپراتور تلاش کرد از هویت‌ها، واسطه‌ها و مدل‌های دیگر برای ادامه فعالیت استفاده کند.

مرحله بعدی چه چیزی است؟

شاخص قابل مشاهده بعدی، تغییر تدابیر حفاظتی مدل‌های جدید و گزارش‌های بعدی اطلاعات تهدید Anthropic خواهد بود. شرکت می‌گوید یافته‌های این تحقیقات را وارد سامانه‌های تشخیص خود کرده و در حوزه زیستی برای مدل‌های جدیدتر محدودیت‌های سخت‌گیرانه‌تری اعمال کرده است.

در حوزه نظارت و عملیات نفوذ نیز باید دید آیا پلتفرم‌های دیگر یا نهادهای مستقل، بخش‌هایی از انتساب‌ها و دامنه عملیاتی پرونده‌های منتشرشده را تأیید می‌کنند یا نه. گزارش Anthropic از نظر دسترسی شرکت به داده‌های داخلی Claude منبع اولیه مهمی است، اما همین موقعیت به این معناست که بسیاری از ادعاهای آن برای تأیید مستقل به شواهد بیرونی بیشتری نیاز دارند.