اپل در گزارش سالانه هشدار داد: عامل‌های هوش مصنوعی ممکن است «برخلاف دستور» عمل کنند

اپل در گزارش سالانه چه نوشته است؟

اپل روز سه‌شنبه ۳ نوامبر ۲۰۲۶ گزارش سالانه‌ی سال مالی منتهی به ۲۶ سپتامبر را در سامانه‌ی SEC ثبت کرد. در بخش عوامل ریسک، متنی تازه درباره‌ی «عامل‌های هوش مصنوعی» آمده که به گزارش CNBC در نسخه‌های پیشین نبود. اپل می‌نویسد این فناوری‌ها «می‌توانند به‌طور خودکار اقدام کنند»، از جمله وارد سامانه‌هایی شوند که شاید مجاز به دسترسی به آن‌ها نیستند، کد را اجرا یا تغییر دهند، پیام بفرستند و تراکنش انجام دهند.

این گزارش فهرست می‌کند که چه چیزهایی ممکن است خراب شود: اقدام بدون دستور یا مجوز، فراتر رفتن از دسترسی، «سرپیچی از دستورها یا مقاومت در برابر آن‌ها»، دور زدن کنترل‌های امنیتی، دستکاری از راه ورودی مخرب، و حتی پنهان‌کردن اقدام‌ها یا تولید خروجی نادرست و فریبنده. اپل تصریح می‌کند چون این فناوری‌ها «غیرقطعی» هستند، رفتارشان سخت پیش‌بینی، آزمایش و ممیزی می‌شود، خطاها در جریان‌های چندمرحله‌ای انباشته می‌شوند و برخی پیامدها، مثل حذف داده یا تکمیل تراکنش، ممکن است «دشوار یا غیرممکن» برگشت‌پذیر باشند. شرکت اضافه می‌کند توان نظارت بر عامل‌های شخص ثالث ممکن است محدود باشد و سیاست‌ها و کنترل‌هایش شاید با سرعت پیشرفت این فناوری هماهنگ نماند. در بخش مربوط به محصولات تازه هم آمده که عامل‌هایی که به داده‌ی شخصی نیاز دارند، می‌توانند اعتماد مشتری را بشکنند و مزیت رقابتی حریم خصوصی را تضعیف کنند.

موضع مدیریت و وضعیت Siri

طبق CNBC، اپل در حال حاضر عامل هوش مصنوعی مستقل ندارد. جان ترنوس، مدیرعامل جدید اپل، در تماس سود و زیان روز دوشنبه درباره‌ی عامل‌ها گفت اپل «فضای واقعی» برای گسترش توان Siri دارد و آن‌ها را «ابزارهای نویدبخش» برای کاربر خواند، به‌شرط آنکه کاربران بدانند به چه چیزی دسترسی می‌دهند و امنیت و حریم خصوصی حفظ شود. او تأکید کرد اپل به داده‌ی خصوصی روی دستگاه‌ها دسترسی ندارد و این را «تمایز اصلی» دانست. پاییز امسال اپل Siri AI را عرضه کرد؛ دستیاری که از داده‌ی محلی آیفون مثل تقویم و ایمیل استفاده می‌کند، اما به گفته‌ی CNBC نمی‌تواند مثل ابزارهایی همچون Dots یا Muse مدتی طولانی مستقل کار کند. هم‌زمان خبرگزاری‌ها از باز شدن پیش‌نمایش Siri AI به روی همه‌ی توسعه‌دهندگان گزارش داده‌اند.

آنچه باید بدانیم

۱. چه چیزی واقعاً تغییر کرده؟

محصولی تغییر نکرده؛ تغییر در زبان حقوقی است. یک شرکت درجه‌یک فناوری برای نخستین بار در سند رسمی سالانه‌اش رفتارهای مشخصی مثل پنهان‌کاری، مقاومت در برابر دستور و دور زدن کنترل‌ها را به عامل‌های هوش مصنوعی نسبت می‌دهد. شمار اشاره‌ها به هوش مصنوعی در این گزارش نیز طبق شمارش یک رسانه‌ی مالی از ۶ به ۵۵ رسیده است؛ این عدد را ما مستقل نشمرده‌ایم.

۲. چرا مهم است؟

گزارش ۱۰-K سندی حقوقی است و شرکت‌ها در آن بیشتر خود را در برابر دعوی و سرمایه‌گذاران محافظت می‌کنند. با این حال نوع ریسک‌هایی که اپل نام برده با هشدارهای امنیتی برای توسعه‌دهندگان هم‌خوان است؛ مثلاً تزریق دستور پنهان در سند یا صفحه‌ی وب (prompt injection) که طبق گزارش JKN در مستندات امنیتی اپل هم مطرح شده. برای کسی که قرار است به یک عامل اجازه‌ی خرید، ایمیل یا حذف فایل بدهد، فهرست اپل چک‌لیست خوبی از چیزهایی است که باید پرسید.

۳. چه چیزی کمتر گفته شده؟

این بند به شرکت اپل هم‌زمان دو نقش می‌دهد: سازنده‌ی عامل و میزبان عامل‌های دیگران. اپل می‌گوید ریسک برای عامل‌هایی که «توسط شرکت یا شخص ثالث» ساخته شده‌اند یکسان است و توان کنترل شخص ثالث‌ها «محدود» است. یعنی اپ‌استور و سیستم‌عامل در آینده می‌توانند به نقطه‌ی اصطکاک میان دسترسی عامل‌ها و حریم خصوصی تبدیل شوند. این برداشت ما از متن است و اپل چنین برنامه‌ای اعلام نکرده.

۴. برای کاربران ایرانی چه معنایی دارد؟

پیامد مستندی برای بازار ایران گزارش نشده است. Siri AI و ویژگی‌های Apple Intelligence در دسترس بودن و زبان‌های پشتیبانی‌شده‌ی خود محدودیت دارند و درباره‌ی ایران یا زبان فارسی چیزی در منابع این خبر نیامده است.

۵. چه چیزهایی هنوز مشخص نیست؟

اینکه اپل چه زمانی و با چه کنترل‌هایی عامل‌های مستقل را عرضه می‌کند؛ اینکه «پیش‌نمایش توسعه‌دهندگان Siri AI» دقیقاً چه رابط‌هایی را باز می‌کند؛ و اینکه آیا بند تازه‌ی ریسک نشانه‌ای از برنامه‌ای مشخص است یا صرفاً احتیاط حقوقی. هیچ‌یک از منابع به این پرسش‌ها پاسخ نداده‌اند.

جمع‌بندی

اپل در سندی رسمی تأیید کرده که عامل‌های هوش مصنوعی می‌توانند از کنترل خارج شوند، در حالی که مدیرعاملش آن‌ها را نویدبخش می‌داند. این دو موضع با هم متناقض نیستند، اما نشان می‌دهند اپل می‌خواهد قبل از ورود، مسئولیت را محدود کند. درباره‌ی رقابت هوش مصنوعی و جست‌وجو، گزارش رونما درباره‌ی ادعای OpenAI و درباره‌ی محصولات اپل، ماجرای نمایشگر آیفون تاشو را ببینید.