۲۳ کشور برای حفاظت از کودکان در عصر هوش مصنوعی همراه شدند

ائتلاف حقوق و حفاظت از کودکان در عصر هوش مصنوعی در حاشیه هشتاد و یکمین مجمع عمومی سازمان ملل نقشه راه ۲۰۲۶–۲۰۲۷ خود را پیش برد؛ چارچوبی که اکنون ۲۳ کشور و هشت نهاد سازمان ملل را دربر می‌گیرد و هدف آن حرکت به سوی ارزیابی، آزمون و پاسخ‌گویی بیشتر سامانه‌های هوش مصنوعی پیش از استفاده کودکان است.

این ابتکار در نیویورک و در جریان هفته سطح‌بالای UNGA81 با ریاست مشترک فرانسه، اسپانیا، کنیا و استرالیا مطرح شد. در نشست سطح‌بالا، دولت‌ها، نهادهای سازمان ملل، جامعه مدنی، بخش خصوصی، دانشگاهیان و متخصصان ایمنی کودک درباره خطرها و فرصت‌های هوش مصنوعی برای افراد زیر سن قانونی گفت‌وگو کردند.

چه چیزی تازه است؟

نکته تازه، انتقال ائتلاف از مرحله اعلام سیاسی به یک نقشه راه عملیاتی برای سال‌های ۲۰۲۶ و ۲۰۲۷ است. بر اساس بیانیه رسمی ریاست‌جمهوری فرانسه، ائتلاف اکنون ۲۳ دولت و هشت نهاد از نظام سازمان ملل را گرد هم آورده است. این نهادها شامل اتحادیه بین‌المللی مخابرات، یونسکو، یونیسف، دفتر کمیسر عالی حقوق بشر، دفتر فرستاده دبیرکل در امور فناوری، اداره ارتباطات جهانی سازمان ملل، نماینده ویژه دبیرکل در زمینه خشونت علیه کودکان و کمیته حقوق کودک هستند.

هدف اعلام‌شده این است که کودکان بتوانند از مزایای هوش مصنوعی بهره ببرند، بدون آنکه ایمنی، حقوق و رشد آنها قربانی سرعت توسعه فناوری شود. این ائتلاف در ژوئیه ۲۰۲۶ با مشارکت فرانسه، اسپانیا و کنیا شکل گرفت و استرالیا بعداً به ریاست مشترک آن پیوست.

چرا الان مهم است؟

بحث اصلی دیگر فقط محدود کردن شبکه‌های اجتماعی نیست. گسترش چت‌بات‌ها، ابزارهای تولید تصویر و ویدیو، سامانه‌های توصیه‌گر و مدل‌هایی که مستقیماً با کودکان تعامل می‌کنند، پرسش تازه‌ای را وارد سیاست‌گذاری کرده است: آیا محصولی که برای کودک عرضه می‌شود باید پیش از ورود به بازار از نظر آثار روانی، حریم خصوصی، سوءاستفاده و ایمنی ارزیابی شود؟

در نقشه راه جدید، ائتلاف می‌گوید سامانه‌های هوش مصنوعی که مدعی ارائه منفعت به کودکان هستند باید در مسیر ایجاد سازوکارهای «پیش‌مجوز» قرار گیرند؛ یعنی پیش از عرضه گسترده، امکان آزمون و ارزیابی مستقل آنها فراهم شود. با این حال، این ایده هنوز یک نظام حقوقی الزام‌آور جهانی نیست و کشورها درباره شکل دقیق مقررات، استانداردهای ارزیابی و نهاد صادرکننده مجوز توافق نهایی نکرده‌اند.

سه محور نقشه راه

برنامه اعلام‌شده سه مسیر اصلی دارد. نخست، حفظ فشار سیاسی تا سال ۲۰۲۷ از طریق مجموعه‌ای از رویدادها و نقاط عطف بین‌المللی. دوم، تشکیل گروه‌های کاری درباره ایمنی و حریم خصوصی از مرحله طراحی، معیارهای سنجش و پاسخ‌گویی، مقابله با محتوای سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید می‌شود، دیپ‌فیک و سواد هوش مصنوعی. سوم، هماهنگ‌کردن فعالیت نهادهای مختلف سازمان ملل از طریق یک مخزن مشترک برای شواهد، پروژه‌ها و تجربه‌های اجرایی.

ائتلاف همچنین قصد دارد شبکه‌ای جهانی از مراکز پژوهشی عمومی، دانشگاهی و خصوصی ایجاد کند و از شرکت‌ها و بنیادها بخواهد برای پژوهش مستقل درباره اثر هوش مصنوعی بر کودکان منابع مالی فراهم کنند. یکی از حساس‌ترین درخواست‌ها، فراهم‌کردن دسترسی پژوهشگران مستقل به مدل‌ها و داده‌های توسعه‌دهندگان برای ارزیابی ایمنی است.

آنچه می‌دانیم

نقشه راه در حاشیه UNGA81 ارائه شده و حمایت ۲۳ کشور و هشت نهاد سازمان ملل برای ائتلاف اعلام شده است. همچنین نخستین تعهدات داوطلبانه این ابتکار قرار است در مجمع صلح پاریس در ۱۰ و ۱۱ نوامبر ۲۰۲۶ ارائه شود. دولت‌های ریاست‌کننده نیز بر ضرورت آزمون، طراحی ایمن و پاسخ‌گویی شرکت‌های فناوری تأکید کرده‌اند.

آنچه هنوز نمی‌دانیم

هنوز روشن نیست چند کشور حاضرند ایده پیش‌مجوز برای سامانه‌های هوش مصنوعی مورد استفاده کودکان را به قانون داخلی تبدیل کنند. فهرست کامل معیارهای فنی آزمون، ضمانت اجرای احتمالی، نحوه برخورد با مدل‌های متن‌باز و چگونگی دسترسی پژوهشگران به داده‌های شرکت‌ها نیز نهایی نشده است. همچنین معلوم نیست شرکت‌های بزرگ فناوری تا چه اندازه به تعهدات داوطلبانه مورد انتظار در نوامبر خواهند پیوست.

تأثیر خبر

اگر این مسیر به استانداردهای مشترک منجر شود، می‌تواند طراحی محصولات هوش مصنوعی برای کودکان را تغییر دهد. توسعه‌دهندگان ممکن است ناچار شوند پیش از عرضه، خطرهای مربوط به حریم خصوصی، وابستگی رفتاری، محتوای آسیب‌زا، جعل هویت و سوءاستفاده جنسی تولیدشده با هوش مصنوعی را با معیارهای قابل سنجش بررسی کنند. در مقابل، نبود اجماع حقوقی میان کشورها می‌تواند به مجموعه‌ای از مقررات متفاوت و پرهزینه برای شرکت‌های جهانی منجر شود.

مسیر بعدی

مرحله قابل سنجش بعدی در ۱۰ و ۱۱ نوامبر و در مجمع صلح پاریس خواهد بود؛ جایی که ائتلاف وعده داده نخستین تعهدات داوطلبانه را ارائه کند. پس از آن باید دید آیا نقشه راه از سطح ائتلاف سیاسی و پژوهشی به استانداردهای مشترک، مقررات ملی یا سازوکارهای بین‌المللی قابل اجرا تبدیل می‌شود یا نه.