سازنده خارجی با لهجه هوش مصنوعی وارد سیاست استرالیا شد

تحقیق ABC NEWS Verify نشان داده یک تولیدکننده محتوای مستقر در برزیل با استفاده از هوش مصنوعی صدای خود را به لهجه استرالیایی تغییر داده و برای مخاطبان استرالیایی محتوای سیاسی منتشر کرده است. کانال Oceania Unfiltered در بسیاری از ویدئوها از حزب One Nation و رهبر آن حمایت کرده است.

تحقیق چه پیدا کرد؟

ABC با بررسی ویدئوها، داده‌های صفحات و تحلیل کارشناسان پزشکی قانونی رسانه‌ای، استفاده از صدای مصنوعی و دستکاری تصویری را مستند کرده است. سازنده کانال نیز پس از انتشار گزارش استفاده از هوش مصنوعی برای تغییر لهجه را پذیرفت.

ارتباط با One Nation

سخنگوی One Nation گفته کانال و سازنده آن با حزب ارتباط ندارند. بنابراین محتوای حمایتی کانال نباید به‌عنوان فعالیت رسمی حزب توصیف شود.

چرا مهم است؟

پرونده نشان می‌دهد ابزارهای ارزان هوش مصنوعی می‌توانند هویت جغرافیایی و زبانی تولیدکنندگان محتوا را برای مخاطب مبهم کنند و بر فضای سیاسی داخلی کشور دیگری اثر بگذارند، حتی اگر انگیزه اصلی کسب درآمد باشد.

مسیر بعدی

پلتفرم‌ها و نهادهای تنظیم‌گر استرالیا با پرسش تازه‌ای درباره شفافیت هویت، برچسب‌گذاری محتوای دستکاری‌شده و درآمدزایی از چنین محتواهایی روبه‌رو هستند.

مسئله فقط «صدای مصنوعی» نیست

اهمیت پرونده در این است که ابزار هوش مصنوعی می‌تواند نشانه‌هایی را که مخاطب برای تشخیص هویت و موقعیت تولیدکننده محتوا به آنها تکیه می‌کند تغییر دهد. لهجه، تصویر و شیوه ارائه ممکن است حس محلی‌بودن ایجاد کند، در حالی که تولیدکننده در کشور دیگری مستقر است.

آنچه می‌دانیم

تحقیق ABC استفاده از ابزارهای مصنوعی را بررسی کرده و سازنده نیز استفاده از هوش مصنوعی برای تغییر لهجه را پذیرفته است. در مقابل، One Nation ارتباط سازمانی با کانال را رد کرده است؛ بنابراین حمایت محتوایی کانال نباید به‌عنوان سفارش یا فعالیت رسمی حزب معرفی شود.

آنچه هنوز روشن نیست

وجود محتوای سیاسی خارجی به‌تنهایی ثابت نمی‌کند عملیات نفوذ سازمان‌یافته دولتی در کار بوده است. انگیزه مالی، جذب مخاطب و فعالیت سیاسی می‌توانند هم‌زمان یا جداگانه مطرح باشند و برای هر ادعای قوی‌تر به شواهد بیشتری نیاز است.

پیامد برای پلتفرم‌ها

پرسش عملی این است که چه زمانی تغییر مصنوعی صدا یا هویت باید به مخاطب اعلام شود. قواعد شفافیت، برچسب‌گذاری و درآمدزایی می‌توانند در پاسخ پلتفرم‌ها و نهادهای تنظیم‌گر نقش اصلی داشته باشند.