ایران و چین با هوش مصنوعی به جنگ آمریکا میروند
ایران و چین مدلهای هوش مصنوعی متنباز چینی و عاملهای هوش مصنوعی را برای کارزارهای نفوذ خود ترکیب کردند و از دستکاریهای آنلاین آینده خبر دادند.
به گزارش حبرویژه به نقل از نیویورک تایمز، ایران، چین و گروههایی در برخی کشورهای دیگر در ماههای اخیر از هوش مصنوعی به روشهایی بدیع در ایجاد کارزارهای نفوذ در رسانههای اجتماعی استفاده کردهاند که اولین کارزارها از این دست در جهان است و نگرانیهایی را در میان مقامها و محققان امنیتی آمریکایی در مورد این فناوری که به سرعت در حال تکامل است، افزایش دادهاند.
مقامها و محققان امنیتی آمریکایی که از این تلاشها آگاهند، گفتند که این کشورها و گروهها تاکتیکهای هوش مصنوعی را برای افزایش سرعت و مقیاس کارزارهای آنلاین فراتر از آنچه مردم به راحتی و با حداقل تعامل انسانی میتوانند به آن دست یابند، ترکیب کردند.
این کشورها و گروهها ابتدا به مدلهای هوش مصنوعی «متنباز» چینی روی آوردند که سامانههایی با قدرت فزاینده و رایگان برای دانلود و تغییر در دسترس هستند. سپس از این مدلهای هوش مصنوعی برای ایجاد «عاملها» استفاده کردند؛ رباتهایی که میتوانند نرمافزار را اجرا کنند و وظایف خود را به تنهایی انجام دهند.
مقامها و محققان امنیتی گفتند هنگامی که صدها نفر از این مأموران هوش مصنوعی آزاد شدند، به طور مستقل شبکههایی از حسابهای جعلی را در پلتفرمهایی مانند اینستاگرام، فیسبوک، ایکس و تیکتاک باز کردند. سپس به سرعت حسابهای جعلی را با پستهای دروغین در مورد سیاست و رویدادهای جاری پر کردند تا نظرها را تغییر دهند و مسائل را داغ کنند.
مقامهای آمریکایی میگویند این یکی از اولین دفعاتی بود که از مأموران هوش مصنوعی تحت حمایت مدلهای چینی برای مدیریت هر مرحله از کارزارهای نفوذ، از ایجاد حسابهای جعلی گرفته تا هماهنگی پیامرسانی آنلاین آنها، استفاده میشد. آنها افزودند که در بیشتر موارد، ضمانتهایی که معمولاً یک مدل هوش مصنوعی را از ایجاد یک حساب جعلی یا دستکاری بحثهای آنلاین باز میدارد، توسط کسانی که سیستمها را اداره میکنند، غیرفعال شده است.
افراد آگاه به این اقدامها گفتند کارزارهای «عاملی» خام بودند، اما توجه اطلاعات ایالات متحده، شرکتهای بزرگ فناوری و کارشناسان امنیتی را به خود جلب کردند. این گروهها سپس برای شناسایی افراد پشت این تلاشها و روشهای آنها تلاش کردند و دریافتند که کارزارهای چینی و ایرانی تحت حمایت دولت هستند، در حالی که دو کارزار اسرائیلی به شرکتهای خصوصی مرتبط بودند.
این کارزارها نگرانیهایی را در مورد چگونگی استفاده از مدلهای هوش مصنوعی در دسترس عموم برای انجام تلاشهای نفوذ آنلاین به تنهایی ایجاد کردهاند. برخی از مقامهای آمریکایی گفتهاند که نگرانند اقدامهای مشابه برای هدف قرار دادن رأیدهندگان آمریکایی پیش از انتخابات میاندورهای نوامبر انجام شود.
روسیه، ایران و چین، به درجات مختلف، همگی در دورههای انتخاباتی گذشته، رأیدهندگان آمریکایی را با کارزارهای نفوذ آنلاین هدف قرار داده و هر کدام حداقل از هوش مصنوعی ابتدایی استفاده کردهاند. برخی قانونگذاران آمریکایی نگرانند که پیشرفتهای اخیر هوش مصنوعی میتواند کارزارهای نفوذ انتخاباتی را در ایالات متحده و در سطح جهان شایعتر و سازماندهی آنها را آسانتر کند.
کایل کریچتون، یکی از اعضای مرکز امنیت و فناوریهای نوظهور جورج تاون که در زمینه هوش مصنوعی و امنیت سایبری تحقیق میکند، گفت: کارزارهای تحت هدایت عامل احتمالاً با پیشرفت مداوم فناوری رایجتر خواهند شد. او گفت: «عاملها میتوانند نسبتاً پیچیده باشند و بنابراین علاوه بر مقیاسپذیری، توانایی ترکیب شدن و شبیهتر شدن به یک کاربر انسانی را دارند.»
بحث بر سر ایمنی هوش مصنوعی در هفتههای اخیر تشدید شده است که با افشای ماه ژوئیه مبنی بر اینکه سیستمهای هوش مصنوعی OpenAI سرکش شده و استارتاپ Hugging Face را هک کردهاند، تشدید شده است. از آن زمان، رهبران هوش مصنوعی از جمله داریو آمودی، مدیر اجرایی Anthropic، خواستار کاهش سرعت توسعه این فناوری شدهاند تا بتوان محافظهای مناسبی ساخت. سایر مدیران فناوری گفتهاند نیازی به کاهش سرعت نیست و Anthropic در تلاش است قدرت خود را تثبیت کند.
در گزارشهای سال جاری، تیکتاک و متا، که مالک فیسبوک و اینستاگرام هستند، اعلام کردند از هوش مصنوعی برای ایجاد حسابها و محتوا در پلتفرمهای آنها استفاده میشود. در گزارشی در ماه گذشته، متا اعلام کرد شاهد «توسعه چشمگیر فنی» بازیگران بد در آزمایش هوش مصنوعی بوده است. این شرکت کارزارهای ایرانی و اسرائیلی را که از هوش مصنوعی استفاده میکردند، بدون ارائه جزئیات، شناسایی کرد.
متا در گزارش خود گفت که هوش مصنوعی اکنون «درون سامانههای خودکاری تعبیه شده که میتوانند محتوا را با حداقل دخالت انسانی تولید، تطبیق و توزیع کنند». هوش مصنوعی مدتهاست برای ایجاد ویدئوها و متنهای گمراهکننده و تولید عکسهای قانعکننده استفاده میشود. اما محققان امنیتی گفتند کارزارهای عاملمحور برجسته بودند.
کایل چان، محقق بروکینگز، گفت که عاملهای ساختهشده در شرکتهایی مانند OpenAI قبلاً، از جمله توسط ایران، از اوایل آگوست 2024 مورد سوءاستفاده قرار گرفتهاند، اما مدلهای هوش مصنوعی باز، سطح جدیدی از خودمختاری را فراهم میکنند. برخلاف مدلهای هوش مصنوعی بسته از شرکتهایی مانند OpenAI و Anthropic، که در آنها کد اصلی فاش نمیشود، مدلهای هوش مصنوعی باز میتوانند روی سختافزار خصوصی اجرا شوند، به این معنی که هیچ شرکتی نمیتواند برای خاموش کردن سیستمها مداخله کند.
مقامات و محققان امنیتی گفتند که کمپین ایرانی مورد حمایت دولت به ویژه نگرانکننده بود. ایران مخاطبان آمریکایی را هدف قرار داد و حسابهای جعلی ایجاد شده توسط عوامل، خود را به عنوان آمریکاییهای عادی ساکن شهرهای بزرگ جا میزدند. این افراد گفتند که این حسابها، روزنامهنگاران و سیاستمداران را در نظراتی که میمهای محبوب و دیدگاههای ضد حزب جمهوریخواه را منتشر میکردند، تگ میکردند. نزدیک به ۸۰ هزار نفر حسابهای ایجاد شده توسط هوش مصنوعی را که در نیمه اول سال فعال بودند، دنبال میکردند.
آکسیوس پیش از این در مورد برخی از جنبههای شبکه ایرانی گزارش داده بود. مقامات اطلاعاتی و امنیتی جزئیات بیشتری در مورد کارزار چینی ارائه نکردند، جز اینکه گفتند با همان تاکتیکهای هوش مصنوعی آزمایش شده است.
سخنگوی متا گفت: «به نظر میرسد این یک تلاش هماهنگ برای ایجاد حسابهای کاربری غیرمعتبر در چند پلتفرم بوده است. تنها درصد کمی از این حسابها در پلتفرمهای ما بودند و ما قبلاً اکثریت قریب به اتفاق آنها را از طریق سامانههای تشخیص خودکار خود به طور پیشگیرانه حذف کرده بودیم.»
متا در گزارش ماه گذشته خود به یک کارزار جداگانه که توسط یک «عملیات تجاری مستقر در اسرائیل» اداره میشد، اشاره کرد. این شرکت نامی از شرکت نبرد یا اطلاعات دیگری ارائه نکرد، اما گفت که این کارزار از هوش مصنوعی در «یک ساختار نسبتاً پیچیده» استفاده کرده است.