دانش و فناوری
این هوش مصنوعی خودش را هک می‌کند!
گروهی از محققای دانشگاه UC سن‌دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده‌اند که در نوع خود جالب و بی‌نظیر است.
به گزارش خبرویژه به نقل از برترین ها، این روش که به آن “Fun-Tuning” گفته می‌شود، از تکنیکی خاص استفاده می‌کند که باعث می‌شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب‌های اشتباه بدهد.
در واقع، با یک سری متن‌های بی‌معنی، مدل را دور می‌زند و به جواب‌هایی می‌رسد که نباید تولید شود!
این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می‌شود، زیرا نشان می‌دهد که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند فریب بخورند!