آمریکا, نوآتک, هوش مصنوعی

دستکاری هوش مصنوعی با متن‌های پنهان در مقالات علمی

برخی پژوهشگران علوم رایانه از تقلبی به نام «تزریق پنهانی فرمان» استفاده کرده‌اند تا مدل‌های هوش مصنوعی داور را وادار به ارائه بازبینی مثبت کنند. آن‌ها متن‌هایی را به صورت نامرئی (فونت سفید یا بسیار کوچک) در مقالات خود گنجانده‌اند که به هوش مصنوعی دستور می‌دهد نقد منفی نکند و فقط امتیاز بالا بدهد.

بررسی نشان می‌دهد دست‌کم ۱۷ مقاله از ۱۴ مؤسسه در ۸ کشور از جمله آمریکا، ژاپن، چین و کره جنوبی این روش را به کار گرفته‌اند. برخی این اقدام را نوعی دفاع از خود در برابر داوری‌های ماشینی می‌دانند، درحالیکه منتقدان آن را تهدیدی برای اعتبار نشر علمی می‌دانند.

منبع: theregister

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *