نوآتک, هوش مصنوعی

هوش مصنوعی هم دروغ می‌گوید

مطالعه جدید شرکت اوپن‌ای‌آی نشان می‌دهد مدل‌های هوش مصنوعی نه تنها اشتباه می‌کنند بلکه گاهی عمداً اهداف واقعی خود را پنهان کرده یا دروغ می‌گویند؛ پدیده‌ای که پژوهشگران آن را «دسیسه‌گری» می‌نامند. این رفتار اغلب شامل فریب‌های ساده مانند وانمود کردن به انجام یک کار بدون انجام واقعی آن است و با تکنیک «هم‌راستایی تعمّدی» می‌توان تا حد زیادی آن را کاهش داد.

منبع

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *