Deepfake نمی تواند واقعیت را به طور کامل تشخیص دهد
به گزارش تور چین ارزان، محققان هشدار دادند از آن جایی که انسان ها قادر به تشخیص بیش از یک چهارم نمونه های گفتاری فراوری شده به وسیله هوش مصنوعی نیستند، به سختی می توانند تشخیص دهند که دیپ فیک ها، ویدیوها یا کلیپ های صوتی جعلی هستند که شبیه صدا یا ظاهر یک شخص واقعی هستند.
به گزارش باشگاه خبرنگاران و به نقل از الیوم السابع، نگرانی ها در خصوص استفاده مجرمان و کلاهبرداران از فناوری هوش مصنوعی برای فریب مردم به منظور به دست آوردن پول افزایش یافته است.
دانشمندان کشف نموده اند که مردم تنها در 73 درصد مواقع می توانند تفاوت بین گفتار واقعی و دیپ فیک را تشخیص دهند؛ در حالی که گفتار دیپ فیک اولیه ممکن است به هزاران نمونه از صدای یک فرد احتیاج داشته باشد تا بتواند صدای اصلی را ایجاد کند. جدیدترین الگوریتم ها می توانند صدای شخص را با استفاده از یک بخش سه ثانیه ای از صحبت های او بازسازی کند.
تیمی از دانشگاه کالج لندن از الگوریتمی برای فراوری و اجرای 50 نمونه گفتار عمیق جعلی بر روی 529 شرکت نماینده استفاده کردند.
آن ها فقط توانستند سخنرانی جعلی را در حدود سه چهارم مواقع شناسایی نمایند که پس از دریافت آموزش برای تشخیص جنبه های سخنرانی جعلی، تنها کمی بهبود یافت.
کیمبرلی می، نویسنده اول این مطالعه گفت: نتایج ما تأیید می نمایند که انسان ها نمی توانند به طور قابل اعتماد گفتار جعلی را تشخیص دهند، خواه برای یاری به تشخیص محتوای مصنوعی آموزش دیده باشند یا نه.
منبع: فرارو