به گزارش پلاتوهنر، با رواج گسترده عکس‌های جعلی تولید شده توسط هوش مصنوعی، شرکت‌های بزرگ در تلاش هستند راهی برای مقابله با آنها بیابند.
شرکت گوگل اعلام کرد در چارچوب تلاش برای جلوگیری از انتشار اطلاعات نادرست، ابزاری را در دست راه‌اندازی دارد که تصاویر تولید شده توسط کامپیوتر را شناسایی می‌کند و برچسب می‌زند.
این فناوری که «سینت آی‌دی» (SynthID) نام دارد، تصاویر تولید شده توسط هوش مصنوعی را تشخیص می‌دهد و با اعمال تغییراتی ظریف در پیکسل‌های تصاویر آنها را علامت‌گذاری می‌کند. این تغییرات که البته برای چشم انسان نامرئی هستند، حتی در صورت برش عکس و اعمال فیلترهای اضافی نظیر تغییر رنگ یا تنظیم روشنایی تصویر باز هم قابل تشخیص توسط سیستم هستند.
ابزار توسعه‌یافته توسط گوگل می‌تواند تصاویر دریافتی را اسکن کند و با همین شیوه برچسبی شامل سه سطح اطمینان به آنها اختصاص دهد.
گوگل روز سه‌شنبه در پستی در وبلاگ رسمی خود نوشت: هرچند این فناوری هنوز کامل نیست، با این حال آزمایشات داخلی ما نشان می‌دهد که در شناخت بسیاری از دستکاری‌های رایج در تصاویر دقیق است.
سینت آی‌دی که در مرحله فعلی در نسخه بتا به طور محدود عرضه شده است، توسط پلتفرم هوش مصنوعی مولد گوگل برای توسعه دهندگان در دسترس قرار گرفته است. این ابزار که توسط واحد شبکه عصبی دیپ‌مایند گوگل توسعه یافته، قرار است به زودی در دیگر سرویس‌های گوگل نیز مورد استفاده قرار گیرد.
در سال‌های اخیر و با رواج فزاینده تصاویر و ویدیوهای دیپ‌فیک (جعل عمیق) و ویرایش شده، شرکت‌های فناوری در تلاش هستند تا راهی مطمئن برای شناسایی و پرچم‌گذاری محتوای دستکاری شده پیدا کنند. در واقع آنان کوشش می‌کنند تمایز میان واقعیت و آنچه واقعی نیست را برای کاربران تسهیل کنند.
در ماه‌های اخیر تصاویر جعلی ایجاد شده توسط هوش مصنوعی از دستگیری دونالد ترامپ رئیس‌جمهور سابق آمریکا با لباس زندان به طور گسترده‌ای بین کاربران به اشتراک گذاشته شد و بسیاری به اشتباه تصور کردند که این عکس‌ها واقعی هستند.
پیشتر در ماه ژوئن ورا ژورووا، معاون کمیسیون اروپا، از شرکت‌های امضاکننده قانون اتحادیه اروپا در مورد اطلاعات نادرست (شامل گوگل، متا، مایکروسافت و تیک تاک) درخواست کرده بود «فناوری مخصوصی را برای شناسایی چنین محتوایی و برچسب زدن واضح آن برای کاربران ایجاد کنند.»
شرکت گوگل نیز به جو بایدن رئیس جمهوری کنونی ایالات متحده قول داده بود ابزاری برای تشخیص تصاویر تولید شده توسط هوش مصنوعی ارائه کند.
قبل از این در ماه مه، گوگل با هدف ردیابی ساده‌تر منشأ محتوا ابزاری به نام «درباره این تصویر» را معرفی کرده بود که به کاربران این امکان را می‌دهد تا ببینند تصاویری که در گوگل پیدا می‌کنند برای اولین بار در کجا ظاهر شده‌اند و در چه جاهای دیگری می‌توان آنها را آنلاین یافت.
کارشناسان می‌گویند از آنجا که سرعت رشد و پیشرفت فناوری هوش مصنوعی سریع‌تر از انسان‌ها است، مشخص نیست که آیا این راه‌حل‌های فنی کنونی قادر هستند به طور کامل مشکل را برطرف کنند یا نه.
منبع: یورونیوز
بیشتر بخوانید:
جان دیوید بشریت را نجات می‌دهد؟
مخالفت با هوش مصنوعی بیهوده است
«دشمن» روایتگر ترس انسان‌هاست
