باحثون: العلامات المائية الحالية للذكاء الاصطناعى سهل إزالتها وفقا لدراسات – شعاع نيوز

العلامة المائية التقليدية هي شعار أو نمط مرئي يمكن أن يظهر على أي شيء بدءًا من الأموال الموجودة في محفظتك وحتى طابع البريد، كل ذلك باسم مكافحة التزييف. ربما تكون قد شاهدت علامة مائية في معاينة صور التخرج، على سبيل المثال. لكن في حالة الذكاء الاصطناعي، فهو يتطلب القليل من التطوير، كما تفعل معظم الأشياء في الفضاء عادةً، حسبما أفاد موقع Engadget.

في سياق الذكاء الاصطناعي، يمكن للعلامة المائية أن تسمح للكمبيوتر باكتشاف ما إذا كان النص أو الصورة قد تم إنشاؤها بواسطة الذكاء الاصطناعي، ولكن لماذا تبدأ الصور بالعلامات المائية؟ يخلق الفن التوليدي أرضًا خصبة لإنشاء التزييف العميق وغيرها من المعلومات الخاطئة.

لذلك، على الرغم من كونها غير مرئية للعين المجردة، فإن العلامات المائية يمكنها مكافحة إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي ويمكن حتى دمجها في برامج التعلم الآلي التي طورتها عمالقة التكنولوجيا مثل جوجل. وتعهد لاعبون رئيسيون آخرون في هذا المجال، من OpenAI إلى Meta وAmazon، بـ… تطوير تكنولوجيا العلامات المائية لمكافحة المعلومات الخاطئة.

ولهذا السبب أخذ باحثو علوم الكمبيوتر في جامعة ميريلاند (UMD) على عاتقهم فحص وفهم مدى سهولة قيام الجهات الفاعلة السيئة بإضافة العلامات المائية أو إزالتها. وقال سهيل فايزي، الأستاذ في جامعة ميريلاند، لمجلة Wired إن النتائج التي توصل إليها فريقه تؤكد شكوكه في عدم وجود أي تطبيقات موثوقة للعلامات المائية في هذه المرحلة. تمكن الباحثون من التهرب بسهولة من طرق وضع العلامات المائية الحالية أثناء الاختبار ووجدوا أنه من الأسهل إضافة شعارات مزيفة إلى الصور التي لم يتم إنشاؤها بواسطة الذكاء الاصطناعي.

ولكن بالإضافة إلى اختبار مدى سهولة التهرب من العلامات المائية، قام أحد فرق UMD بتطوير علامة مائية يكاد يكون من المستحيل إزالتها من المحتوى دون المساس بالملكية الفكرية بشكل كامل، وهذا التطبيق يجعل من الممكن اكتشاف متى يتم سرقة المنتجات.

وفي جهد بحثي تعاوني مماثل بين جامعة كاليفورنيا وسانتا باربرا وجامعة كارنيجي ميلون، وجد الباحثون أنه من خلال هجمات المحاكاة، يمكن إزالة العلامات المائية بسهولة. وتبين الورقة أن هناك طريقتين متميزتين لإزالة العلامات المائية من خلال هذه الهجمات: الأساليب التدميرية والطرق البناءة. عندما يتعلق الأمر بالهجمات المدمرة، يمكن للجهات الفاعلة السيئة التعامل مع العلامات المائية كما لو كانت جزءًا من الصورة، ويمكن أن يؤدي تعديل الأشياء مثل السطوع أو التباين، باستخدام ضغط JPEG، أو حتى مجرد تدوير الصورة إلى إزالة العلامة المائية. ومع ذلك، المشكلة هنا هي أنه على الرغم من أن هذه الأساليب تتخلص من العلامة المائية، إلا أنها تعبث أيضًا بجودة الصورة، مما يجعلها أسوأ بشكل ملحوظ. في الهجوم البناء، تكون إزالة العلامة المائية أكثر حساسية قليلاً وتستخدم تقنيات مثل التمويه الغاوسي القديم الجيد.

على الرغم من أن العلامات المائية للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي تحتاج إلى التحسين قبل أن تتمكن من التنقل بنجاح في اختبارات المحاكاة المشابهة لتلك الواردة في هذه الدراسات البحثية، فمن السهل تصور سيناريو تصبح فيه العلامات المائية الرقمية سباقًا تنافسيًا ضد المتسللين. وإلى أن يتم تطوير معيار جديد، لا يسعنا إلا أن نأمل في الأفضل عندما يتعلق الأمر بأدوات جديدة مثل Google SynthID، وهي أداة تعريف للفنون التوليدية، والتي سوف يستمر المطورون في العمل عليها حتى تصل إلى الاتجاه السائد.

ولكن توقيت الإبداع من جانب قادة الفكر لا يمكن أن يكون أفضل من هذا. مع اقتراب الانتخابات الرئاسية لعام 2024 في الولايات المتحدة من احتلال مركز الصدارة قريبًا، يمكن أن يلعب المحتوى الناتج عن الذكاء الاصطناعي دورًا كبيرًا في التأثير على الرأي السياسي بأشياء مثل الإعلانات المزيفة العميقة. وحتى إدارة بايدن لاحظت هذه القضية، مشيرة إلى أن هناك مخاوف معقولة. حول كيفية استخدام الذكاء الاصطناعي لأغراض تخريبية، خاصة في مجال التضليل.


المصدر

مقالات ذات صلة

زر الذهاب إلى الأعلى