دراسة تكشف قدرة ChatGPT على معرفة المعلومات حول المستخدمين – شعاع نيوز

كشفت دراسة حديثة أن الذكاء الاصطناعي المبني على نموذج اللغة الكبير (LLM) يمكنه تخمين عمر مستخدمي Reddit وموقعهم وجنسهم ودخلهم بدقة تصل إلى 96% استنادًا فقط إلى ما يكتبونه في منشورات وسائل التواصل الاجتماعي.

وبحسب موقع مترو البريطاني، قام باحثون من المعهد الفيدرالي للتكنولوجيا في زيوريخ بتكليف 9 نماذج لغوية عصبية (LLM) لمحاولة تحديد السمات الشخصية لـ 520 مستخدمًا، والتي تمكن الفريق من التحقق منها بثقة.

جاء ChatCGPT-4 في المقدمة بدقة إجمالية بلغت 85%، في حين سجل LlaMA-2-7b من Meta أدنى نسبة دقة بلغت 51%.

في حين أن بعض التفاصيل الشخصية كانت مكتوبة بوضوح في المنشورات أو في أي مكان آخر عبر الإنترنت، مثل الدخل في منتديات المشورة المالية، فقد تم تحديد الكثير من المعلومات باستخدام إشارات أكثر دقة، مثل الكلمات الخاصة بالموقع.

وفي حديثه لمجلة New Scientist، قال المؤلف الرئيسي روبن ستاب إن النتائج كانت بمثابة تحذير حول مقدار المعلومات التي نشاركها عبر الإنترنت دون أن ندرك ذلك. وأضاف: “إنه يخبرنا أننا نكشف عن الكثير من معلوماتنا الشخصية عبر الإنترنت دون التفكير فيها”. “الكثير من الناس لا يفعلون ذلك… فهم يفترضون أنه يمكنك استنتاج أعمارهم أو مواقعهم بشكل مباشر من الطريقة التي يكتبون بها، لكن حاملي شهادة الماجستير في القانون قادرون تمامًا.”

وجد طلاب ماجستير إدارة الأعمال أن العمر هو أسهل خاصية يمكن تحديدها، حيث أظهر ChatGPT-4 دقة بنسبة 98%، مقارنة بدقة 63% للدخل. لاحظ المؤلفون أنه على الرغم من أن الإنسان يمكنه تقديم افتراضات مماثلة عند تقديم نفس المعلومات، إلا أن ماجستير إدارة الأعمال أسرع 240 مرة وأرخص 100 مرة، مما يشكل مخاطر كبيرة على الخصوصية.

وقالوا: “تسلط النتائج التي توصلنا إليها الضوء على أن الحاصلين على ماجستير إدارة الأعمال الحاليين يمكنهم استنتاج البيانات الشخصية على نطاق لم يكن من الممكن تحقيقه في السابق”. “في غياب دفاعات فعالة، فإننا ندعو إلى إجراء مناقشة أوسع حول الآثار المترتبة على الخصوصية في LLM تتجاوز مجرد الحفاظ، والسعي إلى حماية الخصوصية على نطاق أوسع.”

لقد ركزت المخاوف السابقة بشأن ماجستير إدارة الأعمال على استخدام البيانات العامة للتدريب، أو التسريبات المحتملة للمحادثات الشخصية مع البرنامج، لكن الدراسة الأخيرة تقدم آفاقًا جديدة. قال البروفيسور آلان وودوارد، خبير الأمن السيبراني، لمجلة نيو ساينتست: “لقد بدأنا للتو في فهم كيف يمكن أن تتأثر الخصوصية باستخدام حاملي شهادات الماجستير في القانون”.


المصدر

مقالات ذات صلة

زر الذهاب إلى الأعلى