الذكاء الاصطناعي قادر على تزييف معلومات أمنية وطبية

الإنترنت مليء بالمعلومات الخاطئة أو المضللة. سواء تم نشرها عن قصد أو عن غير قصد ، تعرض العديد من الشبكات الاجتماعية مثل Facebook أو Twitter شرحًا بجانب المنشور في حالة وجود شك في أنها مضللة ، وبالطبع يلعب الذكاء الاصطناعي دورًا كبيرًا في هذا …

تكون المعلومات المضللة أكثر خطورة إذا كانت تؤثر على مناطق حساسة. مثل السلامة الرقمية والصحة والسلامة العامة. كشف طالب دراسات عليا يجري بحثًا في مجال الأمن الرقمي عن مخاطر الذكاء الاصطناعي في هذا الصدد.

هذا هو المكان الذي تدعي فيه بريانكا راناد أن الذكاء الاصطناعي قادر على توليف معلومات خاطئة ومضللة في مجالات حساسة مثل الطب والدفاع وغيرها. وهو يفعل ذلك بشكل مقنع لدرجة أن بعض الخبراء قد يصدقونه.

الذكاء الاصطناعي يهدد أمن المعلومات

يمكن استخدام المعلومات المضللة لتضليل شخصية أو منظمة عامة. ومع ذلك ، فإن استخدامه في المناطق الحساسة قد يكون مخيفًا.

يمكن أن تشمل هذه العواقب نصيحة طبية غير مناسبة من طبيب إلى مريض ، أو قرار يؤثر على آلاف الأشخاص. أجرت بريانكا وفريقها اختبارًا للعقل لقياس مدى خطورة المحتوى المضلل الناتج عن الذكاء الاصطناعي. هذا هو المكان الذي تم فيه تكليف العارضين بكتابة أخبار أمنية مزيفة أو إنشاء بحث طبي مزيف عن COVID-19.

تم تقديم المحتوى الذي تم إنشاؤه للمهنيين في هذه المجالات. ثم لوحظ أن عددًا كبيرًا من هؤلاء المتخصصين تم خداعهم بسهولة.

تعتمد معظم الطرق المستخدمة لاكتشاف المعلومات المضللة وإدارتها على قدرات الذكاء الاصطناعي ، حيث تتيح للمحترفين التحقق من صحة كميات كبيرة من المعلومات في فترة زمنية قصيرة.

بينما ساعد الذكاء الاصطناعي البشر على اكتشاف المعلومات الخاطئة بسرعة وكفاءة ، ومن المفارقات أنه تم استخدامه أيضًا لتسجيل وإنتاج هذه المعلومات بأشكالها المختلفة.

وما تم إنشاؤه من محتوى مضلل بهذه التقنيات كان كافيًا لإقناع كل من خبراء الأمن والأطباء ، على سبيل المثال ، استطاع نموذج الذكاء الاصطناعي كتابة تقرير عن ثغرات أمنية معينة ، وعندما تمت قراءة هذا التقرير أشخاص متخصصون في هذا المجال ، لم يمانعوا محتواه.

يمكن للنماذج نفسها أيضًا كتابة تقارير حول جائحة Covid-19 ، والذي يتم بناءً على نموذج GPT من OpenAI أو BERT من Google. هذه هي النماذج الأساسية للذكاء الاصطناعي.

ربما يواجه عدد كبير من المستخدمين معلومات خاطئة وموثوقيتها. متى يتم كتابتها بالفعل بواسطة نموذج AI. والذي يحتاج فقط إلى إطعامه بالكثير من المعلومات حول أي مجال من أجل البدء في الكتابة عنه كمحترف.

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى