كشف اكتشاف جديد أن برامج الذكاء الاصطناعي التي تفحص الصور الطبية بحثًا عن أدلة على الإصابة بالسرطان يمكن خداعها من خلال القرصنة والهجمات الإلكترونية.
أظهر الباحثون أن برنامج الكمبيوتر يمكنه إضافة أو إزالة أدلة على السرطان من التصوير بالأشعة السينية ، وقد خدعت هذه التغييرات أدوات الذكاء الاصطناعي وأخصائيي الأشعة البشرية.
هذا يؤدي إلى تشخيص غير صحيح. قد يقول برنامج الذكاء الاصطناعي الذي يساعد في تصوير الثدي بالأشعة السينية أن الفحص قوي عندما تكون هناك علامات على الإصابة بالسرطان ، أو قد يكون من الخطأ القول إن المريض مصاب بالسرطان عندما يكون خاليًا من السرطان.
لم يُعرف بعد حدوث مثل هذه الاختراقات في العالم الحقيقي. لكن الدراسة الجديدة تضيف إلى مجموعة متزايدة من الأبحاث التي تشير إلى أن مؤسسات الرعاية الصحية بحاجة إلى الاستعداد لها.
يتم استهداف المستشفيات ومؤسسات الرعاية الصحية بشكل متزايد من قبل المتسللين بهجمات إلكترونية. في معظم الحالات ، تسرق هذه الهجمات بيانات المريض أو تغلق أنظمة الكمبيوتر الخاصة بالمنظمة حتى تدفع المنظمة فدية.
يمكن أن تضر هاتان الهجمتان بالمرضى من خلال تعطيل عمليات المستشفى وتجعل من الصعب على العاملين في مجال الرعاية الصحية تقديم رعاية جيدة.
لكن الخبراء قلقون بشكل متزايد بشأن احتمال وقوع المزيد من الهجمات المباشرة على صحة الناس.
أظهر باحثو الأمن أن المتسللين يمكنهم الوصول عن بعد إلى مضخات الأنسولين المتصلة بالإنترنت وتقديم جرعات خطيرة من الأدوية ، على سبيل المثال.
تقع أيضًا الاختراقات التي يمكن أن تغير التصوير الطبي وتؤثر على التشخيص ضمن هذه الفئة.
قام فريق بحثي من جامعة بيتسبرغ بتصميم برنامج كمبيوتر يقوم بمسح الأشعة السينية دون ظهور علامات على السرطان الذي يبدو أنه مادة مسرطنة. قد يقوم أيضًا بعمل أشعة سينية يبدو أنها مسببة للسرطان ولا تظهر عليها علامات السرطان.
قاموا بإرسال الصور التي تم التلاعب بها إلى برنامج ذكاء إصطناعي تم تدريبه على الكشف عن علامات الإصابة بسرطان الثدي. طلبوا من خمسة أطباء أشعة أن يقرروا ما إذا كانت الصور حقيقية أم مزيفة.
يمكن خداع الذكاء الاصطناعي من خلال الصور المخترقة
حوالي 70 بالمائة من الصور التي تم التلاعب بها كانت قادرة على خداع هذا البرنامج. أي أن الذكاء الاصطناعي قال خطأً أن الصور التي تم التلاعب بها لتبدو خالية من السرطان كانت خالية من السرطان. وقال أيضًا إن الصور التي تم التلاعب بها لتبدو وكأنها مصابة بالسرطان لديها دليل على الإصابة بالسرطان.
أما بالنسبة لأخصائيي الأشعة ، فقد كان بعضهم أفضل من البعض الآخر في اكتشاف الصور التي تم التلاعب بها. وتراوحت الدقة في اختيار الصور المزيفة بين 29 بالمئة و 71 بالمئة.
أظهرت دراسات أخرى أيضًا أن هجومًا إلكترونيًا على التصوير الطبي يمكن أن يؤدي إلى تشخيصات غير صحيحة. وأظهر فريق من الباحثين في مجال الأمن السيبراني في عام 2019 أن المتسللين يمكنهم إضافة أو إزالة دليل على سرطان الرئة من الأشعة المقطعية. خدعت هذه التغييرات أيضًا كلاً من أخصائيي الأشعة البشرية وبرامج الذكاء الاصطناعي.
لم تكن هناك حالات عامة أو ملحوظة لمثل هذه الانتهاكات. ولكن هناك عدة أسباب وراء رغبة المتسلل في العبث بأشياء مثل الأشعة السينية أو فحوصات سرطان الرئة.
قد يكون المخترق مهتمًا باستهداف مريض معين ، مثل شخصية سياسية. أو قد يرغب في تغيير شيكاته على شركة التأمين.
يمكن للقراصنة أيضًا التلاعب بالصور بشكل عشوائي ورفض التوقف عن العبث بها حتى يدفع المستشفى فدية.
تظهر دراسات مثل هذه أن مؤسسات الرعاية الصحية والأشخاص الذين يصممون نماذج الذكاء الاصطناعي يجب أن يدركوا أن الاختراق الذي يغير عمليات الفحص الطبي أمر محتمل.
قال مؤلف الدراسة إنه يجب إظهار النماذج التي تم التلاعب بها أثناء تدريبهم لتعليمهم كيفية العثور على صور مزيفة. قد يحتاج اختصاصيو الأشعة أيضًا إلى التدريب على تحديد الصور المزيفة.