Detection of Trojaning Attack on Neural Networks via Cost of Sample Classification
المؤلفون المشاركون
Gao, Hui
Chen, Yunfang
Zhang, Wei
المصدر
Security and Communication Networks
العدد
المجلد 2019، العدد 2019 (31 ديسمبر/كانون الأول 2019)، ص ص. 1-12، 12ص.
الناشر
Hindawi Publishing Corporation
تاريخ النشر
2019-11-29
دولة النشر
مصر
عدد الصفحات
12
التخصصات الرئيسية
تكنولوجيا المعلومات وعلم الحاسوب
الملخص EN
To overcome huge resource consumption of neural networks training, MLaaS (Machine Learning as a Service) has become an irresistible trend, just like SaaS (Software as a Service), PaaS (Platform as a Service), and IaaS (Infrastructure as a Service) have been.
But it comes with some security issues of untrustworthy third-party services.
Especially machine learning providers may deploy trojan backdoors in provided models for the pursuit of extra profit or other illegal purposes.
Against the redundant nodes-based trojaning attack on neural networks, we proposed a novel detecting method, which only requires the untrusted model to be tested and a small batch of legitimate dataset.
By comparing different processes of neural networks training, we found that the embedding of malicious nodes will make their parameter configuration abnormal.
Moreover, by analysing the cost distribution of test dataset on network nodes, we successfully detect the trojaned nodes in the neural networks.
As far as we know, the research on the defence against trojaning attack on neural networks is still in its infancy, and our research may shed light on the security of MLaaS in real-life scenarios.
نمط استشهاد جمعية علماء النفس الأمريكية (APA)
Gao, Hui& Chen, Yunfang& Zhang, Wei. 2019. Detection of Trojaning Attack on Neural Networks via Cost of Sample Classification. Security and Communication Networks،Vol. 2019, no. 2019, pp.1-12.
https://search.emarefa.net/detail/BIM-1210277
نمط استشهاد الجمعية الأمريكية للغات الحديثة (MLA)
Gao, Hui…[et al.]. Detection of Trojaning Attack on Neural Networks via Cost of Sample Classification. Security and Communication Networks No. 2019 (2019), pp.1-12.
https://search.emarefa.net/detail/BIM-1210277
نمط استشهاد الجمعية الطبية الأمريكية (AMA)
Gao, Hui& Chen, Yunfang& Zhang, Wei. Detection of Trojaning Attack on Neural Networks via Cost of Sample Classification. Security and Communication Networks. 2019. Vol. 2019, no. 2019, pp.1-12.
https://search.emarefa.net/detail/BIM-1210277
نوع البيانات
مقالات
لغة النص
الإنجليزية
الملاحظات
Includes bibliographical references
رقم السجل
BIM-1210277
قاعدة معامل التأثير والاستشهادات المرجعية العربي "ارسيف Arcif"
أضخم قاعدة بيانات عربية للاستشهادات المرجعية للمجلات العلمية المحكمة الصادرة في العالم العربي
تقوم هذه الخدمة بالتحقق من التشابه أو الانتحال في الأبحاث والمقالات العلمية والأطروحات الجامعية والكتب والأبحاث باللغة العربية، وتحديد درجة التشابه أو أصالة الأعمال البحثية وحماية ملكيتها الفكرية. تعرف اكثر