Conjugate gradient algorithm based on Meyer method for training artificial neural networks

Other Title(s)

خوارزمية تدرج مترافق مستندة على طريقة Meyers لتدريب الشبكات العصبية الإصطناعية

Joint Authors

Muhammad, Hind H.
Abbu, Khalil K.

Source

المجلة العراقية للعلوم الإحصائية

Publisher

University of Mosul College of Computer Science and Mathematics

Publication Date

2013-12-31

Country of Publication

Iraq

No. of Pages

15

Main Subjects

Mathematics

Topics

Arabic Abstract

إن الاختلاف بين الناتج المطلوب و الناتج الفعلي للشبكة العصبية الاصطناعية متعددة الطبقات ينتج عنه قيما خطأ يمكن التعبير عنه بدلالة أوزان الشبكة و بذلك تصبح مسألة تدريب الشبكة من مسائل الأمثلية التي تبحث في تقليل دالة الخطأ أقل ما يمكن.

يهتم هذا البحث بتحسين الآلية التي يتم بموجبها تقليل دالة الخطأ حيث تم اقتراح صيغة جديدة لحساب عامل تعليم مستندة على صيغة Meyers لتطوير خوارزمية تدرج مترافق لتدريب الشبكات العصبية الاصطناعية ذات التغذية الأمامية.

عمليا عجلت هذه الطريقة تدريب الشبكة عند مقارنتها بطريقتي (FRCG) و (PRCG) لحل ثلاث أنواع مختلفة من المسائل المشهورة في الشبكات العصبية الاصطناعية (و هي تقريب الدوال، مسألة XOR و مسألة Monk 1) حيث تم تنفيذها لـ 100 محاكاة.

English Abstract

The difference between the desired output and the actual output of an multi-layers feed forward neural network produces an error value can be expressed it as a function of the network weights.

Therefore training the network becomes an optimization problem to minimize the error function.

This search suggests a new formula for computing learning rate based on Meyers formula to modify conjugate gradient algorithm (MCG) for training the FFNN.

Typically this method accelerate the method of Fletcher–Reeves (FRCG) and Polak–Ribere (PRCG) when using it to solve three different types problems well known in the artificial neural network (namely, XOR problem, function approximation, and the Monk1 problem ) with 100 simulations.

Data Type

Conference Papers

Record ID

BIM-345613

American Psychological Association (APA)

Abbu, Khalil K.& Muhammad, Hind H.. 2013-12-31. Conjugate gradient algorithm based on Meyer method for training artificial neural networks. المؤتمر العلمي لكلية علوم الحاسوب و الرياضيات (6 : 2013 : الموصل، العراق). . Vol. 13, no. 25 (2013), pp.118-132.الموصل، العراق : جامعة الموصل، كلية علوم الحاسبات و الرياضيات،.
https://search.emarefa.net/detail/BIM-345613

Modern Language Association (MLA)

Abbu, Khalil K.& Muhammad, Hind H.. Conjugate gradient algorithm based on Meyer method for training artificial neural networks. . الموصل، العراق : جامعة الموصل، كلية علوم الحاسبات و الرياضيات،. 2013-12-31.
https://search.emarefa.net/detail/BIM-345613

American Medical Association (AMA)

Abbu, Khalil K.& Muhammad, Hind H.. Conjugate gradient algorithm based on Meyer method for training artificial neural networks. . المؤتمر العلمي لكلية علوم الحاسوب و الرياضيات (6 : 2013 : الموصل، العراق).
https://search.emarefa.net/detail/BIM-345613