A comparison of unbiased ridge regression method with principal components regression method using simulation technique

Dissertant

Abu al-Aysh, Ahmad Yasin

Thesis advisor

al-Qassab, Muwaffaq Muhammad

University

Al albayt University

Faculty

Faculty of Sciences

Department

Department of Mathematics

University Country

Jordan

Degree

Master

Degree Date

2007

Arabic Abstract

تعد مشكلة تعدد العلاقة الخطية من المشاكل التي أصبحت في وقتنا الحاضر ذات اهتمام كبير بسبب تأثيرها على نتائج التقديرات و الاختبارات.

تنص إحدى الفروض الخاصة بنموذج الانحدار الخطي العام على عدم وجود علاقة خطية بين المتغيرات المستقلة، و في حالة عدم تحقق هذا الفرض تكون مقدرات المربعات الصغرى متباينة، و عليه سوف تكون مرفوضة ضمن مجموعة التقديرات غير المتحيزة و نتيجة لذلك تم إيجاد طرق بديلة لطريقة المربعات الصغرى، حيث تخفف، هذه الطرق من تأثير مشكلة العلاقة الخطية و تعطي نتائج مقبولة.

لقد قمنا في هذه الدراسة بعمل مقارنة بين طريقتي انحدار المركبات الرئيسية و انحدار الحرف غير المتحيزة اعتمادا على بيانات تم توليدها باستخدام طريقة (Monte Carlo) للمحاكاة لعشرين متغير توضيحي مع وجود حالات ارتباط مختلفة بين المتغيرات.

حيث تمت المقارنة بين هاتين الطريقتين لبيان أفضلهما بالاعتماد على خاصية متوسط مربعات الخطأ، و أظهرت النتائج أن طريقة انحدار الحرف غير المتحيزة هي الأفضل.

English Abstract

The problem of Multicollinearity is considered as one of problems that become at the present time very important according to its effects on tests and estimation results.

One of the assumptions which concern in linear regression model refers to that there is no linear relation among the explanatory variables.

When this assumption is not true then the least squares estimators are different.

So, it will be refused within unbiased estimators group.

In an effort to overcome the problems of least squares with collinear data, alternatives techniques have been proposed in the statistical literature.

Which reduce the effect of Multicollinearity and give good results? In this study, we estimate the parameters of multiple linear regression using principal components regression and unbiased ridge regression methods depending on data generated by Monte Carlo method containing thirty observations for twenty explanatory variables, using different degrees of correlations between these variables.

The comparison between these methods depends on the mean squares error criterion to find the best method.

It has been shown that the unbiased ridge regression method is the best.

Main Subjects

Mathematics

Topics

No. of Pages

93

Table of Contents

Table of contents.

Abstract.

Introduction.

Chapter one : Least squares method and multicollinearity problem.

Chapter two : Unbiased ridge regression method and estimation of the ridge parameter K.

Chapter three : Principal components method in regression analysis.

Chapter four : Results, discussion and conclusions.

References.

American Psychological Association (APA)

Abu al-Aysh, Ahmad Yasin. (2007). A comparison of unbiased ridge regression method with principal components regression method using simulation technique. (Master's theses Theses and Dissertations Master). Al albayt University, Jordan
https://search.emarefa.net/detail/BIM-302862

Modern Language Association (MLA)

Abu al-Aysh, Ahmad Yasin. A comparison of unbiased ridge regression method with principal components regression method using simulation technique. (Master's theses Theses and Dissertations Master). Al albayt University. (2007).
https://search.emarefa.net/detail/BIM-302862

American Medical Association (AMA)

Abu al-Aysh, Ahmad Yasin. (2007). A comparison of unbiased ridge regression method with principal components regression method using simulation technique. (Master's theses Theses and Dissertations Master). Al albayt University, Jordan
https://search.emarefa.net/detail/BIM-302862

Language

English

Data Type

Arab Theses

Record ID

BIM-302862