Applying the Ensemble Technique for Improving Rule-based Models Performance

Abstract

Modeling for high-performance forecasting is a challenging research. This research aims to enhance the performance of basic models including FURIA, MODLEM and RIPPER with popular integration techniques, including Bagging and Weighted Instances Handler Wrapper (WI). Data were collected from 699 breast cancer patients and 768 diabetic patients. In order to evaluate the prediction model, 10-fold cross validation was applied to divide dataset into training and testing sets. 10 experiments were conducted to reduce the bias of the experiment. Sensitivity, specificity and accuracy were used to measure the predictive performance of the model generated by each technique. Based on the study, it was found that bagging can increase the accuracy of breast cancer prediction by 4.91%.

การสร้างแบบจำลองเพื่อการพยากรณ์ตามกฎให้มีประสิทธิภาพสูง เป็นงานวิจัยที่ท้าท้าย งานวิจัยนี้จึงมีวัตถุประสงค์ เพื่อสร้างแบบจำลองที่มีประสิทธิภาพในการพยากรณ์โดยใช้แบบจำลองพื้นฐาน คือ FURIA, MODLEM และ RIPPER และเทคนิคแบบรวมที่เป็นที่นิยม คือ Bagging และWeighted Instances Handler Wrapper (WI) โดยใช้ข้อมูลผู้ป่วยโรคมะเร็งเต้านม จำนวน 699 คน และข้อมูลผู้ป่วยโรคเบาหวาน จำนวน 768 คน การวัดประสิทธิภาพแบบจำลองได้ทดลองแบ่งชุดข้อมูลออกเป็นชุดข้อมูลเรียนรู้และชุดข้อมูลทดสอบด้วยการใช้หลักการ10-fold cross validation และ ทำการทดลอง 10 รอบ เพื่อลดความลำเอียงของการทดลอง ในการวัดประสิทธิภาพการพยากรณ์ของแบบจำลองที่สร้างจากแต่ละเทคนิคด้วยค่า Sensitivity, Specificity และ Accuracy จากการศึกษาพบว่า เทคนิค Bagging สามารถเพิ่มค่า Accuracy ในการพยากรณ์การเกิดโรคมะเร็งเต้านมได้สูงถึง 4.91%