Financial Risk Early Warning Models Based on Machine Learning

Abstract

With the rapid development of the Chinese economy and the deepening of supply side structural reform, listed companies are facing increasingly fierce market competition and financial uncertainty. In this context, companies need to complete transformation and upgrading through technological innovation and intelligent management, accurately predict and respond to financial risks, in order to achieve sustainable and healthy development. This article takes the quarterly financial indicator data of Chinese listed companies from 2017 to 2024 as the research object. Window sliding and SMOTE techniques are used to handle sample imbalance and generate new samples. PCA and random forest methods are respectively used for feature extraction. In terms of model construction, this article combines traditional machine learning and deep learning techniques, covering traditional machine learning models (logistic regression, support vector machine, decision tree, BP neural network) and their ensemble models (random forest, XGBoost, Stacking model), deep learning models (CNN, BiLSTM, attention mechanism) and their ensemble models (CNN BiLSTM, CNN-AT, BiLSTM-AT, CNN-BiLSTM-AT). In addition, this article explores the optimization of hyperparameters for deep learning models using the Hyperband algorithm, as well as the optimization of activation functions for each layer.

The research results indicate that financial characteristics such as fixed asset ratio, working capital, and current ratio have a significant impact on financial risk prediction. Compared with the traditional machine learning model, the deep learning model has significant advantages in performance, while the integrated learning model outperforms the single model, and the introduction of attention mechanism further improves the performance of the model. Especially under the condition of a time step of 8, the CNN-BiLSTM-AT ensemble deep learning model achieved the highest accuracy (99.4%). By optimizing the activation function of the CNN-BiLSTM-AT model (custom ReLU_Tanh), the model's performance on the ROC curve is closer to the upper left corner, demonstrating a better balance of sensitivity and specificity. In addition, this article selected data from two listed companies for 100 repeated experiments to further verify the stability and effectiveness of the model in practical applications. The experimental results show that integrated deep learning models can more effectively capture complex temporal and spatial dependencies in financial data, providing a robust and effective solution for predicting financial risks in the dynamic market environment of China.

ด้วยการพัฒนาอย่างรวดเร็วของเศรษฐกิจจีนและการปฏิรูปโครงสร้างด้านอุปทานที่ลึกซึ้งยิ่งขึ้น บริษัทจดทะเบียนต้องเผชิญกับการแข่งขันทางการตลาดที่รุนแรงขึ้นและความไม่แน่นอนทางการเงิน ในบริบทนี้ธุรกิจจำเป็นต้องบรรลุการเปลี่ยนแปลงและยกระดับผ่านนวัตกรรมทางเทคโนโลยีและการจัดการที่ชาญฉลาดคาดการณ์และตอบสนองต่อความเสี่ยงทางการเงินได้อย่างแม่นยำเพื่อการพัฒนาที่ยั่งยืนและมีสุขภาพดี บทความนี้ใช้ข้อมูลตัวชี้วัดทางการเงินรายไตรมาสของบริษัทจดทะเบียนจีนตั้งแต่ปี 2017 ถึง 2024 เป็นวัตถุวิจัย เลื่อนหน้าต่างและเทคโนโลยี SMOTE ถูกนำมาใช้เพื่อจัดการกับความไม่สมดุลของตัวอย่างและสร้างตัวอย่างใหม่ ใช้วิธี PCA และ Random Forest ในการสกัดลักษณะ ตามลำดับ ในแง่ของการสร้างแบบจำลอง บทความนี้ได้รวมเทคนิคการเรียนรู้ของเครื่องแบบดั้งเดิมและการเรียนรู้เชิงลึกเข้าด้วยกัน โดยครอบคลุมรูปแบบการเรียนรู้ของเครื่องแบบดั้งเดิม (การถดถอยทางตรรกะ, เครื่องเวกเตอร์สนับสนุน, ต้นไม้การตัดสินใจ, เครือข่ายประสาท BP) และแบบจำลองแบบบูรณาการ (ป่าสุ่ม, XGBoost, แบบจำลองซ้อน) รูปแบบการเรียนรู้เชิงลึก (CNN, BiLSTM, กลไกความสนใจ) และโหมดบูรณาการ (CNN-BILSTM, CNN-AT, BiLSTM AT, CNN-BILSTM AT) นอกจากนี้บทความนี้ยังได้สำรวจ hyperparameters เพื่อเพิ่มประสิทธิภาพรูปแบบการเรียนรู้เชิงลึกโดยใช้อัลกอริทึม Hyperband และฟังก์ชั่นการเปิดใช้งานสำหรับการเพิ่มประสิทธิภาพในแต่ละเลเยอร์ ผลการศึกษาพบว่าลักษณะทางการเงิน เช่น อัตราส่วนสินทรัพย์ถาวร เงินทุนหมุนเวียน และอัตราส่วนสภาพคล่อง มีผลกระทบต่อการคาดการณ์ความเสี่ยงทางการเงินอย่างมีนัยสำคัญ เมื่อเทียบกับโมเดลการเรียนรู้ของเครื่องแบบดั้งเดิม โมเดลการเรียนรู้เชิงลึกมีข้อได้เปรียบด้านประสิทธิภาพอย่างมาก ในขณะที่โมเดลการเรียนรู้แบบบูรณาการนั้นเหนือกว่าโมเดลเดียว และการแนะนำกลไกความสนใจจะช่วยเพิ่มประสิทธิภาพของรูปแบบให้ดียิ่งขึ้น โดยเฉพาะอย่างยิ่งกับสเต็ปเวลา 8 โหมด CNN-BiLSTM AT Integrated Deep Learning มีความแม่นยำสูงสุด (99.4%) ด้วยการเพิ่มประสิทธิภาพการทำงานของรุ่น CNN-BiLSTM AT (Custom ReLU_Tanh) ซึ่งใกล้เคียงกับมุมบนซ้ายบนเส้นโค้ง ROC แสดงให้เห็นถึงความสมดุลที่ดีขึ้นของความไวและความจำเพาะ นอกจากนี้บทความนี้ได้คัดเลือกข้อมูลจาก 2 บริษัทจดทะเบียนเพื่อทำการทดลองซ้ำ 100 ครั้งเพื่อตรวจสอบความเสถียรและประสิทธิภาพของโมเดลนี้ในการใช้งานจริง ผลการทดลองแสดงให้เห็นว่าแบบจำลองการเรียนรู้เชิงลึกแบบบูรณาการสามารถจับภาพความซับซ้อนของเวลาและการพึ่งพาเชิงพื้นที่ในข้อมูลทางการเงินได้อย่างมีประสิทธิภาพมากขึ้นและเป็นโซลูชั่นที่มีประสิทธิภาพในการคาดการณ์ความเสี่ยงทางการเงินในสภาพแวดล้อมของตลาดแบบไดนามิกของจีน