KMITL Innovation Expo 2025 Logo

VIDEO-BASED EMOTION DETECTION FROM FACIAL EXPRESSIONS WITH ROBUSTNESS TO PARTIAL OCCLUSION

Abstract

Facial Expression Recognition (FER) has attracted considerable attention in fields such as healthcare, customer service, and behavior analysis. However, challenges remain in developing a robust system capable of adapting to various environments and dynamic situations. In this study, the researchers introduced an Ensemble Learning approach to merge outputs from multiple models trained in specific conditions, allowing the system to retain old information while efficiently learning new data. This technique is advantageous in terms of training time and resource usage, as it reduces the need to retrain a new model entirely when faced with new conditions. Instead, new specialized models can be added to the Ensemble system with minimal resource requirements. The study explores two main approaches to Ensemble Learning: averaging outputs from dedicated models trained under specific scenarios and using Mixture of Experts (MoE), a technique that combines multiple models each specialized in different situations. Experimental results showed that Mixture of Experts (MoE) performs more effectively than the Averaging Ensemble method for emotion classification in all scenarios. The MoE system achieved an average accuracy of 84.41% on the CK+ dataset, 54.20% on Oulu-CASIA, and 61.66% on RAVDESS, surpassing the 71.64%, 44.99%, and 57.60% achieved by Averaging Ensemble in these datasets, respectively. These results demonstrate MoE’s ability to accurately select the model specialized for each specific scenario, enhancing the system’s capacity to handle more complex environments.

Objective

ปัจจุบันการตรวจจับอารมณ์ของมนุษย์ผ่านการแสดงออกทางใบหน้า (Emotion Detection Using Facial Expression) ได้รับความสนใจมากขึ้น เนื่องจากมีการประยุกต์ใช้อย่างแพร่หลายในหลายด้าน เช่น สุขภาพจิตการศึกษา และการบริการลูกค้า อย่างไรก็ตาม การพัฒนาระบบที่มีความแม่นยำและสามารถทนทานต่อการเปลี่ยนแปลงของสภาพแวดล้อม เช่น การบดบังบางส่วนของใบหน้า หรือสภาพแสงที่ไม่สม่ำเสมอ ยังคงเป็นความท้าทายหลัก โดยเฉพาะการพัฒนาโมเดลที่สามารถทำงานได้ในสภาพแวดล้อมที่หลากหลาย จากการศึกษางานวิจัยเกี่ยวกับ Facial Expression Recognition (FER) ผู้วิจัยพบว่าเทคนิค Frame Attention Network (FAN) ซึ่งเป็นการประยุกต์ใช้กลไก Attention จากงานด้านการประมวลผลภาษาสามารถนำมาใช้เพื่อให้ความสำคัญกับเฟรมที่มีความหมายในวิดีโอ ทำให้ระบบสามารถโฟกัสเฉพาะเฟรมที่แสดงอารมณ์ที่สำคัญได้ ซึ่งส่งผลต่อประสิทธิภาพของโมเดล ทีมวิจัยจึงนำเทคนิคนี้มาปรับปรุงเพื่อเพิ่มความทนทานของระบบในการจัดการสถานการณ์ดังกล่าว เพื่อพัฒนาประสิทธิภาพของระบบให้ดียิ่งขึ้น ทีมวิจัยได้ใช้แนวทาง Ensemble Learning ซึ่งเป็นการรวมผลลัพธ์จากหลายโมเดลที่ถูกฝึกในเงื่อนไขเฉพาะ การใช้ Ensemble ช่วยลดข้อผิดพลาดจากการใช้โมเดลเดียว และเพิ่มความแม่นยำและความน่าเชื่อถือของผลลัพธ์ โดยเฉพาะอย่างยิ่งในสภาพแวดล้อมที่หลากหลาย อย่างไรก็ตาม ทีมวิจัยยังได้ขยายการพัฒนาเพิ่มเติมโดยใช้เทคนิค Multi-Task Learning (MTL) เพื่อให้ระบบสามารถเรียนรู้จากหลายงานพร้อมกัน ซึ่งในงานวิจัยนี้ได้นำ MTL มาใช้ใน Mixture of Experts โดยให้ MTL ทำหน้าที่เป็นกลไก Gating ช่วยเลือกโมเดลที่เหมาะสมกับแต่ละสถานการณ์ เช่น การบดบังใบหน้า ทำให้ระบบสามารถตัดสินใจได้อย่างมีประสิทธิภาพว่าควรใช้โมเดลใดในสภาวะแวดล้อมที่ต่างไป สามารถรักษาความแม่นยำแม้ในสภาวะที่มีความหลากหลายและยังคงรักษาข้อดีในเรื่องของความสามารถในการขยายขนาด (Scaling Up) ได้อย่างมีประสิทธิภาพ

Other Innovations

Natural Herbicide Products as a Substitute for Paraquat

คณะเทคโนโลยีการเกษตร

Natural Herbicide Products as a Substitute for Paraquat

The use of chemical herbicides in agriculture has raised concerns due to its adverse effects on farmers' health, environmental sustainability, and consumer safety. Paraquat, a widely used herbicide, has been banned in Thailand. In response to this issue, this research focused on the development of natural herbicide products as an alternative to conventional chemical herbicides. The study involved the extraction of bioactive compounds from selected plants with potential herbicidal properties and evaluating their effectiveness in controlling target weeds. The results indicated that the developed natural herbicide demonstrates significant weed control efficiency. Additionally, this product can be applied to organic farming systems, reducing reliance on hazardous chemicals and promoting sustainable agricultural practices. The development of this natural herbicide served as an essential step toward environmentally friendly and safe agricultural solutions.

Read more
Electrochemical Synthesis of Drug Molecules

คณะวิทยาศาสตร์

Electrochemical Synthesis of Drug Molecules

The synthesis using electrons as reagents instead of oxidants is a method for synthesizing drug molecules in a way that reduces the use of chemicals, thereby minimizing environmental pollution.

Read more
Crispy Rice Berry Waffle

คณะครุศาสตร์อุตสาหกรรมและเทคโนโลยี

Crispy Rice Berry Waffle

Crispy Rice-berry Snack is a product made from broken rice-berry rice that has been processed into a snack that is thin and crispy, bite-sized. Broken rice-berry rice is cooked, finely ground, and mixed with other ingredients to increase its nutritional value, such as adding plant seeds, adding plant protein nutrients, and then forming it into sheets using heat. The resulting product is a thin sheet, purple-brown in color, crispy, and has the smell of the ingredients used in the production process. It does not contain sugar or sweeteners. It is used as a snack with tea or coffee. Crispy Rice-berry Waffle is a product that contains complete nutrients, including carbohydrates, protein, and fat, which are derived from the ingredients in the production formula.

Read more