KMITL Innovation Expo 2025 Logo

Offline Evaluation System for Large Language Models in Designing Thai Expert Systems

Abstract

The offline evaluation system for Thai-language large language models (LLMs) is designed to enable experts to efficiently test and assess various LLMs without relying on external services. This enhances the flexibility in selecting LLMs that best suit organizational needs or expert systems (ES). The system operates on personal computers, ensuring data security by eliminating concerns about external data storage. Additionally, it supports model testing and development using Retrieval-Augmented Generation (RAG), allowing access to domain-specific knowledge for accurate, energy-efficient processing. This ensures that the models can perform optimally and effectively meet the demands of organizations and expert systems.

Objective

ในปัจจุบัน โมเดลภาษาขนาดใหญ่ (Large Language Models: LLMs) ได้รับความนิยมและถูกนำไปใช้งานในหลากหลายด้าน ทั้งในองค์กรและภาคอุตสาหกรรม โดยเฉพาะในการพัฒนาระบบผู้เชี่ยวชาญ (Expert System: ES) ที่ช่วยให้ผู้ใช้สามารถทำงานได้อย่างมีประสิทธิภาพสูงขึ้น ไม่ว่าจะเป็นการวิเคราะห์ข้อมูล การให้คำแนะนำ หรือการประมวลผลข้อมูลเฉพาะทางในแต่ละสาขา อย่างไรก็ตาม การใช้โมเดลภาษาขนาดใหญ่จากภายนอกอาจมีข้อจำกัดด้านความปลอดภัยของข้อมูล และบางองค์กรจำเป็นต้องประมวลผลภายในระบบของตนเองเพื่อลดความเสี่ยงจากการเชื่อมต่อภายนอก ดังนั้น การพัฒนาระบบทดสอบโมเดลภาษาขนาดใหญ่แบบออฟไลน์ในภาษาไทยจึงมีความสำคัญ ทั้งในแง่ของการรักษาความปลอดภัยข้อมูล ลดการพึ่งพาบริการจากภายนอก และเพิ่มความยืดหยุ่นในการเลือกใช้โมเดลที่เหมาะสมกับงานเฉพาะด้าน อย่างไรก็ตาม การทดสอบและประเมินประสิทธิภาพของ LLMs ในสภาพแวดล้อมแบบออฟไลน์ถือเป็นความท้าทาย เนื่องจากต้องคำนึงถึงปัจจัยต่าง ๆ เช่น ความแม่นยำของโมเดล ทรัพยากรที่ใช้ในการประมวลผล และความสามารถในการรองรับภาษาไทยได้อย่างมีประสิทธิภาพ

Other Innovations

Synthesis and Characterization of Metallic Nanoparticles Embedded in Cellulose Nanocrystal Films for Antimicrobial in Edible Peel Fruit as Smart Packaging

คณะวิทยาศาสตร์

Synthesis and Characterization of Metallic Nanoparticles Embedded in Cellulose Nanocrystal Films for Antimicrobial in Edible Peel Fruit as Smart Packaging

Metallic nanoparticles embedded in cellulose nanocrystal (MNPs/CNC) films were prepared by solution casting for antimicrobial and fungus in edible peel fruit. MNPs/CNC was synthesized by ultrasonic waves. The as-synthesized was characterized by the chemical characteristics by the transmission electron microscope (TEM), X-ray photoelectron spectroscopy (XPS), X-ray diffraction analysis (XRD), Fourier transform infrared spectrometer (FT-IR), zeta potential analyzer, and UV-visible spectrophotometer. MNPs/CNC films had high potential in antimicrobial and fungus. Therefore, MNPs/CNC can be used to wrap edible peeled fruit to inhibit the growth of microorganisms, which can effectively extend the shelf life of fruits.

Read more
The use of Houttuynia cordata Thunb and Piper retrofractum Vahl extracts to inhibit opportunistic infections in patient with atopic dermatitis

คณะวิทยาศาสตร์

The use of Houttuynia cordata Thunb and Piper retrofractum Vahl extracts to inhibit opportunistic infections in patient with atopic dermatitis

Atopic dermatitis patients are the second largest number among skin disease patients. There is no cure for atopic dermatitis, and it can only be treated to relieve symptoms, causing chronic disease. There is a chance that opportunistic infections will enter and cause more disease from the patient's wound, causing the patient to have complications from other infections. This study is interested in studying the reduction of the chance of opportunistic infections in patients with atopic dermatitis using natural extracts. The interest is in Plu Kaow and long pepper because there is data supporting the inhibition of microorganisms. The leaves of both plants are crudely extracted, soaked in 95% ethanol for 7 days, filtered with a Buchner filter, and the extracts are tested for phytochemicals to analyze phenolic components, flavonoids, tannins, anthocyanin, DPPH, and tested for antimicrobial properties. The experiments consisted of 5 types of gram-positive and gram-negative bacteria: E. coli, Bacillus subtilis, Pseudomonas aeruginosa, Staphylococcus aureus, and Staphylococcus epidermidis. The researcher expects that this can be further developed and used to treat patients with atopic dermatitis.

Read more
Productivity Improvement in Warehouse Using Power BI and Power Automate

คณะวิศวกรรมศาสตร์

Productivity Improvement in Warehouse Using Power BI and Power Automate

This cooperative education project aims to enhance speed and facilitate the verification process for stock issuance, transfers, distributions, and receipts in the warehouse. The primary focus is to address issues related to wasted time and delays in operational processes. Through analysis, it was found that SAP, the current system, involves complex processes requiring specialized expertise. Although the company has developed the iWarehouse system to improve efficiency, delays and procedural complexity persist. To resolve these challenges, Power BI was utilized to visualize data related to stock issuance, transfers, distributions, and receipts, allowing warehouse staff to work more efficiently by minimizing waste and accelerating processes. Additionally, Power Automate was integrated to automate the processing of received stock numbers from emails, reducing errors and delays caused by manual data entry. The results of this improvement indicate a significant increase in employee efficiency and a noticeable reduction in wasted time. Upon project completion, the findings and development approach will be provided to the company for further enhancement.

Read more