KMITL Innovation Expo 2025 Logo

Offline Evaluation System for Large Language Models in Designing Thai Expert Systems

Abstract

The offline evaluation system for Thai-language large language models (LLMs) is designed to enable experts to efficiently test and assess various LLMs without relying on external services. This enhances the flexibility in selecting LLMs that best suit organizational needs or expert systems (ES). The system operates on personal computers, ensuring data security by eliminating concerns about external data storage. Additionally, it supports model testing and development using Retrieval-Augmented Generation (RAG), allowing access to domain-specific knowledge for accurate, energy-efficient processing. This ensures that the models can perform optimally and effectively meet the demands of organizations and expert systems.

Objective

ในปัจจุบัน โมเดลภาษาขนาดใหญ่ (Large Language Models: LLMs) ได้รับความนิยมและถูกนำไปใช้งานในหลากหลายด้าน ทั้งในองค์กรและภาคอุตสาหกรรม โดยเฉพาะในการพัฒนาระบบผู้เชี่ยวชาญ (Expert System: ES) ที่ช่วยให้ผู้ใช้สามารถทำงานได้อย่างมีประสิทธิภาพสูงขึ้น ไม่ว่าจะเป็นการวิเคราะห์ข้อมูล การให้คำแนะนำ หรือการประมวลผลข้อมูลเฉพาะทางในแต่ละสาขา อย่างไรก็ตาม การใช้โมเดลภาษาขนาดใหญ่จากภายนอกอาจมีข้อจำกัดด้านความปลอดภัยของข้อมูล และบางองค์กรจำเป็นต้องประมวลผลภายในระบบของตนเองเพื่อลดความเสี่ยงจากการเชื่อมต่อภายนอก ดังนั้น การพัฒนาระบบทดสอบโมเดลภาษาขนาดใหญ่แบบออฟไลน์ในภาษาไทยจึงมีความสำคัญ ทั้งในแง่ของการรักษาความปลอดภัยข้อมูล ลดการพึ่งพาบริการจากภายนอก และเพิ่มความยืดหยุ่นในการเลือกใช้โมเดลที่เหมาะสมกับงานเฉพาะด้าน อย่างไรก็ตาม การทดสอบและประเมินประสิทธิภาพของ LLMs ในสภาพแวดล้อมแบบออฟไลน์ถือเป็นความท้าทาย เนื่องจากต้องคำนึงถึงปัจจัยต่าง ๆ เช่น ความแม่นยำของโมเดล ทรัพยากรที่ใช้ในการประมวลผล และความสามารถในการรองรับภาษาไทยได้อย่างมีประสิทธิภาพ

Other Innovations

Ancient gold, Praow Daendin dessert

วิทยาเขตชุมพรเขตรอุดมศักดิ์

Ancient gold, Praow Daendin dessert

Traditional Thong Yip dessert, or locally known as Khee Man dessert, is a dessert made from flour made from yellow rice.

Read more
Serene Arbor Park

คณะเทคโนโลยีการเกษตร

Serene Arbor Park

The design of a 50-rai public park in the Lat Krabang district of Bangkok aims to provide a recreational space for urban residents in Lat Krabang and nearby areas. The focus is on user groups such as students, university students, and working individuals, incorporating the concept of Universal Design to ensure that everyone in society can use the space equally. However, there is still an emphasis on creating active recreational areas to meet the sports and exercise needs of students, university students, and working individuals. The design of the Lat Krabang area, which is a low-lying region resembling a basin, includes features for water retention, water management, and water treatment for use within the park. The area will focus on exercise, sports, running, walking, relaxation, and educational garden spaces.

Read more
Dream High Packaging Protection from Mycelium

คณะบริหารธุรกิจ

Dream High Packaging Protection from Mycelium

In a world increasingly focused on sustainability and reducing environmental impact, DreamHigh is pioneering an innovative approach to packaging solutions using mycelium—a natural, biodegradable, and renewable material derived from fungi. Our mission is to revolutionize the packaging industry by offering eco-friendly alternatives that not only reduce waste but also align with global efforts to combat climate change. Mycelium packaging offers a compelling alternative to traditional plastic and Styrofoam packaging, which contribute significantly to environmental pollution. It is fully biodegradable, compostable, and capable of breaking down in natural environments within weeks, leaving no toxic residues behind. Additionally, mycelium-based products are lightweight, durable, and customizable, making them suitable for a wide range of applications, from consumer goods packaging to protective shipping materials. DreamHigh’s business plan outlines a scalable production process leveraging advanced mycelium cultivation techniques and partnerships with local agricultural sectors to utilize agricultural waste as a key raw material. This not only ensures cost-efficiency but also supports a circular economy by repurposing waste that would otherwise be discarded.

Read more