การประกวดผลงานนวัตกรรมสายอุดมศึกษา 2569 | วช. ✦ v1-Ultra

Thai Medical AI Assistant via Fine-Tuned LLM with RAG and Chain-of-Thought

ระบบผู้ช่วยทางการแพทย์ภาษาไทยด้วยปัญญาประดิษฐ์ โดยการปรับแต่งโมเดลภาษาขนาดใหญ่ร่วมกับ RAG และ CoT

Fine-tuned LLM Hybrid RAG (FAISS+BM25+GraphRAG+RAPTOR) 5-Step CoT PDPA Compliant Multimodal DoRA+RSLoRA Constitutional AI Apache 2.0 Gradio 5.50 · edge-tts 7.2.8

BERTScore F1 = 0.6768 chinda-qwen3-4b · 4B NF4+PEFT 3,586 KB Chunks · 926 KG Nodes TRL 4 → 6 Boot 144.3s · VRAM 4.56/15.6 GB

บทคัดย่อ (v1-Ultra): งานวิจัยนี้นำเสนอการพัฒนาระบบผู้ช่วยทางการแพทย์ภาษาไทยด้วยปัญญาประดิษฐ์ โดยทำการเปรียบเทียบและ Fine-tune โมเดล LLM ภาษาไทย 3 โมเดล ได้แก่ iapp/chinda-qwen3-4b, KBTG-Labs/THaLLE-0.2-ThaiLLM-8B-fa และ typhoon-ai/typhoon2.5-qwen3-4b ด้วยเทคนิค DoRA+RSLoRA+4-bit NF4 ร่วมกับ Hybrid RAG (FAISS IVFFlat GPU + BM25 + GraphRAG 926 nodes + RAPTOR 2 levels + RRF fusion) และ 5-Step Agentic Chain-of-Thought พร้อม Constitutional AI 6 principles, 2-pass revision หยุดอัตโนมัติเมื่อ score ≥ 0.80 เพื่อความปลอดภัย + Guardrails 6-layer บนชุดข้อมูลทางการแพทย์ภาษาไทย 3,600 แถว พร้อม knowledeg_base สำหรับ RAG 3,586 chunks บน 🔥 GPU A100 80 GB ผล iapp/chinda-qwen3-4b (Fine-tuned) ได้คะแนน BERTScore-F1 สูงสุด = 0.6768 ระบบรองรับ Multimodal Input (ข้อความ/เสียง/ภาพ) ด้วย ColPali v1.3 NF4, Thai-Whisper-Small, edge-tts 7.2.8 (24kHz) และออกแบบให้สอดคล้อง PDPA 2562 (base64+zlib+SHA256, SQLite WAL, Audit Log, Consent 2025-PDPA-v1) พร้อม Triage 4 ระดับ + Emergency Fast-path (FAST stroke, PHQ-9) ระบบ deploy บน ⚡ GPU Tesla T4 15.6 GB VRAM ใช้จริง 4.56/15.6 GB boot time 144 วินาที (T4) ผลประเมิน: BERTScore‑F1 = 0.6768, ROUGE‑L = 0.1000, Faithfulness ~0.84 (RAGAS)

🎓 อาจารย์ที่ปรึกษา: ผู้ช่วยศาสตราจารย์สุดา เธียรมนตรี · มหาวิทยาลัยทักษิณ

👨‍💻 นักศึกษา: นายพิษณุ ทองศรี (50%) · นายอภิษิฐน์ มะสมัน (20%) · นางสาวนันท์นภัส รอดบุตร (20%)

🏛️ หน่วยงาน: ทีม AIoTx Tech · มหาวิทยาลัยทักษิณ · สถาบันเทคโนโลยีจิตรลดา

🖥️ Platform: Kaggle · Tesla T4 · VRAM 15.6 GB · CUDA 12.8 · Gradio 5.50.0

SLIDE 02

ปัญหาและช่องว่างตลาด

Problem Statement & Market Gap

ขาดแคลนบุคลากรแพทย์

อัตราส่วนแพทย์ต่อประชากรต่ำกว่าเกณฑ์ WHO โดยเฉพาะพื้นที่ห่างไกล ชนบทและภาคใต้ตอนล่าง

เข้าถึงบริการยาก

พื้นที่ห่างไกล ต้นทุนการเดินทางสูง ประชาชนไม่สามารถปรึกษาแพทย์ได้ทันเวลา

โรงพยาบาลแออัด

ไม่มีระบบ Triage เบื้องต้น ผู้ป่วยรอนาน แพทย์รับภาระงานสูง ระบบล่มช้า

LLM ไม่รองรับภาษาไทย

โมเดลทั่วไปถูกออกแบบสำหรับ EN/ZH ไม่เข้าใจบริบทวัฒนธรรม โรค และศัพท์การแพทย์ไทย

ความปลอดภัยข้อมูล

ระบบ AI ทั่วไปไม่สอดคล้อง PDPA 2562 ไม่มี Consent Flow ไม่เข้ารหัสข้อมูลสุขภาพ

Hallucination สูง

LLM ทั่วไปให้ข้อมูลทางการแพทย์ที่ผิดพลาด ขาด Knowledge Base อ้างอิงที่เชื่อถือได้

Market Gap: ยังไม่มี Thai Medical AI ที่ครบวงจร — Fine-tuned ภาษาไทย + Hybrid RAG (3,586 chunks) + 5-Step CoT + Constitutional AI 6 principles + PDPA + Multimodal + Edge T4 Deployment ทั้งหมดในระบบเดียว

🎯 โอกาส: Thai Medical AI สำหรับคนไทยโดยเฉพาะ · ใช้ Open-source LLM ภาษาไทย · PDPA-compliant · ทำงาน Edge T4 GPU ได้ · 3,586 chunks Knowledge Base + GraphRAG 926 nodes

SLIDE 03

โอกาสทางตลาด

Market Opportunity

$178B

ตลาด AI Healthcare ทั่วโลก ปี 2573

$352M

ตลาด AI Healthcare ไทย ปี 2577

44%

ผู้บริโภคเชื่อมั่น AI Healthcare (KPMG)

71M+

ประชากรไทย กลุ่มเป้าหมายหลัก

📌 แนวโน้มที่เอื้ออำนวย: นโยบาย Digital Health ของกระทรวงสาธารณสุข, UHC ไทย, BCG Economy Model และการระบาดใหญ่เพิ่มความต้องการ Telehealth · ระบบทำงานบน T4 GPU ราคาประหยัด

🏆 Competitive Advantage vs Sensely.com: ภาษาไทย 100% · RAG Dynamic 3,586 chunks · Multimodal · PDPA · Edge 4B NF4 (vs Cloud-only) · Open-source Apache 2.0 · GraphRAG 926 nodes

SLIDE 04

จุดเด่นและสถาปัตยกรรมระบบ v1-Ultra

Key Innovations & System Architecture

5-Step Agentic CoT

Input → Symptom Extraction → Hybrid RAG → LLM + Constitutional AI → Output Validation · FAST stroke fast-path · PHQ-9 screening

Hybrid RAG ขั้นสูง

FAISS IVFFlat GPU + Thai BM25 (PyThaiNLP) + GraphRAG 926 nodes + RAPTOR 2 levels + RRF (dense=1.0, bm25=0.8, graph=0.7) + BGE Reranker

DoRA + RSLoRA + NF4

Weight-Decomposed LoRA + Rank-Stabilized (α/√r) + 4-bit NF4 QLoRA · chinda-qwen3-4b + PEFT adapter · Qwen3 Thinking Mode suppression

Constitutional AI + Guardrails

6 medical principles · 2-pass revision · early-stop ≥ 0.80 · 6-layer guardrails · 31 patterns · 30 req/min rate-limit · Presidio PII

Multimodal Input

ColPali v1.3 NF4 (Vision) · Thai-Whisper-Small ASR · edge-tts 7.2.8 Thai TTS 24kHz · HyDE query expansion

PDPA-first Design

base64+zlib+SHA256 · SQLite WAL · Consent Management 2025-PDPA-v1 · Audit Log · DataRetentionManager · Edge ไม่ส่งข้อมูลขึ้น Cloud

🧠 5-Step Chain-of-Thought Pipeline (v1-Ultra)

Step 1 Input · PII · PDPA · Profile

Step 2 Symptom · FAST · PHQ-9 · Triage

Step 3 RAG · FAISS+BM25 · Graph · RAPTOR · HyDE

Step 4 LLM · Constitutional AI (2-pass)

Step 5 Validate · Assemble · TTS · RAGAS

🏗️ System Architecture Flow

📱 ผู้ใช้งานข้อความ/เสียง/ภาพ

🔒 Guardrails6-layer · 31 patterns

🎙️ MultimodalWhisper · ColPali NF4

📚 Hybrid RAGFAISS+BM25+Graph+RAPTOR

🧠 Constitutional AI6 principles · 2-pass

🤖 chinda-qwen3-4bNF4+PEFT · 1.2 GB

🚨 Triage4 ระดับ · FAST · PHQ-9

🔊 TTSedge-tts 24kHz

DoRA+RSLoRA4-bit NF4 FAISS IVFFlat GPU-cu12Thai BM25 (PyThaiNLP 5.3.4) RRF FusionBGE Reranker v2-m3 GraphRAG 926 nodesRAPTOR 2 levels Qwen3 Thinking CtrlRAGAS 0.4.3 Gradio 5.50.0ChromaDB 1.5.9 HyDE Expansion HealthMonitor VRAM Watchdog LoRA Negative Sample Saver

🚨 ระบบ Triage 4 ระดับ + Severity Score 0-10

CRITICAL – ฉุกเฉินมาก (score ≥ 7) HIGH – เร่งด่วน MEDIUM – ปานกลาง LOW – ไม่เร่งด่วน

⚡ FAST Stroke Fast-Path: F=Face drooping · A=Arm weakness · S=Speech difficulty → โทร 1669 ทันที (Golden Hour 4.5 ชม.) | 🧠 PHQ-9 Screening: score ≥ 10 → moderate-severe → สายด่วน 1323

SLIDE 05

การทบทวนวรรณกรรม & สิทธิบัตร

Literature Review & Patent Search

📖 Key Literature

1

Med-PaLM 2 (Singhal et al., 2023)

LLM Fine-tuned ทางการแพทย์ตอบคำถามระดับผู้เชี่ยวชาญ แต่ไม่รองรับภาษาไทย → ช่องว่างที่งานนี้เติมเต็ม

2

RAG (Lewis et al., 2020)

ผสาน Retrieval + Generation ลด Hallucination — งานนี้ขยายสู่ Hybrid RAG (FAISS+BM25+GraphRAG+RAPTOR+HyDE+RRF+MMR) 3,586 chunks

3

Chain-of-Thought (Wei et al., 2022)

Step-by-step prompting เพิ่มความแม่นยำ — งานนี้ขยายสู่ Agentic 5-Step CoT พร้อม Constitutional AI revision

4

LoRA → DoRA → RSLoRA

Hu et al. (2021) → Liu et al. (2024) → Kalajdzievski (2023): พัฒนาการ Fine-tuning ประสิทธิภาพสูง ใช้งานจริงใน v1-Ultra

5

Medical RAG (Peng et al., 2023)

RAG ในบริบทการแพทย์ลด Hallucination อย่างมีนัยสำคัญ — ยืนยันแนวทาง Hybrid RAG ของงานวิจัยนี้

6

RAPTOR (Sarthi et al., 2024)

Recursive Abstractive Processing Tree — ใช้สร้าง 2-level cluster summaries (L1: 449 nodes, L2: 6 nodes) บน 3,586 KB chunks

🔍 Patent Search

ฐานข้อมูล	คำค้น	ผล
Google Patents	Thai Medical LLM	ไม่พบที่ตรงกัน
USPTO	Medical chatbot RAG Thai	ไม่พบที่ตรงกัน
WIPO	Chain-of-Thought Medical AI	ไม่พบตรง
DIP Thailand	ผู้ช่วยแพทย์ AI ไทย	ยังไม่มีจดทะเบียน

🔐 ข้อสรุปการสืบค้นสิทธิบัตร: ไม่พบสิทธิบัตรที่ครอบคลุมการผสานระหว่าง Fine-tuned Thai LLM + Hybrid RAG (FAISS+BM25+GraphRAG+RAPTOR) + Agentic 5-Step CoT + Constitutional AI 6 principles + PDPA + Multimodal + HealthMonitor ในระบบเดียว — แสดงถึง ความแปลกใหม่

📝 สถานะ: อยู่ระหว่างพิจารณายื่นอนุสิทธิบัตร

📊 โมเดลที่ใช้ใน v1-Ultra (จาก Run-Output):
• iapp/chinda-qwen3-4b + PEFT adapter (Apache 2.0) — LLM หลัก
• ibm-granite/granite-embedding-311m-multilingual-r2 — Embedding 768d
• BAAI/bge-reranker-v2-m3 — BGE CrossEncoder Reranker
• xb2g/thai-whisper-small — Thai ASR
• vidore/colpali-v1.3-merged — Vision (heuristic fallback)
• th-TH-PremwadeeNeural — edge-tts 7.2.8 TTS

SLIDE 06

Business Model Canvas & คุณลักษณะ v1-Ultra

BMC / Features / Scope

KEY PARTNERS

🏥 โรงพยาบาลนำร่อง
🎓 ม.ทักษิณ · CDTI
☁️ Kaggle T4 GPU
🏛️ สำนักงานสาธารณสุข
🤝 ibm-granite · BAAI

KEY ACTIVITIES

⚙️ Fine-tune chinda-qwen3-4b
📚 RAG 3,586 chunks KB
🔒 PDPA Compliance
📊 RAGAS 0.4.3 Eval
🧠 Constitutional AI

VALUE PROPOSITION

✅ คำปรึกษา 24/7
✅ Triage 4 ระดับ + FAST
✅ Multimodal Input
✅ PDPA-compliant
✅ ภาษาไทย 100%
✅ Edge T4 Deployment

CUSTOMER SEGMENTS

👥 ประชาชนห่างไกล
👴 ผู้สูงอายุ
🏥 โรงพยาบาล/คลินิก
💼 Health Tech SaaS
🎓 นักศึกษาแพทย์

CHANNELS

🖥️ Gradio 5.50 Web App
🔌 API / SaaS
🤝 Pilot Hospital
📦 Edge GGUF/NF4
🌐 Kaggle Public

KEY RESOURCES

🖥️ Tesla T4 15.6GB VRAM
📊 3,586 KB Chunks
📝 Thai Medical Corpus
👨‍💻 ML Team 4 คน
🧰 CUDA 12.8 Stack

COST STRUCTURE

💻 GPU Training Cost
☁️ Kaggle Pro+
🔬 R&D · Dataset
🛡️ Safety Audit
📋 PDPA Compliance

REVENUE STREAMS

💰 SaaS Subscription
🔌 API Usage Fee
🏛️ Government Grant
📊 UHC Integration
🎓 Academic License

🔧 คุณสมบัติเฉพาะ v1-Ultra

Multi-turn Chat + Memory

สนทนาโต้ตอบ · ConversationalMemory 250 turns · ChromaDB 1.5.9 · TTL 1800s · Semantic dedup

ColPali Vision (Heuristic)

ColPali v1.3 NF4 หรือ heuristic PIL analysis · ตรวจสี เนื้อเยื่อ รอยช้ำ ความคมชัด

Thai Whisper ASR

xb2g/thai-whisper-small · resample 16kHz · medical keyword extraction · 10 symptom groups

Thai TTS 24kHz

edge-tts 7.2.8 · th-TH-PremwadeeNeural (female) · NiwatNeural (male) · rate-limit 0.5s cooldown

PDPA SQLite WAL

base64+zlib+SHA256 checksum · AES-style · Consent 2025-PDPA-v1 · Audit Log · DataRetentionManager

RAGAS Auto-Eval

RAGAS 0.4.3 · auto batch ทุก 10 queries · Faithfulness + Answer Relevancy + trend chart

SLIDE 07

วัตถุประสงค์การจัดทำ

Research Objectives

1

พัฒนา Hybrid RAG + 5-Step CoT สำหรับการแพทย์ไทย

ใช้ RAG (FAISS+BM25+GraphRAG+RAPTOR+HyDE) เพิ่มความถูกต้องและลด Hallucination ร่วมกับ 5-Step Chain-of-Thought ส่งเสริมการให้เหตุผลเชิงตรรกะ พร้อม Constitutional AI 6 principles

2

Fine-tune Thai Medical LLM ด้วย DoRA+RSLoRA+4-bit NF4

Fine-tune chinda-qwen3-4b + PEFT adapter ด้วยข้อมูลทางการแพทย์ภาษาไทยคุณภาพสูง 3,586 chunks (disease 1,669 · emergency 608 · drug 320) บน Tesla T4 15.6GB

3

สร้างระบบ Triage 4 ระดับ + Severity Score 0-10

ประเมินความเร่งด่วน Critical/High/Medium/Low + FAST stroke checker + PHQ-9 mental health screening เพื่อกรองผู้ป่วยและลดความแออัดในโรงพยาบาล

4

พัฒนาระบบ Multimodal ครบวงจร พร้อม TTS

รองรับ Input ทั้งข้อความ ภาพทางการแพทย์ (ColPali v1.3 NF4) และเสียง (Thai-Whisper-Small) + Thai TTS (edge-tts 7.2.8 · 24kHz · PremwadeeNeural)

5

ออกแบบ Guardrails 6-layer + PDPA-compliant

GuardrailsValidator 31 patterns · rate-limit 30/min · Presidio PII · InputSanitizer · ConversationalMemory ChromaDB · PDPA base64+zlib+SHA256 · SQLite WAL

6

ระบบ Self-improvement: LoRA Saver + RAGAS + HealthMonitor

เก็บ negative samples rating ≤ 2 → JSONL สำหรับ DPO/RLHF รอบถัดไป · RAGAS auto-eval ทุก 10 queries · HealthMonitor VRAM watchdog background thread

SLIDE 08

กระบวนการสร้างสรรค์ v1-Ultra

Methodology / Process / Techniques

⚙️ ขั้นตอนการทำงาน

A

ชุดข้อมูลฝึกสอน

Mental Health (900) + HealthCareQA (900) + PubMed (900) + Medical QA (900) แปลเป็นภาษาไทยด้วยตัวเอง

Fine‑tuning

iapp/chinda-qwen3-4b, KBTG-Labs/THaLLE-0.2-ThaiLLM-8B-fa และ typhoon-ai/typhoon2.5-qwen3-4b ด้วย DoRA + RSLoRA, rank=2, 4‑bit NF4, NEFTune α=10, Curriculum Learning บน A100

Data Collection & KB Loading

โหลด 25 text files จาก KB → 3,577 chunks (dedup by SHA-256) + 9 seed chunks = 3,586 รวม · หมวด disease 1,669 · emergency 608 · drug 320 · procedure 226 · prevention 220 · psychiatry 206

B

Hybrid RAG Index Build

FAISS IVFFlat (nlist=91, nprobe=22) + GPU offload · BM25Okapi (PyThaiNLP newmm) · GraphRAG 926 nodes / 1,641 edges · RAPTOR L1=449, L2=6 · LRU cache 256 entries TTL 1800s · RRF weights dense=1.0, bm25=0.8, graph=0.7

C

Model Loading (VRAM-budgeted)

chinda-qwen3-4b NF4 → 1.2 GB · PEFT adapter · Thai-Whisper-Small → 1.7 GB total · GraniteEmbed 311M → 2.3 GB · BGEReranker v2-m3 → 4.5 GB · Total 4.56/15.6 GB

D

5-Step Orchestrator (MedicalOrchestrator v1-Ultra)

PDPA gate → Symptom extract → RAG retrieve (HyDE+RAPTOR+Graph) → LLM generate → Constitutional AI revision (max 2-pass, stop ≥ 0.80) → Assemble + TTS + RAGAS record

E

Guardrails + Constitutional AI

6-layer validation (injection/danger/PII/adversarial/misinfo/thai-danger) · 31 patterns · Presidio PII · 6 medical principles · disclaimer auto-add · drug dosage warning check

F

RAGAS 0.4.3 + BERTScore Evaluation

Faithfulness + Answer Relevancy · auto-batch 10 queries · trend report · heuristic fallback mode · LoRA negative sample JSONL สำหรับ DPO รอบถัดไป

🛠️ Full Tech Stack

Python 3.12.12 transformers 5.8.1 torch 2.10.0+cu128 PEFT 0.18.1 bitsandbytes 0.49.2 sentence-transformers 5.2.3 faiss-gpu-cu12 rank-bm25 chromadb 1.5.9 pythainlp 5.3.4 edge-tts 7.2.8 colpali-engine ragas 0.4.3 networkx 3.6.1 gradio 5.50.0 spaCy en_core_web_lg presidio-analyzer tqdm 4.67.3 psutil 5.9.5 CUDA 12.8 Tesla T4 15.6GB

📊 Training Configuration (v1-Ultra):
• LLM: iapp/chinda-qwen3-4b + PEFT adapter NF4 (1.2 GB VRAM)
• Embedding: ibm-granite/granite-embedding-311m-multilingual-r2 dim=768
• Reranker: BAAI/bge-reranker-v2-m3 CrossEncoder batch=32
• EMBED_BATCH_SIZE=8 (T4 budget) · RAG_TOP_K=5 · CTX_MAX_CHARS=1800
• TEMPERATURE=0.6 · TOP_P=0.95 · TOP_K=20 · MAX_NEW_TOKENS=512

🧪 Qwen3 Native Thinking Mode Control:
โมเดลสร้าง Chain-of-Thought ภายใน <think>...</think> ก่อนให้คำตอบสุดท้าย · งานนี้ใช้ regex suppress เพื่อให้คำตอบกระชับ · สามารถ enable_thinking=True เพื่อดู reasoning process

🌲 RAPTOR Multi-level Indexing:
L0: 3,586 raw chunks → L1: 449 cluster summaries (adaptive cluster_size) → L2: 6 domain meta-summaries (disease, drug, emergency, psychiatry, guideline, prevention) → Dense FAISS index แต่ละ level

SLIDE 8B

คุณสมบัติ / คุณลักษณะเฉพาะของระบบ

System Specifications from Verified Run-Output-v1Ultra.txt

📚 RAG Engine Stats

3,586

Total KB Chunks
(3,577 loaded + 9 seed)

926

GraphRAG Nodes
(KG entity graph)

1,641

GraphRAG Edges
(relation triples)

2

RAPTOR Levels
(L1=449, L2=6)

256

LRU Cache Max
(TTL 1800s)

30

ICD-10 Codes
(expanded v1-Ultra)

18

Symptom Groups
(symptom_conditions map)

10

Drug Database
(8 interaction pairs)

🔋 VRAM Usage (จาก Boot Sequence)

Tesla T4 · Total: 15.6 GB VRAM · CUDA 12.8

chinda-qwen3-4b NF4 + PEFT adapter

1.2 GB

+ Thai-Whisper-Small ASR

1.7 GB total

+ GraniteEmbed 311M multilingual

2.3 GB total

+ BGE Reranker v2-m3 CrossEncoder

4.5 GB total

✅ After Full Boot (FAISS rebuild)

4.56 GB / 15.6 GB (29.2%)

🕐 Boot time: 144.3s · Free remaining: 11.0 GB (70.8%)

✅ Verified Installations

Package	Version	Status
transformers	5.8.1	✅
torch	2.10.0+cu128	✅
gradio	5.50.0	✅
bitsandbytes	0.49.2	✅
sentence-transformers	5.2.3	✅
chromadb	1.5.9	✅

Package	Version	Status
pythainlp	5.3.4	✅
edge-tts	7.2.8	✅
faiss (gpu-cu12)	GPU devices: 2	✅
ragas	0.4.3	✅
networkx	3.6.1	✅
CUDA · GPU	12.8 · Tesla T4	✅

🛡️ GuardrailsValidator v1 — 6-Layer Architecture (31 patterns · 30 req/min)

1

Prompt Injection / Jailbreak Detection14 patterns: ignore previous instructions, DAN, developer mode, bypass safety, new persona...

14 patterns

2

Danger / Self-harm Content7 patterns: overdose, poison, harm, ยาอะไรกินแล้วตาย, วิธีผลิตยาบ้า...

7 patterns

3

PII Detection (Presidio + Thai Regex)Thai National ID · Phone · Email · Credit Card · Passport · HN Pattern + Presidio NER confidence > 0.85

6 types

4

Adversarial Obfuscationbase64/hex/rot13 decode+run, Unicode injection sequences, encode+execute patterns

3 patterns

5

Medical Misinformationยารักษามะเร็ง 100%, หมอปกปิดความจริง, big pharma hiding, วัคซีนทำให้เป็นออทิสติก...

4 patterns

6

Thai-Specific Medical Dangerกินยาเกินขนาดตั้งใจ, ฉีดยาเกินเส้นเลือด, ผสมยาเป็นพิษ — context-aware Thai patterns

3 patterns

⏱

Rate Limiter30 requests/minute per user_id · sliding window 60s · timestamp deque

30/min

📊 Knowledge Base Distribution

⚖️ Constitutional AI — 6 Medical Principles

P1

Medical Disclaimer

ข้อมูลเพื่อการศึกษาเท่านั้น ไม่ใช่การวินิจฉัยโรค

P2

Recommend Doctor

แนะนำให้พบแพทย์หรือผู้เชี่ยวชาญสุขภาพเสมอ

P3

No Harmful Advice

ไม่ให้คำแนะนำที่อาจเป็นอันตรายถึงชีวิตโดยไม่มีข้อเตือน

P4

Emergency Numbers

ระบุเบอร์ฉุกเฉิน 1669 / สุขภาพจิต 1323 สำหรับกรณีวิกฤต

P5

Evidence-based

ข้อมูลต้องอ้างอิงหลักวิทยาศาสตร์การแพทย์หรือแนวทางเวชปฏิบัติ

P6

Drug Dosage Warning

ไม่สั่งจ่ายยาหรือบอกขนาดยาโดยไม่มีคำเตือนปรึกษาแพทย์/เภสัช

🔄 Constitutional AI 2-pass Revision: critique() → score ≥ 0.80 หยุดทันที (early-stop) · ถ้าต่ำกว่า → LLM revise pass 2 → add_disclaimer_if_missing() auto-append → output validation

SLIDE 09

ผลงานสร้างสรรค์ & ระดับ TRL/SRL

Results / Creative Output / TRL Level

📱 Demo Live: https://pitsanu2448.github.io/Thai-Medical-AI-Assistant-Redirect.html (Gradio 5.50.0 · port 7865 · Cloudflare tunnel · Apache 2.0 Open Source)

0.6768

Best BERTScore F1

chinda-qwen3-4b (Fine-tuned) ✓

0.2500

Best ROUGE-L

THaLLE-0.2-ThaiLLM-8B-fa

10,000

Perplexity (ทุกโมเดล)

⚠️ เกิน threshold ≤ 20 ต้องพัฒนาเพิ่ม

144.3s

Boot Time (T4 Maximized)

skip_raptor_rebuild=True · warm-up 3 queries

โมเดล	ROUGE-L	BERT F1	BERT P	BERT R	Perplexity
iapp/chinda-qwen3-4b (Fine-tuned) ✓	0.1000	0.6768	0.6878	0.6661	10,000
KBTG-Labs/THaLLE-0.2-ThaiLLM-8B-fa	0.2500	0.6273	0.6483	0.6076	10,000
typhoon-ai/typhoon2.5-qwen3-4b (Base)	0.0000	0.6637	0.6721	0.6555	10,000

📡 ระดับ TRL (Technology Readiness Level)

TRL 1
Basic

TRL 2
Concept

TRL 3
Proof

TRL 4 ✓
Lab Valid

TRL 5
Pilot

TRL 6
Demo

TRL 7

TRL 8

TRL 9

ปัจจุบัน: TRL 4 — Lab Validation · Prototype ใน Kaggle T4 · Self-test ping ✅ · Gradio public URL ✅ | เป้าหมาย: TRL 6 (Commercial Demo)

✨ ฟีเจอร์เด่น & ตัวอย่างหน้าจอ v1-Ultra

💬 แชทปรึกษาอาการ + CoT Chart

👤 โปรไฟล์ PDPA + Consent

📊 Dashboard + RAGAS Report

🔊 TTS + วิเคราะห์ภาพ/เสียง

SLIDE 10

การวิเคราะห์และอภิปรายผล

Analysis & Discussion

✅ จุดแข็ง (Strengths)

BERTScore F1 = 0.6768 — ยืนยันว่า Fine-tuning ด้วยข้อมูลไทยเพิ่ม Semantic Similarity อย่างมีนัยสำคัญ เทียบ Baseline typhoon2.5 (0.6637) เพิ่มขึ้น +0.0131

Hybrid RAG 4-source ลด Hallucination — FAISS(dense=1.0)+BM25(0.8)+Graph(0.7)+RAPTOR RRF fusion ให้ Recall สูงกว่า Single-retriever · BGE Reranker batch=32 เพิ่ม Precision

Constitutional AI 6-principle 2-pass — early-stop ≥ 0.80 ประหยัด inference time · ทดสอบแล้วว่า disclaimer/doctor-recommendation/emergency-number ครบ

Boot เสร็จ 144.3s · VRAM 4.56 GB — T4 15.6 GB ยังมี 11 GB เหลือสำหรับ inference · RAPTOR skip rebuild ประหยัด 3 min · RAG warm-up 3 seed queries

HealthMonitor VRAM Watchdog — background thread ตรวจสอบทุก 60s · aggressive GC เมื่อ > 85% · alert เมื่อ > 92% · ป้องกัน OOM crash อัตโนมัติ

⚠️ ข้อจำกัดและโอกาสพัฒนา

Perplexity = 10,000 (ทุกโมเดล) — สูงกว่าเกณฑ์ ≤ 20 มาก แสดงว่า Generation ยังไม่เสถียร เป็น critical blocker ก่อนใช้เชิงพาณิชย์ ต้องเพิ่ม training data + curriculum learning

ROUGE-L ของ chinda ต่ำ (0.10) — Fine-tuning เพิ่ม Semantic (BERTScore) แต่ลด Lexical Overlap อาจเป็น Style Shift จาก Instruction-tuning · THaLLE-8B ROUGE-L ดีกว่า (0.25) แต่ขนาดใหญ่กว่า 2x

ColPali Vision = Heuristic Mode — VisionModel ไม่โหลด (VRAM ถูกจองไว้) → ใช้ pixel-level heuristic PIL analysis แทน · confidence 0.35 vs 0.82 เมื่อโหลด model จริง

ต้องทดสอบกับผู้ใช้จริง — Clinician Validation, Usability Test กับผู้ป่วยจริงในสภาพแวดล้อมโรงพยาบาล (SRL 3 → 5) · RAGAS library mode ต้องการ OpenAI API key

💡 Honest Assessment (v1-Ultra): Perplexity = 10,000 → ยังไม่พร้อมเชิงพาณิชย์ · ต้องเพิ่ม training data Thai Medical Corpus ≥ 5,000 records · ทดสอบกับ clinician จริง · แต่ BERTScore F1 = 0.6768 + 5-Step CoT + Constitutional AI 6 principles + Guardrails 6-layer + PDPA + RAGAS + HealthMonitor แสดงให้เห็น architecture ที่ครบสมบูรณ์และพร้อมต่อยอด

SLIDE 11

กลุ่มเป้าหมาย & Go-to-Market Roadmap

Target Users & GTM Strategy

👥 กลุ่มเป้าหมาย

ประชาชนห่างไกล

พื้นที่ชนบท ใต้ อีสาน เหนือ · ขาดการเข้าถึงแพทย์ · ต้องการ Triage เบื้องต้น

รพ./คลินิก

Pre-Triage OPD · ICD-10 30 codes · Drug interaction 8 pairs · Hospital Navigator 10 จังหวัด

นักศึกษาแพทย์

เครื่องมือฝึกทักษะวินิจฉัย + CoT reasoning + FAST stroke + PHQ-9 screening

ภาครัฐ UHC

บูรณาการระบบ UHC บัตรทอง · ICD-10-TM standard · นโยบายสาธารณสุขดิจิทัล

🗺️ Go-to-Market Roadmap

Phase 1 — ปัจจุบัน (TRL 4) 2568

Lab Validation · Kaggle T4 Prototype · BERTScore eval 0.6768 · Gradio 5.50 public URL · เข้าประกวด Higher Education Innovation Awards 2026 · Boot 144.3s ✅

Phase 2 — 6-12 เดือน (TRL 5) 2569

Pilot Hospital ม.ทักษิณ/CDTI · ทดสอบผู้ใช้จริง 100+ คน · Safety audit ผู้เชี่ยวชาญ · เพิ่ม Training Data 5,000+ records · ลด Perplexity จาก 10,000 → ≤ 100 · RAGAS library mode

Phase 3 — 12-24 เดือน (TRL 6) 2570

Commercial Demo · SaaS/API Product · IP filing อนุสิทธิบัตร · ยื่นขอทุน วช./NSTDA · ColPali full model deployment · DPO fine-tuning จาก LoRA negative samples

Phase 4 — 24-36 เดือน (TRL 7-9) 2571

Full Commercial · UHC Integration · Scale ทั่วประเทศ · Export ASEAN Medical AI · Keycloak OIDC TSU LDAP · Constitutional AI ปรับปรุงต่อเนื่อง

🏆 Competitive Advantage v1-Ultra: ภาษาไทย 100% · Hybrid RAG 4-source (3,586 chunks) · 5-Step CoT · Constitutional AI 6 principles · Guardrails 6-layer 31 patterns · PDPA-by-design SHA256 · Edge T4 4B NF4 · HealthMonitor · LoRA Saver · RAGAS Auto-eval · Open-source Apache 2.0

SLIDE 12

บทสรุป & ความสอดคล้องกับ SDGs

Conclusion / Impact / SDGs Alignment

📋 สรุปผลสำเร็จ v1-Ultra (Kaggle T4 Maximized): งานวิจัยนี้พิสูจน์ว่าการ Fine-tune Thai LLM (iapp/chinda-qwen3-4b) ด้วยเทคนิค DoRA+RSLoRA+4-bit NF4 ร่วมกับ Hybrid RAG (FAISS IVFFlat GPU + BM25 PyThaiNLP + GraphRAG 926 nodes + RAPTOR 2 levels + HyDE + RRF) และ 5-Step Agentic CoT + Constitutional AI 6 principles สามารถ deploy ได้จริงบน Tesla T4 15.6GB ใน 144.3 วินาที ด้วย VRAM 4.56 GB (29.2%) เพิ่ม BERTScore F1 เป็น 0.6768 แสดงถึงศักยภาพของ Thai Medical AI ที่ออกแบบเฉพาะสำหรับบริบทไทย อย่างไรก็ตาม Perplexity = 10,000 บ่งชี้ว่าต้องพัฒนาต่อเนื่องก่อนใช้เชิงพาณิชย์

🌍 ความสอดคล้องกับ SDGs

SDG 3

Good Health & Well-Being
คำปรึกษา 24/7 · Triage 4 ระดับ
FAST stroke + PHQ-9

SDG 10

Reduced Inequalities
ลดความเหลื่อมล้ำบริการสุขภาพ
พื้นที่ห่างไกล

BCG Economy

Digital Health AI
เศรษฐกิจชีวภาพ-ดิจิทัล
Edge deployment

PDPA 2562

Privacy-first AI
base64+zlib+SHA256
Audit Log · Consent

SDG 9

Innovation & Infrastructure
Open-source Thai Medical LLM
Apache 2.0

ประชาชน

• คำปรึกษา 24/7 ไม่ต้องเดินทาง
• Triage 4 ระดับ ลดแออัด ER
• Drug interaction 8 pairs
• FAST stroke + PHQ-9

ระบบสาธารณสุข

• ลดภาระแพทย์ OPD
• ICD-10 30 codes standard
• Hospital Navigator 10 จังหวัด
• สนับสนุน UHC ไทย

วิชาการ

• Open-source Thai Medical LLM
• DoRA+RSLoRA+GraphRAG Research
• Thai NLP Benchmark
• LoRA negative sample JSONL

เศรษฐกิจ

• SaaS รพ./คลินิก
• ลดต้นทุนค่ารักษา
• ASEAN Health Tech Export
• API Usage Fee

📌 ข้อเสนอแนะจากผลการทดสอบจริง (v1-Ultra): (1) เพิ่มชุดข้อมูล Thai Medical Corpus ≥ 5,000 records จาก ICD-10 Thai + Clinical Guidelines + Clinician-validated Q&A เพื่อลด Perplexity
(2) Enable ColPali full model deployment (ต้องการ VRAM เพิ่ม ~2.5 GB → ใช้ A100 หรือ T4 multi-GPU)
(3) ทดสอบกับ Clinician จริงในโรงพยาบาลนำร่อง + Usability Test ผู้สูงอายุ
(4) ยื่นอนุสิทธิบัตรและขอทุน วช./NSTDA เพื่อต่อยอดเชิงพาณิชย์
(5) เปิดใช้ RAGAS library mode (ต้องการ API key) เพื่อประเมินผลที่แม่นยำกว่า heuristic mode

ขอบคุณ / Thank You

ผู้ช่วยศาสตราจารย์สุดา เธียรมนตรี
อาจารย์ที่ปรึกษา · ม.ทักษิณ

นายพิษณุ ทองศรี
Lead Developer · AI Engineer · 50%

นายอภิษิฐน์ มะสมัน
UX/UI & Backend · ม.ทักษิณ · 20%

นางสาวนันท์นภัส รอดบุตร
Marketing · CDTI · 20%

ทีม AIoTx Tech · มหาวิทยาลัยทักษิณ · สถาบันเทคโนโลยีจิตรลดา
© 2569/2026 | Apache 2.0 Open Source | PDPA Compliant | Kaggle T4 · CUDA 12.8

🌐 Demo: https://pitsanu2448.github.io/Thai-Medical-AI-Assistant-Redirect.html | 🖥️ Kaggle: Tesla T4 15.6GB · CUDA 12.8 | ⏱ Boot: 144.3s

📖 บรรณานุกรม (References)

[1] สำนักงานคณะกรรมการคุ้มครองข้อมูลส่วนบุคคล. (2562). พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล พ.ศ. 2562. ราชกิจจานุเบกษา เล่ม 136 ตอนที่ 69 ก.
[2] Dettmers, T., et al. (2023). QLoRA: Efficient Finetuning of Quantized LLMs. arXiv:2305.14314
[3] Hu, E. J., et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arXiv:2106.09685
[4] Kalajdzievski, D. (2023). A Rank Stabilization Scaling Factor for Fine-Tuning with LoRA. arXiv:2312.03732
[5] KBTG Labs. (2024). THaLLE-0.2-ThaiLLM-8B-fa. HuggingFace Model Hub. https://huggingface.co/KBTG-Labs/THaLLE-0.2-ThaiLLM-8B-fa
[6] Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems, 33, 9459–9474.
[7] Lin, C. Y. (2004). ROUGE: A Package for Automatic Evaluation of Summaries. Text Summarization Branches Out, 74–81.
[8] Liu, S., et al. (2024). DoRA: Weight-Decomposed Low-Rank Adaptation. arXiv:2402.09353
[9] typhoon-ai. (2025). Typhoon2.5-qwen3-4b. HuggingFace Model Hub. https://huggingface.co/typhoon-ai/typhoon2.5-qwen3-4b
[10] Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Advances in Neural Information Processing Systems, 35, 24824–24837.
[11] Yao, S., et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601
[12] Zhang, T., et al. (2020). BERTScore: Evaluating Text Generation with BERT. ICLR 2020
[13] Sarthi, P., et al. (2024). RAPTOR: Recursive Abstractive Processing for Tree-Organized Retrieval. arXiv:2401.18059
[14] Cormack, G., et al. (2009). Reciprocal Rank Fusion outperforms Condorcet and individual rank learning methods. SIGIR 2009
[15] Es, S., et al. (2023). RAGAS: Automated Evaluation of Retrieval Augmented Generation. arXiv:2309.15217
[16] iapp/chinda-qwen3-4b. (2024). HuggingFace Model Hub. https://huggingface.co/iapp/chinda-qwen3-4b
[17] IBM Granite Team. (2024). granite-embedding-311m-multilingual-r2. HuggingFace Model Hub. https://huggingface.co/ibm-granite/granite-embedding-311m-multilingual-r2
[18] BAAI. (2024). BGE-reranker-v2-m3. HuggingFace Model Hub. https://huggingface.co/BAAI/bge-reranker-v2-m3