ปรับปรุงคุณภาพการแปลของ LLM ด้วยการ prompt + few shot

[yukikwi]

เป็นไปได้ไหมที่จะใช้การ prompt พวกข้อมูลศัพท์เฉพาะทางของเกม (td / sentinel / resonator / ...) รวมถึงเพิ่มตัวอย่างการแปล (few shot) เพื่อปรับปรุงคุณภาพการแปลให้ตรงกับ world settings มากขึ้น

[kang49]

ยังไม่มีแพลนจะลองเรื่องนั้นครับ แต่เรากำลังลองอีกแผนนึงซึ่งอาจนำไปสู่จุดหมายเดียวกัน ตอนนี้ผมกำลังแปลเกมนี้ (Wuwa) เป็น data เพื่อนำไป fine tune training ให้กับโมเดล ซึ่งแน่นอนว่าจะมาร์คให้โมเดลได้รู้ว่าคำไหนคือศัพท์เฉพาะ และยังเข้าใจเนื้อเรื่องโดยรวมได้ดี

ตอนนี้เราได้ลองแปลไประดับนึงแล้ว และลองเทรนดูผลออกมาไม่ค่อยดีเท่าที่ควร อาจเพราะข้อมูลน้อยเกินไปและมีรูปแบบ data ที่ยังไม่ดีที่ควร ผมกำลังสร้าง data format ใหม่ที่จะทำให้ AI เรียนรู้ได้ดีมากกว่าเดิมด้วย data ที่มีจำกัด ซึ่งจะทดสอบเร็วๆนี้ครับ และจะปล่อย data ออกมาใหม่พร้อมกับโค๊ดไว้สำหรับ add data เพิ่มอีกทีเผื่อบางคนอยากช่วยแปล แล้วผมจะเอาไปเทรนเอง

ส่วนวิธีที่คุณบอก ผมมองเห็นข้อจำกัดครับ เนื่องจากศัพท์เฉพาะมีเยอะมากและจะมากขึ้นเรื่อยๆ ถ้าเราใส่ไปใน prompt ที่ตอนนี้ก็ยาวพอควรอยู่แล้ว จะทำให้

1. Response time ช้าลง
2. ความลำบากในการหาศัพท์มาใส่ใน Prompt
3. อาจจะต้องใช้ Ram มากขึ้นไปอีก

ต่างจากวิธีแรกที่จะทำให้ตัวโมเดลเรียนรู้เข้าไปเลยด้วยขนาดพารามิเตอร์ที่เพิ่มไม่เท่าไหร่ครับ