ในระบบ Large Language Models (LLM) เช่น OpenAI GPT-4, Google Gemini หรือ Anthropic Claude คำว่า Token ไม่ได้หมายถึงคำ 1 คำเสมอไป Token คือหน่วยย่อยที่สุดที่ AI ใช้ประมวลผลข้อความ โดยทั่วไปสำหรับภาษาอังกฤษ 1 Token จะเท่ากับตัวอักษรประมาณ 4 ตัว หรือประมาณ 0.75 คำ (เช่น คำว่า 'Hamburger' อาจถูกหั่นเป็น 3 tokens: 'Ham', 'bur', 'ger') แต่สำหรับภาษาไทยนั้นต่างออกไป เนื่องจากภาษาไทยไม่มีการเว้นวรรคคำที่ชัดเจน และโครงสร้างภาษาต่างจากภาษาอังกฤษ AI มักจะแปลงภาษาไทย 1 ตัวอักษรเป็น 1-3 Tokens ทำให้การประมวลผลภาษาไทยใช้จำนวน Token เปลืองกว่าภาษาอังกฤษถึง 3-5 เท่า ส่งผลให้ต้นทุน API แพงกว่าอย่างมีนัยสำคัญ | อ้างอิง: OpenAI Tokenizer Documentation; Google Vertex AI Token Limitations.

• Input Tokens (Prompt Tokens): คือข้อความ คำสั่ง (Prompt) และบริบท (Context) ทั้งหมดที่คุณส่งไปให้ AI ประมวลผล • Output Tokens (Completion Tokens): คือข้อความที่ AI สร้างและตอบกลับมาให้คุณ สาเหตุที่ Output Tokens มีราคาแพงกว่า Input Tokens เสมอ (มักจะแพงกว่า 3-4 เท่า) เป็นเพราะกระบวนการคำนวณทางคณิตศาสตร์ในโครงข่ายประสาทเทียม การรับข้อมูลเข้า (Input) สามารถประมวลผลแบบขนาน (Parallel Processing) ได้อย่างรวดเร็ว แต่การสร้างคำตอบ (Output) AI จะต้องประมวลผลและคาดเดาคำถัดไปทีละคำ (Autoregressive Generation) ซึ่งกินทรัพยากรประมวลผลของ GPU อย่างมหาศาลและช้ากว่ามาก ผู้ให้บริการ Cloud จึงคิดราคา Output แพงกว่า | อ้างอิง: Nvidia - Deep Learning Inference and Autoregressive Models; Anthropic Pricing Model.

การลดต้นทุน API ทำได้หลายวิธี: 1) การใช้โมเดลที่เล็กลงแต่เร็วขึ้น เช่น ใช้ GPT-4o-mini หรือ Claude 3 Haiku สำหรับงานที่ไม่ซับซ้อน 2) การทำ Prompt Engineering ให้กระชับ สั่งให้ AI ตอบเฉพาะสิ่งที่จำเป็น ไม่ต้องเกริ่นนำ 3) ใช้เทคนิค Caching สำหรับคำถามที่ถูกถามบ่อย (ปัจจุบันหลายค่ายเริ่มมี Prompt Caching ที่ลดราคา Input ได้ถึง 50%) 4) สำหรับข้อความยาวๆ ให้ประมวลผลเป็น Batch หากไม่ต้องรอผลแบบ Real-time ซึ่งจะได้ส่วนลดพิเศษจากผู้ให้บริการ 5) การสรุป Context หรือตัดประวัติแชทเก่าๆ ทิ้งก่อนส่ง Request เข้าไปใหม่ | อ้างอิง: Google Cloud - Optimizing LLM Costs; OpenAI Batch API Documentation.