Cache คือหน่วยความจำความเร็วสูงมากที่ทำหน้าที่จัดเก็บข้อมูลที่ถูกเรียกใช้งานบ่อยๆ ไว้ชั่วคราว เพื่อลดระยะเวลาการเข้าถึงข้อมูล (Latency) ในครั้งต่อไป เนื่องจากหน่วยจัดเก็บข้อมูลหลัก เช่น ฮาร์ดดิสก์ (HDD) หรือฐานข้อมูล (Database) มักจะทำงานช้า เมื่อระบบประมวลผลข้อมูลเสร็จหนึ่งครั้ง มันจะเก็บผลลัพธ์ไว้ใน Cache หากมีคำขอข้อมูลเดิมเข้ามาอีก ระบบสามารถดึงข้อมูลจาก Cache ไปเสิร์ฟได้ทันทีโดยไม่ต้องไปค้นหาหรือประมวลผลใหม่ ช่วยลดภาระของเซิร์ฟเวอร์ และทำให้เว็บไซต์หรือแอปพลิเคชันโหลดเร็วขึ้นอย่างก้าวกระโดด ตัวอย่างที่เห็นได้ชัดคือ Redis, Memcached หรือ CDN อย่าง Cloudflare | อ้างอิง: AWS - What is Caching; Microsoft Azure Caching Best Practices.

• Cache Hit: คือสภาวะที่ระบบต้องการค้นหาข้อมูล แล้วพบว่ามีข้อมูลนั้นเตรียมพร้อมรออยู่ใน Cache เรียบร้อยแล้ว ทำให้สามารถส่งข้อมูลกลับไปได้ทันที (ถือเป็นสถานการณ์ที่ดีที่สุด) • Cache Miss: คือสภาวะที่ค้นหาข้อมูลใน Cache แล้ว 'ไม่พบ' ทำให้ระบบต้องเสียเวลาวิ่งกลับไปค้นหาข้อมูลจากฐานข้อมูลหลักหรือประมวลผลใหม่ ซึ่งกินเวลานานกว่า จากนั้นจึงค่อยนำข้อมูลนั้นมาเขียนลง Cache เพื่อเตรียมพร้อมสำหรับการเรียกใช้ครั้งต่อไป | อ้างอิง: MDN Web Docs - HTTP Caching; RFC 9111 HTTP Caching.

Cache Hit Rate คือเปอร์เซ็นต์ของคำขอที่ระบบสามารถตอบสนองได้จาก Cache ยิ่งค่านี้สูงยิ่งแปลว่าระบบมีประสิทธิภาพดี ไม่มีตัวเลขตายตัวที่เหมาะสมสำหรับทุกระบบ แต่โดยทั่วไปสำหรับ Web Server หรือ CDN (Content Delivery Network) การมี Hit Rate ที่ระดับ 80% - 95% ถือว่าระบบมีสุขภาพที่ยอดเยี่ยมมาก หากตัวเลขตกไปต่ำกว่า 50% อาจเป็นสัญญาณเตือนว่านโยบายการเก็บ Cache (Eviction Policy เช่น LRU, LFU) อาจมีปัญหา หรือพื้นที่ Cache เล็กเกินไปจนข้อมูลโดนเตะออกบ่อย หรือข้อมูลเปลี่ยนบ่อยเกินไป (Highly Dynamic) | อ้างอิง: Cloudflare - What is Cache Hit Ratio; NGINX Caching Guide.

มีคำกล่าวตลกๆ ในวงการวิทยาการคอมพิวเตอร์ว่า 'มีเรื่องยากอยู่แค่ 2 เรื่องเท่านั้น คือ การตั้งชื่อตัวแปร และ Cache Invalidation' ปัญหาหลักของ Cache คือ เมื่อข้อมูลในฐานข้อมูลหลักถูกอัปเดต (เช่น มีคนเปลี่ยนราคาสินค้า) เราจะทำอย่างไรให้ข้อมูลใน Cache ถูกลบหรืออัปเดตตามทันที (Invalidation) หากลบช้าเกินไป ผู้ใช้จะเห็นราคาเก่าที่ผิดพลาด (Stale Data) แต่หากตั้งระบบให้ลบบ่อยเกินไป (TTL สั้น) Cache Hit Rate ก็จะตก และเซิร์ฟเวอร์ก็จะต้องรับภาระหนักในการประมวลผลใหม่ การหาสมดุลระหว่างข้อมูลที่สดใหม่ (Freshness) และประสิทธิภาพ (Performance) จึงเป็นความท้าทายระดับสถาปัตยกรรมระบบ | อ้างอิง: Martin Fowler - Cache Invalidation; ACM (Association for Computing Machinery) Publications.