กูเกิลเปิดตัวชิป TPU v5p รุ่นใหม่ล่าสุดที่เตรียมจะใช้เร่งความเร็วในการพัฒนา Generative AI โดยเฉพาะ
พลังประมวลผลต่อชิปของ TPU v5p นั้นสูงกว่ารุ่นก่อนหน้ามาก แต่จุดเด่นเป็นพิเศษคือ จำนวนชิปต่อตู้ (pod) นั้นสูงถึง 8,960 ชิป มากกว่าสองเท่าตัวของ TPU v4 และแรมต่อชิปนั้นสูงถึง 95GB เทียบกับ TPU v4 ที่เคยรับแรม 32GB แนวทางนี้ NVIDIA ก็เคยออกการ์ดรุ่นพิเศษเพื่องานกลุ่ม LLM ที่ต้องการแรมปริมาณสูงมาก
แม้ว่ากูเกิลจะเปิดตัว TPU v5p มาพร้อมกับ Gemini แต่ตัว Gemini เองก็ใช้ TPU รุ่นก่อนหน้านี้มาก่อน แต่จะใช้รุ่นนี้ในการพัฒนา Gemini รุ่นต่อไป โดยนอกจากชิป TPU แล้วกูเกิลยังเปิดบริการ AI Hypercomputer ชุดฮาร์ดแวร์และซอฟต์แวร์เพื่อการฝึกปัญญาประดิษฐ์โดยเฉพาะ
ที่มา - Google Cloud Blog
Topics:
Google
Semiconductor
TPU
อ่านต่อ...
พลังประมวลผลต่อชิปของ TPU v5p นั้นสูงกว่ารุ่นก่อนหน้ามาก แต่จุดเด่นเป็นพิเศษคือ จำนวนชิปต่อตู้ (pod) นั้นสูงถึง 8,960 ชิป มากกว่าสองเท่าตัวของ TPU v4 และแรมต่อชิปนั้นสูงถึง 95GB เทียบกับ TPU v4 ที่เคยรับแรม 32GB แนวทางนี้ NVIDIA ก็เคยออกการ์ดรุ่นพิเศษเพื่องานกลุ่ม LLM ที่ต้องการแรมปริมาณสูงมาก
แม้ว่ากูเกิลจะเปิดตัว TPU v5p มาพร้อมกับ Gemini แต่ตัว Gemini เองก็ใช้ TPU รุ่นก่อนหน้านี้มาก่อน แต่จะใช้รุ่นนี้ในการพัฒนา Gemini รุ่นต่อไป โดยนอกจากชิป TPU แล้วกูเกิลยังเปิดบริการ AI Hypercomputer ชุดฮาร์ดแวร์และซอฟต์แวร์เพื่อการฝึกปัญญาประดิษฐ์โดยเฉพาะ
ที่มา - Google Cloud Blog
Topics:
Semiconductor
TPU
อ่านต่อ...
