ข่าว AWS เปิดตัวชิป Graviton4 อัดคอร์เพิ่มขึ้น 50% อัดแรม 3 เท่า พร้อมชิป Trainum2 สำหรับฝึก LLM

[News]

AWS เปิดตัวชิปของตัวเอง 2 ตัวพร้อมกันในงาน re:Invent ได้แก่ ซีพียู Gaviton4 และชิปฝึกปัญญาประดิษฐ์ Trainium2

Gaviton4 เป็นซีพียู ARMv9 ภายในเป็นคอร์ Neoverse V2 96 คอร์ เพิ่มขึ้นจาก Gaviton3 ที่เคยมี 64 คอร์ และยังมีแบนวิดท์แรมเพิ่มขึ้น 30% ใส่แรมได้มากขึ้น 3 เท่าตัว ความพิเศษอีกอย่างคือชิปใหม่นี้สามารถเข้ารหัสการส่งข้อมูลออกนอกชิปทั้งหมด

Trainium2 ชิปฝึกปัญญาประดิษฐ์ ออกแบบมารองรับการฝึก LLM ระดับล้านล้านพารามิเตอร์ ประสิทธิภาพการฝึกรวมเพิ่มขึ้นกว่ารุ่นแรก 4 เท่าและรองรับหน่วยความจำได้มากกว่าเดิม 3 เท่า ตอนนี้ Anthropic และ MosaicML ผู้พัฒนา LLM ก็ออกมาแสดงความสนใจจะใช้ Trainium2 ฝึกโมเดล LLM ตัวต่อไป

ที่มา - AWS

Topics:
AWS
CPU
Semiconductor

อ่านต่อ...