ข่าว Cloudflare เปิดตัวเครื่องมือ AI ให้รันโมเดลได้ผ่าน Serverless GPU บนเครือข่าย

[News]

Cloudflare ฉลองครบรอบวันก่อตั้งบริษัท เปิดตัวบริการใหม่ด้าน AI โดยเล่าถึงสถานการณ์ปัจจุบัน ที่โมเดล AI จะมีการรันหาผลลัพธ์ใน 2 กรณี คือรันที่อุปกรณ์ของผู้ใช้งาน (on-device) ใช้ได้กับโมเดลขนาดเล็ก เช่น การเสิร์ชหารูปภาพ หรือรันบนพับลิกคลาวด์แบบ ChatGPT สำหรับโมเดลที่มีขนาดใหญ่

ความท้าทายคือการรันบนพับลิกคลาวด์ มีข้อจำกัดเพราะทรัพยากรจีพียูขนาดใหญ่ส่วนใหญ่อยู่ในอเมริกา ที่มีระยะไกลสำหรับผู้ใช้งานจำนวนหนึ่ง แต่ให้มารันที่ระดับอุปกรณ์ก็ไม่เพียงพอ Cloudflare จึงเห็นช่องว่างนี้ที่จะให้บริการทรัพยากรประมวลผล AI ผ่านการเชื่อมต่อของเครือข่าย Cloudflare ซึ่งไม่เล็กเกินไป และไม่มีระยะไกลเกินไป ตามแผนภายในสิ้นปีนี้จะให้บริการได้ใน 100 เมือง มากกว่า 40 ประเทศ และจะครอบคลุมเครือข่ายทั้งหมดของ Cloudflare ทั่วโลก ภายในสิ้นปี 2024

บริการด้าน AI ที่ Cloudflare ประกาศมีหลายรายการดังนี้

• Workers AI บริการรันโมเดล AI ผ่านเซิร์ฟเวอร์เลสจีพียูที่ใกล้ที่สุด และจ่ายตามปริมาณใช้งาน รองรับโมเดลยอดนิยม เช่น llama ของ Meta, whisper ของ OpenAI
• Vectorize บริการฐานข้อมูลแบบ vector เพื่อทำงานร่วมกับ Workers AI
• AI Gateway พอร์ทัลแสดงข้อมูลทราฟิกโหลดงานเกี่ยวกับ AI ทั้งหมด ทำให้กำหนดการตั้งค่าต่าง ๆ และป้องกันปัญหาได้

ที่มา: Cloudflare และ TechCrunch

Topics:
Cloudflare
Serverless
Artificial Intelligence

อ่านต่อ...