Tencent (00700.HK) อัปเกรด HPC-Ops เพิ่มประสิทธิภาพ AI อย่างมีนัยสำคัญ
ภาพรวมข่าว
TENCENT (00700.HK) ประกาศอัปเกรด HPC-Ops ซึ่งเป็นไลบรารีโอเปอเรเตอร์สำหรับการอนุมานโมเดลขนาดใหญ่ (large model inference) ให้มีประสิทธิภาพสูงขึ้น ครอบคลุมทั้งกระบวนการอนุมาน โดยเน้นการแก้ปัญหาคอขวดทางวิศวกรรม เช่น ความหน่วง (latency) ในส่วน Attention, การถ่ายโอนข้อมูล GPU memory และการสื่อสารข้ามการ์ด ซึ่งผลการทดสอบแสดงให้เห็นว่าประสิทธิภาพดีกว่าโอเพนซอร์สอื่น ๆ อย่างมีนัยสำคัญ โดยเฉพาะในส่วน Attention ที่เร็วขึ้นสูงสุด 2.95 เท่า และส่วน Sampler ที่เร็วขึ้น 4.0-7.5 เท่าเมื่อเทียบกับ vLLM 📈
ประเด็นสำคัญ
HPC-Ops อัปเกรดครั้งใหญ่
ไลบรารีโอเปอเรเตอร์สำหรับการอนุมานโมเดลขนาดใหญ่ HPC-Ops ได้รับการอัปเกรดระบบครั้งใหญ่ ครอบคลุมทั้งกระบวนการอนุมาน
ประสิทธิภาพเพิ่มขึ้นอย่างมีนัยสำคัญ
การอัปเกรดช่วยแก้ปัญหาคอขวดทางวิศวกรรม และมีประสิทธิภาพสูงกว่าโอเพนซอร์สอื่น ๆ ในหลายตัวชี้วัด
Attention เร็วขึ้นสูงสุด 2.95 เท่า
โซลูชันการจัดตารางโหลดแบบไดนามิกช่วยเพิ่มความเร็วในสถานการณ์ข้อความยาวสูงสุด 2.95 เท่า และเพิ่ม QPM สิ้นสุดถึงสิ้นสุดได้ 17%
Sampler เร็วขึ้น 4.0-7.5 เท่า
การรวมการคำนวณการสุ่มตัวอย่าง (sampling) ในขั้นตอนการถอดรหัส (decoding) ลดโอเวอร์เฮดได้อย่างมาก เพิ่มความเร็ว 4.0-7.5 เท่าเมื่อเทียบกับ vLLM
Market Impact
“ข่าวการอัปเกรดเทคโนโลยี AI ที่สำคัญช่วยสร้างความเชื่อมั่นให้กับนักลงทุนในระยะสั้น”
“การพัฒนาเทคโนโลยี AI อย่างต่อเนื่องของ Tencent อาจส่งผลดีต่อการเติบโตของธุรกิจในระยะกลาง”
หุ้นที่เกี่ยวข้อง
⚠️ คำเตือน: ข้อมูลนี้ถูกสรุปโดย AI เพื่อการศึกษาเท่านั้น ไม่ใช่คำแนะนำการลงทุน การลงทุนมีความเสี่ยง กรุณาศึกษาข้อมูลเพิ่มเติม และปรึกษาที่ปรึกษาทางการลงทุนก่อนตัดสินใจลงทุน