จำลองและภายในเวลาไม่กี่วันให้รันบนเซิร์ฟเวอร์ GroqNode™ ที่ใช้งานจริง ซึ่งรวมถึงตัวประมวลผลการอนุมาน GroqChip™ แปดตัว นี่เป็นเวลาในการทำงานที่รวดเร็ว งานพัฒนาที่มักใช้เวลาทีมวิศวกรขนาดใหญ่ขึ้นหลายสัปดาห์หรือหลายเดือนจึงจะเสร็จสมบูรณ์ ในขณะที่ Groq ดำเนินการด้วยกลุ่มเล็กๆ จากทีมคอมไพเลอร์Jonathan Rossซีอีโอและผู้ก่อตั้ง Groq กล่าวว่า “ความเร็วของการพัฒนาที่ Groq
นี้ช่วยยืนยันว่าคอมไพเลอร์ที่ปรับแต่งได้ทั่วไปและแนวทางฮาร์ดแวร์ที่
กำหนดโดยซอฟต์แวร์ของเรานั้นสอดคล้องกับนวัตกรรม LLM ที่ก้าวไปอย่างรวดเร็ว
ซึ่งเป็นแนวทางที่อาศัยเคอร์เนลแบบดั้งเดิมที่ต้องต่อสู้ดิ้นรน” การนำ LLaMA มาใช้อย่างรวดเร็วโดย Groq ถือเป็นเหตุการณ์สำคัญที่โดดเด่นและน่าจดจำเป็นพิเศษ เนื่องจากเดิมทีนักวิจัย Meta ได้พัฒนา LLaMA สำหรับชิป NVIDIA™ เมื่อวิศวกรของ Groq ประสบความสำเร็จ
ในการใช้งานโมเดลที่ทันสมัยบนเทคโนโลยีของตน พวกเขาได้แสดงให้เห็นว่า GroqChip เป็นทางเลือกที่พร้อมใช้งานแทนเทคโนโลยีที่มีอยู่ในปัจจุบัน เจเนอเรทีฟเอไอกำลังสร้างพื้นที่สำหรับตัวเองในตลาด และในขณะที่ทรานสฟอร์มเมอร์ยังคงพัฒนาความก้าวหน้าของการพัฒนา LLM อย่างต่อเนื่อง ลูกค้าจะต้องการโซลูชันที่ให้ข้อได้เปรียบด้านเวลาในการผลิตที่จับต้องได้ ลดความซับซ้อนของนักพัฒนาเพื่อการทำซ้ำที่รวดเร็ว
Bill Xingผู้จัดการฝ่ายเทคโนโลยีของ ML Compiler ที่ Groq กล่าวว่า “ความซับซ้อนของแพลตฟอร์ม
คอมพิวเตอร์กำลังแทรกซึมเข้าไปในรหัสผู้ใช้และทำให้นวัตกรรมช้าลง Groq กำลังเปลี่ยนทิศทางของแนวโน้มนี้ เนื่องจากเรากำลังทำงานกับโมเดลที่ได้รับการฝึกอบรมเกี่ยวกับ GPU ของ Nvidia ขั้นตอนแรกของการย้ายปริมาณงานของลูกค้าไปยัง Groq คือการลบโค้ดเฉพาะของผู้จำหน่ายที่ไม่สามารถพกพาได้ซึ่งมีเป้าหมายสำหรับผู้จำหน่ายและสถาปัตยกรรมเฉพาะ
ซึ่งอาจรวมถึงการแทนที่เคอร์เนลการเรียกโค้ดเฉพาะของผู้จำหน่าย การลบการขนานแบบแมนนวลหรือความหมายของหน่วยความจำ ฯลฯ โค้ดผลลัพธ์จะสิ้นสุดลง ดูเรียบง่ายและสง่างามกว่ามาก ลองนึกภาพว่าไม่ต้องทำทุกอย่างเพื่อ ‘วิศวกรรมประสิทธิภาพ’ ในตอนแรกเพื่อให้ได้ประสิทธิภาพที่เป็นตัวเอก! นอกจากนี้ยังช่วยด้วยการไม่ปิดกั้นธุรกิจเฉพาะผู้ขายรายใดรายหนึ่ง”
ภายในระยะเวลาที่คาดการณ์ไว้ , ความสามารถของบริษัทในการกลับมาปฏิบัติตามมาตรฐานการจดทะเบียนในตลาดหลักทรัพย์ Nasdaq, ความสามารถของบริษัทในการว่าจ้างผู้ตรวจสอบอิสระ, การขับรถอัตโนมัติซึ่งเป็นเทคโนโลยีที่เกิดขึ้นใหม่,
credit: เว็บสล็อตแท้
