OpenAI 的 Jalapeño 晶片實現高推論效能
科技
⚠ 单一来源
2h ago

OpenAI 的 Jalapeño 晶片實現高推論效能

AI综合 · 已去除偏见 · 仅事实

OpenAI 已開發出一款名為 Jalapeño 的新晶片,旨在實現快速且可擴展的人工智慧推論。基準測試顯示,其效能優於目前最先進的技術。

根據 TechCrunch 的報導,Jalapeño 晶片在 SemiAnalysis 的 InferenceX 基準測試中經過測試。結果顯示,Jalapeño 在每位使用者產生的 token 數量以及每千瓦的吞吐量方面,都優於現有的領先晶片。

測試表明,該晶片針對大規模高效處理人工智慧請求進行了優化。基準測試表明,Jalapeño 可能是人工智慧硬體領域的一項重大進展,能夠實現更快、更具成本效益的人工智慧部署。

有帮助吗?

閱讀原始報道

💬 评论

📜 评论政策