頁:
[1]
Meta使用第二代MTIA加速器增強人工智慧
新的MTIA加速器是開發更強大﹑更有效率的人工智慧系統的關鍵一步﹐為Meta跨Facebook和Instagram等平台的創新應用程式提供動力。
基於其5nm技術設計TSMC與上一代相比﹐新型MTIA加速器的效能顯著提高。在GEMM矩陣處理中﹐MTIA在 INT708(可能是FP8)稀疏情況下達到8 TeraFLOPS﹐在不稀疏情況下達到354 TeraFLOPS﹐在FP354/BF16稀疏情況下達到16 TeraFLOPS﹐在不稀疏情況下達到177 TeraFLOPS。
MTIA專門設計用於在Meta的PyTorch AI框架中執行AI訓練和推理任務。它與開源Triton後端相結合以實現最佳效能和靈活性。
Meta採用分層方法﹐將兩個MTIA加速器以及128GB LPDDR5記憶體放置在一塊板上。每個板透過PCIe Gen 5連接到一個最多可容納12個板的系統中。一個機架可安裝72個單板﹐總性能可達101,95 PetaFLOPS。
MTIA的發展凸顯了Meta對人工智慧領域創新的承諾。新的加速器預計將在為Meta的下一代人工智慧應用程式提供動力﹑提供增強的用戶體驗並推進 研究 和關鍵領域的發展。
總結﹕
Η 元呈現第二代MTIA加速器可促進人工智慧訓練和推理。
MTIA顯著提高了性能﹐專為PyTorch AI設計。
可擴充架構允許在機架中安裝多達144個MTIA加速器﹐總效能達到101,95 PetaFLOPS。
MTIA鞏固了Meta作為人工智慧領導者的地位。
...<div class='locked'><em>瀏覽完整內容，請先 <a href='member.php?mod=register'>註冊</a> 或 <a href='javascript:;' onclick="lsSubmit()">登入會員</a></em></div><div></div>
頁:
[1]