(资料图片)
编程客栈() 3月13日消息:根据Google博客文章,ML(机器学习)开发和部署受到碎片化和孤立性的基础设施的影响,这些基础设施可能因框架、硬件和用例而不同,限制了开发者的速度并对模型的可移植性、效率和生产造成了障碍。
图片来自googleblog
随着模型参数数量的指数式增长,深度学习模型的计算量每六个月翻一番,开发人员寻求最大的性能和基础设施的利用率。现在,开放了OpenXLA项目,包编程括XLA、StableHLO和REE库,以供使用和贡献,这是消除这些障碍的重要一步。
OpenXLA项目提供了一个最先进的ML编译器,可以在复杂的ML基础设施中扩展。这个通用的编译器可以将不同的硬件设备桥接到当今使用的多个框架(例如 TandroidensorFlow、PyTorch),通过OpenXLA来帮助加速AI的开发和交付,实现AI的实际潜力。
OpenXLA是一个开源的ML编译器生态系统,由AI/ML行业领导者共同开发,包括阿里巴巴、亚马逊AWS、AMD、苹果、Arm、C编程客栈erebras、谷歌、Graphcore、Hugging Face、英特尔、Meta和英伟达。它使开发人员能够编译和优化所有领先的ML框架的模型,以便在各种硬件上进行有效的训练和服务。使用OpenXLA的开发者将看到训练时间、吞吐量、服务延迟以及最终上市时间和计算成本的显著改善。
OpenXLA项目github地址:https://github.com/openxla