近日,Meta的人工智能团队宣布开源一套强大的AI模型工具,称为Meta大语言模型编译器(Meta LLM Compiler)。这个工具旨在变革代码编写和优化的方式,使LLM开发过程更快且更具备经济性,将可能是代码编写方式变革的最新AI突破。
LLM Compiler主要特点:
1. 资源密集型任务:训练LLM通常需要大量资源和费用,涉及广泛的数据收集的人力投入和大量图形处理单元(GPU),而这对许多组织来说是难以承受的。
2. 代码和编译器优化:LLM Compiler旨在通过使用LLM进行代码和编译优化来简化这一过程。这涉及修改软件系统,使其工作更高效或使用更少的资源。
3. 训练和性能:LLM Compiler在5460亿个LLVM项目和汇编代码的标记上进行了训练,使其能够理解编译器的中间产物、编译语言、优化技术代码。在代码规模优化中显示出显著的效率,并在旧代码维护和逆向工程方面也有潜力。
4. 效率提升:在实验中,LLM Compiler在代码优化方面实现了自动调优搜索77%的优化潜力。而在代码反汇编的任务中,其来回反汇编的成功率为45%(其中14%完全匹配)。
Meta团队认为这个工具后续会有更广泛的影响。它可以增强软件开发的许多方面,提供更快的代码编译、更高效的代码以及理解力、微调复杂应用等。
LLM Compiler的引入标志着代码和编译器优化技术方法的重大转变,可能减少对人类软件工程师的依赖,并带来更高效的软件开发实践。
它以宽松的商业许可证开源,可以用作学术研究,也可以用作商业用途。
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://itzsg.com/75216.html