人工智能推理技术公司BitEnergy AI的一组工程师报告了一种将人工智能应用的能源需求减少95%的方法。该小组在arXiv预印本服务器上发表了一篇论文，描述了他们的新技术。
随着人工智能应用成为主流，其使用量急剧增加，导致能源需求和成本显著上升。像ChatGPT这样的法学硕士需要大量的计算能力，这反过来意味着需要大量的电力来运行它们。
仅举一个例子，ChatGPT现在每天需要大约564兆瓦时的电力，足以为1.8万个美国家庭供电。随着科学的不断进步，这类应用程序变得越来越受欢迎，批评人士认为，人工智能应用程序可能在短短几年内每年使用约100太瓦时的电力，与比特币挖矿业务相当。
在这项新的努力中，BitEnergy AI团队声称他们已经找到了一种方法，可以大幅减少运行人工智能应用程序所需的计算量，而不会导致性能下降。
这种新技术很基本——它使用整数加法而不是复数浮点乘法。应用程序使用FPM来处理极大或极小的数字，允许应用程序使用它们以极高的精度进行计算。这也是人工智能数据处理中最耗能的部分。
研究人员称他们的新方法为线性复杂度乘法，它通过使用整数加法来近似FPMs。他们声称，到目前为止的测试表明，这种新方法可以减少95%的电力需求。
它的一个缺点是需要不同于目前使用的硬件。但研究小组也指出，这种新型硬件已经被设计、制造和测试过了。
然而，这些硬件将如何获得授权尚不清楚——目前，GPU制造商英伟达（Nvidia）主导着人工智能硬件市场。如果该公司的说法得到证实，他们对这项新技术的反应可能会对其采用的速度产生重大影响。
更多信息请参见：罗洪银等，节能语言模型的加法，arXiv（2024）。DOI: 10.48550/ arXiv .2410.00907
?2024 Science X Network
引用：整数加法算法可以将AI的能量需求降低95%（2024年，10月12日）检索自https://techxplore.com/news/2024-10-integer-addition-algorithm-energy-ai.html本文档
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
