新型 AI 算法亮相:功率降至常规配置 150,显存占
美国加州大学圣克鲁兹分校的研究团队研究出新的方法,AI 浪潮下很多公司、机构的研究主方向是应用、推理方面,很少考虑效率等指标。该研究人员为缓解这种状况,淘汰了矩阵乘法的密集型技术,团队还使用一种名为现场可编程门阵列的高度定制电路创建了定制硬件,让他们能够最大限度地利用神经网络中的所有节能功能。
在定制硬件上运行时,可以达到与 Meta 的 Llama 等顶级模型相同的性能,但该神经网络设计还可以用于在人工智能行业常用的标准 GPU 上运行,测试结果显示,附上参考地址