你可能听说过大型语言模型，即能生成类人文本的人工智能系统。但是小型语言模型呢？研究人员正在努力研发更小型、更紧凑的人工智能系统，以解决人工智能系统对数据日益增长的需求所带来的一系列挑战。而且，不只是如今新闻报道中的生成式人工智能模型需要变得更小，那些能够运营工业设施、智慧城市或自动驾驶汽车的人工智能系统也需要如此。
大型人工智能模型面临的挑战
当你使用人工智能（无论是在手机还是笔记本电脑上）时，大部分实际计算都发生在数据中心。这是因为最流行的人工智能模型在计算上非常耗费资源——你的笔记本电脑可能没有足够的计算能力来运行查询。这些人工智能系统还会消耗大量能源。据说，在生成式人工智能模型中进行一次查询（例如问“生成式人工智能是如何工作的？”这样一个问题）所消耗的电量相当于一个灯泡点亮一小时的电量。
这给人工智能的使用带来了两个挑战。首先，这引发了人们对人工智能可持续性的担忧，因为为人工智能供电的电力也会增加温室气体排放。
在最近一项针对全球技术领导者的调查“The Impact of Technology in 2025 and Beyond: an IEEE Global Study”中，35%的人表示人工智能的实用性远远超过其能耗，而34%的人表示人工智能的能耗和实用性处于良好的平衡状态。大约五分之一（21%）的人认为人工智能的益处是显著的，但高能耗仍然是一个问题，而8%的人认为大量的能耗超过了人工智能的益处。
其次，这意味着任何依赖人工智能的事物要么需要更多的电力来运行，要么需要连接到数据中心。
削减人工智能规模的前沿技术正在取得一些成功（https://spectrum.ieee.org/1-bit-llm）。
IEEE会员Jay Shah表示：“这些（技术）耗电量显著降低，通常在瓦特范围内运行，而不是大型数据中心系统消耗的千瓦或兆瓦。”
谁需要紧凑型人工智能？
更小、更节能的人工智能系统可以用于多种应用，比如自动驾驶汽车。
Shah说：“就长期可靠性和降低功耗而言，下一代低功耗人工智能加速器对自动驾驶汽车的未来至关重要。它们能够实现实时决策并实现更紧凑的设计。”
同时，它们对机器人系统来说也是个福音，因为它们将降低机器人的电力需求。
IEEE高级会员Cristiane Agra Pimentel表示，紧凑型人工智能系统在工业环境中也将很有用，在这种环境中，更小的控制系统可以使工厂流程自动化。
Pimentel说：“在工业领域使用紧凑型人工智能将越来越适用于机器操作控制、产品追溯控制和供应链系统管理。”
小型人工智能存在权衡取舍
大型语言模型通常适用于多种用途。它们可以协助撰写大学论文，还能帮你构建网站。紧凑型系统可以针对特定系统进行优化。它们可以被设计成公司的聊天机器人或者自动补全计算机代码。
但是，紧凑型人工智能系统目前准确性较低，因为它们通常使用较少的数据。
Shah表示：“考虑到低功耗、更快的推理时间以及在边缘设备上运行人工智能的能力等好处，这些权衡通常是可以接受的。研究人员和开发人员会继续努力提高紧凑型人工智能系统的准确性，同时保持其效率优势。”
了解更多：EEE计算机协会最近发表了一篇关于小型语言模型的优势和挑战的深度文章。去看看吧：https://www.computer.org/csdl/magazine/co/2024/08/10632613/1ZgY9z1BTGM。
