阿里巴巴集团控股公司表示，它已经找到了一种方法来缩小培训搜索搜索的人工智能模型的成本近90％。
在纸中国技术公司的研究人员发表在Arxiv服务器上，描述了“ Zerosearch”，这是一个培训快捷方式，可让大型语言模型以一小部分成本提高其搜索技能。
阿里巴巴认为，该方法删除了加固学习中最昂贵的步骤之一：通过付费的应用程序编程接口来划分数万个查询。
Zerosearch将这种瓶颈使用。已经拥有广泛知识基础的参考模型充当了独立的搜索引擎，为每个查询提供了有用和故意嘈杂的文档。然后，对那些自制嘈杂的文档进行了培训。
微调从措辞清晰的提示和干净的答案开始。随着时间的流逝，“课程推广”会增加混乱，错别字和矛盾，从而使学员模型经历更接近开放互联网的东西。
根据本文，数据噪声加强了推理，并教导系统在凌乱的数据环境中生存。研究人员解释说：“我们的主要见解是，LLM在大规模预处理期间获得了广泛的世界知识，并且能够在搜索查询的情况下生成相关文件。”
团队不必为每个查询支付外部提供商。对于资源有限的较小团队来说，这种变化尤其重要。例如，通过API向Google发送64,000个查询的费用约为586.70美元。通过140亿参数进行相同的培训你有一个模型花费大约70.80美元，节省88％。
阿里巴巴Zerosearch不需要其他硬件
团队认为，Zerosearch不会添加额外的硬件需求。它依赖于标准监督的调查，因此云计算需求保持在典型开发预算范围内。
该论文已经引起了学术机器学习界的关注。行业观察家表示，节省可能会影响未来财政年度即将到来的预算周期。
行业竞争对手一直在竞争，以减少大型语言模型培训的成本，因为它们推动了新的生成AI产品。
阿里巴巴新功能随着中国公司与Google和OpenAI等美国公司竞争，它们都在AI代理商中投入了大量投资。通过报告几乎削减成本的削减，阿里巴巴表示AI搜索的成本可能很快就会发生变化。
您的加密新闻值得关注 - 钥匙差线将您放在250多个顶级网站上
No comments yet