另一方面，使用开源 llm 的公司将更快地获得价值，因为它是一种即插即用的模型。将加到 llm 中可以为其提供更多背景信息，从而生成更好的结果。您可以使用低成本的提示基础和检索增强生成(rag) 来实现这一点，这是一种 ai 技术，可以自动将您最新和最相关的专有数据直接嵌入到您的 llm 提示中。由于您不需要上述训练自己的 llm 的方面，因此开源模型的成本基本上相当于您每月或每年向提供商支付的服务费以及基础和使用 rag 的费用，这比自己训练要少得多——少了数十万美元，甚至数百万美元。
在使用开源 llm 和训练自己的 llm 之间，可以选择微调预训练模型。虽然这可能会增加您的 银行数据 本数万美元，并且需要更多的 ai 专业知识，但微调可以让您更好地定制和利用预训练模型的优势。savarese解释说，微调可以让您优化开源模型以用于特定行业、领域或问题集。然后可以像使用开源模型一样使用 rag。
govindarajan 表示：“绝大多数公司可以通过使用无需培训的方法快速获得价值。无需培训的方法还解决了将模型扎根于公司数据的问题，使其易于更新。”
除了节省时间和几乎立竿见影的价值之外，您不需要雇用那么多人来运行 llm。在大多数情况下，启动和运行您的开源模型几乎是一个无代码或低代码的过程——无需雇用大量工程师和数据科学家。然后，您可以使用自己的数据为 llm 打下基础，以构建更好的提示，您可以轻松更新这些提示，以保持您的 llm 新鲜和相关。