企业内部AI

取决于选择哪种方式。使用外部模型时，问题及匹配到的部分文档会发送给该服务。本地部署的 LLM 把模型放在贵司服务器上，文档不会外流，也不会随使用量增加而产生调用费用，代价是需要前期投入与硬件。我们会根据文档敏感度与使用量共同确定。

我们从一开始就假设它会出错。它不只给出答案，还会展示依据的是哪份文档的哪一段，让人当场就能核对。这样才能真正用于业务。找不到依据时，我们会让它如实回答不知道，而不是编造。这是决定能否落地的关键，所以从设计之初就采用这种方式。

可以开始。只是不会一次全部导入。我们先挑出十来个大家真正会问的问题，再只导入确实包含这些答案的文档。这样就能看出哪些文档有用、哪些已经过时，整理往往在这个过程中顺带完成。想等全部整理好再开始，结果常常是一直没能开始。

第一个分岔点是文档能否离开公司。若可以，聊天机器人起步更快更省；若不可以，就走本地部署。第二是使用量：外部模型按调用计费，日均用量大到一定程度后，本地部署反而更便宜。沟通时我们会结合文档性质与预估用量，指出这个临界点在哪里。