麦肯锡公司成立近一个世纪，是世界上最大的咨询机构之一。今年早些时候，该公司迅速采用了生成式 AI 工具，据称截至 6 月，其员工中有将近一半使用了这项技术。

在麦肯锡最近的，即超越人类极限的能力。现在，该公司推出了自己的新型生成式 AI 工具：Lilli，一款由麦肯锡的「ClienTech」团队在首席技术官 Jacky Wright 的带领下为员工设计的新的聊天应用程序。

麦肯锡高级合伙人 Erik Roth 在接受采访时说：「如果你能向麦肯锡的全部知识提问，并且（一个 AI 程序）能做出回答，那对公司有什么影响？这正是 Lilli 能做到的。」作为该产品的开发负责人，Erik Roth 与他在麦肯锡的合作伙伴表示，

Erik Roth 表示，Lilli 已经在测试阶段由约 7000 名员工使用作为「最小可行产品」，已经将研究和规划工作所需的时间从几周减少到几小时，甚至有时从几小时减少到几分钟。

Erik Roth 说：「在过去两周里，Lilli 已经回答了 5 万个问题。」「66% 的用户每周会多次返回使用该网站。」

Lilli AI 是界面对于那些使用其他公开的基于文本生成 AI 工具（如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 2）的人来说已经很熟悉了。Lilli 的主窗口底部有一个文本输入框供用户输入问题、搜索和提示，而在其上面生成回答，以对话的形式呈现用户的提示和 Lilli 的回答。

然而，有几个功能立即引人注目：Lilli 还包含一个可展开的左侧边栏，其中保存了提示，用户可以复制、粘贴并根据自己的喜好进行修改。Erik Roth 说，这些提示的分类很快就会添加到该平台上。

生成式 AI 聊天和客户能力功能界面包括两个可切换的标签页，一个是「GenAI Chat」，从更广泛的大型语言模型（LLM）后端获取数据，另一个是「Client Capabilities」，从麦肯锡的 10 万多份文档、记录和演示文稿中获取回答。

Erik Roth 表示：「」

另一个区别在于信息来源：尽管许多 LLM 在回答时没有在其响应中明确引用或链接到来源（微软 Bing Chat 由 OpenAI 提供的是一个值得注意的例外），但

Erik Roth 说：「我们做出了全面的归因。」「我与客户的交谈中，他们对此非常兴奋。」

他设想麦肯锡的顾问们几乎可以在与客户合作的每个阶段使用 Lilli，从收集关于客户所在行业、竞争对手或类似公司的初始研究，到起草客户如何实施具体项目的计划。

Lilli 的演示展示了其灵活性：Lilli 能够提供一份列出内部麦肯锡专家资格的清单，这些专家有资格谈论一家大型电子商务零售商，以及未来十年美国清洁能源的前景，还有一个在 10 周内建造新能源工厂的计划。在此过程中，AI 清楚地透露了其信息的来源。

虽然响应时间有时比领先的商业 LLM 慢几秒钟，但 Erik Roth 表示，麦肯锡不断更新响应速度，并且优先考虑信息的质量。

此外，Erik Roth 表示，

Erik Roth 解释道：「Lilli 可以以非常安全和可靠的方式上传客户数据。」「我们可以考虑未来将我们的数据与客户的数据结合起来，或者仅在同一个平台上使用我们客户的数据进行更大范围的综合与探索……任何我们加载到 Lilli 中的东西都要经过全面的合规风险评估，包括我们自己的数据。」

底层技术 Lilli 利用目前可用的 LLM， 以及微软 Azure 平台上的 OpenAI，来支持其 GenAI Chat 和自然语言处理（NLP）能力。然而，该应用程序由麦肯锡构建，并充当用户和底层数据之间的安全层。

Erik Roth 强调，麦肯锡与底层的「LLM 无关」，并且不断探索提供最大效用的新 LLM 和 AI 模型，包括仍在维护的旧版本。

虽然该公司希望将其使用扩展到所有员工，但 Erik Roth 还表示，

Erik Roth 说：「目前，所有的讨论都在进行中。」「」