打造自己的AI搜索引擎
你可能听说过 Perplexity，这是一个引起轰动的 AI 搜索引擎。与传统搜索相比，它提供简洁、综合的查询答案，而不仅仅是链接列表，以提高效率和生产力。然而，Perplexity 的独特功能是有代价的——专业搜索每月 20 美元，免费用户每天只能进行 5 次专业搜索。
但是，如果你可以在自己的硬件上构建类似的东西，而没有月费或使用限制，那会怎样？在本指南中，我们将引导你完成使用开源 AI工具创建本地 Perplexity 替代方案的过程。
1、重现 Perplexity 的工作流程
在深入研究我们的自托管解决方案之前，让我们简要了解一下 Perplexity 的工作原理。请注意，这是一个简化版本，实际工作流程要复杂得多。
- 用户向 Perplexity 发送问题。
- Perplexity 理解问题并将其发送给 Google 等搜索引擎
- Google 实时搜索网络。
- Google 将排序后的结果返回给 Perplexity。
- Perplexity 使用问题和结果创建提示，并将其发送给 OpenAI 的 GPT-4 等 AI 型。
- AI 将所有内容编译成连贯的答案。
此工作流程归结为三个关键组件：
- Perplexity 作为 AI 搜索平台和界面。
- Google 作为搜索引擎。
- OpenAI 作为 AI 模型提供者。
为了重新创建此工作流程，我们将用开源工具替换它们：
- Ollama：一个流行的开源项目，使用户能够托管 Gemma2 等大型语言模型。
- SearXNG：一个开源、尊重隐私的互联网元搜索引擎，从网络获取实时结果。
- Perplexica：一个将所有内容联系在一起的 AI 驱动的搜索引擎。
2、Terminus简介
与常规安装方法相比，Terminus 为希望自行托管应用程序的用户提供了更简化、更用户友好的体验：
- 简单快速的部署。Terminus 通过其市场为 Ollama 和 Perplexica 等应用程序提供一键安装。这允许快速部署和测试新项目。
- 灵活的应用程序和服务组合。Terminus 中的应用程序和服务可以部署一次并根据需要灵活组装。这允许轻松试验不同的配置和服务组合，而无需复杂的重新部署。
- 使用唯一域名的任何地方访问。Terminus 为每个应用程序和服务提供开箱即用的专用域名，允许从任何带有浏览器的设备进行访问。
3、环境搭建
先决条件：
- 安装了 Nvidia GPUWindows（Windows 10 或 11）或 Linux PC
- 安装了 Terminus。请参阅快速入门指南。
分步指南
按照以下步骤在 Terminus 上构建本地 AI 引擎。
从浏览器启动 Terminus，然后从桌面打开 Terminus Market。
注意：你可以在任何浏览器中使用你的个人域名访问 Terminus。
- 在 Market 中，找到 Ollama、SearXNG 和 Perplexica。
- 单击每个应用程序下的获取以安装它们。等到安装完成。
4、Ollama配置
使用 AI 模型配置 Ollama。对于此处的设置，我们将使用 Google 最新的开源语言模型 Gemma2。
- 从启动器打开 Ollama。
- 导航到管理面板 > 模型 > 从 Ollama.com 提取模型，然后选择 gemma2:27b 作为要提取的目标模型。
- 单击右侧的下载按钮开始提取模型。提取完成后退出应用程序。
5、Perplexica配置
我们快准备好了。让我们配置 Perplexica，它是将一切联系在一起的粘合剂。
- 从启动器打开 Perplexica。
- 在“设置”窗口中，按照屏幕截图所示进行指定。
由于我们已经安装了 Ollama 和 Gemma2，因此它们将在此处显示为默认选项。 恭喜，你刚刚获得了自托管的 Perplexity 替代方案。
6、本地 AI 搜索引擎测试
让我们尝试在 Perplexica 和 Perplexity 上提出相同的问题，并进行同类比较。
如你所见，我们问了同样的问题“为什么要自托管”。 虽然处理时间、信息长度和详细信息因型号和技术栈不同而有所不同，但考虑到自托管的好处，Perplexica 的答案是可以接受的。
7、结束语
通过利用 Terminus 和 Ollama、SearXNG 和 Perplexica 等开源工具，你可以创建一个功能强大的自托管 AI 搜索引擎，类似于 Perplexity 等商业产品。这种设置不仅可以节省你的资金，还可以让你控制数据和搜索体验。
原文链接：Building a Local Perplexity Alternative with Perplexica, Ollama, and SearXNG
汇智网翻译整理，转载请标明出处