跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Overview & Reference

Farfalle 评测:一款自托管开源 AI 搜索引擎

·阅读约10分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Farfalle 是一款免费开源、自托管的 AI 搜索引擎,参考 Perplexity 打造,通过结合搜索提供方与 LLM 来回答问题——包括通过 Ollama 运行的完全本地模型,因此一次搜索会话可以完全不离开你自己的基础设施。 它采用 Apache 2.0 许可证,通过 Docker Compose 安装,如果你更倾向于混合部署,也支持云端 LLM 服务商(OpenAI、Groq,以及通过 LiteLLM 接入的其他服务商)。

关键要点

  • 本文是 本地 LLM 软件目录 中 Farfalle 词条的配套评测
  • 采用 Apache 2.0 免费开源许可,2026-09-18 核实
  • 通过 Docker Compose 安装;配置完成后可在本地 http://localhost:3000 运行
  • LLM 后端:可通过 Ollama 完全本地运行(Llama 3、Mistral、Gemma、Phi-3),也可通过 OpenAI、Groq 或 LiteLLM 接入的自定义模型使用云端
  • 搜索提供方:SearXNG、Tavily、Serper 和 Bing
  • 根据仓库信息,技术栈为 Next.js 前端、FastAPI 后端、Redis 用于限流
  • 截至本评测(2026-09-18),已获得 3,541 个 GitHub 星标
  • 无需自托管,farfalle.dev 上提供一个仅使用云端模型的托管演示

📍 简单一句话

Farfalle 是一款免费开源(Apache 2.0)、自托管的 AI 搜索引擎,参考 Perplexity 打造,将搜索提供方与 LLM(包括通过 Ollama 运行的完全本地模型)配对,以引用来源的方式回答问题。

💬 简单来说

Farfalle 让你不必依赖 Perplexity 或类似托管服务来搜索网页并总结结果,而是可以在自己的服务器上运行同类工具,并可选择指向本地模型,使你的查询和模型的推理过程都不离开你自己的基础设施。

📌注: 本评测基于 Farfalle 自身的 GitHub README 和仓库元数据撰写。它并不代表 PromptQuorum 已就 Farfalle 的答案质量与 Perplexity 或其他托管搜索引擎进行过实测对比。

Farfalle(github.com/rashadphz/farfalle)是一款免费开源、自托管的 AI 搜索引擎,风格仿照 Perplexity,截至本评测已获得 3,541 个 GitHub 星标。它通过结合搜索提供方(SearXNG、Tavily、Serper 或 Bing)和 LLM 来回答问题,该 LLM 既可以是云端模型,也可以是通过 Ollama 运行的完全本地模型。本评测介绍 Farfalle 实际能做什么、如何安装,以及适合哪些用户。

Farfalle 是什么?

Farfalle 是一款自托管的开源搜索应用,通过从搜索提供方检索结果,并让 LLM 综合生成带引用来源的答案,风格类似 Perplexity。 由于是自行部署,你可以自主选择每次搜索使用的搜索提供方和 LLM(本地或云端)。

  • 产品类型:一款自托管的 Web 应用(附带底层 API)——不是托管式 SaaS 产品,不过 farfalle.dev 提供一个有限的云端模型演示
  • 创建者/仓库:github.com/rashadphz/farfalle
  • 许可证:根据仓库信息为 Apache 2.0
  • 本地化程度:混合式——既可以完全离线运行,配合本地 LLM 和自托管的 SearXNG 实例,也可以使用云端搜索/LLM 服务商,或两者混用
  • 规模:截至本评测(2026-09-18),已获得 3,541 个 GitHub 星标
  • 技术栈:根据仓库信息,为 Next.js 前端、FastAPI 后端、Redis 限流以及 shadcn/ui 组件

Farfalle 到底能做什么?

Farfalle 接收一个问题,从你选择的搜索提供方检索结果,然后让 LLM 阅读这些结果并撰写一份带引用来源的答案——在生成答案之前,一个智能体式的规划步骤会决定如何执行搜索。

  • 搜索步骤:查询四种支持的提供方之一——SearXNG(可自托管,无需 API 密钥)、Tavily、Serper 或 Bing
  • 回答步骤:LLM 根据检索到的结果综合生成回答,并以类 Perplexity 的格式标注引用来源
  • 本地 LLM 支持:连接 Ollama 实现完全本地推理,仓库中列出的受支持本地模型包括 Llama 3、Mistral、Gemma 和 Phi-3
  • 云端 LLM 支持:OpenAI 模型(GPT-4o、GPT-3.5-turbo)和 Groq 托管的 Llama 3,此外还有通过 LiteLLM 接入的其他服务商
  • 智能体式搜索:README 描述了一个负责规划和执行搜索的智能体,而不是单一固定的检索步骤
  • 浏览器集成:根据仓库信息,Farfalle 可以设置为浏览器的默认搜索引擎
  • 路线图项目:截至本评测,仓库将聊天记录和本地文件搜索列为规划中、尚未上线的功能——在依赖这两项功能前,请到仓库核实当前状态

使用示例:三种使用 Farfalle 的方式

以下是基于 Farfalle 已记录的搭建方式构建的具体工作流,而非假设场景。

运行一套完全本地、自托管的搜索技术栈

将 Farfalle 与自托管的 SearXNG 实例(用于检索)以及运行本地模型(例如 Llama 3 或 Mistral)的 Ollama(用于回答步骤)配对使用。以这种方式配置,搜索查询及其答案都不会离开你自己的基础设施。

将 Farfalle 用作私密的、带引用来源的研究助手

接入 Tavily 或 Serper 以获得更高质量的网页检索,同时通过 Ollama 让回答用的 LLM 保持本地运行,让你获得类 Perplexity 的带引用答案,而无需将查询发送给托管式 AI 搜索产品。

先试用托管版本,再决定是否自托管

访问 farfalle.dev 上仅限云端模型的演示,先了解 Farfalle 的答案格式和引用样式,再决定是否使用你自己选择的搜索和 LLM 服务商进行 Docker Compose 部署。

Farfalle 定价与许可

Farfalle 本身完全免费,没有付费档位。 根据仓库信息,它采用 Apache 2.0 许可——这是一种宽松许可证,允许商业使用、修改和再分发。

  • Farfalle 本身不设订阅、付费档位或使用限制
  • 自托管无需注册账号
  • 完全本地运行(自托管 SearXNG 加本地 Ollama 模型)除了你自己的硬件和电费之外,不会产生按查询计费的成本
  • 如果你改为接入 Tavily、Serper、Bing、OpenAI 或 Groq,则适用这些服务商自身的定价——Farfalle 不会额外加价
  • farfalle.dev 上的托管演示是一个独立、有限、仅限云端模型的实例,不是付费产品档位

Farfalle 对比 Local Deep Research

Farfalle 和 Local Deep Research 都是将网页搜索与 LLM 结合,但两者面向不同的任务:Farfalle 专为快速、带引用来源的单轮搜索问答而打造,而 Local Deep Research 专为更长、多步骤的研究报告而打造。

主要用途

Farfalle:
快速、类 Perplexity 的带引用问答
Local Deep Research:
多步骤深度研究报告

界面

Farfalle:
Web 应用 + 命令行
Local Deep Research:
Web 应用 + 命令行 + Python API

本地 LLM 支持

Farfalle:
通过 Ollama
Local Deep Research:
通过 Ollama 及其他本地后端

搜索提供方

Farfalle:
SearXNG、Tavily、Serper、Bing
Local Deep Research:
多种,包括 SearXNG

安装方式

Farfalle:
Docker Compose
Local Deep Research:
pip 或 Docker

如果你想要一个快速、单次回答的搜索替代方案,Farfalle 的定位更贴合需求。如果你需要一份综合多来源、篇幅更长的研究报告,请直接查看 Local Deep Research 的评测。两者都是免费开源的;决定前请在各自项目的官方仓库核实当前功能细节。

在目录中比较

谁适合使用 Farfalle?

Farfalle 适合希望完全掌控类 Perplexity 搜索体验的人,包括希望将整套技术栈保持在本地运行的选项。

以下情况适合使用 Farfalle

  • 希望获得一款自托管、开源的托管 AI 搜索产品替代方案,从而自主掌控搜索提供方和模型
  • 出于隐私或成本考虑,希望有选择通过 Ollama 完全本地运行回答用 LLM 的余地
  • 能够熟练运行 Docker Compose 技术栈并配置 .env 文件
  • 希望获得带引用来源链接的答案,而不是没有参考依据的纯聊天回复
  • 希望将一款自托管搜索引擎设为浏览器的默认搜索引擎

以下情况建议考虑其他方案

  • 希望获得零配置、完全托管的产品——farfalle.dev 演示仅限云端模型,并未定位为完整产品档位
  • 现在就需要聊天记录或本地文件搜索功能——截至本评测,仓库将这两项列为路线图项目,尚未上线
  • 需要深度、多步骤的研究报告,而不是快速的单轮回答——可改看 Local Deep Research
  • 需要带 SLA 的厂商支持——本评测未发现该项目有商业背景或支持合同的证据

Farfalle 不适合哪些场景

如果你想要零配置的托管产品、现成的聊天记录功能,或深度多步骤研究报告,Farfalle 都不是好的选择。

  • 不是零配置方案——自托管需要 Docker Compose,若要完全本地化的技术栈,还需要自行搭建 SearXNG 和 Ollama
  • 目前还不是聊天记录工具——截至本评测,仓库将其列为路线图项目,而非已上线功能
  • 目前还不是本地文件搜索工具——同样被列为路线图项目,尚未上线
  • 除非你主动选择,否则并非完全本地——Tavily、Serper 和 Bing 都是云端搜索提供方;只有 SearXNG 可以自托管,配合本地 Ollama 模型才能构成完全离线的技术栈
  • 本评测未能核实该项目有融资轮次或公司背景——应将其视为独立维护、由社区支持的项目

评估 Farfalle 时的常见错误

关于 Farfalle 的大多数误解,来自默认它是完全私密的,或者期待一些仍在路线图上的功能已经上线。

错误一:默认 Farfalle 出厂就是完全本地的

默认设置通常使用云端搜索提供方或云端 LLM。要实现完全本地化,需要主动为 LLM 选择 Ollama,并为搜索自托管 SearXNG——无论你连接哪个 LLM,Tavily、Serper 和 Bing 始终是云端服务。

错误二:默认开箱即有聊天记录或本地文件搜索功能

截至本评测,仓库将这两项列为路线图项目而非已上线功能——在假设某项功能可用之前,请查看仓库当前的 README。

错误三:把 farfalle.dev 演示与完整的自托管部署混为一谈

farfalle.dev 上的托管演示仅使用云端模型,是一个有限的预览,如果本地 LLM 支持对你很重要,它不能替代你去了解自托管的搭建方式。

错误四:期待它拥有与深度研究工具相同的功能集

Farfalle 专为快速、单轮、带引用来源的搜索回答而打造,而不是多步骤的研究综合。如果需要更长的研究报告,应将其与 Local Deep Research 对比,而不是期望 Farfalle 完成这项工作。

竞品与替代方案

Farfalle 最常被拿来与其他自托管的本地搜索和研究工具比较,例如 Local Deep Research、Onyx 和 Hyperlink——它的主要差异化在于快速的类 Perplexity 引用答案格式,以及简单的 Docker Compose 搭建方式。

工具
主要特点
链接
Local Deep Research基于本地和网络来源,生成多步骤深度研究报告Local Deep Research 评测
Onyx自托管企业搜索和 RAG 平台(原名 Danswer)Onyx 评测
Hyperlink(Nexa AI)面向自有文件的本地搜索与个人助理应用Hyperlink 评测

此列表反映的是常与 Farfalle 比较的工具,并非 PromptQuorum 独立排名——选择前请核实各工具当前的功能集。

在目录中比较

常见问题

Farfalle 是什么?

Farfalle(github.com/rashadphz/farfalle)是一款免费开源(Apache 2.0)、自托管的 AI 搜索引擎,参考 Perplexity 打造,将搜索提供方与 LLM 配对,生成带引用来源的答案。

Farfalle 免费吗?

是的。Farfalle 在 Apache 2.0 许可下免费开源,没有付费档位。如果你接入付费的搜索或 LLM 服务商(Tavily、Serper、Bing、OpenAI、Groq),则适用该服务商自身的定价——Farfalle 本身不收取任何费用。

Farfalle 能完全离线配合本地模型运行吗?

可以,只要你这样选择:连接 Ollama 实现完全本地的 LLM,并自托管 SearXNG 用于搜索。Tavily、Serper 和 Bing 仍然是云端服务,如果想要完全离线的技术栈,应避免使用它们。

如何安装 Farfalle?

克隆仓库,将 .env-template 复制为 .env,然后运行 docker-compose -f docker-compose.dev.yaml up -d。之后应用即可在 http://localhost:3000 访问。运行前请到 GitHub 仓库核实当前的搭建步骤。

Farfalle 支持哪些本地 LLM?

通过 Ollama,仓库中列出的受支持本地模型包括 Llama 3、Mistral、Gemma 和 Phi-3。

Farfalle 支持哪些搜索提供方?

四种:SearXNG(可自托管,无需 API 密钥)、Tavily、Serper 和 Bing。

Farfalle 有可以先试用的托管版本吗?

有,farfalle.dev 上提供一个仅使用云端模型的有限演示,与自托管的 Docker Compose 部署相互独立。

Farfalle 支持聊天记录或搜索本地文件吗?

截至本评测尚不支持——仓库将这两项列为路线图项目,而非已上线功能。请查看当前的 README 了解最新状态。

Farfalle 使用什么许可证?

根据仓库信息为 Apache 2.0——这是一种宽松许可证,允许商业使用、修改和再分发。

Farfalle 与 Local Deep Research 有什么区别?

Farfalle 专为快速、单轮、类 Perplexity 的带引用答案而打造,而 Local Deep Research 专为更长、多步骤的研究报告而打造。详情参见上文的专门对比部分。

资料来源

← 返回 本地LLM进阶

MCP