你的网站对AI搜索可能不可见,爬虫日志里才有答案
GEOInflow 是一个免费自托管看板,能看到哪些 AI 爬虫来了、读了什么、漏了哪些页面,以及 AI 搜索带来的访客。它补的是网站分析里一块长期缺失的数据。
你的网站可能被 ChatGPT 和 Perplexity 漏掉,原因常常不在内容,而在没人看爬虫日志。普通网站分析记录浏览器里的 PV、UV,AI 爬虫多数不跑浏览器脚本,来了也不会出现在熟悉的面板里。GEOInflow 想补的就是这块:一个免费、自托管的看板,把 AI 爬虫访问、页面覆盖、请求失败和 AI 搜索带来的访客放到同一个网站上下文里。项目在 GitHub,MIT 许可,v1.2,构建版本 1.2.0,由猎看科技和北京日报社智源GEO联合发布。
它展示几类信息:哪些 AI 平台来过,请求目的偏训练、搜索还是用户触发;哪些页面被反复抓,哪些目录被忽略;导入站点清单后,哪些重要页面从未出现爬虫请求;失败请求卡在状态码、缓存、延迟还是源站;以及 AI 搜索 referral 落到哪些页面、有没有形成目标和转化。
重要页面由谁定义?不是系统拍脑袋。你导入 sitemap、CSV 或 JSON 清单,GEOInflow 再拿清单和观察到的日志比对。有网友问过这个问题,这个区别很关键:系统给的是覆盖和盲区,判断网页重要性的仍是站点自己。
爬虫身份也一样。有个容易被忽略的细节:只看 User-Agent 不够。谁都能在请求头里写 GPTBot。有网友在讨论里专门问了这点。项目文档的处理是分开存:User-Agent 声明、官方 IP 范围匹配、可用的 DNS 或可信边缘证据。仅有 UA 声明不能确认来源,没有验证证据的历史记录保留 unknown 状态。这个口径比看见 GPTBot 就算 OpenAI 来了更诚实。
还要分清访问、收录和引用。README 写得很直:爬虫日志证明被访问,索引、模型训练、答案引用、推荐排名、获客各自需要证据。把爬虫来访当收录会得出错误结论,把 AI referral 当排名提升也会。GEOInflow 把爬虫请求、referral 会话和转化分开统计,跨来源关联保留可比性限制。
有网友在回复里调侃,公司博客的报表大概会显示:所有重要页面都被跳过,impressum 倒是被读了两次。这个笑话背后是真问题。AI 搜索正在变成入口,但很多站点对 crawler 的可见性还停留在黑箱。GEOInflow 至少把黑箱拆开了一角:爬虫来没来、读了什么、哪里失败、带没带来人。
部署不复杂。装好 Docker Engine 或 Docker Desktop 和 Docker Compose V2,在项目根目录跑 sh scripts/liekan-deploy.sh,默认地址 http://127.0.0.1:3002,初始账号 admin,密码 liekan,登录后改密码,再按接入指南创建网站。首次安装会导入一份清理过的官方示例数据,方便先看报表长什么样。生产环境需要域名、HTTPS 和可信反向代理;自动日志采集、Cloudflare 控制、AI 分析都有各自配置要求,AI 分析默认关闭,浏览器跟踪默认无 cookie。
它适合公司网站、内容站、媒体、开发者文档,以及管理多站点的 GEO 团队。想验证 AI 搜索到底有没有读你的页面,可以先从一份爬虫日志和一份 sitemap 清单开始。报表可能会让人不太舒服,但总比继续猜好。
发布时间: 2026-10-30 08:32