这段时间,我一直在折腾 AI。
严格来说,也不是单纯“用 AI”。
我更感兴趣的是:能不能把 AI 真正接进自己的电脑、服务器、数据和日常工作里。
所以这段时间,我折腾了不少东西:不同的大模型、OpenRouter、Telegram、Hermes Agent、Docker、数据库、Excel、OCR、自动化脚本,还有各种本地数据分析程序。
中间当然也踩了不少坑。
有些东西跑起来以后确实很好用,有些看起来很酷,实际却没什么意义,还有一些系统搭出来以后,我最后直接删掉了。
现在回头看,这段经历反而让我对 AI 有了一个和最开始完全不同的认识。
01|最开始,我只是想要一个“能干活”的 AI
以前用 ChatGPT 之类的 AI,基本都是一个模式:
打开网页。
输入问题。
等答案。
这当然已经非常方便了。
写代码不会,可以问 AI。
Linux 命令不会,可以问 AI。
遇到报错,把日志贴进去。
需要写东西,也可以让 AI 帮忙。
但我慢慢发现,这种使用方式还是有一个限制:
AI 和我的实际环境是分开的。
它知道我告诉它的东西,但不知道我的服务器现在是什么状态,也不知道数据库里面到底有什么,更不可能自己去读取一个刚收到的 Excel,然后把分析结果继续往后处理。
所以后来我开始折腾 Agent。
02|Hermes:我真正开始把 AI 当成“工具”来用
Hermes 给我的感觉,和普通聊天机器人最大的区别,不是它“更聪明”。
而是它可以接工具。
通过 Telegram,我可以直接和它沟通。
后面再把文件、服务器、脚本、数据库等东西接进去以后,使用方式就开始发生变化。
以前是:
我
↓
问 AI
↓
AI 回答
后来变成:
我
↓
告诉 Hermes 要做什么
↓
Hermes 调工具
↓
读取数据
↓
运行程序
↓
分析结果
↓
告诉我发生了什么
这时候 AI 才开始有一点“助手”的感觉。
不是因为它会聊天,而是因为:
它开始能碰到真实世界里的东西了。
03|然后第一个问题来了:Token 根本经不起这么玩
刚开始折腾的时候,我也犯过一个很典型的错误:
什么都想扔给 AI。
Excel 给它。
历史数据给它。
数据库里的数据也给它。
让它自己统计、自己计算、自己分析。
看起来很智能。
但很快就会发现:
这其实非常浪费 Token。
比如一个商品系统,真正需要分析的数据可能非常多。
如果每次都把几个月甚至更长时间的原始数据全部塞进模型:
数据库
↓
导出大量原始数据
↓
发送给大模型
↓
大模型重新计算
↓
得到结果
既慢,又贵。
而且很多计算根本没必要交给 AI。
比如:
7 天销量
14 天销量
30 天销量
环比
库存天数
毛利
价格变化
排名
历史最高/最低价
异常值
这些东西程序算起来又快又准。
所以我后来开始改变架构。
04|让程序算,让 AI 想
现在我比较喜欢的一种方式是:
原始数据
↓
本地程序处理
↓
结构化分析结果
↓
Hermes
↓
AI 综合判断
↓
输出建议
也就是:
能计算的事情交给程序,需要判断的事情交给 AI。
这句话听起来很简单,但实际上对整个系统影响非常大。
以前我会想:
“怎么让 AI 什么都做?”
后来变成:
“怎么让 AI 只做最适合它做的事情?”
这其实是我折腾 Agent 之后最大的一个变化。
05|Excel 是个非常有意思的入口
我日常接触的数据里面,有大量 Excel。
所以很自然地就开始尝试:
如果我把 Excel 发给 Hermes,它能不能自己处理?
后来慢慢做成了一套流程。
比如收到一份数据:
Excel
↓
解析 Sheet
↓
识别商品
↓
匹配历史数据
↓
本地程序计算
↓
Hermes 分析
↓
生成结果
这时候我才真正觉得:
文件其实是人与 Agent 之间非常好用的接口。
不需要专门打开后台。
不需要登录某个复杂系统。
直接把文件扔过去。
然后告诉它:
分析一下。
剩下的事情让系统自己跑。
06|调价这件事情,让我第一次觉得 AI 真的有点用了
后来我又把 AI 接到了调价分析里面。
这部分其实比想象中复杂。
因为一个商品今天应该卖多少钱,并不是简单地:
成本 + X%。
真正判断的时候,需要看很多东西。
比如:
供应价格变化
+
最近销量
+
历史销量趋势
+
当前库存
+
库存天数
+
历史价格
+
当前售价
+
毛利
+
近期趋势
这些东西程序可以全部算出来。
然后 Hermes 再去综合判断。
于是最后变成:
供应商价格
↓
OCR
↓
商品匹配
↓
历史数据库
↓
本地分析
↓
Hermes
↓
调价建议
↓
人工确认
这里有一个很重要的区别:
我并没有让 AI 直接修改最终价格。
而是让它:
分析 → 建议 → 我确认。
我越来越喜欢这种模式。
07|订货也是一样
订货甚至比调价更复杂。
一个商品到底要不要买,不能只看:
“昨天卖了多少?”
还需要考虑:
最近销量
长期趋势
当前库存
库存还能卖几天
供应商多久送一次货
历史采购价格
当前价格
商品周转
毛利
是否存在持续上涨/下降
所以我最后越来越倾向于把系统拆成三层:
程序
负责算数据
AI
负责分析和解释
人
负责最终决定
这比“让 AI 自动替我决定”靠谱得多。
08|供应商图片,又给我增加了一层麻烦
现实世界的数据往往没有那么整齐。
理想情况是:
供应商
↓
标准 Excel
↓
直接导入数据库
现实情况经常是:
供应商
↓
图片
↓
OCR
↓
商品名称不一致
↓
价格格式不一致
↓
需要匹配
于是又开始折腾 OCR、商品匹配、别名库、规则。
这也是我越来越喜欢 Agent 架构的原因。
因为一个任务往往不是一个 AI 模型能解决的。
而是:
OCR
+
规则
+
数据库
+
脚本
+
AI
一起解决。
AI 只是其中的一环。
09|Hermes 后来还开始帮我管服务器
这也是我觉得 Agent 最有意思的地方之一。
以前服务器出问题,我一般都是自己 SSH 上去。
然后:
docker ps
docker logs
systemctl status
ss -lntp
top
df -h
一个个查。
后来这些东西可以直接让 Hermes 去检查。
比如:
看一下这个服务为什么不工作。
它可以自己去:
检查容器
↓
检查日志
↓
检查端口
↓
检查配置
↓
分析问题
↓
告诉我原因
甚至可以进一步执行修复。
不过这里我也踩到了一个非常重要的坑:
AI 有权限以后,风险就来了。
10|Agent 越能干活,越不能给它无限权限
这一点是我后来越来越重视的。
如果 AI 只能聊天,说错一句话,最多就是答案不准确。
但如果 AI 可以:
删除文件
修改配置
重启服务
修改 Docker
操作数据库
那就完全不一样了。
所以现在我更倾向于:
先检查
↓
再分析
↓
提出方案
↓
确认
↓
执行
↓
验证
尤其是生产环境。
AI 可以犯错,而且它犯错的时候可能非常自信。
所以真正可靠的 Agent,不应该只是“能力强”,还需要:
权限控制
备份
日志
验证
回滚
人工确认
这些看起来一点都不 AI,但实际上比模型本身还重要。
11|模型折腾多了以后,我也不再迷信“大模型”
刚开始研究模型的时候,我也会纠结:
哪个模型最强?
后来模型用多了,发现真正的问题其实是:
哪个模型最适合这个任务?
有些任务根本不需要特别强的模型。
比如:
文本提取
分类
简单总结
格式转换
便宜模型完全够用。
而真正复杂的:
长上下文分析
复杂代码
多步骤推理
复杂决策
才值得用更强的模型。
所以现在我更倾向于:
简单任务 → 便宜模型
普通任务 → 性价比模型
复杂任务 → 强模型
大量计算 → 本地程序
这比所有事情都扔给最贵的模型合理得多。
12|我甚至折腾过 AI + 量化交易
除了自己的业务系统,我还折腾过 AI 和量化交易。
最开始的想法其实非常诱人:
让 AI 找策略,然后自动交易。
听起来是不是很科幻?
真正做起来以后,马上冷静了。
AI 可以帮忙:
研究指标
生成策略
写代码
修改策略
分析回测
比较结果
找问题
但这和:
“AI 能赚钱”
完全是两回事。
真正合理的流程应该是:
AI 提出假设
↓
程序实现
↓
历史回测
↓
统计结果
↓
AI 分析
↓
提出新假设
↓
继续回测
所以后来我更愿意把 AI 当成:
量化研究助手。
而不是交易神谕。
13|有意思的是,有些东西我最后直接删掉了
折腾 AI 最容易出现的一种情况就是:
既然能做,那就做。
于是系统越搭越多。
服务越来越多。
自动化越来越复杂。
最后发现:
这个东西其实没什么用。
我后来确实把一些已经搭好的自动化系统直接删除了。
现在反而觉得这是件好事。
因为做 AI 项目不是:
搭得越复杂越厉害。
而是:
真正有价值的留下,没价值的删掉。
有时候删除一个系统,比搭一个系统更重要。
14|我现在看 Agent,已经和几个月前完全不一样了
最开始我理解的 Agent:
会自己执行任务的 AI。
现在我的理解更像:
数据
↓
工具
↓
Agent
↓
AI 模型
↓
决策
↓
执行
↓
结果
↓
数据
真正重要的不是某个模型有多聪明。
而是整个闭环能不能跑起来。
甚至可以说:
模型只是 Agent 的大脑之一,数据和工具才是它的手脚。
15|我现在最喜欢的 AI 架构
如果让我重新设计一个 AI 系统,我大概会采用这种思路:
人
│
▼
Telegram
│
▼
Hermes
│
┌────────────┼────────────┐
│ │ │
▼ ▼ ▼
数据库 本地程序 外部工具
│ │ │
└────────────┼────────────┘
▼
AI 模型
│
▼
决策
│
▼
执行/建议
│
▼
人
其中最关键的一点是:
数据尽可能留在自己的系统里。
AI 不需要知道所有原始数据。
只需要得到真正需要推理的信息。
这样成本、速度、隐私和可控性都会更好。
16|AI 对我最大的改变,不是“更聪明了”
如果让我总结这段时间最大的变化,我觉得不是:
我用了更强的模型。
也不是:
我学会了某个 Agent。
而是我开始改变解决问题的方式。
以前遇到一个问题:
找一个软件。
现在遇到一个问题:
能不能把它做成一个流程?
以前:
自己查
自己算
自己整理
自己执行
现在:
数据
↓
程序
↓
Agent
↓
AI
↓
人工确认
我越来越觉得,未来真正有意思的不是“人人都有一个聊天机器人”。
而是:
每个人都可能拥有一个属于自己的 AI 工作系统。
17|最后,我现在反而不太关心“AI 会不会取代人”
这个问题以前很热门。
现在我觉得它甚至有点问错了。
至少从我的使用体验来看,AI 并没有让我完全不工作。
恰恰相反。
它让我开始做以前根本没时间做的事情:
设计流程
整理数据
搭建自动化
写程序
测试模型
研究系统
分析结果
以前我是自己做很多事情。
现在更像是在:
设计一个系统,让 AI、程序和我一起做事情。
这可能才是我这段时间折腾 AI 最大的收获。
写在最后
我现在依然会折腾各种新模型、新 Agent、新工具。
也依然会踩坑。
有时候一个晚上就能搭出一个看起来很厉害的东西,第二天发现根本没必要。
有时候一个看起来不起眼的小脚本,最后反而成了整个系统里最好用的东西。
所以我现在对 AI 的期待也简单了很多。
我不再期待它什么都懂,也不期待它什么都能做。
我更希望它:
能看懂我的数据,能调用我的工具,能帮我处理重复工作,能在复杂问题上给出有价值的判断,然后在真正重要的地方把决定权留给我。
从这个角度看,Hermes 对我来说已经不只是一个 AI 聊天工具。
它更像是一个实验。
一个关于“普通人到底能不能给自己搭一个 AI 工作系统”的长期实验。
而这个实验,现在才刚刚开始。
评论区