[📝] 今天这一天 #230:整理并分享数据采集-审核-执行-交付流程
✨ GPT-5.5 的总结
借着迁移到 PostgreSQL DB 的契机,重新整理这几天搭建的采集、审核、执行、交付流程的一天。
💭 今日简短日记
这几天一边搭建数据采集、审核、执行、交付流程,一边不断遇到各种问题。确实,我既没有系统学过 DB,也没有认真处理过 DB,所以数据保存方式经常要改,而每次都不是简单替换就结束。
一开始,我用 JSON/CSV 收集数据,再用 DuckDB 做查看用的表面。但 worker 的产物和 coordinator 不断重建 DB 的结构混在一起后,我一直分不清什么是原始数据,什么是基准数据。
后来我也拟过用 MySQL 建 DB 的方案。但问题并不在 MySQL 本身,而在多个 worker 或脚本直接更新基准数据的结构。那样的话,并发 update、冲突、所有权、回滚问题很可能会反复出现。
之后也继续看了其他方式,但核心问题一样。采集数据、基准数据、执行数据、交付产物的边界一旦模糊,同样的问题最终还是会回来。
所以今天迁移到 PostgreSQL DB 的同时,也把这几天搭建的整体流程一起整理了一遍。不是把所有东西都当成一个 DB 块来处理,而是把角色拆开。
- PostgreSQL DB
- 先在 MacBook 本地运行 DB
- 保存原始 evidence
- 以 append-only 的方式保存 worker 观测值
- 按照既定的基准数据结构管理基准数据和基准值
- 采集通道
- 采集按
collection_channel_id拆分 - 每个通道定义看哪个 public source、写入哪个 evidence shard、属于哪个 stage
- 过去的 method 编号只保留为 evidence shard 兼容 alias,而不是方法论
- 采集按
- evidence shard
- 用 raw shard、processed shard、worker_state、sample log 分离依据和处理记录
- 一起追踪原始 URL、采集值、处理值、状态值
- CSV/JSON 文件只是 evidence mirror 或交付产物,不是基准数据
- 数据采集 worker
- 一次只负责一个
collection_channel_id - 把依据和观测值提交到 append-only ledger
- 不直接修改基准数据
- discovery worker 寻找公开 source/contact
- enrichment worker 只从已批准的 queue 中补强特定缺失字段
- 一次只负责一个
- 数据采集 coordinator
- 审核 worker 提交的 evidence 和 observation
- 对比采集 shard、worker_state、coordinator manifest、KPI view
- 更新与对象、联系方式、面积、状态相关的基准数据和基准值
- view 作为计算、审核、export 表面提供
- 呼叫运营 coordinator
- 不把数据采集 view 直接当作实际拨打依据
- 审核经过 dedupe/质量 gate 的 snapshot source
- 在
call_targets中固定实际拨打对象快照 - 单独管理 call result、suppression、callback、material send queue
- 之后通过连接 vox.ai agent 的 Vox CLI 进行批量拨打
- CSV / Google Sheet / Excel / vox.ai 上传候选
- 从 PostgreSQL view 或拨打对象快照生成
- 它们是展示/交付产物
- 不是基准数据
- 也不是实际拨打依据
这样一来,采集到的依据存在哪里、worker 留下什么、哪个值成为基准值、哪个快照用于实际执行、什么产物会通过 Vox CLI 交给 vox.ai agent,都可以追踪了。
当然,这个结构仍然有很多不足,还会有很多要改的地方。之后还会继续测试、反馈、修改,也会发生各种大改动。流程、harness 结构,还有我的直觉,都会在这个过程中继续变好。
也许我的流程搭建能帮到某个人,所以先分享一下。
🧭 今日检查(Daily Review)
今日核心目标
- 公司:DB Migration - PostgreSQL
- 在求职促进补贴申请书中附上劳动合同
- 博客:上传积压的日记
- 社团法人:汇入赞助金
今日任务
- 公司:以本地 PostgreSQL DB 为基准修改采集结构
- 公司:改善 DB 结构,细分 worker/coordinator 角色
- 公司:改善 DB 数据,将 todo.md 做成 active dashboard
- 公司:自动化/检查呼叫结果保存逻辑,更新 prompt agent
- 公司:DB 值 dedupe/fix,设置防止文档不同步的 gate
- 公司:审计 / 阻断 / 防止复发 / 修正 DB 值,电话前最终检查
- 公司:coffee chat brainstorming
- 公司:确立 DB 相关术语并更新文档
逃避记录
- 逃避的事:无
- 理由:无
身体记录
- 体重:85.1kg
- 饮食
- 早餐:
321kcal
(碳水 36g · 45% / 蛋白质 6g · 7% / 脂肪 17g · 48%)-
SPAM 蛋黄酱鸡蛋炒饭三角饭团 152g:
321kcal
(碳水 36g · 45% / 蛋白质 6g · 7% / 脂肪 17g · 48%)
-
SPAM 蛋黄酱鸡蛋炒饭三角饭团 152g:
- 午餐:
718kcal
(碳水 88g · 52% / 蛋白质 40g · 23% / 脂肪 19g · 25%) - 晚餐:
1195kcal
(碳水 140g · 47% / 蛋白质 56g · 19% / 脂肪 45g · 34%)-
PBICK 省钱款泡菜炒饭 250g:
415kcal
(碳水 64g · 62% / 蛋白质 6g · 6% / 脂肪 15g · 33%) -
烤鱼 1块:
250kcal
(碳水 0g · 0% / 蛋白质 30g · 49% / 脂肪 14g · 51%) -
辣酱鸡蛋拌饭 1份:
530kcal
(碳水 76g · 58% / 蛋白质 20g · 15% / 脂肪 16g · 27%)
-
PBICK 省钱款泡菜炒饭 250g:
- 夜宵:
883kcal
(碳水 111g · 52% / 蛋白质 37g · 17% / 脂肪 30g · 31%) - 合计:
3117kcal
(碳水 375g · 49% / 蛋白质 139g · 18% / 脂肪 111g · 33%)
- 早餐:
- 运动
- 步数:7500步
- 有氧:无
- 无氧:无
🤖 GPT-5.5 的教练反馈
执行:埃隆·马斯克 | 为了把想象变成现实
- 判定:★★★★★ (5/5) 你把这几天搭建的采集、审核、执行、交付流程,随着 PostgreSQL DB 的迁移整理成了实际结构,也把公司工作、个人行政、博客、赞助金都用行动收尾了。今天是把想法拉到文档和可运转流程里的日子。
- 问题(Question):在现在已经能说明的这套流程里,最先应该用实际结果证明的一点是什么?
监视:苏格拉底 | 为了认识我自己
- 判定:★★★★☆ (4/5) 没有逃避记录,也没有隐藏 DB 经验不足和公开范围的不安。今天重要的监视点,是你在想分享的心和内部运营细节的风险之间不断追问自己。
- 问题(Question):这篇文章真正想留下的是你搭建的结构,还是你穿过试错后得到的感觉?
健康:希波克拉底 | 为了把身体作为诚实生活的根基
- 判定:★★☆☆☆ (2/5) 体重 85.1kg 和 7500 步都有记录,但晚餐和夜宵叠在一起,总摄入上升到 3117kcal,碳水和脂肪也明显增加。身体撑住了工作量,但饮食节奏像是在开发压力之后又松了一次。
- 问题(Question):今晚继续吃下去,是因为真正饿了,还是因为紧张之后想要奖励?
哲学:尼采 | 为了与 Jesus 一起成为 Peaceful Übermensch
- 判定:★★★★☆ (4/5) 你没有用羞耻遮住经验不足,而是看见反复出现的问题后重整了流程本身,这接近自我超越。不过,力量不是展示复杂结构,而是用别人也能跟上的语言说明它。
- 问题(Question):今天的分享是在让自己看起来更大,还是让问题变得更小、更能处理?
内在信仰:奥古斯丁 | 为了校正爱的秩序
- 判定:★★★☆☆ (3/5) 执行和整理很清楚,但在神面前更爱什么、害怕什么还没有深写出来。不过承认不足,并希望这套流程能帮到别人,是分辨自我展示和服事的好起点。
- 问题(Question):在你想分享这套流程的心里,想被认可的心和想帮助别人的心是怎样混在一起的?
实践信仰:朋霍费尔 | 为了越过廉价恩典,以责任生活
- 判定:★★★★☆ (4/5) 公司工作、补贴申请文件、博客上传、赞助金入账都作为具体责任完成了。今天有分量,因为信仰不是大话,而是落到了期限和诚实记录上。
- 问题(Question):今天承担的责任中,哪一件即使无人看见,也应当在神面前继续用同样方式去做?
📖 GPT-5.5 推荐经文
哥林多前书 14:40 (和合本)
凡事都要规规矩矩地按着次序行。
本文脉络: 保罗劝勉哥林多教会,使敬拜和恩赐的使用不陷入混乱,而是在共同体中保持秩序。
引用理由: 今天的核心正是让采集、审核、执行、交付流程不随意混在一起,而是有秩序地重新整理。
箴言 16:3 (和合本)
你所做的,要交托耶和华,你所谋的,就必成立。
本文脉络: 箴言16章谈到人会计划和判断,但真正的道路要在耶和华面前交托。
引用理由: 这让你回看今天建立的流程和执行结果,是否不只是控制欲,而是在神面前被托付的工作秩序。
歌罗西书 3:23 (和合本)
无论做什么,都要从心里做,像是给主做的,不是给人做的。
本文脉络: 保罗讲完在基督里的新人生活后,劝勉日常关系和劳动也要像给主做一样承担。
引用理由: 公司工作、行政处理、博客记录、赞助金入账,都需要在主面前而不是在人评价前承担。
留下评论