数据字典先于分析代码
578 字
3 分钟
数据字典先于分析代码
数据字典先于分析代码
很多分析争议不是代码造成的,而是大家对字段含义理解不同。一个字段叫 amount,可能是含税金额、实付金额、优惠前金额,也可能是退款后的净额。
数据分析里最容易出问题的地方,不是函数不会用,而是数据口径没有在一开始说清楚。一个步骤如果不能解释输入是什么、输出是什么、失败时怎么看,就很难放进稳定流程。
使用场景
数据字典至少要写字段名、中文含义、类型、单位、缺失含义、枚举值和来源系统。写完以后,再开始做清洗和统计。
我会先准备一个小样本,保证可以人工检查结果。大表直接跑起来很快,但一旦结果不对,很难判断是代码错、字段错,还是数据本身脏。
最小代码
field: amountname: 实付金额type: decimalunit: yuanmissing: unknownsource: order_system.payment_amount检查结果
- 行数是否符合预期,不能只看代码是否报错。
- 关键字段的类型、缺失值和唯一值数量是否合理。
- 输出结果能否用三到五行样本手工复算。
- 如果生成报表,要保留清洗前后的对账数字。
容易忽略的点
容易忽略的是单位和时间口径。金额是元还是分,日期是下单时间还是支付时间,都会改变结果解释。
最小验收样例
我会用三行数据做一次手工验收:一行正常记录,一行边界记录,一行异常记录。代码跑完后,把输出和手工计算结果对照一遍,确认不是字段名写对了但口径理解错了。
如果这一步会进入日报、周报或正式报告,还要把输入行数、输出行数和被过滤的记录数写到日志里。数据处理的可信度,来自这些可以复查的中间证据。
小结
数据字典先于分析代码 要解决的是一个可复查的数据处理问题。先定义口径,再写代码,最后用样本和统计结果验收,分析结果才站得住。
文章分享
如果这篇文章对你有帮助,欢迎分享给更多人!













