W15 · QUALITY & ORCHESTRATION

管道与编排入门Orchestration

Dagster 用资产、依赖和物化记录把零散脚本变成可观察管道。先编排三个本地步骤,再理解调度与血缘。

质量与编排第 14 次课课后自学课堂验收
0 / 0 已完成
01

知识范围 · 交互图谱

Know the map before details

学完后大致能做到

能用自己的话解释「DAG」与「数据资产」
把清洗步骤串成可复现管道;Dagster @asset 本地跑通(实验室夜间管线的入口)
保留可运行文件、真实输出和至少一则排错证据
能在课堂共享屏幕展示进度,并回答一部分底层问题
02

零基础起步

Start small · bring real progress

不要等到「全部学会」才开始

先完成最小动作。哪怕没有成功复现,也请保留报错、截图和尝试过程;课堂可以展示卡点、旁听提问,并继续获得积分。

先迈一步

只做第一步也可以

把 W14 的原始、清洗、汇总拆成三个资产

保留真实输出或卡点,带到课堂;不要求一次完成全部。
完整复现

做出核心结果

把清洗步骤串成可复现管道;Dagster @asset 本地跑通(实验室夜间管线的入口)

成功复现可获得「复现 +1」,并具备展示资格。
自由拓展

想多做再继续

增加每日调度但保持默认关闭

有拓展 +1,多拓展 +2;不影响零基础起步。

实验目标

把清洗步骤串成可复现管道;Dagster @asset 本地跑通(实验室夜间管线的入口)

dirty_finance.csv(编排输入)

完整复现步骤

把 W14 的原始、清洗、汇总拆成三个资产
声明依赖并为每个资产返回行数元数据
在本地 UI 物化完整资产图
故意让中间资产失败并观察影响范围
修复后重跑受影响部分并保存事件记录
Dagster · 三个数据资产
from dagster import asset, Definitions, MaterializeResult, MetadataValue
import polars as pl

@asset
def raw_transactions():
    return pl.read_csv("data/dirty_finance.csv")

@asset
def clean_transactions(raw_transactions):
    clean = raw_transactions.unique(subset=["record_id"], keep="last")
    return clean

@asset
def account_summary(clean_transactions):
    result = clean_transactions.group_by("account").len()
    return MaterializeResult(metadata={"rows": MetadataValue.int(result.height)})

defs = Definitions(assets=[raw_transactions, clean_transactions, account_summary])

展示时可拿出的证据

  • Dagster 资产图
  • 成功与失败两次运行记录
  • 一个血缘驱动的排错说明

本机自查清单

03

让 AI 一步一步带你做

Copy this starter prompt

循环方式

  • 告诉 AI:我是零基础、使用什么系统、当前做到哪一步
  • 一次只要一个步骤,先看预期结果再执行
  • 把真实输出或报错贴回 AI,不要只说「不行」
  • 把验证过的步骤整理回飞书实验报告
  • 重复:问 → 做 → 报错 → 修正 → 再做
给 AI 的起步提示词
我是金融科技本科生,计算机零基础。我正在学习《金融数据库(双语)》W15,本周目标是:实验 13 · 管道与编排入门。
请把我当作第一次接触这些工具的人,并遵守:
1. 一次只给一个步骤,不要一次倾倒完整答案。
2. 每一步先解释目的,再给可复制的命令、SQL 或代码。
3. 告诉我正常情况下应该看到什么,以及最常见的一个错误。
4. 如果不知道我的系统、目录、软件版本或数据位置,先问我。
5. 等我贴回真实输出或完整报错后,再判断下一步。
6. 不要让我上传账号密码、API Key 或真实个人信息。
现在只带我完成第一步:把 W14 的原始、清洗、汇总拆成三个资产
04

问题驱动

这些问题不是课前考试。遇到不懂就问 AI;最后只需能结合自己的操作,说清其中一部分。

Q01

为什么不用一个大脚本?

Q02

资产与任务的视角差在哪里?

Q03

DAG 为什么必须无环?

Q04

血缘怎样帮助定位错误?

05

只交一份实验报告

The learning process is the deliverable

建议结构

  1. 本周目标:我想完成什么,以及最后做到哪一步
  2. 环境:操作系统、软件版本、安装方式与必要依赖
  3. 操作步骤:按真实执行顺序写出可复制的命令或代码
  4. 结果:关键输出、截图及我如何判断它是否正确
  5. 踩坑与克服:现象 → 可能原因 → 实际排查 → 解决办法
  6. 结论:本周学会了什么,仍有什么没有解决
  7. 诚实标注:哪些来自 AI 建议,哪些已由本人亲自验证
下载无表格版报告模板

本周常见坑

  • 资产函数读写隐藏路径
  • 所有逻辑塞进一个资产
  • 失败后从头全量重跑而不分析依赖

不另交 AI 使用记录

只需在实验报告中诚实标注:哪些步骤来自 AI 建议,哪些已经本人验证,哪些仍未验证。学习过程写好,报告就自然产生。

06

课堂时间全部用于验收

No new lecture · public verification
①

两次考勤

上课提前 5 分钟点名,下课前 5 分钟再次点名。

②

自愿共享屏幕

用本人笔记本打开实验报告,展示真实操作、结果或卡点。

③

现场复现与双分

作者现场运行;同学也可仅凭该文档复现,作者与复现者都加分。

④

随机拷问与好问题

教师判断掌握程度;旁听同学可提出被采纳的好问题。

本周可能被问

  • DAG 中有环会怎样?
  • asset 与 task 有何不同?
  • 物化记录提供什么证据?
  • 传感器与定时调度的区别?
07

本周课堂积分

Same rules every week
✅

考勤

上课提前 5 分钟点名,下课前 5 分钟再点名

出勤 +3迟到 +2早退 +2请假 +1旷课 +0
💻

复现

使用 AI 自学,按照教学大纲完成了每周实验任务

成功复现 +1未能复现 +0
🚀

拓展

按照教学大纲完成一项或多项拓展任务

多拓展 +2有拓展 +1无拓展 +0
🖥️

展示

主动共享屏幕展示复现过程,接受核验与拷问

课堂自愿共享屏幕展示 +3无课堂展示 +0
🥇

首讲

每节课堂最先自愿开讲的前 3 人

前 3 人 +1
💡

提问

认真旁听并提出被采纳的好问题

被采纳 +0.5
🔍

拷问

面对面随机拷问 · 反空心化闸门

空心代工 −1一知半解 +1融会贯通 +2
🤝

双分

仅凭文档课堂现场复现

作者与复现者 都 +1
🏆

精选

本周最佳文档

知识库 + 席位 + 署名 + 积分 +3

做一点,也算一点

没有完成全部实验,也可以凭考勤、展示卡点、认真提问和真实回答获得积分;做得越扎实,展示、拓展、拷问、双分和精选带来的激励越多。飞书应用展示过去 30 天积分榜与总积分榜。

08

自由拓展与参考资源

拓展挑战

  • 增加每日调度但保持默认关闭
  • 加入数据质量检查资产
  • 为分区数据设计 backfill