数据质量管理:数据可靠性与数据质量问题解决之道
[美] 巴尔·摩西,[美] 利奥·加维什,[美] 莫莉· 著
机械工业出版社,2024年5月出版
1.1. 读薄率书籍总字数18.8万字,笔记总字数61295字。
读薄率61295÷188000≈32.6%
1.2. 读厚方向Data Mesh权威指南
数据的边界:隐私与个人数据保护
数据保护:工作负载的可恢复性
Julia数据科学应用
MLOps权威指南
数据自助服务实践指南:数据开放与洞察提效
商战数据挖掘:你需要了解的数据科学与分析思维
Spark快速大数据分析(第2版)
1.3. 笔记--章节对应关系笔记章节字数发布日期 2024年读数据质量管理:数据可靠性与数据质量问题解决之道01数据质量第1章 为什么数据质量值得关注311711月12日读数据质量管理:数据可靠性与数据质量问题解决之道02数据湖仓第2章 对可靠数据系统的构建模块进行组装334511月13日读数据质量管理:数据可靠性与数据质量问题解决之道03数据目录第2章 对可靠数据系统的构建模块进行组装273411月14日读数据质量管理:数据可靠性与数据质量问题解决之道04收集与清洗第3章 收集、清洗、转换和测试数据328611月15日读数据质量管理:数据可靠性与数据质量问题解决之道05数据标准化第3章 收集、清洗、转换和测试数据346211月16日读数据质量管理:数据可靠性与数据质量问题解决之道06数据测试第3章 收集、清洗、转换和测试数据380211月17日读数据质量管理:数据可靠性与数据质量问题解决之道07异常检测第4章 数据管道的监控和异常检测220911月18日读数据质量管理:数据可靠性与数据质量问题解决之道08扩展异常检测第4章 数据管道的监控和异常检测373811月19日读数据质量管理:数据可靠性与数据质量问题解决之道09数据可靠性第5章 为数据可靠性进行架构设计327211月20日读数据质量管理:数据可靠性与数据质量问题解决之道10数据平台第5章 为数据可靠性进行架构设计363211月21日读数据质量管理:数据可靠性与数据质量问题解决之道11根因分析第6章 解决大规模数据质量问题331911月22日读数据质量管理:数据可靠性与数据质量问题解决之道12应对与缓解第6章 解决大规模数据质量问题266911月23日读数据质量管理:数据可靠性与数据质量问题解决之道13数据沿袭第7章 构建端到端的数据沿袭347611月24日读数据质量管理:数据可靠性与数据质量问题解决之道14普及数据质量第8章 推广和普及数据质量319311月25日读数据质量管理:数据可靠性与数据质量问题解决之道15数据信任第8章 推广和普及数据质量289011月26日读数据质量管理:数据可靠性与数据质量问题解决之道16数据认证第8章 推广和普及数据质量429611月27日读数据质量管理:数据可靠性与数据质量问题解决之道17数据网格第9章 现实世界中的数据质量:对话和案例分析334611月28日读数据质量管理:数据可靠性与数据质量问题解决之道18数据发现第9章 现实世界中的数据质量:对话和案例分析282111月29日读数据质量管理:数据可靠性与数据质量问题解决之道19数据未来第10章 开创可靠数据系统的未来268811月30日$总计61295$2. 亮点2.1 数据标准化标准化通常是你的数据在管道中经过的诸多此类转换中的第一个
非常重要
2.2 数据测试数据测试的两个最佳工具分别是dbt测试和Great Expectation
2.3 数据沿袭通俗点说,就是来龙去脉
2.4 数据信任重中之重,不可信,有何用?
其实,也是很有用的。。。。。
比如,米国的那些非农啊、就业啊等等数据操控之用(冠冕堂皇地说法,预期管理)
3. 感想3.1 总结要及时总结一定要及时啊,因为时间长了,容易忘
但是,换一个说法,就是没有忘的,就是沉淀下来的精华啊
3.2 数据工程越来越重要随着时代的发展,AI是数据需求的重头戏,而数据工程是保障数据质量的关键环境,“垃圾进,垃圾出“,数据工程势必占据越来越重要的地位
3.3 数据质量保障是一个长期、持续的过程只要有数据产生,就要保障数据质量,不会一劳永逸,只会持续不断跟进
3.4 数据信任和操控前文提到了数据操控,其实还是基于数据信任的
为什么要数据操控?是因为数据不符合预期。
为什么会认为数据不符合预期?是因为相信数据得到的结果,还是要信任啊。
也许你会说,样本取样的问题?为什么样本取样有问题?为什么不全面取样?是不能还是不敢,亦或是不为
修正前期的数据又为啥?
3.5 好书,推荐阅读