Google的论文整体描述十分详细，可以作为理论来学习，LinkedIn已经开源了一个版本的系统，可以看成最佳实践。两者结合起来，还是很能拓展思路的。
标题有点吸引人眼球的嫌疑，不过内容的确是从这两个大公司对外公布的技术中学到的（掺入不少自己的理解，不是原味的了）。
不太清楚Google和Linkedin真实的系统做成什么样，是不是像Gfs那样自己已经要淘汰了才发表文章出来。 不过这个不重要。只要能学到一些新东西就行了。
文会围绕Goods来展开，辅助与LinkedIn的WhereHows和笔者的理解。
先整体说明一下Goods是什么？可以这样理解：
Google的数据表太多了，工程师们会生产出很多的数据表，为了更好地管理和复用这些表，Google做了一个数据管理系统
这个系统是一个开放的系统，它会通过类似爬虫的方式定时从各个系统（Hive、Hbase、Mysql）中抓取元数据信息然后存入系统中。并生产表之间的依赖关系。
他和EDM的不同在于，它是来爬各个系统的元数据，然后来汇总。这点很重要，属于一种事后处理。给了工程师更大的开放性。
从我的感觉上来讲，元数据系统最经常被质疑的地方有两个：价值和作用。为了突出这两者的重要性，我会单独着重地写。
-
为什么。元数据系统的价值；
-
是什么。元数据系统相关的概念；
-
怎么做。分享一下Google的论文《Goods: Organizing Google’s Datasets》中的内容，只有部分内容；
-
怎么做。分享一下Linkedin的新开源的项目WhereHows的一些设计。
-
补充。笔者的一些想法。
挑战
元数据的存在有它的必要性，我大致做了一个简单的梳理，列出一些和数据相关的挑战。这些其实也是元数据系统的价值所在。
数据问题
如果业务复杂度比较低或者数据量比较小的话，可能就感触不深，不过在Google这种公司来讲，表的数量之大，光是管理表的元数据系统就要做成分布式的。
看一下Google的数据量，是挺大的了。
使用问题
个人理解，这是元数据系统的主要战场。总的来讲，就是方便人使用 。
特别是表的维护者、量级这些不太起眼的属性往往是十分重要的，这些额外信息的完善度直接决定别人在用这张表时候的可用性。
管理问题
举个栗子：假设你的集群已经快慢了，这时候要删除一些表来释放空间，但是你根本不知道哪些表有用，哪些没用？是不是很纠结？
元数据系统可以来管理这些。
包括不同员工的权限管理、数据质量监控这些功能，都可以通过元数据系统来体现。
元数据
任何文件系统中的数据分为数据和元数据。
比如Hive就专门有自己的元数据，里面存了Hive每张表的表名、列信息、索引等信息。
元数据系统
管理元数据的系统。网上没找到定义，个人对它的理解如下：
-
一个管理元数据信息的系统
-
能够提供方便的元数据的操作和查询操作
EDM
EDM的方式是数据的发布和使用都要通过这个系统。
Enterprise Data Management (EDM) is one common way to organize datasets in an enterprise setting. However, in the case of EDM, stakeholders in the company must embrace this approach, using an EDM system to publish, retrieve, and integrate their datasets.
Goods的不同在于，它是事后处理的方式。
An alternative approach is to enable complete freedom within the enterprise to access and generate datasets and to solve the problem of finding the right data in a post-hoc manner. This approach is similar in spirit to the concept of data lakes , where the lake comprises and continuously accumulates all the datasets generated within the enterprise.
1. 设计思路
Goods, a project to rethink how we organize structured datasets at scale, in a setting where teams use diverse and often idiosyncratic ways to produce the datasets and where there is no centralized system for storing and querying them.
看完论文之后整理了一份思维导图，整个Goods的设计思路如下，基本包含了论文中大部分的点。
2. 整体架构
如下图，是Goods的整个设计架构。架构有几个点需要注意：
-
前面提到的多数据源，比如Hbase、Hive还有Hdfs路径这种也算。
-
数据设计。Google抽象了一套数据模型，如图中展示了一部分
-
使用。就如图中列出来的一些。
注意： 感觉论文的作者很自豪自己设计的血缘分析，论文中提了很多次。看下图的最右侧，为了获取到血缘图，他们做了不少的工作。
Overview of Google Dataset Search (Goods). The figure shows the Goods dataset catalog that collects metadata about datasets from various storage systems as well as other sources. We also infer metadata by processing additional sources such as logs and information about dataset owners and their projects, by analyzing content of the datasets, and by collecting input from the Goods users. We use the information in the catalog to build tools for search, monitoring, and visualizing flow of data.
3. 数据模型
我一直感觉这个设计师最难的，因为要从那么多数据系统中抽象出来一份通用的数据模型。
数据模型整体分为两部分：基本的元数据信息和依赖关系。英文解释很清楚，就不再翻译了。
Basic metadata - The basic metadata for each dataset includes its timestamp, file format, owners, and access permissions. We obtain this basic metadata by crawling the storage systems and this process usually does not necessitate any inference. Other Goods modules often depend on this basic information to determine their behavior. For example, some of the modules bypass catalog entries that have restricted access or the entries that have not been modified recently.
provenance - Datasets are produced and consumed by code. This code may include analysis tools that are used to query datasets, serving infrastructures that provide access to datasets through APIs, or ETL pipelines that transform it into other datasets. Often, we can understand a dataset better through these surrounding pieces of software that produce and use it.
Linkedin的设计，就不再自己画思维导图了，主要从几个点来对Google的设计做一个补充，帮助更好的理解。
1. 整体架构
WhereHows 从架构上来看主要分三个部分，和Google的Goods比较类似。
-
data model
-
backend ETL
-
Web Service
