专栏名称: 狗厂
目录
相关文章推荐
51好读  ›  专栏  ›  狗厂

GO 构造的下一代互联网:IPFS全解析

狗厂  · 掘金  ·  · 2018-04-19 02:26

正文

大家好,我是余长洪,来自INBlockchain。很高兴今天和大家分享下 IPFS。

严格来讲 IPFS 不算是区块链项目,只是一个去中心化存储解决方案。其上开发的FileCoin才是真正的区块链项目。

今天的主题定的比较大,请不要在意这些细节。我们一起来看看它怎么做的,是否真的能完美的替代HTTP的协议。 这个是IPFS官网上贴的目标,就是为了替代HTTP协议,打造一个更好的互联网。

我们来看一下目前互联网存在的一些问题。

     首先现在的互联网有很多大量重复的内容。我们有一句俗话:“天下文章一大抄”。现在搞内容互联网的都会用到各种爬虫,结果就是网络上都是重复的内容。IPFS可以把大的文件都切成很小的Block,每一个Block有自己的唯一Hash,可以做到重复的部分只存一份,这就可以节省很大的存储成本。对于带宽来讲,P2P 网络可以从很多不同的节点拉取你所需要的 block。对于内容的服务商来讲,不需要很大的带宽,以为流量都被整个网络分摊了。现在如果对网络上的文件做了修改,之前的历史你可能就找不到了。但是在 IPFS 中文件有了 Version 的概念,每个版本都会存储到网络中,并且只存储修改的部分。谈到开放程度呢,现在互联网是被中心化管控的,我们用去中心化的网络可以更加开放。像朝鲜这样的国家都访问不了 Facebook等网站,我是接受不了的。

我们来看一下 IPFS 的技术架构。

由下到上是网络、路由、数据交换、数据存储、naming服务、和应用。

IPFS 是很多现有技术的组合,右侧是 IPFS 采用的关键技术,底层网络在go网络库上基础上实现了一个 libp2p 库,包含了各种网络协议。

路由技术使用的 DHT 分布式哈希表,数据交换是从 BitTorrent 基础上演化的 BitSwap,数据存储借鉴了Git。还有 SFS,一种自签名的文件寻址系统。

节点ID

上面这个算法是怎么去算节点ID的。跟 Bitcoin 等有点类似,先生成公私钥,再根据公钥生成地址。有一点不同的地方是它在里面加入了一个轻量级的 PoW 算法。在生成节点ID的时候,经过一定运算生成合法的nodeID。这么做的好处就是可以提高攻击的成本。以女巫攻击为例,攻击者需要伪造很多恶意的节点来污染整个网络,如果采用这种生成 ID 的方式,可以提高攻击者的成本,从而避免一些攻击。

网络

IPFS在网络方面做了以下工作

  • 传输层兼容现有的协议,对WEBRTC也有很好的支持。

  • 可靠性可以使用uTP和sctp来保障,这两种协议可以动态调整网络状态。

  • 连通性方面支持ice等 NAT 穿透技术。

  • 完整性通过文件hash校验的方式保障,IPFS中所有数据块都有唯一的hash。

  • 确定性通过验证发布者公钥的方式来保障。

所以理论上IPFS可以使用任意网络。

这张图是IPFS对节点地址存储的方式multiaddr,将完整的访问路径都记录下来了,包括协议名。

路由

路由是P2P网络里比较重要的部分。

路由算法经历了以下演进过程:

第一代 Napster 采用中央数据库查询网络节点。

第二代 Gnutella 查询所有节点。

第三代 Kadmlia 使用 XOR 算法定位节点和文件。

KAD网络通过节点ID的XOR操作来存储和查找节点信息。将两个节点ID按位进行XOR操作会得到0/1结果。相同为1,不同为0。然后按照XOR的结果存放在树状结构里。 从左到右的节点数越来越少是因为所有bit都相同的概率越来越少。 叶子结点是一个K桶,存储了符合XOR结果的所有节点列表。内容寻址类似,发布的时候按照XOR结果存储到指定节点。拉取的时候去指定节点获取。

这个图很好理解,比如说我叫余长洪,来了一人叫王小明,第一个字我姓余,他姓王,那你就在左边,又来了一个人叫余星星,第一个字相同就在中间,又来了一个人叫余长黑,前两个字都相同,认为这两个节点的“距离”是最近的,把你放在最右边。通过这种方式,如果我们找一个余长什么的,就可以在右边快速找到。

IPFS 的路由的技术吸收了 Kademlia、Coral、S/Kademlia 等多种技术的优点。KAD网络寻址性能比较好,一般一千万节点最多20跳就可以查到。控制协议比较简单,只有四种控制协议,本身可以抵挡多种攻击。Coral DHT会把节点中数据的hash记录下来,直接就能知道内容和节点的关系,查找比较高效。Coral DHT还支持 Region,可以优先就近查找。S/Kademlia 可以在一半恶意节点网络中保证85%的正确率。

数据交换

IPFS 节点都会维护 have_list 和 want_list,节点通信的时候会交换这两个列表,然后按照列表互换数据。IPFS 还有一个 Pin 的功能,可以指定某个文件永远存在我这儿,不会被 GC 掉。IPFS 还引入了债务的概念。从别的节点去拉取数据的时候,会产生债务,你发送数据给别的节点的时候可以偿还债务。通过这种形式,可以避免自私节点。节点之间还维护帐本,通过互换账本可以发现恶意节点,避免攻击。

这个是负债率的计算公式。比如说A和B两个节点,现在A在往B发送数据,如果A往B发的越多,那对A来讲,B的负债率就会很高。下面这个公式是发送率的计算公式。可以看到就是如果 r 大于 2 时,发送率会变的很小,从而A就不会继续给B发送数据。如果B只收不发,权重就会迅速降低,就不会有人给他发送数据包了。这么做的好处是这样的网络更高效,大家都有收有发,不断做数据交换,是一个比较健康的状态。







请到「今天看啥」查看全文