DAI:博客分享 | 集中式、分布式和去中心化AI计算有何不同?_NEBULA

NBAI官方Blog发布最新原创文章:“集中式、分布式和去中心化人工智能计算有什么不同”,作者:IvanNonveiller&LéandreLarouche。

原文链接:

https://blog.nbai.io/what-is-the-difference-between-centralized-distributed-and-decentralized-ai-computing/

背景知识:

集中式计算,其终端是客户机,数据全部存储在中央系统,由数据库管理系统进行管理,所有的处理都由该大型系统完成,终端只是用来输入和输出。终端自己不作任何处理,所有任务都在主机上进行处理。

分布式计算,又译为分散式运算。分布式系统是一组计算机,透过网上相互连接传递消息与通信后并协调它们的行为而形成的系统。组件之间彼此进行交互以实现一个共同的目标。把需要进行大量计算的工程数据分割成小块,由多台计算机分别计算,再上传运算结果后,将结果统一合并得出数据结论的科学。

去中心化计算,是把硬件和软件资源分配到每个工作站或办公室的计算模式。相比之下,集中式计算则是将大部分计算功能从本地或者远程进行集中计算。去中心化计算是一种现代化的计算模式。

智云链Orion云平台,集结全球矿工,激活全球闲散的AI算力资源,将浪费资源的哈希计算力转化为高效率的AI算力,为企业及高校用户提供低价AI算力资源,为用户搭建去中心化AI应用程序提供速度优化,算力费用仅为使用亚马逊等公司GPU算力的30%。

集中式、分布式和去中心化AI计算

有何不同?

WhatistheDifferenceBetween

Centralized,DistributedandDecentralizedAIComputing?

在人工智能(AI)背景下阐明不同类型的计算。

2009年,谷歌大脑开始使用NvidiaGPU创建功能强大的域名系统,深度学习经历了一场大爆炸。GPU非常适合于机器学习中涉及的矩阵/矢量数学,能够将深度学习系统的速度提高100倍以上,将运行时间从几周缩短到几天。

从那以后,人工智能以惊人的速度改变着我们的社会。自动推荐和建议约占人们在Netflix上观看的内容的75%以及人们在亚马逊上购买的内容的35%以上。Facebook正在使用人工智能来识别帖子,照片和视频的内容,并向用户显示相关内容,以及过滤掉垃圾邮件。它在分布式环境中的应用,如互联网,电子商务,移动通信,无线设备和分布式计算不断增加,现在为工业和研究部门提供了巨大的经济潜力。

三种类型的AI计算

今天,大多数带有GPU的个人计算机可以用于分布式和去中心化计算、求解方程式以及为人工智能提供算力。三种主要不同类型的人工智能计算是集中式、分布式和去中心化。让我们在深入研究他们之前,先进行简单比较。

在集中式环境中,所有的计算都在一个特定的计算机系统上完成,例如用于处理数据的专用服务器。然而,在分布式场景中,计算被分配给多个计算机,这些计算机联合起来解决任务。例如,大量数据可以被分割并发送到特定的计算机,然后这些计算机将进行计算。

另一方面,分布式计算意味着并非所有事务都在同一位置处理,但是分布式处理器仍然处于单个实体的控制之下。你可以把它想象成一个加油站:虽然你可以从壳牌公司的不同分支机构获得你的天然气,但是资源仍然由同一家公司分销。

去中心化计算最终意味着没有一家公司能够控制处理。就其定义而言,去中心化计算意味着数据分布在不同的机器中,供不同的计算机执行任务。这种类型的计算消除了任何一方聚集大量数据的可能性。

分布式计算在数据处理和信息融合中发挥着越来越重要的作用。电子商务、移动通信和无线设备等行业严重依赖分布式计算来执行运营所需的计算任务。

集中式计算

集中式计算的典型例子是NFS(网络文件系统)。有一台NFS文件服务器计算机实际上承载着所有文件系统数据和元数据。客户端计算机运行客户端组件(NFS客户端),该组件允许计算机在各自的操作系统上本地安装远程文件系统。

在集中式方案中,客户端计算机连接到服务器计算机(也称为主计算机),并提交请求。NFS客户端截取对应于NFS装载的文件系统请求,并使用RPC通过网络将它们发送到NFS文件服务器。

这里的要点是,客户不一定要轻量级。事实上,在缓存元数据方面,NFS客户端可以非常积极,并且它们实现了大量优化以减少到服务器的往返次数。要理解的关键概念是,所有NFS客户端在很大程度上依赖于承载文件系统数据的NFS服务器。客户端计算机上的文件系统操作请求不会在本地处理。这些文件通过网络发送到远程文件服务器,因此客户端机器与处理所有文件系统请求的服务器机器紧密耦合。

集中式计算的另一个例子是托管所有业务逻辑、运行数据库等的web应用服务器。各种客户机连接到web应用服务器,并通过HTTP应用层协议发送/接收请求/响应(当然,在HTTP下面通过TCP运行)。客户端并不运行任何类型的软件。它们通常是瘦客户端,主要负责演示逻辑,例如显示结果和允许用户自定义UI。然而,所有核心应用逻辑都在运行在web应用服务器上的软件中。

然而,集中式计算有很大的缺点,包括单点故障和有限的可扩展性。例如,如果服务器机器停机,客户端可能会变得无用,因为没有远程服务器来处理请求,并且客户端本身没有足够的能力在这种故障的情况下保持服务。如果客户端不负责运行任何核心逻辑,并且高度依赖于服务器,则在服务器出现故障的情况下,这种系统的可用性会完全受损。

在可扩展性方面,所有核心应用程序逻辑都独立于一台服务器。因此,我们可以想象的唯一扩展系统的方法是垂直扩展,向服务器添加更多存储、I/O带宽和处理能力(CPU数量、内核数量)。服务器越强大,整个系统的性能就越好。问题在于难以创建,维护和依赖单个计算机来解决所有的问题。最终,通过添加更多硬件来扩展单个机器的尝试可能不具有成本效益。

为了解决这个问题,向系统中添加另一个计算节点可能更合理,这意味着通过添加另一台计算资源刚好够用的机器来横向扩展(也称为水平扩展)。如果只有一个系统,并且具有给定数量的资源和处理能力,例如内核数量,那么就只有有限的客户端请求可以并行处理。在高活动期间,单个服务器模型将很快成为瓶颈,因为很难跟上并发用户请求的涌入,以及系统可以真正处理请求数量。

分布式计算

在分布式计算系统中,是由多个客户端机器一起工作来解决一项任务。分布式系统拥有多台客户机,通常配备轻量级软件代理,而不是优于所有客户机并从属于所有客户机的主计算机。在这种情况下,尽管共享实现目标所需的信息,但所有客户端机器都自主工作。

分布式计算系统的一个例子是SETI研究所,该机构收集卫星图像,试图寻找外星生命,然后将大量数据分发给世界各地的计算机,由计算机进行分析,并将其发送回SETI。这里的关键是没有一台计算机能够处理如此大量的数据。然而,分布式计算系统的可扩展性使得这成为可能。

分布式计算最有价值的优势是它提供了近乎无限的可扩展性,并且没有单点故障。与集中式计算系统不同,分布式环境可以处理所有SETI的数据,而不会由于一台计算机的故障而导致操作关闭。如果一台客户机出现故障,计算网络的其余部分可以安全地继续运行。

分布式计算系统的其他好处包括降低了操作成本以及提高了性能、可靠性和透明度。

去中心化计算

在去中心化计算中,没有一台服务器单独负责所有处理。该体系结构允许在多个计算节点(也称为机器)之间分配工作负载,并且每个计算节点都同样能够为请求提供服务。

去中心化计算的最佳例子是Cassandra数据存储。在这个模型中,数据存储在多个节点上,客户端请求可以到达任何节点(可能是地理位置最近的节点,以最小化延迟)。实际上没有任何单点故障,因为客户端机器不依赖单个服务器来满足所有请求。相反,该系统包括多个节点,这些节点仍然可用于处理用户请求。

去中心化计算的主要优势是我们可以通过增加更多节点来扩展系统,从而增加计算能力和容错能力。然而,在去中心化计算中,心理模型并不容易。因为现在我们有更多的机器,我们也有更多的问题要处理。事实上,去中心化计算在某种程度上与分布式计算非常相似。在分散和分布式人工智能计算中,用户通常需要在两个空间中处理同一组问题和挑战。

可以预料,去中心化系统容易导致复杂的问题,如副本管理以及跨数据拷贝和多个节点的一致性维护。因此,在着手设计去中心化系统之前,理解和内化分布式系统的基本概念是很重要的。用户应该了解所有领域中众所周知的挑战。

Orion云平台

Orion云平台是一个基于区块链的、以人工智能为中心的分布式超级算力平台,旨在满足复杂人工智能计算对算力不断增长的需求。该平台由NebulaAI开发,这是一家总部位于蒙特利尔的创业公司,与Concordia和McGill大学合作。

Orion云平台的计算资源来自个人以及挖矿公司、游戏公司等所拥有的基于GPU的分布式计算资源,将使得全世界的闲散算力能够得到共享。与此同时,NebulaAI为AI公司和高校等算力需求方提供的算力费用大大低于传统计算供应商的费用。

&长按二维码关注我们

NBAI是基于人工智能和区块链技术的解决方案提供商。作为第三代的人工智能区块链,致力于解决人类走向人工智能过程中遇到的计算能力需求,加快资源的跨地区流转以及更便捷的开发集成去中心化的人工智能应用。

NebulaAI创办于人工智能之都加拿大蒙特利尔,在厦门已经成立AI科学实验室,未来将在在美国硅谷建立AI科学实验室。世界人工智能之都蒙特利尔如今已在AI领域已经形成集群优势。谷歌、微软以及Facebook等多家巨头都相继在蒙特利尔设立人工智能实验室,蒙特利尔被称为人工智能领域的新硅谷,走在了世界前列。

目前公司设有BlockChain、AI、Platform,Marketing等部门,拥有各项技术的高端人才,另外还设有培训学校和全球志愿者招募计划,源源不断地为团队输送后备人才储备。

了解更多关于NBAI的信息

官网:https://www.nebula-ai.com/

FoundationWebsite

http://nbai.io/

Blog:

http://blog.nbai.io/

NBAI全球中文社群

中文电报群:https://t.me/NebulaAIChinese

微信公众平台:NebulaAI区块链

微信群:粉丝组/技术讨论群/AI用户群等

官方微博:Nebula-AI

QQ群:NBAI智云链中国官方群740133697

NBAI全球英文社群

Telegram:https://t.me/NebulaAICommunity

Twitter:https://twitter.com/nebula_ai

Youtube:https://www.youtube.com/channel/UCWltsUAyiser4-_eLLGmpdg

LinkedIn:https://www.linkedin.com/company/nebula-ai/

Medium:https://medium.com/@nebulaai

Github:https://github.com/nebulaai

想加入官网微信群请添加小助手微信号

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

大币网

[0:0ms0-2:265ms