作者：LefterisKokoris-Kogias
来源：paradigm.xyz
编译：ETH中文
大家鲜少提到如何正确地测量一个系统，但它却是系统设计和评估过程中最重要的步骤。系统中有许多共识协议、各种性能的变量和对可扩展性的权衡。
然而，直到目前都没有一种所有人都认同的可靠方法，能够让人进行苹果对比苹果这种同一范畴内的合理比较。在本文，我们将概述受到数据中心化系统测量机制启发的一种方法，并探讨在评估一个区块链系统时可以避免的一些常见错误。
关键指标及其相互作用
在开发区块链系统时，我们应该将两个重要指标考量在内：延迟和吞吐量。
用户关心的第一件事就是交易延迟，即发起交易或支付和收到确认交易有效性信息之间的时间。
在传统的BFT系统中，一旦交易被确认就会被敲定，而最长链共识机制中，一笔交易可能会被打包进区块，然后再重组。结果就是，我们需要一直等到交易达到“k个区块深”了才能进行敲定，这就导致了延迟的时间大大超过了单次确认的时间。
央行广州分行行长白鹤祥：依托外汇局跨境金融区块链服务平台，开拓资本项目收支便利化真实性审核的应用场景:2020年8月20日，中国人民银行举行“金融支持保市场主体”系列新闻发布会（第一场）。人民银行广州分行行长白鹤祥在接受金融时报采访时表示，进一步提升金融服务的创新水平。推动广州市纳入金融科技创新的监管试点，还依托外汇局跨境金融区块链服务平台，开拓资本项目收支便利化真实性审核的应用场景，指导银行开发直联区块链系统，实现与该平台的直联。到7月末，该平台在广东辖区共接入银行52家、服务企业579家，完成应收帐款融资金额合计94.6亿美元。（中国人民银行官网）[2020/8/21]
其次，系统的吞吐量一般对于系统设计者来说十分重要。这就是系统每单位时间所处理的总负载，一般表达为每秒交易量(TPS)。
乍一看，这两个关键指标看起来是完全相反的东西。但因为吞吐量由每秒的交易量得出，而延迟则是以秒为单位进行测量。自然而然地，我们会认为吞吐量=负载/延迟。
动态 | 广州人工智能与数字经济试验区方案：将推动区块链产业创新发展:广东省推进粤港澳大湾区建设领导小组近日印发《广州人工智能与数字经济试验区建设总体方案》并于今日在广东省发展改革委官网正式发布。方案提出，将在广州打造以琶洲为核心、以珠江为纽带、以产业融合发展联动周边区域的广州人工智能与数字经济试验区。推动数字产业集聚发展、区块链产业创新发展、推动重点产业数字化转型等。（中国新闻网）[2020/2/21]
但事实并非如此。因为许多系统倾向于生成在y轴上展示吞吐量或延迟，而在x轴上展示节点数量的图表，所以这种计算方式的实现是不可能的。相反，我们能生成一个更好的、包含吞吐量/延迟指标的图表，它以非线性的方式呈现让图表清晰易读。
当没有竞争时，延迟是恒定的，仅是改变系统的负载，就可以改变吞吐量。会发生这种情况，是因为低竞争情况下，发送交易的最小开销是固定的，且队列延迟为0，致使“无论进来什么，都能直接出去”。
动态 | 广州互联网法院开庭第一案网上办理审结:据南方网报道，广州互联网法院开庭第一案网上办理审结，立案到宣判15天，当事人没去过法院。10月25日上午9时45分，广州互联网法院开庭第一案敲响法槌，广州市民郑先生因天猫超市所宣传的限时抢购活动没有兑现，将天猫公司告上法庭。法院判决天猫公司向郑先生赔偿1元，驳回其他诉讼请求。近日，判决正式生效，双方当事人均表示服判。立案完成后，案件进入到举证质证阶段。为解决举证质证程序的痛点和难点，广州互联网法院专门开发了线上证据交换平台，免去当事人往返法院的不便。平台自动发送通知短信，提醒各方及时举证。当事人进入平台点击举证模块，即可自助上传证据材料。平台通过区块链技术，确保证据来源可溯、过程可查、结果可信。[2018/12/3]
在竞争激烈的情况下，吞吐量是恒定的，但仅是改变负载就可以让延迟发生变化。
这是因为系统已经超负载了，而增加更多负载会造成等待队列无限变长。更反常的是，延迟似乎会随着实验长度而发生变化，这是一个无限增长队列的人为结果。
动态 | 福布斯：2019年或成为企业区块链之年:福布斯今日发布了题为《为什么2019可能成为企业区块链之年》的文章。文章称，2018年，95％不同行业公司都在投资区块链技术项目；2019年，这些试点项目终于从测试阶段转移到用户，或可以看到市场上出现更多的企业级DLT技术发展。文章指出，目前已可从顶级供应商处获得即用型软件，包括亚马逊，IBM和Oracle等都在提供企业级区块链解决方案。同时，互操作性显着提高。此外，区块链不再被视为支持加密货币的抽象技术，围绕区块链的整体理解和情绪有所改善。[2019/2/22]
这些表现都可以在典型的“曲棍球图”或“L型图”上看到，它取决于到达间隔的分布。因此，这篇文章的关键要点是，我们应该在热区进行测量，这里的吞吐量和延迟都会影响我们的基准；而不用测量边缘区域，这里的吞吐量和延迟只有一个是重要的。
测量方法论
在做实验时，实验者有三种主要的设计选项：
ETH跌破1500美元:ETH跌破1500美元，现报1499.06美元，日内跌幅达到3.75%，行情波动较大，请做好风险控制。[2022/7/21 2:27:23]
1、开环vs.闭环
现在有两种可以控制对目标发出请求流的主要方法。开环系统基于n=∞个客户端进行建模，这些客户端根据速率λ和到达间隔分布向目标发送请求。闭环系统会在任何给定时间内限制未完成请求的数量。开环系统和闭环系统的区别是特定部署的特点，同一个系统可以部署在不同的场景中。
例如，一个键值存储可以在一个开环部署中为数千个应用程序服务器提供服务，或在一个闭环部署中只为几个阻塞客户端提供服务。
对正确的部署场景进行测试是必不可少的，因为比起闭环系统的延迟通常受制于潜在的未完成请求数量，而开环系统可能会产生大量的等待队列，所以，延迟会更长。一般来说，区块链协议可以被任意数量的客户端使用，所以在开环环境下对其做评估会更准确。
2、综合基准测试的到达间隔分布
在创建合成工作负载时，我们必然会问：如何向系统提交请求？许多系统在测量之前会先预加载事务，但这会使测量产生偏差，因为系统从异常状态0开始运行。此外，预加载的请求已经在主存储器中，也因此绕过了其网络堆栈。
更好一些的方法则是以确定的速率发送请求，这会导致L型的图表的出现，因为系统的容量得到了最佳使用。
然而，开放系统往往不以可预测的方式运作。相反，它们有处于高负载和低负载的时间段。为了对此进行建模，我们可以采用概率间隔分布，该分布一般是基于泊松分布。它将导致“曲棍球”图表，因为即使平均速率低于最佳值，泊松爆发也会导致一些排队延迟。但这对我们十分有利，因为我们可以看到系统如何处理高负载以及负载恢复正常时，系统恢复的速度有多快。
3、热身阶段
最后要考虑的一点是何时开始测量。我们希望流水线在开始之前充满事务；否则，将需要测量预热延迟。理想情况下，预热延迟的测量应该通过热身阶段中的延迟测量来完成，直到测量结果遵循预期的分布。
如何进行比较
最后一个难题是合理比较系统的各种部署。同样，难点在于延迟和吞吐量是相互依赖的，因此我们可能难以生成公平的吞吐量/节点数图表。
最好的方法是定义服务级别目标(SLO)并测量当时的吞吐量，而不是简单地将每个系统推到其最高吞吐量。在吞吐量/延迟图上绘制一条与延迟轴相交SLO处的水平线并对相交点进行采样，这是一种可视化的好方法。
但我设置了5秒的SLO，它只需要2秒
有人可能想要增加这里的负载，以便利用饱和点之后稍高的可用吞吐量。但是这很危险。如果系统操作配置不足，意外的请求爆发将导致系统达到完全饱和，致使延迟激增且很快会违背SLO。实质上，在饱和点之后运行会导致一种不稳定的平衡。
因此，有两点需要考虑：
过度配置系统。本质上，系统应该在饱和点以下运行，以便吸收到达间隔分布中的爆发，而不会导致排队延迟增加。
如果SLO下方有空间，请增加batch的大小。这会增加系统关键路径上的负载，而不会增多排队延迟，它为你提供更高的吞吐量以获得你所要的更高延迟权衡。
我正在产生巨大的负载，该如何测量延迟呢？
当系统的负载很高时，尝试访问本地时钟，并为到达系统的每个事务添加时间戳可能会导致结果出现偏差。
相反，还有两个更可行的选择。第一种也是最简单的方法是对事务进行抽样；例如，在某些事务中可能存在一个魔数，而这些事务是客户端为其保留计时器的事务。在提交时间之后，任何人都可以检查区块链以确定这些事务何时提交，从而计算它们的延迟。这种做法的主要优点是，它不会干扰到达间隔分布。但是，因为必须修改某些事务，所以它可能被认为是“hacky”。
而更系统的方法则是使用两个负载生成器。第一个是主要的负载生成器，由它来遵循泊松分布。第二个请求生成器则用来测量延迟，并且它的负载会低得多；与系统的其余部分相比，可以将这个请求生成器视为单个客户端。即使系统向每个请求发送回复，我们也可以轻松地将所有回复放到负载生成器中，并只测量来自请求生成器的延迟。
唯一棘手的部分是，实际的到达间隔分布是两个随机变量的总和；但是，两个泊松分布的总和仍然是泊松分布，所以数学并不难:)。
总结
测量大规模分布式系统对于识别瓶颈和分析压力下的预期行为是至关重要的。希望通过使用上述方法，我们都可以朝着公用语言迈出第一步，这最终将让区块链系统更适用于他们所做的工作以及他们对终端用户的承诺。
在未来的工作中，我们计划将此方法应用于现有的共识机制中，如果有兴趣，请在Twitter上联系！
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。