IT技术互动交流平台

OracleCoherence3.5读书笔记之3满足性能 可扩展和可用性目标

来源:IT165收集  发布日期:2016-12-09 21:39:26

满足性能目标

影响操作执行时间的重要因素有算法和数据结构。在分布式系统中,还有一个重要的因素就是网络延时。

处理延时

开发人员在开发时通常没有考虑延时,测试时亦是如此。

作者给了一个示例,对于一个20ms的操作(典型的web操作完成时间),在本地执行只有0.067ms延时,而跨国执行时,需要264ms。

而通常一个web请求需要多次往返web服务器,延时就更加严重。因此应减少往返次数,即使对于内存的访问也需如此。

通常听到的建议”make your remote services coarse grained” 或 “batch multiple operations together” 也会同样的意思。

减少带宽使用

依据摩尔定律,带宽通常不是问题。
网络延时与光速有关,不大容易改善。而带宽却在不断增加,但不代表带宽问题可以忽略。

无论如何,应尽量减少网络上的I/O,只获取必要的信息,如果数据量过大,就将处理下放到数据,而非相反。

Coherence 与性能

Coherence 可以解决延迟和带宽问题,通过以下几个手段:

通过将后端数据库的数据缓存降低延迟 以及通过near-cache缓存最近使用的数据降低延迟 在数据节点可并行执行,降低延迟并减少带宽使用

满足可扩展性目标

可扩展性可通过两种手段实现,scaling up 或 scaling out

scale up:
通过添加CPU/磁盘/内存等将小服务器变为大服务器
问题在于平衡,有时添加完CPU却发现内存成了新的瓶颈,比较昂贵。

scale out:
添加更多的集群,并分享工作负载。更廉价。
不过设计和管理上更复杂,例如需要从架构上消除单点故障,需要保证服务的无状态化(stateless)

无状态服务并不存在

应用层无状态化时为了更好的扩展。但应用仍然需要状态这点是不变的。
通常,状态会下移到最难扩展的数据库层。

扩展数据库非常困难

数据库必须满足ACID (atomicity, consistency, isolation, durability) 。

磁盘系统非常重要:为了提高并发,磁盘需要合理分布;为了保证durability,数据库最终受限于磁盘性能。

当数据量增加,用户访问增加时,数据库总会到达极限,这时就需要扩展。通常采用scale up方法,但此法昂贵且不可持续。

这时,可以转而考虑scale out的方法。

数据库横向扩展方法

参见前文:关系型数据库横向扩展的三种方法

重新回到状态

从应用端去掉状态极大加重了数据库的负担,为了减轻数据库负担,我们还需要使状态回到应用层。
当然并非加到stateless的服务中,而是在无状态的应用逻辑和数据库间引入一个新的层次。

正如Bellovin 教授所说:

any software problem can be solved by adding another layer of indirection
这里的indirection可以理解成abstraction

此新抽象层需要具备以下的能力:
* 管理对象数据,因为应用可以直接操纵对象
* 对象存于内存,以提高性能和减低I/O
* 可以透明的将后端数据库数据加载到内存
* 可以将数据修改持久化到后端,通常是异步的
* 易于横向扩展,如同无状态的应用层

Coherence满足以上所有要求

使用 Coheren减少数据库负担

通常的数据库查询都是基于主键的,将这些查询转移到应用层缓存可以大大减轻后端数据库的负担。

Coherence的分布式架构还可以做更多复杂的工作。

有了coherence,主从复制就不必要了。只读的从库被分布式缓存替代,同时,主库和从库的数据不一致问题也没有了。

后端的数据库仍需要集群,但coherence降低了后端数据库的压力,集群可以简单,节点可以变少。

而分片方面,coherence内置了distributed queries 和 aggregations特性。使多节点的查询变得简单,应用也无需做太多修改,而且通过复制对数据进行保护。

Coherence与可扩展性

coherence是理想的可扩展数据管理方案。
通过添加节点就可以添加容量和吞吐量(处理能力)。
当然,应用还是需要好好的设计架构的,把一个好产品用烂的情况太多了。
好的产品 + 差的设计 = 差的产品

满足高可用性目标

为了达到高可用目标,我们需要在架构中去掉所有单点故障。
整体可用性=所有部件可用性的乘积
AS = A1 * A2 * … * An
这同时也意味着,一个部件不可用,整个系统就不可用。
因此我们需要做两件事:
1. 为每一个部件提供冗余
2. 使部件松耦合,而是故障隔离

第二点通常通过引入异步实现,例如引入消息队列,文件缓存等。而Coherence也可以缓存更新,即使后端数据库失败也没有影响。异步还可以提高吞吐量。

为系统添加冗余

F = F1 * F2 * … * Fn
F是部件失效的可能性
而 Fc = 1 - Ac(可用性)

例如一个系统有3个部件,每个部件的可用性为0.99;
As = 0.99 * 0.99 * 0.99 = 97%
每一个部件失效可能性为1-0.99 = 0.01
如果为每一个部件增加一个冗余部件。
则每一部件失效可能性为0.01 × 0.01 = 0.0001
新的As = (1-0.0001) * (1-0.0001) * (1-0.0001) = 99.97%
可用性提高了。

仅有冗余是不够的

仅有冗余是不够的,还需要系统有足够的容量来满足峰值请求,避免系统崩溃。

如果系统需要N个服务器处理峰值请求,假设X个服务器失效后系统仍可以工作,那么系统需要N+X台服务器。否则,如果峰值时服务器失效,剩余服务器将不能处理请求,从而导致响应时间下降,性能降低,甚至无法服务。

Coherence 和 可用性

Coherence在设计上就是高可用的,任何节点失效都不会有影响。这时通过在集群中加入复制来实现的。
每一个对象都在另一个节点有冗余,当然对于对象的更新也会增加开销,不过开销相较于集群数据库还是会小很多。不过Coherence集群的Sizing仍很重要。
另外,Coherence集群的高可用并不意味着整个系统的高可用。其它如负载均衡,路由器,交换机等都需要冗余。

综合考虑

为性能和可用性设计

为达到性能和可用性目标,必须定位系统中的单点故障和瓶颈并消除它们,这需要仔细的设计架构,并在架构的最初就考虑可扩展性。

We should forget about small efficiencies, say about 97% of the time: premature optimization is the root of all evil.

很多人断章取义,只看到后面这句:premature optimization is the root of all evil,从而逃避复杂的架构设计。而延迟和可扩展性绝不是小事,必须在系统设计之初就妥善考虑。

Scalability is a prerequisite to functionality, a priority-0 requirement, if ever there was one.

Randy Shoup - eBay架构师

在每一层设定性能目标

用户响应时间不超过2秒,这样的目标是不够的,我们需要继续分解,如网络上耗时多少,后台处理多少时间,访问数据库多少时间等等。如此我们才能准确的定位瓶颈,做相应的优化。

测量和监测

Count what is countable, measure what is measurable, and what is not measurable, make measurable.

–伽利略

应用是否满足目标,需要测量。如测量服务执行的时间,测量单个服务器所能承受的负载,以及扩展后所能承受的负载,如此才能合理的规划系统,以及预期扩展所需投入的成本。

在开发阶段可以使用的测量工具包括:
* 服务器端代码 - YourKit (www.yourkit.com),
* 客户端网页测量工具 - FireBug (getfirebug.com), YSlow (developer.yahoo.com/yslow) 或 Page Speed (code.google.com/p/page-speed)
* 压力测试工具 - HP LoadRunner, or an open source tool such as Apache JMeter (jakarta.apache.org/jmeter), The Grinder (grinder.sourceforge.net), 或 Pylot (www.pylot.org).

运行阶段的监控工具:
* JMX, 或 ERMA (erma.wikidot.com),
* coherence监控 - JConsole
* 商用工具 - Evident ClearStone Live (www.evidentsoftware.com) 或 SL RTView (www.sl.com).

教育你的团队

让团队达成一致的性能和可用性目标,并了解达成目标需要克服的问题。

推荐的书有:
1. Scalable Internet Architectures - Theo Schlossnagle
2. Building Scalable Websites - Cal Henderson
3. High Performance Websites: Essential Knowledge for Front-End Engineers
4. Even Faster Web Sites: Performance Best Practices for Web Developers - Steve Souders

总结

本章讨论了如何实现性能,可用性和可扩展性目标,以及coherence如何帮助我们实现目标。

为了提高性能,需要减少延时和移动的数据量。Coherence 的 near caching和 entry processors可以帮我们达到这个目标。

通过把coherence引入架构,coherence可以实现最难扩展的一层 - 数据管理层的横向扩展,从而避免复杂的数据库扩展,如cluster和sharding。

为实现高可用性,你必须消除任何单点故障,虽然Coherence设计上就是高可用的,但你还需保证其它部件也是同样高可用。通常可以引入冗余,通过复制。

最后,需要强调,性能,可扩展性和可用性应该从系统最初设计时考虑,并且在运行时需要测量和监控,而不能靠后期的补救。

Tag标签: 可用性   性能   目标  
  • 专题推荐

About IT165 - 广告服务 - 隐私声明 - 版权申明 - 免责条款 - 网站地图 - 网友投稿 - 联系方式
本站内容来自于互联网,仅供用于网络技术学习,学习中请遵循相关法律法规