读书笔记:【大型网站技术架构】核心原理与案例分析 有更新!

前言:春节前读了这本书,原计划是春节假期就把读书笔记整理好,后来眼睛不舒服,未遂。节后经过几个晚上的整理,现将内容发上来供参考。注意本文内容只有核心原理,没有案例分析,因为设计案例分析,必须画图,否则讲不清,容以后再写。

第一章:大型网站架构演化

1.1大型网站软件系统的特点:高并发、大流量,高可用,海量数据,用户分布广泛、网络情况复杂,安全环境恶劣,需求快速变更、发布频繁,渐进式发展。

1.2大型网站架构演化发展历程

1.2.1初始阶段:应用、数据库、文件在同一台服务器上。
1.2.2应用服务和数据服务分离
1.2.3使用缓存改善网站性能,二八定理80%的业务集中在20%的数据上,缓存又分为本地缓存和分布式缓存
1.2.4应用服务器集群
1.2.5数据库读写分离
1.2.6使用反向代理和CDN加速网站响应
1.2.7使用分布式文件系统和分布式数据库
1.2.8使用NoSql和搜索引擎
1.2.9业务拆分
1.2.10分布式服务

第二章:大型网站架构模式

模式:经过验证的,描述并解决某一类问题的固有方案。

2.1网站架构模式

2.1.1分层:将系统在横向维度上切分,每个部分负责相对单一的职责,通过上层对下层的依赖和调用组成一个完整的系统。在网站系统中,可以将系统从上至下分为应用层、服务层、数据层。
2.1.2分割:将系统在纵向维度上切分,将不同的功能切分成相对独立的模块。
2.1.3分布式:包括分布式应用和服务、分布式静态资源、分布式数据和存储、分布式计算、分布式文件系统等。
2.1.4集群:将多台服务器部署相同的应用来构成一个集群,并通过负载均衡技术实现对外服务。
2.1.5缓存:这里不仅仅指内存的缓存,还有内容的缓存。包括CDN,反向代理、本地缓存、分布式缓存等。
2.1.6异步:可用分布式消息队列实现。
2.1.7冗余:主要用于灾备
2.1.8自动化:主要是发布过程的自动化。
2.1.9安全:主要使用密码,验证码,加密,网络攻击编码转码,垃圾信息过滤,敏感信息风控等。

第三章:大型网站核心架构要素

架构:“最高层次的规划,难以改变的决定”。这些规划和决定奠定了事物未来发展的方向和最终的蓝图

软件架构:“有关软件整体结构与组件的抽象描述,用于指导大型软件系统各个方面的设计”。

软件架构关注以下五个要素:性能,可用性,伸缩性,扩展性,安全性。

第四章:瞬时响应:网站的高性能架构

4.1网站性能测试:性能测试是为性能优化的前提和基础,也是性能优化结果的检查和度量标准。不同视角下的网站性能有不同的标准,也有不同的优化手段。

4.1.1不同视角下的网站性能
4.1.1.1用户视角的网站性能:用户感受到的时间,包括用户计算机和网站服务器通信的时间、网站服务器处理的时间、用户计算机浏览器构造请求解析响应数据的时间。优化策略:优化html、调整浏览器缓存策略、使用cdn服务、反向代理等。
4.1.1.2开发人员视角的网站性能:关注响应延迟、系统吞吐量、并发处理能力、系统稳定性等指标。优化策略:缓存加速数据读取、集群提高吞吐能力、异步消息加快请求响应及实现削峰、代码优化等。
4.1.1.3运维人员视角:关注基础设施性能、资源利用率。优化手段:建设优化骨干网、使用高性价比定制服务器、利用虚拟化技术优化资源利用率。
4.1.2 性能测试指标:响应时间,并发数、吞吐量、性能计数器。
4.1.3性能测试方法:性能测试、负载测试、压力测试、稳定性测试

4.2 Web前端性能优化

4.2.1浏览器访问优化:减少http请求(合并css,Javascript,图片等)、使用浏览器缓存、启用压缩、css放在最上面且JavaScript放在页面最下面、减少cookie传输。
4.2.2CDN加速
4.2.3反向代理:反向代理三作用:安全功能、缓存加速、应用层负载均衡。

4.3应用服务器性能优化:应用服务器就是处理网站业务的服务器,网站的业务代码都部署在这里,是网站开发最复杂,变化最多的地方,优化主要手段有缓存、集群、异步等。

4.3.1分布式缓存:网站性能优化第一定律:优先考虑使用缓存优化性能。缓存的本质是一个内存Hash表,关于Hash表的实现和原理可以单独开一个话题说了,缓存主要用来存放读写比很高、变化很少的数据,二八定律:80%的访问落在20%的数据上。
4.3.1.2合理使用缓存:频繁修改的数据、没有热点的访问、注意数据不一致与脏读、缓存可用性、缓存预热、缓存穿透。
4.3.1.3分布式缓存架构:JBoss Cache为代表的需要更新同步的分布式缓存、以Memocached为代表的户不通信的分布式缓存(其原理核心在于一致性Hash等路由算法)。
4.3.2异步:异步的思路核心在于消息队列,在传统的应用服务器和数据库服务器中间加入了消息队列服务器以实现异步功能,削峰利器,广泛应用于秒杀业务,双十一剁手活动等。任何可以晚点做的事情都应该晚点做。
4.3.3使用集群:负载均衡技术
4.3.4代码优化
4.3.4.1多线程:对网站而言,不管有没有进行多线程编程,工程师写的每一行代码都会被多线程执行,因为用户的请求是并发提交的,也就是说,所有的资源,包括对象、内存、文件、数据库,乃至另一个线程都可能被多线程并发访问。
4.3.4.1.1将对象设计为无状态对象:指对象本身不存储状态信息(对象无成员变量或者成员变量也是无状态对象),这样就不会多线程并发访问的时候就不会出现状态不一致的问题,Servlet便被设计成无状态对象。
4.3.4.1.2使用局部对象
4.3.4.1.3并发访问资源时使用锁
4.3.4.2资源复用:单例、对象池(连接池、线程池)
4.3.4.3使用良好的数据结构
4.3.4.4垃圾回收:合理设置Young Generation和Old Generation大小,减少Full GC。

4.4存储性能优化:Raid,HDFS等

第五章:万无一失:网站的高可用架构

5.1网站可用性的度量与考核

5.2高可用的网站架构:大型网站的分层架构及物理服务器的分布式部署使得位于不同层次的服务器具有不同的可用性特点。关闭服务器或者宕机时产生的影响也不相同,高可用的解决方案也差异巨大。

5.3高可用的应用

5.3.1通过负载均衡实现对无状态服务的失效管理
5.3.2对于有状态情况的方案:Session复制(不适合大规模集群,因巨量session),Session绑定(会话粘滞,不能当机,否则导致不可用),使用浏览器本地的cookie记录session,单独部署公共的Session服务器处理session。

5.4高可用服务策略:分级管理(优先级),超时设置(失效转移),异步调用(消息队列),服务降级,幂等性设计(调用多次和调用一次结果相同)。

5.5高可用数据

5.5.1CAP原理:一个提供数据服务的存储系统无法同时满足数据一致性,数据可用性,分区耐受性这三个条件。
5.5.2数据备份:冷备份及热备份,热备份又分为异步及同步热备。
5.5.3失效转移:三部分:失效确认、访问转移、数据恢复。

5.6高可用网站的软件质量保证:网站发布、自动化测试、预发布验证、代码控制(1、主干开发、分支发布:代码修改都在主干上进行,需要发布的时候,从主干拉一个分支发布,该分支即成为一个发布版本,如果该版本发现bug,继续在该分支上修改发布,并将修改合并到主干,直到下次主干发布。2、分支发布,主干开发:任何修改都不得在主干上直接进行,需要开发一个新功能或修改bug时,从主干拉一个分支进行开发,开发完成且测试通过后,合并回主干,然后从主干进行发布,主干上的代码永远是最新发布的版本)、自动化发布、灰度发布。

5.7网站运行监控:“不允许没有监控的系统上线”。

5.7.1监控数据采集:用户行为日志收集、服务器性能监控、运行数据报告。
5.7.2监控管理:系统报警、失效转移、自动优雅降级。

第六章:永无止境:网站的伸缩性架构

网站的伸缩性是指不需要改变网站的软硬件设计,仅仅通过改变部署的 服务器数量就可以扩大或缩小网站的服务处理能力。

6.1网站的伸缩性设计:一类是根据功能进行物理分离实现伸缩,第二是单一功能通过集群实现伸缩。

6.1.1不同功能进行物理分离实现伸缩:单一服务器处理所有服务->数据库冬应用服务器分离 ->缓存从应用服务器分离->静态资源从应用服务器分离。

纵向分离(分层后分离):将业务处理流程上的不同部分分离部署,实现系统伸缩性。

横向分离(业务分割后分离):将不同的业务模块分离部署,实现系统伸缩性。

6.1.2单一功能通过集群规模实现伸缩。
6.2应用服务器集群的伸缩性设计:Http重定向负载均衡,DNS域名解析负载均衡,反向代理负载均衡(应用层),IP负载均衡(网络层)、数据链路层负载均衡。

负载均衡算法:轮询、加权轮询、随机、虽少连接,源地址散列(哈希)。

6.3分布式缓存集群的伸缩性设计:分布式缓存的一致性哈希算法(使用虚拟结点的一致性hash环)。

6.4数据存储服务器集群的伸缩性设计

6.4.1关系数据库集群的伸缩性设计:读写分离,分库(在分库的的技术上对单表大数据进行切片,数据分布到多个数据库中),mysql集群伸缩使用一致性hash算法进行数据迁移(集群扩容时)。
6.4.2NoSql数据库集群的伸缩性设计

第七章:随需应变:网站的可扩展架构

扩展性:指对现有系统影响最小的情况下,系统功能可持续扩展或提升的能力。表现在系统基础设施稳定不需要经常变更,应用之间较少依赖和耦合,对需求变更可以敏捷响应。是系统设计层面的开闭原则(对扩展开放,对修改关闭),架构设计考虑未来功能扩展,当系统增加新功能时,不需要对现有的结构和代码进行修改。

伸缩性:指系统能够通过增减自身资源规模的方式增减自己计算处理事务的能力。如果这种增减是成比例的,就被称作线性伸缩性。在网站架构中,通常指利用集群的方式增加服务器数量、提高系统的事务吞吐能力。

7.1构建可扩展的网站结构:设计网站可扩展架构的核心思想是模块化,并在此基础上,降低模块间的耦合性,提高模块的复用性。

7.2利用分布式消息队列降低系统耦合性:事件驱动架构,分布式消息队列(先进先出,分布式异步调用)

7.3利用分布式服务打造可复用的业务平台:WebService

7.4可扩展的数据结构

第八章:固若金汤:网站的安全架构

8.1道高一尺魔高一丈的网站应用攻击与防御

8.1.1XSS攻击(跨站脚本攻击),指黑客通过篡改网页,注入恶意HTML脚本,在用户浏览网页时,控制用户浏览器进行恶意操作的工具方式。应对手段:消毒,HttpOnly(防止xss窃取cookie)。
8.1.2注入攻击
8.1.3CSRF攻击
8.1.4其他攻击和漏洞
8.1.5Web应用防火墙
8.1.6网站安全漏洞扫描

8.2信息加密技术及密钥安全管理

8.2.1单向散列加密:如MD5,SHA,还可以基于这些算法进行“加盐”,相当于加密的密钥。
8.2.2对称加密:加解密使用同一个密钥,有DES,RC算法等。
8.2.3非对称加密:一个公钥一个私钥,公钥加密后只有私钥可以打开,反之一样,RSA。

8.3信息过滤与反垃圾:文本匹配(正则,多级Hash表,双数组Tire),分类算法(贝叶斯分类算法),黑名单。



该文章同步自 B3log 社区

本文为风林火山博客原创,转载请注明出处:www.flcoder.com
validate