Ubuntu Spark集群的硬件资源利用率提升可以通过多种方法实现,以下是一些建议: 优化Spark配置:根据集群的规模和任务需求,调整Spark...
2024-11-22 6 最新更新 网站标签 地图导航
曾经见到知乎上有人问“为什么像Facebook这类的网站需要上千个工程师维护?”,下面的回答多种多样,但总结起来就是:一个高性能的web系统需要从无数个角度去考虑他,大到服务器的布局,小到软件中某个文件的实现,甚至于某个循环内的运算如果出现不严谨都可能导致全盘崩溃。
上面提到web性能优化需要多个角度去考虑,我们无法考虑到所有的优化细节,但可以从我们已知的层面去优化,我们就先从网络层面说起。
①网络请求路径:
(客户端输入URL定位符)→(DNS服务器寻找映射)→(进入服务器,处理数据)→(返回数据至客户端)
在这个用例中我们可以很清晰的看出网络请求到返回的过程,虽然非常抽象,但足够我们以他为基础来进行优化了。
1.负载均衡
BOSS一次给了小明好多项任务,小明发现怎么安排时间也做不完,于是乎他盯上了在旁边偷偷看电影的小强,小强突然觉得背后有一股凉气,一回头小明一脸坏笑看着他,“这几个任务交给你,晚上请你吃饭,要不然…嘿嘿嘿”,小强虽然不情愿,但是在小明的请求(要挟)下,只能服从。第二天,小明顺利的完成了任务,给小强买了袋辣条。
在计算机上负载均衡也类似如此,我们的大BOSS客户端将请求发送至服务器,然而一台服务器是无法承受很高的并发量的,我们就会将请求转发到其他服务器,当然真正的负载均衡架构并不是由一台server转发的另一台server,而在客户端与服务器端中间加入了一个负责分配请求的负载均衡硬件(软件)。
〓DNS
名词:DNS是客户端发送请求中一个非常重要的中转,他的作用是将用户请求的URL映射为具体的IP地址,全世界有13台根服务器,但通常为我们进行域名解析的并不是根服务器,而是直接访问我们的 LDNS(LocAl DNS Server),通常由网络运营商维护。
最早的负载均衡就是利用搭建本地DNS服务器实现的,实现方式简单易懂,为同一个主机名分配多个映射 ,可采用轮循,随机等方式分配请求。看上去没什么问题,但是在使用过程中会发现,如果其中一个地址down机,我们是无法及时发现的,如果有用户被分配到这个主机就会出现访问失败的状况,同时我们也无法判断每个server的负载,可能会出现,某个server几乎闲置,另外一个server负载压力极高的情况。
〓硬件设备
名词:负载均衡器(Load Balancer),负载均衡器通常作为独立的硬件置于客户端与服务器之间。
负载均衡设备拥有非常好的负载均衡性能,他拥有众多的负载均衡策略(权重,动态比率,最快模式,最小连接数等),可以保证以相对较优的方式分配请求,不过好的东西总是有代价的,那就是价格,一台负载均衡器的售价往往高达十几万甚至几十万,许多企业并不愿意为它买单。
〓反向代理
名词:Nginx。高性能,轻量级,已经成了人们对Nginx的第一印象,Nginx可作为HTTP服务器,在处理高并发请求的时候拥有比现在主流的Apache服务器更高的性能,同时Nginx也是一个优秀的反向代理服务器。
第一次听到“反向代理”,可能有些陌生,但如果了解与之对应的正向代理就很好理解了,正向代理通常由客户端主动链接,比如我们的科学上网方式就是使用正向代理,以达到间接访问网站的目的,而反向代理在服务器端,无需主动链接,当我们访问拥有反向代理的网站时,实际访问的是其反向代理服务器,而非真正的服务器,当请求到达反向代理服务器时,反向代理服务器再将请求转发至服务器。反向代理是实现负载均衡的主流手段之一,通常使用Nginx等服务器搭建,Nginx同样拥有众多的分配策略,以保证平均分配压力。
Nginx反向代理:
BIGIP(硬件)负载均衡:
2.cdn
视频总在缓冲,图片各种加载不出来,几年前是再正常不过的事了,在当时大家也没觉得是回事,但把这种情况放在现在,我想人们绝对直接就小红叉了吧,那么我们如何避免这样的情况呢?这就是我要说的,内容分发网络(Content Delivery Network),简称:CDN。
CDN简单的来说就是存储一些静态文件的一台或多台服务器,通过复制,缓存等方式,将文件保存其中。
〓哪些是静态文件?
css,htMl,图片,媒体都属于静态文件,也就是说用户发送的请求不会影响静态文件的内容,而jsp,php等文件就不属于静态文件,因为他们的内容会因我们的请求而发生改变。
〓CDN如何实现加速?
通常情况下,我们所要的数据都是从主服务器中获取,但假如我们的主服务器在南方,而访问用户在北方,那么访问速度就会相对变慢,变慢的原因有很多,例如传输距离,运营商,带宽等等因素,而使用CDN技术的话,我们会将CDN节点分布在各地,当用户发送请求到达服务器时,服务器会根据用户的区域信息,为用户分配最近的cdn服务器。
〓CDN数据从哪里来?
复制,缓存,CDN服务器可以在用户请求后缓存文件,也可以主动抓取主服务器内容。
分布在各地的CDNS:
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-62778877-8261;邮箱:jenny@west.cn。本站原创内容未经允许不得转载,或转载时需注明出处::西部数码资讯门户 » 什么是负载均衡和CDN技术
相关文章
Ubuntu Spark集群的硬件资源利用率提升可以通过多种方法实现,以下是一些建议: 优化Spark配置:根据集群的规模和任务需求,调整Spark...
2024-11-22 6 最新更新 网站标签 地图导航
在 Ubuntu 上使用 PyCharm 时,你可以通过以下步骤启用代码导航工具: 打开 PyCharm。 点击 “File” 菜单,然后选择 “S...
2024-11-22 3 最新更新 网站标签 地图导航
在Ubuntu下配置Privoxy以自动更新其规则集,可以通过以下步骤实现: 安装Privoxy: 如果你还没有安装Privoxy,可以使用以下命...
2024-11-22 6 最新更新 网站标签 地图导航
在Ubuntu上使用PyCharm管理依赖,可以按照以下步骤操作: 打开PyCharm并打开你的项目。 点击 “File” 菜单,然后选择 “Set...
2024-11-22 3 最新更新 网站标签 地图导航
在 Linux 平台下使用 g++ 编译器时,条件编译是一种非常有用的技巧,它允许你根据不同的编译条件(如操作系统、体系结构、编译器版本等)来包含或排...
2024-11-22 4 最新更新 网站标签 地图导航
在 Ubuntu 系统中使用 PyCharm 设置断点的步骤如下: 打开 PyCharm,然后打开你的项目。 在你想要设置断点的代码行左侧的边...
2024-11-22 2 最新更新 网站标签 地图导航
在 Linux 上设置 g++ 以支持代码自动格式化,你可以使用 clang-format 工具。以下是配置步骤: 首先,确保你已经安装了 clan...
2024-11-22 5 最新更新 网站标签 地图导航
在 Linux 上,可以使用 g++ 编译器结合其他工具来进行代码性能分析。以下是一些建议的步骤: 安装 g++ 和相关工具: 确保已经安装了 g...
2024-11-22 4 最新更新 网站标签 地图导航