A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© tei0513 中级黑马   /  2015-3-16 22:26  /  3071 人查看  /  10 人回复  /   0 人收藏 转载请遵从CC协议 禁止商业使用本文

10黑马币
对数据库操作时有没有想过高并发,如何解决的
什么是高并发,如何解决

最佳答案

查看完整内容

首先,不知道你说的高并发是高到什么程度。 对于一般的数据压力来说,四楼说的挺好的,我总结补充一下: 1、多用缓存,减少与数据库的交互; 2、优化数据库结构,但有一点我持有保留意见,索引不一定是多做,这个要看你这张表的预计存储数据量的多少的,如果这张表只有几千条数据,比如一个字典表,做索引不一定会提高效率;优化数据库结构肯定是没错的,比如在进行数据库设计的时候进行数据库的分库分表,比如对于大数据量滚动式 ...

10 个回复

倒序浏览
首先,不知道你说的高并发是高到什么程度。
对于一般的数据压力来说,四楼说的挺好的,我总结补充一下:
1、多用缓存,减少与数据库的交互;
2、优化数据库结构,但有一点我持有保留意见,索引不一定是多做,这个要看你这张表的预计存储数据量的多少的,如果这张表只有几千条数据,比如一个字典表,做索引不一定会提高效率;优化数据库结构肯定是没错的,比如在进行数据库设计的时候进行数据库的分库分表,比如对于大数据量滚动式增加数据的表结构对其增加历史表等等;
3、对数据库操作的时候要优化sql语句,尽量提高SQL语句的执行效率;如果你的数据库有主从设计的话,也可以进行读写分离;
4、有的时候定时执行的、业务较为复杂的情况也可以通过定时执行存储过程来得到想要的结果;
当然,如果你的数据访问并发量特别的大,你也可以部署数据库集群。
回复 使用道具 举报
先需要有非常良好的网络带宽,若有上万人同时录入数据的普通的Web信息管理系统,至少需要10M左右的网络带宽,而且网通、电信的主干网都有接入比较好,否则全国各地的网络情况都不太一样,有的城市录入数据时可能会遇到网络非常缓慢的情况,甚至到无法忍受的程度。      2:须有一台牛X的Web服务器 + 一台牛X的数据库服务器(备注接近顶配的奢侈硬件服务器非个人PC),由于是需要录入1000万条以上数据,最好采用Oracle数据库比较理想一些,经得起考验一些。      3:需要进行适当的内存缓存优化策略,不能所有的数据库都依靠SQL数据库的方式把压力放在数据库服务器上,尽量多使用内存的方式处理数据。      4:需要一个牛X的,经得起考验的数据库访问层,因为每秒都有可能成千上万的人在访问,若是质量不良好的数据库访问组件、或者不稳定的数据库访问组件,更容易导致系统崩溃、或者占用非常庞大的内存,最后容易导致整个系统的崩溃。      5:需要优化分页存取数据功能,应为有可能会有1000万条数据,若分页读取数据的功能没能优化到最高,也很容易导致系统的崩溃,因为上万人万一在同一时间,或者接近同一时间点了查询某页数据时,那系统就真崩溃了,分页存取数据一定需要做到极致才可以。      6:需要进行数据库索引优化,有索引和没索引的性能差距有时候会是100倍,大数据量时可能会有1000倍都有可能,数据库索引优化到极致了更容易得到运行顺畅的信息管理系统。      7:严谨高效的数据库事务处理,由于高并发,并且有些单据是需要同时写入多个表,需要保证数据库的一致性,要么全部成功,要么全部失败重新录入数据,所以需要一个高效的数据库事务处理机制的配合。      8:所有的系统的操作日志、异常信息都需要完整的记录下来,当系统发生一些故障时,可以快速排查问题,对正确诊断系统发生的故障的原因做分析参考用。      9:需要经常检测系统的各项指标、例如各服务器的内存使用情况、CPU使用情况、网络带宽使用情况,高峰时的各个参数是什么情况、系统不繁忙时的情况等,若服务器快承受不了压力了,就得马上增加负载均衡的服务器,网络带宽不够了需要增加等等,总不能等系统崩溃了再去做这些事情。    10:每个页面的HTML、JS都进行优化,若某个页面多余发了100个字符的垃圾HTML代码,那1万人每天获得100次,那得占用多少网络带宽,100×100×1万个字符的多余HTML被网络上传输了,要知道接入主干网的网络资源是多么宝贵,费用是多么昂贵。    11:HTML、JS等都可以考虑用压缩模式传输,那样网络传输效率会更高一些。    12:由于全国各地上万人,会有各种各样的人,这些人也未必全是好人,可能某些人心情不好,或者其他什么的,可能就会攻击我们的软件系统破坏数据,这些也可能是由于好奇心导致的,所以系统需要有严格的权限管理控制,不应该进入的页面绝对不能进入,不应该看的数据绝对不让看,不能操作的功能绝对不让多操作,一方面防止没必要的多余的麻烦,另一方面也可以减少系统被攻击破坏的可能性。
回复 使用道具 举报
Mra 发表于 2015-3-16 23:30
先需要有非常良好的网络带宽,若有上万人同时录入数据的普通的Web信息管理系统,至少需要10M左右的网络带宽 ...

没看懂,貌似不是我想要的答案
回复 使用道具 举报
你指的高并发量大概有多少?
几点需要注意:
尽量使用缓存,包括用户缓存,信息缓存等,多花点内存来做缓存,可以大量减少与数据库的交互,提高性能。
优化数据库查询语句,减少直接使用hibernate等工具的直接生成语句(仅耗时较长的查询做优化)。
优化数据库结构,多做索引,提高查询效率。
统计的功能尽量做缓存,或按每天一统计或定时统计相关报表,避免需要时进行统计的功能。
能使用静态页面的地方尽量使用,减少容器的解析(尽量将动态内容生成静态html来显示)。
解决以上问题后,使用服务器集群来解决单台的瓶颈问题。
基本上以上述问题解决后,达到系统最优。
低层的连接数过大(如大量的端口占用需求),这种情况下考虑直接C来写,其他的可以用JAVA来做。
回复 使用道具 举报
使用数据库连接池,你可以去找相关的视频学习,注意它的原理
回复 使用道具 举报
+1111111111
回复 使用道具 举报
花独恋水 来自手机 中级黑马 2015-3-18 07:15:23
8#
又学到了新知识
回复 使用道具 举报
高并发就是有大量用户同时访问数据库,即同一时刻请求统一资源的用户比较多;
如何解决:1.采用缓存;2.数据库方面可以采用NO-SQL,那样对某些数据的操作效率可能会大大提高
回复 使用道具 举报
在大型网站开发和设计过程中,非常需要考虑的问题是网站的并发访问的问题,为此我也通过思考,通过借鉴前辈们设计思想,总结出一些解决方案:
  
  1、尽量将请求的页面静态化,静态化的页面为.html(.htm等)不需要web服务器重新加载项解析,只需要生成一次,以后每次都直接下载到客户端,效率高很多。javaWeb静态化的技术有freemark和Velocity等。
  
  2、将网站系统的web服务器、数据库服务器、图片和文件服务器分开,通过将服务器专业化分工,以提高网站访问速度。因为图片和文件在下载的时候无论是IIS、Apache等服务器都会有很大压力。
  
  3、可以设置专门的数据缓存服务器,将大量数据放到缓存数据区,在访问量少得时候存入数据,减少连接直接操作数据库的开销。
  
  4、数据库集群、库表散列
  
  大型网站都有复杂的应用,这些应用必须使用数据库,那么在面对大量访问的时候,数据库的瓶颈很
  
  快就能显现出来,这时一台数据库将很快无法满足应用,于是我们需要使用数据库集群或者库表散列。在数据库集群方面,很多数据库都有自己的解决方案,Oracle、Sybase等都有很好的方案,常用的
  
  MySQL提供的Master/Slave也是类似的方案,您使用了什么样的DB,就参考相应的解决方案来实施即可。
  
  上面提到的数据库集群由于在架构、成本、扩张性方面都会受到所采用DB类型的限制,于是我们需要
  
  从应用程序的角度来考虑改善系统架构,库表散列是常用并且最有效的解决方案。
  
  我们在应用程序中安装业务和应用或者功能模块将数据库进行分离,不同的模块对应不同的数据库或
  
  者表,再按照一定的策略对某个页面或者功能进行更小的数据库散列,比如用户表,按照用户ID进行表
  
  散列,这样就能够低成本的提升系统的性能并且有很好的扩展性。
  
  sohu的论坛就是采用了这样的架构,将论坛的用户、设置、帖子等信息进行数据库分离,然后对帖子、
  
  用户按照板块和ID进行散列数据库和表,最终可以在配置文件中进行简单的配置便能让系统随时增加一
  
  台低成本的数据库进来补充系统性能。
  
  5、镜像
  
  镜像是大型网站常采用的提高性能和数据安全性的方式,镜像的技术可以解决不同网络接入商和地域
  
  带来的用户访问速度差异,比如ChinaNet和EduNet之间的差异就促使了很多网站在教育网内搭建镜像站
  
  点,数据进行定时更新或者实时更新。在镜像的细节技术方面,这里不阐述太深,有很多专业的现成的解
  
  决架构和产品可选。也有廉价的通过软件实现的思路,比如Linux上的rsync等工具。
  
  6、负载均衡
  
  负载均衡将是大型网站解决高负荷访问和大量并发请求采用的高端解决办法。
  
  负载均衡技术发展了多年,有很多专业的服务提供商和产品可以选择,我个人接触过一些解决方法,
  
  其中有两个架构可以给大家做参考。
  
  (1)、硬件四层交换第四层交换使用第三层和第四层信息包的报头信息,根据应用区间识别业务流,将整个区间段的业务
  
  流分配到合适的应用服务器进行处理。
  
  第四层交换功能就像是虚IP,指向物理服务器。它传输的业务服从的协议多种多样,有
  
  HTTP、FTP、NFS、Telnet或其他协议。这些业务在物理服务器基础上,需要复杂的载量平衡算法。在IP世界,
  
  业务类型由终端TCP或UDP端口地址来决定,在第四层交换中的应用区间则由源端和终端IP地址、TCP和
  
  UDP端口共同决定。
  
  在硬件四层交换产品领域,有一些知名的产品可以选择,比如Alteon、F5等,这些产品很昂贵,但是
  
  物有所值,能够提供非常优秀的性能和很灵活的管理能力。“Yahoo中国”当初接近2000台服务器,只使
  
  用了三、四台Alteon就搞定了。
  
  (2)、软件四层交换
  
  大家知道了硬件四层交换机的原理后,基于OSI模型来实现的软件四层交换也就应运而生,这样的解
  
  决方案实现的原理一致,不过性能稍差。但是满足一定量的压力还是游刃有余的,有人说软件实现方式其
  
  实更灵活,处理能力完全看你配置的熟悉能力。
  
  软件四层交换我们可以使用Linux上常用的LVS来解决,LVS就是LinuxVirtualServer,他提供了基
  
  于心跳线heartbeat的实时灾难应对解决方案,提高系统的强壮性,同时可供了灵活的虚拟VIP配置和管
  
  理功能,可以同时满足多种应用需求,这对于分布式的系统来说必不可少。
  
  一个典型的使用负载均衡的策略就是,在软件或者硬件四层交换的基础上搭建squid集群,这种思路
  
  在很多大型网站包括搜索引擎上被采用,这样的架构低成本、高性能还有很强的扩张性,随时往架构里面
  
  增减节点都非常容易。
  
  对于大型网站来说,前面提到的每个方法可能都会被同时使用到,这里介绍得比较浅显,具体实现过
  
  程中很多细节还需要大家慢慢熟悉和体会。有时一个很小的squid参数或者apache参数设置,对于系统性
  
  能的影响就会很大。
  
  
  
回复 使用道具 举报
舒少勇 发表于 2015-3-21 13:15
在大型网站开发和设计过程中,非常需要考虑的问题是网站的并发访问的问题,为此我也通过思考,通过借鉴前辈 ...


 7、最新:CDN加速技术

  什么是CDN

  CDN的全称是内容分发网络。其目的是通过在现有的Internet中增加一层新的网络架构,将网站的内

  容发布到最接近用户的网络“边缘”,使用户可以就近取得所需的内容,提高用户访问网站的响应速度。

  CDN有别于镜像,因为它比镜像更智能,或者可以做这样一个比喻:CDN=更智能的镜像+缓存+

  量导流。因而,CDN可以明显提高Internet网络中信息流动的效率。从技术上全面解决由于网络带宽小、用

  户访问量大、网点分布不均等问题,提高用户访问网站的响应速度。

  CDN的类型特点CDN的实现分为三类:镜像、高速缓存、专线。

  镜像站点(MirrorSite),是最常见的,它让内容直接发布,适用于静态和准动态的数据同步。但是购

  买和维护新服务器的费用较高,还必须在各个地区设置镜像服务器,配备专业技术人员进行管理与维护。

  对于大型网站来说,更新所用的带宽成本也大大提高了。

  高速缓存,成本较低,适用于静态内容。Internet的统计表明,超过80%的用户经常访问的是20%

  网站的内容,在这个规律下,缓存服务器可以处理大部分客户的静态请求,而原始的服务器只需处理约

  20%左右的非缓存请求和动态请求,于是大大加快了客户请求的响应时间,并降低了原始服务器的负载。

  CDN服务一般会在全国范围内的关键节点上放置缓存服务器。

  专线,让用户直接访问数据源,可以实现数据的动态同步。

  CDN的实例

  举个例子来说,当某用户访问网站时,网站会利用全球负载均衡技术,将用户的访问指向到距离用户

  最近的正常工作的缓存服务器上,直接响应用户的请求。

  当用户访问已经使用了CDN服务的网站时,其解析过程与传统解析方式的最大区别就在于网站的授

  权域名服务器不是以传统的轮询方式来响应本地DNS的解析请求,而是充分考虑用户发起请求的地点和

  当时网络的情况,来决定把用户的请求定向到离用户最近同时负载相对较轻的节点缓存服务器上。

  通过用户定位算法和服务器健康检测算法综合后的数据,可以将用户的请求就近定向到分布在网络“

  边缘”的缓存服务器上,保证用户的访问能得到更及时可靠的响应。

  由于大量的用户访问都由分布在网络边缘的CDN节点缓存服务器直接响应了,这就不仅提高了用户

  的访问质量,同时有效地降低了源服务器的负载压力。

  附:某CDN服务商的服务说明

  采用GCDN加速方式

  采用了GCDN加速方式以后,系统会在浏览用户和您的服务器之间增加一台GCDN服务器。浏览用户

  访问您的服务器时,一般静态数据,如图片、多媒体资料等数据将直接从GCDN服务器读取,使得从主服

  务器上读取静态数据的交换量大大减少。

  为VIP型虚拟主机而特加的VPN高速压缩通道,使用高速压缩的电信<==>网通、电信<==>国际

  (HK)、网通<==>国际(HK)等跨网专线通道,智能多线,自动获取最快路径,极速的动态实时并发响

  应速度,实现了网站的动态脚本实时同步,对动态网站有一个更加明显的加速效果。

  每个网络运营商(电信、网通、铁通、教育网)均有您服务器的GCDN服务器,无论浏览用户是来自何

  处,GCDN都能让您的服务器展现最快的速度!另外,我们将对您的数据进行实时备份,让您的数据更安全.

回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马