JVM性能调优-精英翘楚深入了解性能优化_交互

java 系统程序来说宏观上一般分为三层：

前端层（界面层）（user interface layer）：
- 主要表示web方式，也可以表示成winform方式。
- 对于web方式，可以表现成如aspx等。
- 位于最外层（最上层），最接近用户。
- 用于显示数据和接收用户输入的数据，为用户提供一种交互式操作的界面。
- 主要对用户的请求接受，以及数据的返回，为客户端提供应用程序的访问。
业务逻辑层（business logic layer）：
- 主要是针对具体的问题的操作，也可以理解成对数据层的操作。
- 对数据业务逻辑处理，如果说数据层是积木，那逻辑层就是对这些积木的搭建。
- 无疑是系统架构中体现核心价值的部分，关注点主要集中在业务规则的制定、业务流程的实现等与业务需求有关的系统设计。
数据访问层（data access layer）：
- 主要是对原始数据（数据库或者文本文件等存放数据的形式）的操作层，而不是指原始数据。
- 为业务逻辑层或表示层提供数据服务。

这种三层架构的设计目的是为了实现“高内聚低耦合”的思想，即各个层次之间相对独立，但又能通过接口进行有效的通信和数据交换。在软件体系架构设计中，分层式结构是最常见，也是最重要的一种结构。这种结构使得系统更加易于维护和扩展，提高了系统的灵活性和可重用性。

1. 性能指标
常用的性能测试(工具jmeter)指标一般为下面几个：

响应时间：
提交请求时跟请求返回之间的使用时间，一般公司关注的是平均响应时间。
平常用到的一些时间指标级别如图：

2. 并发数

指同一时刻对服务器有实际交互的请求数，这个数字一般跟网站在线用户数想关联，一般为网站在线用户的5%～15%。
ps：注意并发跟并行的区别哦。

3.吞吐量
系统对单位时间内完成对工作量的度量。
比如每分钟的数据库事务，每分钟web服务器命中数。

这些指标之间的关系一般是响应时间越短，吞吐量越大；响应时间越长，吞吐量越小；但是吞吐量越大，响应时间不一定越短。

性能优化
一般情况下，业务代码运行起来的实现规则

1.首先保证业务代码可以正常运行
2.可以处理异常情况。
3.要发现异常跟耗时点，进行系统性能测试跟异常测试，不可相信主观意识。
4.最终才是各个环节的性能优化，切勿过早优化 by donald knuth。
5.优化寻找系统瓶颈，逐步优化。
前端优化
浏览器
1.减少请求次数
http请求是无连接的，所以如果我们能减少请求便是一种手段，合并css/js/图片这些数据，一次性传送给客户端。http1.1 的**keep-alive **可以确保 http 请求不重复建立。

2.使用客户端缓冲
对于css/js/img 这些静态数据，采用缓存到浏览器的方式。
cache-control:相对时间，指浏览器自我控制的时间间隔
expires :服务器发送过来的以服务器为准的绝对时间。

3.启用压缩
服务器端对js/css等文件进行gzip压缩，服务器进行解压缩。对文本文件进行压缩可节省80%的空间。比如jquary的一些官方文件，传输的时候把空格都节省了。

4.资源文件加载顺序
我们写html文件，里面会包含css跟js，一般是css放最前面，js放最后面

浏览器会在下载完成全部css之后才对整个页面进行渲染，因此最好的方式是将css放在页面最上面，让浏览器尽快启动下载css。
因为js的运行是要占用主线程的，也就是在js运行的时候，页面是不进行解析和渲染的，如果js写在最前面，如果不做特殊处理，除了能提供依赖以外和做一些预处理之外，连dom节点都无法捕捉，导致功能受到了很大的限制

5.给予用户友善提示
即使系统性能再慢也要跟用户有交互，点了没有任何反应就无语了让客户。

cdn加速
cdn的全称是content delivery network，即内容分发网络。cdn是构建在网络之上的内容分发网络，依靠部署在各地的边缘服务器，通过中心平台的负载均衡、内容分发、调度等功能模块，使用户就近获取所需内容，降低网络拥塞，提高用户访问响应速度和命中率。cdn的关键技术主要有内容存储和分发技术。将css/js等东西放到距离我们用户网关最近的地方。

通俗一点讲什么是cdn，简单一点理解就是一个中转站，在给网站主提供一定的方便，用户也可以享受到一定的方便，在提高打开网站和访问速度上面都有大大的提升，使用cdn的好处显而易见。cdn也是缓存实现对一种机制，不过比较贵。

反向代理缓存
可将nginx做为apache的反向代理服务器，反向代理服务器不使用缓存时，吞吐率会下降，因为原本直达web的请求，现在绕路转达，处理时间必然会增加。

可将web服务器和应用服务器分离，前者处理一些静态内容，并作为反向代理，后者处理动态内容。

web组件分离
网站的静态网页html、javascript脚本、css样式、图片、动态数据称为网站的web组件。如果用户请求上面东西全部从同一个网址获取那么性能会收到影响。
那么我们可以吧不同的资源放到不同的服务器上。比如我们有顶级域名：www.sowhat.com，我们可以用若干二级域名来存储不同的类型数据。

static.sowhat.help #用于存放静态数据
api.sowhat.help #存放动态数据
css.sowhat.help #存放css
js.sowhat.help #存放js
upload.sowhat.help #存放图片、音频、文档

应用服务器优化
缓存
网站优化优先考虑使用缓存进行性能优化，用了缓存访问数据速度快。一些计算结果也可以放置重复计算。
缓存：在内存中我们用各种基本容器存储数据都是缓存，memcached跟redis，这些都是缓存。缓存距离用户越近越好。缓存的本质就是一个hash表。
缓存原则：

频繁修改数据不可缓存，读写比起码要2:1以上。
缓存一定是热点数据，借鉴28定律，80%的访问在20%的数据。

弊端：缓存用了就要考虑数据的一定时间不一致性，还要考虑缓存雪崩，击穿，穿透，缓存预热等问题。
工业中一般是分布式缓存：

jboss:所以集群点时间都保持相同数据，需实时更新同步。
hash算法实现分布式存储，每个机器都存储一部分数据。很早前一般是hash(参数)%机器数来实现缓存，后来又引入来一致性哈希跟虚拟一致性哈希

集群
相同的任务通过nginx实现反向代理，然后业务运算端通过集群来实现集群的扩展。比如我们常用的redis集群，mysql集群，hadoop集群等都是为提供系统性能以及业务稳定性来搞的。硬件级别的集群比如f5也ok不过较贵。

异步
关于同步异步的概念跟区别可参考此文同步异步

同步跟异步：关注的是服务方的结果信息的通信机制。
阻塞跟非阻塞：关注的是调用方等待结果时候的状态。

常见的异步手段

servlet异步：服务器收到服务器请求后，开启一个a线程，然后a线程将该任务打包发给后端的一个集群服务b,b搞定后再把信息发给a，然后最终信息返回。
多线程：线程池咯当然是
消息队列：任务接后打包然后放到任务队列。

程序

1. 代码级别

选择合适的数据结构，是用linkedlist 还是arraylist呢，要根据查询多还是增删多来考虑。
根据数据量大小选择合适的算法，java的arrays.sort() 底层是快排+插入排序，而c++ 的stl排序底层实现sort()底层是快排/堆排/插排合并使用。
编写更少的代码，业务总逻辑那么多，如果系统给我们写的越多底层优化越多那么我们需要写的就越少，bug就更少。

2.并发编程

充分利用cpu多核，使用线程池，尽量使用juc提供的类，
避免线程安全问题，资源冲突，锁的范围，读写锁 cas锁，threadlocal等等

3.资源复用

比如spring框架给我管理的bean 都是单例的对象。
比如数据库连接这样耗时任务尽量用连接池。

jvm中jit
日常关注中经常用到的其实是jit(just in time ) 也就是即时编译器，jit的功能就是可以把翻译过的机器码选择性的保存起来，以备下次使用。

热点编译：
当 jvm 执行代码时，它并不立即开始jit代码。这主要有两个原因：

首先，如果这段代码本身在将来只会被执行一次，那么从本质上看，编译就是在浪费精力。因为将代码翻译成 java 字节码相对于编译这段代码并执行代码来说，要快很多。
hot spot vm 采用了 jit compile 技术，将运行频率很高的字节码直接编译为机器指令执行以提高性能，所以当字节码被 jit 编译为机器码的时候，此时可以认为是编译型语言类。

jit模式：
通过java -version 来查看编译器模式

jit默认模式
默认两种

1.client 模式：当虚拟机运行在-client 模式的时候，启动快，使用的是一个代号为 c1 的轻量级编译器，
2.server 模式：–server 模式启动的虚拟机采用相对重量级代号为 c2 的编译器。速度较慢，但是一旦运行起来后，性能将会有很大的提升。c2 比 c1 编译器编译的相对彻底，服务起来之后，性能更高。
3.新添加的分层编译， -xx:+tieredcompilation，多层编译经常是长时运行应用程序的最佳选择，短暂应用程序则选择毫秒级性能的 client 编译器。

同时我们开启jit后，要为代码缓存区设置参数

1 –xx:reservedcodecachesize=nflag
在jdk7的默认范围是32m~48m，jdk8默认范围240m，并且这个内存空间的设置后虚拟机会单独申请内存空间跟堆栈是无关哦。

编译阈值
热点编译的阈值有两个的和来定，并且这个是一定时间段内，会有计数器的衰减的，可能下一个时间段就减半了。

1.方法调用计数器
2.循环回边计数器
同时呢，在jit运行的时候会开启单独的线程来进行干编译的这个活。

方法内联
把函数调用的方法直接内嵌到方法内部，减少函数调用的次数。内联默认开启，如果关闭了性能大概降速50%。

public void setage(int age){
this.age = age
}
this.age = age

1.编译后的字节码小于325字节，才可能会内联。
2.编译后字节码小于35字节，一定会内敛。所以自定义函数一般尽可能少哦。
逃逸分析
逃逸分析：虚拟机会经常性的执行这个代码并且很复杂，轻易不要懂缺省值。

gc调优
大部分情况下java应用程序是不需要gc调优的，如果需要gc调优了一般不是参数问题就是代码问题，先从自身找原因。
目的：

1.gc时间够少。
2.gc次数够少。
方法：

1.选择合适的gc回收器来组合。
2.选择合适的堆大小。
3.选择合适年轻代在堆中的比例。
4.尽可能减少full gc 的发生跟时间。
指标：

minor gc 单次小于50ms，频率10秒以上。说明年轻代ok。
full gc 单次小于1秒一下，频率10分钟以上，说明年老代ok。
gc常用参数

1. -xms5m 设置jvm最大可用内存为5m
2. -xmx5m 设置jvm初始内存为5m。此值可以设置与-xmx相同，以避免每次垃圾回收完成后jvm重新分配内存。
3. -xx:+printgcdetails 输出gc日志信息
4. -xx:+heapdumponoutofmemoryerror 当jvm发生oom时，自动生成dump文件
5. -xloggc:gcc.log 将gc信息输出到制定文件，默认是跟项目/目录一样
6. -xx:+useserialgc 自由制定年轻代使用的gc
要学会看gc日志

[0.172s][info ][gc,start ] gc(1) pause young (allocation failure)
[0.177s][info ][gc,heap ] gc(1) defnew: 1856k->192k(1856k)
defnew表示新生代使用serial串行gc垃圾收集器,gc前用空间，gc后用空间，总空间
[0.177s][info ][gc,heap ] gc(1) tenured: 714k->2326k(4096k) 表示老年区对使用情况。
[0.177s][info ][gc,metaspace ] gc(1) metaspace: 6245k->6245k(1056768k) 元数据空间，回收前所用值回收后所用值总值
[0.177s][info ][gc ] gc(1) pause young (allocation failure) 2m->2m(5m) 4.335ms
年轻代回收耗时
[0.177s][info ][gc,cpu ] gc(1) user=0.00s sys=0.00s real=0.01s
cpu gc总共耗时等信息
gc策略：

1.新对象预留在新生代，由于 full gc 的成本远高于 minor gc，因此尽可能将对象分配在新生代是明智的做法，实际项目中根据 gc日志分析新生代空间大小分配是否合理，适当通过-xmn命令调节新生代大小，最大限度降低新对象直接进入老年代的情况。
2.对于大对象，如果直接在年轻代分配会导致大多年轻代小对象被拥挤到年老代，此时要合理设置-xx:pretenuresizethreshold 参数，启动空间分配担保。
3.合理设置进入老年代对象的年龄，-xx:maxtenuringthreshold
4.设置稳定的堆大小，堆大小设置有两个参数：-xms 初始化堆大小，-xmx 最大堆大小