JMicro是本人开发的基于Java实现的微服务框架,当前正式版本为0.0.3,并已发布到maven中央仓库。项目源码github:
https://github.com/mynewworldyyl/jmicro,Demo源码:
https://github.com/mynewworldyyl/jmicro_demos/tree/0.0.3-release
Maven地址:
https://mvnrepository.com/search?q=cn.jmicro
Demo:http://jmicro.cn 账号:test00 密码:1
超时&重试
客户端调用服务时,由于网络抖动,服务故障等原因,不能及时响应给客户端,往往需要重试一两次才能成功,而不应该在发生超时时就直接给调用者失败结果,这样不友好,往往让用户怀疑我们服务的稳定性和可用性。
比如平时访问某个网站,页面出现长时间读条加载的情况,我们往往按一下刷新按钮就能很快成功打开页面。在微服务调用中,往往由服务调用者在收到失败响应后,根据业务场景发起合理的重试请求。JMicro在框架级别提供这种配置并且由平台自动做重试操作,提高服务调用的成功率。
JMicro超时重试配置
在前面JMicro微服务Helloworld基基础上,通过配置SMethod注解属性达到超时重试的目的。代码如下:
@Component @Service(version="0.0.1") public class TxShopServiceImpl implements ITxShopService { private final static Logger logger = LoggerFactory.getLogger(TxShopServiceImpl.class); private Random ran = new Random(System.currentTimeMillis()); @Override @SMethod(timeout=1000,retryCnt=3,retryInterval=100) public Resp<Boolean> buy(int goodId,int num) { Resp<Boolean> r = new Resp<>(Resp.CODE_SUCCESS,true); int st = ran.nextInt(6); if(st > 0) { logger.info("Sleep time: " + st+" Seconds idx: " +num); try { TimeUnit.SECONDS.sleep(30);//睡30秒,让客户端超时并重试,只要为了验证超时重试逻辑 TimeUnit.SECONDS.sleep(ran.nextInt(5));//睡30秒,随机睡0到5秒,测试并发表求时部份请求超时 } catch (InterruptedException e) { logger.error("",e); } } logger.info("Success return idx:" +num); return r; } }
在buy服务方法配置SMethod注解,并设置timeout,retryInterval,retryCnt三个属性即可。
timeout:表示超时时间,单位毫秒,小于或等于0表示不启用超时,大于0表示启用超时;
retryInterval:表示超时后,重试间隔,单位毫秒,如果服务超时后,立即发起重试请求,很可能还是失败,所以要稍微等一会,让服务方缓存一下,再发起重试,往往成功率会更高。
retryCnt:表示重试次数,不包括第一次,如设置为3,如果第一次超时,第2次成功,则总共请求了2次,同理,全部超时时,总共请求了4次,4次超时后,RPC失败,抛出TimeoutException异常。
配置启动参数及入口类
除了可以按照上一节用的命令方式运行测试 ,还可以将项目导入Eclipse或Idea中运行Debug测试。
比如Eclipse下,将源码以Maven项目导入Eclipse中,在运行测试配置如下图所示:
参数:
VM参数为Maven仓库下的Agent类,需要改为你自己机器的路径,此Jar包用于在我们启动java虚拟机时,对我们的实体类(SO注解的类)做序列化增强,这样我们RPC请求就可以飞起来。
-DsysLogLevel=4 日志级别,用于日志监控,需要日志服务支持,后面专门章节说明;
-DclientId=25500 以什么账号启动我们的服务实例,涉及账号权限及多租户隔离;
-DadminClientId=0 超级账号,用于申请超级账号权限
-Dlog4j.configuration=../../log4j.xml Log4j日志配置文件
-Dpwd=1 clientId账号对应的密码
以上参数除了log4j.configuration外,其他都可以先不用管,后面用专门章节说明
通过以上配置后,就可以像平时启动Java程序那样启动服务了。
配置并启动客户端
同样方式配置并启动客户端,客户端以固定频率调用服务端buy方法,代码如下:
public void afterInit(IObjectFactory of) { AtomicInteger ai = new AtomicInteger(0); //为了不Block主线程,我们在此启动一个线程每间隔3秒调用一次商店提供的购买方法 new Thread(()->{ for(;true;) { try { //调用商店服务 int cnt = ai.getAndIncrement(); Resp<Boolean> rst = shop.buy(1, cnt); if(rst == null || rst.getCode() != Resp.CODE_SUCCESS) { if(rst != null) { //系统组错误 logger.info(rst.getMsg()+"," + rst.getCode()+",idx:"+cnt); } else { logger.info("Timeout:" + cnt); } }else if(rst.getData()) { //业务购买失败 logger.info("Success idx: " + cnt); }else { //成功 logger.info("Fulure"+rst.getMsg()+"," + rst.getCode()+",idx:"+cnt); } try { TimeUnit.SECONDS.sleep(1); } catch (InterruptedException e) { logger.error("",e); } }catch(Throwable e) { logger.error(e.getMessage()); } } }).start(); }
查看客户端输出日志,重试3次后,最终报超时失败,因为服务端buy方法睡了30秒,所以每个请求都肯定会超时!试着调整服务端的超时时间,让一部份请求成功或重试成功。
除了可以在终端看日志外,还可以通过日志文件看,日志文件的位置配置在log4j配置文件中,默认为当前工作目录下的logs/work.log文件。如下图:
超时重试存问题
必须要说明的是并非全部服务都需要重试或都能接受重试,只有幂等服务才能接受重试。所谓幂等是:以同一参数调用多次得到的效果相同,则称服务是幂等服务。比如x++这个操作,每次调用的结果都不相同,则不是幂等,x=y+1则是幂等操作。结合业务场景,在技术实现中,往往通过去重的方式让服务达到幂等的要求,这样就可以让服务接受重试,提高服务的可用性和一致性要求。
另一方面,在超时重试失败率达到一定量后,比如30%的重试都失败,则说明我们的服务很有可能出现了问题,此时如再做正常的重试,很有可能会压垮整个服务系统(雪崩),这个又需要服务熔断和降级来避免,下回分享JMicro熔断和降级等内容。
如果你觉得JMicro对你有帮助,麻烦移步到Github上给个星!