7种方式，教你提升 SpringBoot 项目的吞吐量

prtyaa
prtyaa 2023-12-30 22:23:04 67508
分类专栏： 资讯

一、异步执行

实现方式二种：

  1. 使用异步注解@aysnc、启动类：添加@EnableAsync注解
  2. JDK 8本身有一个非常好用的Future类——CompletableFuture
@AllArgsConstructor
public class AskThread implements Runnable{
    private CompletableFuture<Integer> re = null;

    public void run() {
        int myRe = 0;
        try {
            myRe = re.get() * re.get();
        } catch (Exception e) {
            e.printStackTrace();
        }
        System.out.println(myRe);
    }

    public static void main(String[] args) throws InterruptedException {
        final CompletableFuture<Integer> future = new CompletableFuture<>();
        new Thread(new AskThread(future)).start();
        //模拟长时间的计算过程
        Thread.sleep(1000);
        //告知完成结果
        future.complete(60);
    }
}

在该示例中，启动一个线程，此时AskThread对象还没有拿到它需要的数据，执行到 myRe = re.get() * re.get()会阻塞。我们用休眠1秒来模拟一个长时间的计算过程，并将计算结果告诉future执行结果，AskThread线程将会继续执行。

public class Calc {
    public static Integer calc(Integer para) {
        try {
            //模拟一个长时间的执行
            Thread.sleep(1000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        return para * para;
    }

    public static void main(String[] args) throws ExecutionException, InterruptedException {
        final CompletableFuture<Void> future = CompletableFuture.supplyAsync(() -> calc(50))
                .thenApply((i) -> Integer.toString(i))
                .thenApply((str) -> """ + str + """)
                .thenAccept(System.out::println);
        future.get();
    }
}

CompletableFuture.supplyAsync方法构造一个CompletableFuture实例，在supplyAsync()方法中，它会在一个新线程中，执行传入的参数。在这里它会执行calc()方法，这个方法可能是比较慢的，但这并不影响CompletableFuture实例的构造速度，supplyAsync()会立即返回。而返回的CompletableFuture实例就可以作为这次调用的契约，在将来任何场合，用于获得最终的计算结果。

supplyAsync用于提供返回值的情况，CompletableFuture还有一个不需要返回值的异步调用方法runAsync(Runnable runnable),一般我们在优化Controller时，使用这个方法比较多。这两个方法如果在不指定线程池的情况下，都是在ForkJoinPool.common线程池中执行，而这个线程池中的所有线程都是Daemon（守护）线程，所以，当主线程结束时，这些线程无论执行完毕都会退出系统。

核心代码：

CompletableFuture.runAsync(() ->
   this.afterBetProcessor(betRequest,betDetailResult,appUser,id)
);

异步调用使用Callable来实现

@RestController  
public class HelloController {  
  
    private static final Logger logger = LoggerFactory.getLogger(HelloController.class);  
      
    @Autowired  
    private HelloService hello;  
  
    @GetMapping("/helloworld")  
    public String helloWorldController() {  
        return hello.sayHello();  
    }  
  
    /** 
     * 异步调用restful 
     * 当controller返回值是Callable的时候，springmvc就会启动一个线程将Callable交给TaskExecutor去处理 
     * 然后DispatcherServlet还有所有的spring拦截器都退出主线程，然后把response保持打开的状态 
     * 当Callable执行结束之后，springmvc就会重新启动分配一个request请求，然后DispatcherServlet就重新 
     * 调用和处理Callable异步执行的返回结果， 然后返回视图 
     *  
     * @return 
     */  
    @GetMapping("/hello")  
    public Callable<String> helloController() {  
        logger.info(Thread.currentThread().getName() + " 进入helloController方法");  
        Callable<String> callable = new Callable<String>() {  
  
            @Override  
            public String call() throws Exception {  
                logger.info(Thread.currentThread().getName() + " 进入call方法");  
                String say = hello.sayHello();  
                logger.info(Thread.currentThread().getName() + " 从helloService方法返回");  
                return say;  
            }  
        };  
        logger.info(Thread.currentThread().getName() + " 从helloController方法返回");  
        return callable;  
    }  
}

异步调用的方式 WebAsyncTask

@RestController  
public class HelloController {  
  
    private static final Logger logger = LoggerFactory.getLogger(HelloController.class);  
      
    @Autowired  
    private HelloService hello;  
  
        /** 
     * 带超时时间的异步请求 通过WebAsyncTask自定义客户端超时间 
     *  
     * @return 
     */  
    @GetMapping("/world")  
    public WebAsyncTask<String> worldController() {  
        logger.info(Thread.currentThread().getName() + " 进入helloController方法");  
  
        // 3s钟没返回，则认为超时  
        WebAsyncTask<String> webAsyncTask = new WebAsyncTask<>(3000, new Callable<String>() {  
  
            @Override  
            public String call() throws Exception {  
                logger.info(Thread.currentThread().getName() + " 进入call方法");  
                String say = hello.sayHello();  
                logger.info(Thread.currentThread().getName() + " 从helloService方法返回");  
                return say;  
            }  
        });  
        logger.info(Thread.currentThread().getName() + " 从helloController方法返回");  
  
        webAsyncTask.onCompletion(new Runnable() {  
  
            @Override  
            public void run() {  
                logger.info(Thread.currentThread().getName() + " 执行完毕");  
            }  
        });  
  
        webAsyncTask.onTimeout(new Callable<String>() {  
  
            @Override  
            public String call() throws Exception {  
                logger.info(Thread.currentThread().getName() + " onTimeout");  
                // 超时的时候，直接抛异常，让外层统一处理超时异常  
                throw new TimeoutException("调用超时");  
            }  
        });  
        return webAsyncTask;  
    }  
  
    /** 
     * 异步调用，异常处理，详细的处理流程见MyExceptionHandler类 
     *  
     * @return 
     */  
    @GetMapping("/exception")  
    public WebAsyncTask<String> exceptionController() {  
        logger.info(Thread.currentThread().getName() + " 进入helloController方法");  
        Callable<String> callable = new Callable<String>() {  
  
            @Override  
            public String call() throws Exception {  
                logger.info(Thread.currentThread().getName() + " 进入call方法");  
                throw new TimeoutException("调用超时!");  
            }  
        };  
        logger.info(Thread.currentThread().getName() + " 从helloController方法返回");  
        return new WebAsyncTask<>(20000, callable);  
    }  
  
}

二、增加内嵌Tomcat的最大连接数

@Configuration
public class TomcatConfig {
    @Bean
    public ConfigurableServletWebServerFactory webServerFactory() {
        TomcatServletWebServerFactory tomcatFactory = new TomcatServletWebServerFactory();
        tomcatFactory.addConnectorCustomizers(new MyTomcatConnectorCustomizer());
        tomcatFactory.setPort(8005);
        tomcatFactory.setContextPath("/api-g");
        return tomcatFactory;
    }
    class MyTomcatConnectorCustomizer implements TomcatConnectorCustomizer {
        public void customize(Connector connector) {
            Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();
            //设置最大连接数               
            protocol.setMaxConnections(20000);
            //设置最大线程数               
            protocol.setMaxThreads(2000);
            protocol.setConnectionTimeout(30000);
        }
    }

}

三、使用@ComponentScan()定位扫包比@SpringBootApplication扫包更快

四、默认tomcat容器改为Undertow（Jboss下的服务器，Tomcat吞吐量5000，Undertow吞吐量8000）

<exclusions>
  <exclusion>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-tomcat</artifactId>
  </exclusion>
</exclusions>

改为:

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-undertow</artifactId>
</dependency>

五、使用 BufferedWriter 进行缓冲

六、Deferred方式实现异步调用

@RestController
public class AsyncDeferredController {
    private final Logger logger = LoggerFactory.getLogger(this.getClass());
    private final LongTimeTask taskService;
    
    @Autowired
    public AsyncDeferredController(LongTimeTask taskService) {
        this.taskService = taskService;
    }
    
    @GetMapping("/deferred")
    public DeferredResult<String> executeSlowTask() {
        logger.info(Thread.currentThread().getName() + "进入executeSlowTask方法");
        DeferredResult<String> deferredResult = new DeferredResult<>();
        // 调用长时间执行任务
        taskService.execute(deferredResult);
        // 当长时间任务中使用deferred.setResult("world");这个方法时，会从长时间任务中返回，继续controller里面的流程
        logger.info(Thread.currentThread().getName() + "从executeSlowTask方法返回");
        // 超时的回调方法
        deferredResult.onTimeout(new Runnable(){
  
   @Override
   public void run() {
    logger.info(Thread.currentThread().getName() + " onTimeout");
    // 返回超时信息
    deferredResult.setErrorResult("time out!");
   }
  });
        
        // 处理完成的回调方法，无论是超时还是处理成功，都会进入这个回调方法
        deferredResult.onCompletion(new Runnable(){
  
   @Override
   public void run() {
    logger.info(Thread.currentThread().getName() + " onCompletion");
   }
  });
        
        return deferredResult;
    }
}

七、异步调用可以使用AsyncHandlerInterceptor进行拦截

@Component
public class MyAsyncHandlerInterceptor implements AsyncHandlerInterceptor {
 
 private static final Logger logger = LoggerFactory.getLogger(MyAsyncHandlerInterceptor.class);
 
 @Override
 public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler)
   throws Exception {
  return true;
 }
 
 @Override
 public void postHandle(HttpServletRequest request, HttpServletResponse response, Object handler,
   ModelAndView modelAndView) throws Exception {
//  HandlerMethod handlerMethod = (HandlerMethod) handler;
  logger.info(Thread.currentThread().getName()+ "服务调用完成，返回结果给客户端");
 }
 
 @Override
 public void afterCompletion(HttpServletRequest request, HttpServletResponse response, Object handler, Exception ex)
   throws Exception {
  if(null != ex){
   System.out.println("发生异常:"+ex.getMessage());
  }
 }
 
 @Override
 public void afterConcurrentHandlingStarted(HttpServletRequest request, HttpServletResponse response, Object handler)
   throws Exception {
  
  // 拦截之后，重新写回数据，将原来的hello world换成如下字符串
  String resp = "my name is chhliu!";
  response.setContentLength(resp.length());
  response.getOutputStream().write(resp.getBytes());
  
  logger.info(Thread.currentThread().getName() + " 进入afterConcurrentHandlingStarted方法");
 }
 
}

网站声明：如果转载，请联系本站管理员。否则一切后果自行承担。

本文链接：https://www.xckfsq.com/news/show.html?id=32814
赞同 0
评论 0 条

相关文章

  • SpringBoot中的线程池，你真的会用么？ 2024-01-02 68159 浏览

    前言前两天做项目的时候，想提高一下插入表的性能优化，因为是两张表，先插旧的表，紧接着插新的表，一万多条数据就有点慢了后面就想到了线程池ThreadPoolExecutor，而用的是SpringBoot项目，可以用Spring提供的对ThreadPoolExecutor封装的线程池ThreadPoolTaskExecutor，直接使用注解启用使用步骤先创建一个线程池的配置，让SpringBoot加载

  • SpringBoot集成Shiro极简教程（实战版） 2024-01-02 65478 浏览

    1.前言ApacheShiro是一个功能强大且易于使用的Java安全框架，提供了认证，授权，加密，和会话管理。Shiro有三大核心组件：Subject：即当前用户，在权限管理的应用程序里往往需要知道谁能够操作什么，谁拥有操作该程序的权利，shiro中则需要通过Subject来提供基础的当前用户信息，Subject不仅仅代表某个用户，与当前应用交互的任何东西都是Subject，如网络爬虫等。所有的S

  • [SpringBoot2.X] 24- Junit 单元测试 2023-12-27 64416 浏览

    SpringBoot整合Junit单元测试SpringBoot2.x使用Junit5作为测试平台修改POM文件添加Test启动器一般用官网创建或者是IDEA工具创建的都自带了注意一下如果配置了这个,就不能用5一下的junit了org.springframework.bootspring-boot-starter-

  • [SpringBoot2.X] 23- 异常处理机制 2023-12-27 65225 浏览

    推荐第一种和最后一种其他做了解定义异常处理页面操作---适合上线后使用添加异常处理页面通过@ExceptionHandler注解处理异常-----存在弊端在开发过程中,我们不能用第一种定义错误页面方式来处理异常,因为异常有很多种,我们也是要知道具体的页面异常才可以进行相关的操作所以使用@ExceptionHandler来做处理根据不同的异常跳转到不同的页面------------------存在弊

  • [SpringBoot2.X] 23- 整合持久层技术 -MyBatis - CRUD 2023-12-27 66274 浏览

    添加操作创建页面创建ControllerPageControllerUsersController创建Service查询用户功能1修改UsersController2修改业务层3创建页面显示查询结果.更新用户功能1预更新用户查询1.1修改UsersController1.2修改业务层1.3创建更新用户页面删除用户删除用户功能1修改UsersControler2修改业务层

  • [SpringBoot2.X] 23- 整合持久层技术 -MyBatis - 配置 2023-12-27 64390 浏览

    整合MyBatis1搭建项目环境1.1.1创建项目--略11.2修改POM文件，添加相关依赖org.springframework.bootspring-boot-starter-thymeleaforg.springf

  • SpringBoot实现登录拦截器（实战版） 2024-01-02 65853 浏览

    对于管理系统或其他需要用户登录的系统，登录验证都是必不可少的环节，在SpringBoot开发的项目中，通过实现拦截器来实现用户登录拦截并验证。1、SpringBoot实现登录拦截的原理SpringBoot通过实现HandlerInterceptor接口实现拦截器，通过实现WebMvcConfigurer接口实现一个配置类，在配置类中注入拦截器，最后再通过@Configuration注解注入配置.1

  • 透彻，在SpringBoot项目中使用Netty实现远程调用 2024-01-02 62884 浏览

    现在想要自学java的伙伴们，肯定都关心一个问题“如何系统的的自学java”自学真的不容易很多自学的小伙伴都放弃了，有的没办法后来参加培训去了。在自学的过程中遇到问题无人请教，觉得自己的付出与收获不成正比，学了很多觉得自己会的很少等等！这些苦，只有真正自学过的人才懂得！那么我们该如何系统的自学Java呢？①切记不要开始就只看书，这样比较容易放弃。书上的内容过于生硬，对于零基础的小白非常不友好，看书

  • SpringBoot整合websocket实现群聊 2024-01-02 63888 浏览

    实现思路发送者向服务器发送大家早上好。其它客户端可以收到对应消息。项目展示通过SpringBoot引入websocket，实现群聊，通过在线websocket测试进行展示。核心代码pom引入jarorg.springframework.bootspring-boot-starter-parent

  • [SpringBoot2.X] 25- 服务端数据校验 2023-12-27 65080 浏览

    SpringBoot服务端数据校验在用SpringBoot开发的时候做服务端的数据校验也是很重要的一件事,如果使用了数据校验,对项目的健壮性有一个很大的提高并且也会保证数据的完整性1SpringBoot对实体对象的校验1.1搭建项目环境1.1.1创建项目-略1.1.2创建实体1.1.3创建Controller1.1.4创建页面对实体做校验处理Balmy：[SpringBoot2.X]25.01-服

prtyaa
prtyaaL0
粉丝 1 发表 2554 + 关注 私信
上周热门
银河麒麟添加网络打印机时，出现“client-error-not-possible”错误提示  1448
银河麒麟打印带有图像的文档时出错  1365
银河麒麟添加打印机时，出现“server-error-internal-error”  1151
统信桌面专业版【如何查询系统安装时间】  1073
统信操作系统各版本介绍  1070
统信桌面专业版【全盘安装UOS系统】介绍  1028
麒麟系统也能完整体验微信啦！  984
统信【启动盘制作工具】使用介绍  627
统信桌面专业版【一个U盘做多个系统启动盘】的方法  575
信刻全自动档案蓝光光盘检测一体机  484
本周热议
我的信创开放社区兼职赚钱历程 40
今天你签到了吗？ 27
信创开放社区邀请他人注册的具体步骤如下 15
如何玩转信创开放社区—从小白进阶到专家 15
方德桌面操作系统 14
我有15积分有什么用? 13
用抖音玩法闯信创开放社区——用平台宣传企业产品服务 13
如何让你先人一步获得悬赏问题信息？（创作者必看） 12
2024中国信创产业发展大会暨中国信息科技创新与应用博览会 9
中央国家机关政府采购中心：应当将CPU、操作系统符合安全可靠测评要求纳入采购需求 8
热门标签更多

添加我为好友，拉您入交流群！

请使用微信扫一扫!