zoukankan      html  css  js  c++  java
  • Python中异常重试的解决方案详解

    • https://www.jb51.net/article/112954.htm

      原先的流程:

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      def crawl_page(url):
       pass
        
      def log_error(url):
       pass
        
      url = ""
      try:
       crawl_page(url)
      except:
       log_error(url)

      改进后的流程:

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      attempts = 0
      success = False
      while attempts < 3 and not success:
       try:
        crawl_page(url)
        success = True
       except:
        attempts += 1
        if attempts == 3:
         break

      最近发现的新的解决方案:retrying

      retrying是一个 Python的重试包,可以用来自动重试一些可能运行失败的程序段。retrying提供一个装饰器函数retry,被装饰的函数就会在运行失败的条件下重新执行,默认只要一直报错就会不断重试。

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      import random
      from retrying import retry
        
      @retry
      def do_something_unreliable():
       if random.randint(0, 10) > 1:
        raise IOError("Broken sauce, everything is hosed!!!111one")
       else:
        return "Awesome sauce!"
        
      print do_something_unreliable()

      retry还可以接受一些参数,这个从源码中Retrying类的初始化函数可以看到可选的参数:

      • stop_max_attempt_number:用来设定最大的尝试次数,超过该次数就停止重试
      •  stop_max_delay:比如设置成10000,那么从被装饰的函数开始执行的时间点开始,到函数成功运行结束或者失败报错中止的时间点,只要这段时间超过10秒,函数就不会再执行了
      • wait_fixed:设置在两次retrying之间的停留时间
      • wait_random_min和wait_random_max:用随机的方式产生两次retrying之间的停留时间
      • wait_exponential_multiplier和wait_exponential_max:以指数的形式产生两次retrying之间的停留时间,产生的值为2^previous_attempt_number * wait_exponential_multiplierprevious_attempt_number是前面已经retry的次数,如果产生的这个值超过了wait_exponential_max的大小,那么之后两个retrying之间的停留值都为wait_exponential_max。这个设计迎合了exponential backoff算法,可以减轻阻塞的情况。
      • 我们可以指定要在出现哪些异常的时候再去retry,这个要用retry_on_exception传入一个函数对象:
      1
      2
      3
      4
      5
      6
      7
      def retry_if_io_error(exception):
       return isinstance(exception, IOError)
        
      @retry(retry_on_exception=retry_if_io_error)
      def read_a_file():
       with open("file", "r") as f:
        return f.read()

      在执行read_a_file函数的过程中,如果报出异常,那么这个异常会以形参exception传入retry_if_io_error函数中,如果exceptionIOError那么就进行retry,如果不是就停止运行并抛出异常。

      我们还可以指定要在得到哪些结果的时候去retry,这个要用retry_on_result传入一个函数对象:

      1
      2
      3
      4
      5
      6
      def retry_if_result_none(result):
       return result is None
        
      @retry(retry_on_result=retry_if_result_none)
      def get_result():
       return None

      在执行get_result成功后,会将函数的返回值通过形参result的形式传入retry_if_result_none函数中,如果返回值是None那么就进行retry,否则就结束并返回函数值。

      总结

      以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对脚本之家的支持。

  • 相关阅读:
    在CentOS 6.4中编译安装gcc 4.8.1
    uc_client是如何与UCenter进行通信的
    使用Discuz关键词服务器实现PHP中文分词
    新浪博客
    simple_html_dom使用小结
    提高网站权重,快速增加百度收录量
    TokuDB的特点验证
    Linux shell判断文件和文件夹是否存在
    比较满意设计的一次作业 JDBC宠物管理
    乱码问题
  • 原文地址:https://www.cnblogs.com/du-jun/p/12256281.html
Copyright © 2011-2022 走看看