zoukankan      html  css  js  c++  java
  • OCI22053: 溢出错误 的原因和解决方案

    昨天,在做基于oracle数据库层面的SQL性能分析时,发现在将数据给fill到内存时,发生了OCI-22053: 溢出错误 错误。

    分析了下SQL,在oracle里是正常执行的,说明sql本身没问题,所以猜测问题应该出在数据上。 

    HASH_VALUE ELAPSED_TIME_PER_EXE

    238087931       0.012498685

    615028291       0.0001470192

    424344360       0.0001036334

    试着将精度减小,采用round()函数保留2位小数后,发觉就 可以了。 

    由此可知确实是因为精度问题导致了转换时的溢出错误。

    网上google时,有如下解释:

    Oracle 数值数据类型最多可存储 38 个字节的精度,超过了CLR的数据类型。

    当存在这种转换时,即会发生Oracle OCI-22053 溢出错误。

  • 相关阅读:
    通过梯度下降和logistic回归求w向量和b
    一个节点的神经网络的工作流程
    对神经网络大致框架的理解
    内置对象
    对象
    预解析
    作用域
    函数
    数组
    循环和代码规范
  • 原文地址:https://www.cnblogs.com/FallingAutumn/p/1629445.html
Copyright © 2011-2022 走看看