zoukankan      html  css  js  c++  java
  • 关于number...的精度问题

    当数字的精度被定为number(3,2)时, 这时他能输入的数字整数部分只能是3-2=1位, 小数位如果不够会用0补齐, 超出的四舍五入保留3位小数. 

    SQL> insert into t_te(num1) values(45.67882);
    insert into t_te(num1) values(45.67882)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num1) values(12.3);
    insert into t_te(num1) values(12.3)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num1) values(1.3);
    1 row inserted

    SQL> select num1 from t_te;
    NUM1
    -----
    1.30


    当数字的精度被定为number(3,0)时, 这时能输入的数字整数部分只能是小于5位的, 小数部分全部四舍五入, 只留下整数. 这种情况在给定义列的数据类型的时候会被系统默认成number(3).

    SQL> insert into t_te(num2) values(123.45);
    1 row inserted

    SQL> select num2 from t_te;
    NUM2
    ----
    123

    SQL> insert into t_te(num2) values(1234.45);
    insert into t_te(num2) values(1234.45)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num2) values(1.45);
    1 row inserted

    SQL> select num2 from t_te;
    NUM2
    ----
    123
    1

    SQL> insert into t_te(num2) values(1.89);
    1 row inserted

    SQL> select num2 from t_te;
    NUM2
    ----
    123
    1
    2


    当数字的精度被定为number(2,3)时, 这时能输入的数字就只能是小数了, 而且只能是小数点后(3-2=1)位小数, 整数位不能有数字.

    SQL> insert into t_te(num3) values(1.89);
    insert into t_te(num3) values(1.89)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num3) values(0.89);
    insert into t_te(num3) values(0.89)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num3) values(0.089);
    1 row inserted

    SQL> select num3 from t_te;
    NUM3
    ----
    0.08

    当数字的精度被定为number(3,-2)时, 这时输入的数字可以是任何一个整数部分小于5(3-(-2))位, 小数部分随意的数字, 但是系统会四舍五入保留百位显示.

    SQL> insert into t_te(num4) values(12.3456);
    1 row inserted

    SQL> insert into t_te(num4) values(122.3456);
    1 row inserted

    SQL> insert into t_te(num4) values(1222.3456);
    1 row inserted

    SQL> insert into t_te(num4) values(122234253524.3456);
    insert into t_te(num4) values(122234253524.3456)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num4) values(12223.3456);
    1 row inserted

    SQL> insert into t_te(num4) values(122236.3456);
    insert into t_te(num4) values(122236.3456)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> select num4 from t_te;
    NUM4
    -----
    0
    100
    1200
    12200


    当数字的精度被定为number(2,-3)时, 这时能输入的数字只要整数部分不超过5(2-(-3))位, 都不会报错, 小数位会直接被四舍五入. 系统只显示整数部分

    SQL> insert into t_te(num5) values(12345);
    1 row inserted

    SQL> insert into t_te(num5) values(12345723);
    insert into t_te(num5) values(12345723)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num5) values(123456);
    insert into t_te(num5) values(123456)
    ORA-01438: 值大于为此列指定的允许精度

    SQL> insert into t_te(num5) values(12345.345678);
    1 row inserted

    SQL> select num5 from t_te;
    NUM5
    ----
    12000
    12000

  • 相关阅读:
    关于silverlight打印模糊的问题
    Microsoft Office Excel 不能访问文件及COM无法访问
    IE8 下 select option 内容过长 , 展开时信息显示不全解决办法
    如何用css做一个细虚线边框表格
    DIV 垂直 垂直水平 居中
    Ul li 横排 菜单
    对原生js的一些小尝试
    Nodejs学习笔记——Assert(断言)
    Octopress创建GitHub Pages——基于代码托管的静态博客
    JS倒计时器一只,顺便复习javascript时间相关函数
  • 原文地址:https://www.cnblogs.com/wgbs25673578/p/4936312.html
Copyright © 2011-2022 走看看