zoukankan      html  css  js  c++  java
  • VBA 学习之旅(一) —— 数据类型

    13年这个暑假,终于短暂的告别已经持续近20载的学生生涯,尝试性的成为了一名游戏数值策划实习生。

    目前Excel已然是数值策划最常用最主要的办公环境,其可以很方便的完成拍数据、公式计算、绘图等,然而其后期维护实在有些糟糕——除了数值策划本人,其他人很难短时间能理清数值设计的思路。

    而VBA(Visual Basic for Applications),是基于Visual Basic来方便对windows应用程序的扩展,尤其是office。而在数值策划的工作中,VBA主要有以下优势:

    1. 程序化的函数设计过程,清晰、明了、便于维护
    2. 去单元格依赖度的函数设计,便于函数的再利用
    3. 良好的注释功能
    4. 函数的导入导出

    一、下面以一个小例子开始本节内容

    1 Sub tst()
    2     Dim a As Integer
    3     a = 50 * 50
    4     MsgBox (a)
    5 End Sub

    F5运行后我们得到

    二、然后我们将代码修改如下(只修改了数据部分)

    1 Sub tst()
    2     Dim a As Integer
    3     a = 500 * 500
    4     MsgBox (a)
    5 End Sub

    运行后出现如下错误

    这就是数据大小已经超过了数据类型可表示的上限而引起的错误

    数据类型 存储空间(字节) 数值范围 数值范围2
    Byte 1 0 ~ 2^8-1 0~256
    Booleam 2 True/False  
    Integer 2 -2^15 ~ 2^15-1 -32768 ~ 32767
    Long 4 -2^31 ~ 2^31-1 -247483648~2147483647

    三、于是我们开开心心的把代码修改如下

    1 Sub tst()
    2     Dim a As Long
    3     a = 500 * 500
    4     MsgBox (a)
    5 End Sub

    可是依旧报同样的错误。原因是,在VB中,赋值号"="是先将=右侧的结果计算出来,然后再赋值给=左侧的变量。而在这里,右侧的500和500均为 Integer,当它们之间进行运算,运算结果会临时保存在一个数据类型为Integer的临时变量中,这就是隐式类型转换——当计算中有多个不同类型的变量时,结果会转换为其中最长的类型

    四、为了解决这个问题,我们可以使用强制类型转换——将其中一个强制转换成Long,从而使得其乘积结果保存为Long类型而避免了溢出

    1 Sub tst()
    2     Dim a As Long
    3     a = CLng(500) * 500
    4     MsgBox (a)
    5 End Sub
  • 相关阅读:
    Outline of the research(updated 8th,Aug)
    Similarity metrics(Updated Aug,8th)
    Experiments on the NYC dataset(updated 7th,Aug)
    Fused Matrix Factorization & some personal thoughts (Updated 1st,Aug,afternoon)
    Java——图片读取与存储
    Java——setBounds的用法以及居中的方式
    linux 常用命令整理----解压缩
    周一01.4安装PyCharm步骤
    周一01.2 计算机硬件&操作系统
    周一01.3Python多版本共存&pip环境变量设置
  • 原文地址:https://www.cnblogs.com/madtime-inside/p/3196212.html
Copyright © 2011-2022 走看看