13年这个暑假,终于短暂的告别已经持续近20载的学生生涯,尝试性的成为了一名游戏数值策划实习生。
目前Excel已然是数值策划最常用最主要的办公环境,其可以很方便的完成拍数据、公式计算、绘图等,然而其后期维护实在有些糟糕——除了数值策划本人,其他人很难短时间能理清数值设计的思路。
而VBA(Visual Basic for Applications),是基于Visual Basic来方便对windows应用程序的扩展,尤其是office。而在数值策划的工作中,VBA主要有以下优势:
- 程序化的函数设计过程,清晰、明了、便于维护
- 去单元格依赖度的函数设计,便于函数的再利用
- 良好的注释功能
- 函数的导入导出
一、下面以一个小例子开始本节内容
1 Sub tst() 2 Dim a As Integer 3 a = 50 * 50 4 MsgBox (a) 5 End Sub
F5运行后我们得到
二、然后我们将代码修改如下(只修改了数据部分)
1 Sub tst() 2 Dim a As Integer 3 a = 500 * 500 4 MsgBox (a) 5 End Sub
运行后出现如下错误
这就是数据大小已经超过了数据类型可表示的上限而引起的错误
数据类型 | 存储空间(字节) | 数值范围 | 数值范围2 |
Byte | 1 | 0 ~ 2^8-1 | 0~256 |
Booleam | 2 | True/False | |
Integer | 2 | -2^15 ~ 2^15-1 | -32768 ~ 32767 |
Long | 4 | -2^31 ~ 2^31-1 | -247483648~2147483647 |
三、于是我们开开心心的把代码修改如下
1 Sub tst() 2 Dim a As Long 3 a = 500 * 500 4 MsgBox (a) 5 End Sub
可是依旧报同样的错误。原因是,在VB中,赋值号"="是先将=右侧的结果计算出来,然后再赋值给=左侧的变量。而在这里,右侧的500和500均为 Integer,当它们之间进行运算,运算结果会临时保存在一个数据类型为Integer的临时变量中,这就是隐式类型转换——当计算中有多个不同类型的变量时,结果会转换为其中最长的类型
四、为了解决这个问题,我们可以使用强制类型转换——将其中一个强制转换成Long,从而使得其乘积结果保存为Long类型而避免了溢出
1 Sub tst() 2 Dim a As Long 3 a = CLng(500) * 500 4 MsgBox (a) 5 End Sub