C#调用C++写的DLL总结

前几天做了一个 C++ 的 DLL，供网页调用，网页是用 C# 做的。
C++ 的 DLL 做起来简单，同时完成了一个 C++ EXE 调用 DLL 进行了调试。一切 OK!
然后将 DLL 转到做 C# 处进行测试，发现要不调用失败，要不得不到数据。
C# 调用 C++ 的 DLL 真的这样麻烦？

C++ 的 DLL 提供一个功能，将一字符串经过转换后形成另一字符串，然后在网页上显示转移后的此字符串。
C++ 的接口开始时设计为：

/*
 * 功能: 
 * 参数: (in) pcInStr 用户输入的字符串
 * (in) iInLen 用户输入的字符串的长度
 * (out) pcOutStr 输出的字符串
 * (in)  iLen 输出的字符串的最大长度
*/
BOOL Func(unsigned char *pcInStr,int iInLen,unsigned char *pcOutStr,int iLen);

此函数只有一个返回值，通过第三个参数：pcOutStr，其它都是输入的。

C# 按此接口，调用方法如下：

public static extern char[] Func(ref char[] pcInStr, ref int iInLen,ref char[] pcOutStr,ref int iLen);

编译没有问题，但运行时发现，通过 iInLen 和 iLen 传入的值不对。
因为 DLL 中的函数进行了参数有效性判断，不是有效的长度会直接返回。
为测试增加了 MessageBox 显示此两个 Len 的值，提示此两个参数的值好像是随机数一样，每次运行的数值都不相同，但传入的数据始终都是固定的。
如果除第三个参外不使用 ref，传入的 Len 数值是没有问题的。但运行时会产生异常!
查了半天未找出原因，无奈之下，只好修改 DLL 的接口：不用参数来传值，修改为使用返回值。
DLL 中的 C++ 接口修改为：

char *Func(unsigned char *pcInStr,int iInLen);

C# 按此接口，调用方法试了以下两种：

(1) public static extern char[] Func(char[] pcInStr, int iInLen);
(2) public static extern string Func(char[] pcInStr, int iInLen);

都在运行时执行到调用 DLL 的接口时，发生异常。
写了个 C# 的 From 调用 DLL 的测试程序，同样发生异常，异常的信息为：
Additional information: Cannot marshal 'return value': Invalid managed/unmanaged type combination.

最后，将调用方法修改为：

public static extern StringBuilder Func(char[] pcInStr, int iInLen);

这样调用，调用 DLL 的接口时，不再发生异常，但返回值一直为空。
怀疑是 DLL 中的接口未返回值，因此在 DLL 中的接口最后返回数据前，增加一 MessageBox 来显示返回的数据。
运行后发现，DLL 中的 C++ 接口通过 C# 调用后，MessageBox 显示了正常的数据。与 C++ EXE 调用 DLL 时显示的数据一致。
但 C++ EXE 可以得到数据，C# 的网页程序却只能得到一个 NULL 值。

最后怀疑是 C++ 和 C# 的程序运行的空间不同，导致此问题。
因为在 DLL 的 C++ 接口中，返回值定义在接口函数中，是一个数组；怀疑数组在 C# 调用返回时，已经被释放。
将此数组定义从接口中移到接口外，定义成一全局变量，其它未做改变。
此时，发现 C# 的网页程序调用 C++ DLL 中的接口后，也可以得到正确的数据。


总结：
C# 调用 C++ DLL 时，需要注意两个问题：
(1) 数据类型之间的转换，特别是指针；
(2) 运行作用域。
有一个问题一直未解决，就是 ref 传值的问题。为什么通过 ref 传 int 型的值到 C++ DLL 中，数据会发生变化？
偶基本上未用过 C# ，也无法解决。


最后的解决办法：恢复最初四个参数的接口，C# 的声明接口按如下定义：

public static extern bool Func(char[] pcInStr, int iInLen, [Out,MarshalAs(UnmanagedType.LPArray)]char[] pcOutStr, int iLen);