首先，底层的数据传输都是字节流，所以不管选择什么方式，都会被分解为一个一个的字节。
1、选择Hex发送就代表你要发送的内容是纯数字，由程序完成String到Int再到Byte的转化。所以你应该保证每个你要发送的数都是两位的，如果是7就应该写07，因为程序会每两位每两位地读。如果你选择了Hex发送，而输入的又是字符，比如你写了ab，那么就会被程序读为16进制的AB。这就是不同的概念了，无论你选择什么方式显示都不能得到原来的ab了。
2、选择ASCII发送就代表你要发送的是字符串，这时候程序就会一位一位地读，比如你写了1234，在字节流中传递的就是123对应的ASCII码，31,32,33,34（十六进制的）。比较而言，在Hex发送模式下，写了1234，会被发送的就是12,34，如果是01020304那就是01，02，03，04。这个时候，你写ab就会发送相应的ASCII码61,62，其他字符同理。
到这里，数据已经发送出去了，接下来就是显示的问题。是显示模式，不是解析，不存在解析。
3、选择Hex显示就是把字节转化为16进制整型，你收到的是12,34，就显示为12,34，你收到31,32,33,34，也显示为31,32,33,34，如果收到AB呢，那也是AB。
4、选择ASCII显示呢，就会把你接收到的十六进制转化为对应的字符，比如你收到了31，就会显示为1。这种模式下可能会出现乱码，原因就是ASCII码只从0-7f。如果你在十六进制发送模式下发送了字符，比如发送了ab，那你就会收到AB，这个并没有ASCII码对应的字符。
所以，在Hex模式下如果输入字符，是无论如何接收不到正确的数据的，其他方式那就随意了。重要的是，方式的选择改变的不是数据本身，而是数据的表现形式。