Modern OpenGL用Shader拾取VBO内单一图元的思路和实现(2)
上一篇里介绍了Color-Coded Picking的思路和最基本的实现。在处理GL_POINTS时已经没有问题，但是处理GL_LINES、GL_TRIANGLES等时会遇到同一图元的各个顶点颜色不同的问题，这就不能正确拾取了，本篇来解决这个问题。
对于GL_LINES，可以用 int objectID = gl_VertexID / 2; 来使得每个线段图元的两个顶点颜色分别相同；对于GL_TRIANGLES，则用 int objectID = gl_VertexID / 3; 。但是这个方法无法应用到存在共享顶点的GL_LINE_STRIP、GL_TRIANGLE_STRIP、GL_LINE_LOOP等情况。所以要另辟蹊径。
ShadeMode
首先介绍一下glShadeMode()这个函数。就是靠它才解决了本文的问题。
glShadeMode()
在（https://www.opengl.org/sdk/docs/man2/xhtml/glShadeModel.xml）有它的专业解释，里面有这样一张表格。
|
Primitive Type of Polygon i |
Vertex |
|
Single polygon ( i == 1 ) |
1 |
|
Triangle strip |
i + 2 |
|
Triangle fan |
i + 2 |
|
Independent triangle |
3 × i |
|
Quad strip |
2 × i + 2 |
|
Independent quad |
4 × i |
这个表格的意思是：在 glShadeMode(GL_FLAT); 状态下，在绘制某种图元时，其颜色由第i个顶点的颜色决定。（其实就是由定义一个图元的最后一个顶点的颜色决定）
单看表格难以理解，用下面的Demo进行说明。
这个Demo绘制了8个顶点，其位置和颜色如下（同上图左侧所示）
1 gl.Color(0, 0, 0); 2 gl.Vertex(0, 0); 3 4 gl.Color(1f, 0, 0); 5 gl.Vertex(0, 1); 6 7 gl.Color(0, 1f, 0); 8 gl.Vertex(1, 0); 9 10 gl.Color(1f, 1f, 0); 11 gl.Vertex(1, 1); 12 13 gl.Color(0, 0, 1f); 14 gl.Vertex(2, 0); 15 16 gl.Color(1f, 0, 1f); 17 gl.Vertex(2, 1); 18 19 gl.Color(0, 1f, 1f); 20 gl.Vertex(3, 0); 21 22 gl.Color(1f, 1f, 1f); 23 gl.Vertex(3, 1);
下面分别看一下在 glShadeMode(GL_SMOOTH); 和 glShadeMode(GL_FLAT); 模式下，用这个8个顶点绘制各种图元的情况。
这是GL_SMOOTH 模式下的GL_LINE_STRIP。
这是GL_FLAT模式下的GL_LINE_STRIP。
这是GL_SMOOTH 模式下的GL_TRIANGLES。
这是GL_FLAT 模式下的GL_TRIANGLES。
这是GL_SMOOTH 模式下的GL_TRIANGLE_STRIP。
这是GL_FLAT模式下的GL_TRIANGLE_STRIP。
这是GL_SMOOTH 模式下的GL_QUAD_STRIP。
这是GL_FLAT 模式下的GL_QUAD_STRIP。
您可以点此下载此Demo慢慢对比。
GL_FLAT的作用
通过上面一节的观察可以看到，GL_FLAT模式下，各种类型的图元的颜色都是由绘制它的最后一个顶点的颜色给出的。
这么绝妙的颜色分配方案简直就是为了解决本文的问题而设计的。
我们只需在做Picking的绘制时，在GL_FLAT状态下绘制图元，就可以用glReadPixel()获取到应拾取的图元的最后一个顶点的编号。根据上一节的表格，很容易推算出此编号代表的图元。
'flat' in GLSL
不过这又带来一个小问题：glShadeMode();在使用Shader+VBO时是无效的。不过Modern OpenGL必然要有能代替它的功能：GLSL里的flat关键字。给in/out变量附加一个flat，就相当于Legacy OpenGL里调用了glShadeMode(GL_FLAT);
flat out vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.
flat in vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.
这也是本文与上一篇的程序中唯一的区别。
未完待续
拾取一个VBO里的单个图元的问题已经彻底解决了。那么来看下一个问题：一个场景里可能会有多个VBO，此时每个VBO的gl_VertexID都是从0开始的，那么如何区分不同VBO里的图元呢？我们下回分解。