[问题2014A06] 解答
用反证法, 设存在 (n) 阶正交阵 (A,B), 使得 [A^2=cAB+B^2,\,\,c eq 0.cdots(1)] 在 (1) 式两边同时左乘 (A') 且右乘 (B'), 注意到(A,B) 都是正交阵, 可得 [AB'=cI_n+A'B,] 从而 [cI_n=A'B-AB'.cdots(2)] 在 (2) 式两边同时取迹, 可得 egin{eqnarray*}nc&=&mathrm{tr}(cI_n) \ &=&mathrm{tr}(A'B)-mathrm{tr}(AB')\ &=&mathrm{tr}ig((A'B)'ig)-mathrm{tr}(AB') \ &=&mathrm{tr}(B'A)-mathrm{tr}(AB')=0,end{eqnarray*} 这与 (c eq 0) 矛盾. (Box)