A是正交矩陣的充要條件是行(列)向量兩兩正交,且長度為1.
看最后一行, 其長度為1, 則有
a^2 + 0 + (2√6/6)^2 = 1
即 a^2 = 1/3
a = ± 1/√3.
考慮到1,3行正交, 所以a=-1/√3.
同理求b恩，我等著，那正負呢直接由1,3列正交計算好了1/√18 + 1/√18 + a2/√6 = 0得 a= - 1/√31,2列正交得 b = 1/√2