如果AAT=E（E为单位矩阵，AT表示“矩阵A的转置矩阵”）或ATA=E，则n阶实矩阵A称为正交矩阵。

正交矩阵是实数特殊化的酉矩阵，因此总是属于正规矩阵。尽管我们在这里只考虑实数矩阵，但这个定义可用于其元素来自任何域的矩阵。正交矩阵毕竟是从内积自然引出的，所以对于复数的矩阵这导致了归一要求。

实正交矩阵（即该正交矩阵中所有元都是实数）可以看做是一种特殊的酉矩阵，但也存在一种复正交矩阵，这种复正交矩阵不是酉矩阵。

矩阵性质：

实数方块矩阵是正交的，当且仅当它的列形成了带有普通欧几里得点积的欧几里得空间R的正交规范基，它为真当且仅当它的行形成R的正交基。假设带有正交(非正交规范)列的矩阵叫正交矩阵可能是诱人的，但是这种矩阵没有特殊价值而没有特殊名字；他们只是MM=D，D是对角矩阵。

任何正交矩阵的行列式是+1或−1。这可从关于行列式的如下基本事实得出：（注：反过来不是真的；有+1行列式不保证正交性，即使带有正交列，可由下列反例证实。）