Iedere rotatie om de oorsprong kan in de wiskunde beschreven worden door een matrix die rotatiematrix wordt genoemd. Een rotatie is een lineaire afbeelding.
Een rotatie in een ruimte van een willekeurige dimensie wordt uitgevoerd om een omwentelingsas, waarvan de dimensie twee minder is dan van de betreffende ruimte. De bijbehorende rotatiematrix is een n×n-matrix. Iedere rotatie is een isometrie.
De determinant van iedere rotatiematrix is één. De groep van alle rotaties rondom een as door de oorsprong van een euclidische ruimte wordt de rotatiegroep van die ruimte genoemd. Het gaat daarbij meestal over de ruimte . Die groep is dus isomorf met een groep van rotatiematrices, heet de speciale orthogonale groep[1] en is een ondergroep van de orthogonale groep van die ruimte. Iedere rotatiematrix is dus een orthogonale matrix.
In twee dimensies wordt een draaiing om de oorsprong in tegenwijzerzin over een hoek met de volgende matrix beschreven:
Roteren van het punt levert het beeldpunt , gegeven door:
Wanneer opeenvolgende rotaties worden uitgevoerd, bijvoorbeeld eerst een rotatie over en daarna over dan is het effect van de opeenvolgende rotaties gelijk aan een rotatie over de som van de hoeken. In matrixvorm:
Hierbij wordt van de formules van Simpson gebruikgemaakt, maar het is ook mogelijk om te zeggen dat die hiermee worden aangetoond.
De drie rotaties om de drie verschillende coördinaatassen komen overeen met de rotaties in twee dimensies. De derde coördinaat verandert daarbij niet van waarde. De rotatie-as kan in de praktijk vrij worden gekozen, maar er is voor rotaties in drie dimensies ook een algemene matrixvergelijking op te stellen.
Iedere rotatie om een as door de oorsprong kan worden beschreven als een paar , waarin een eenheidsvector in de richting van de omwentelingsas is en de draaihoek.
De bijbehorende rotatiematrix is: