Krievijas Impērija anektēja agrākās Kazahu hanistes ziemeļrietumu daļu 1798. gadā, bet 1863. gadā kazahu apdzīvotās teritorijas sadalīja Turkestānas ģenerālgubernatūrā dienvidos un Stepes novadā ziemeļos.
1879. gadā pie Tobolas upes nodibināja apmetni, kuru 1893. gadā nosauca par Nikolajevsku. Pilsētas straujo attīstību galvenokārt noteica auglīgā stepju augsne, attīstījās lauksaimniecība un lopkopība. 1885. gadā Nikolajevsku pārdēvēja par Kustanaju.
1913. gadā atklāja Kustanajas—Čeļabinskas dzelzceļa līniju.
Otrā pasaules kara laikā uz Kustanaju pārcēla apģērbu rūpnīcu no Hersonas un citus uzņēmumus. 1950. gados Neskarto zemju kampaņas laikā Kustanajā ieradās daudz pārceļotāju.
1997. gada 17. jūnijā pilsētas nosaukumu nomainīja uz kazahu Kostanaju (Қостанай).