Il nome finlandese Kokkola significa "luogo del falò" o "luogo di aquila", perché in finlandese la radice della parola Kokko significa sia falò sia aquila di mare (il suffisso -la indica la posizione). La città era conosciuta in svedese dal nome [[Gamlakarleby]] fino al [[1 gennaio]] [[1977]], quando il vicino comune di [[Kaarlela]] (in [[lingua svedese|svedese]] [[Karleby]]) è stata unificato con Kokkola, e la città ha assunto il nome svedese di [[Karleby]]. La parola Gamla significa "vecchio", karl significa "uomo" o "contadino" e alle volte "villaggio", quindi letteralmente il risultato è '"antico borgo di contadini". Il nome [[lingua latina|latino]] era Carolina Vetus.
Kokkola è stata fondata come porto di spedizione per il commercio del catrame. Divenne anche un centro di importanti cantieri navali in Finlandia. Come risultato del commercio del catrame e della cantieristica navale Kokkola è stato per un certo tempo la più ricca città della Finlandia.
Un affare di interesse storico, noto come la [[Schermaglia di Halkokari]], si è verificato nella città di Kokkola nel [[giugno]] [[1854]] durante la [[guerra di Crimea]]. [[Royal Marines]] del [[HMS Vulture (1843)|HMS Vulture]] e del [[HMS Odin (1846)|HMS Odin]] cercarono di sbarcare a terra per saccheggiare la città, ma furono respinti dai difensori locali, molti dei quali erano civili armati di fucili da caccia. Una delle nove imbarcazioni più piccole (una [[cannoniera]]) cadde nelle mani dei difensori. Questa barca è stata l'unica nave della [[Royal Navy]] ancora in possesso straniero nel [[1914]]. La barca è ancora oggi [[Londra]]. Il [[Tesoro britannico]] paga ogni anno una piccola somma per il mantenimento di nove tombe di nove Royal Marines uccisi in azione durante la schermaglia alla congregazione della chiesa locale.
La città aveva una maggioranza di lingua svedese fino al [[1933]].