Vejen har flere navne, heriblandt Oksevejen og Pilgrimvejen. De fleste af navnene siger noget om vejens anvendelse. Hærvejen var således anvendelig til at transportere en hær. Af samme grund opførte beboerne omkring vejen fæstningsværker og diger, af hvilke der stadig kan findes nogle i nærheden af Hærvejen. Navne som Oksevejen og Studevejen hentyder til den handel, der foregik mellem Jylland og landene mod syd, idet kød var en af de vigtige varer, som danskerne kunne bytte med mere eksotiske varer sydfra. Det var mest rationelt at vente med at slagte dyrene, til de nåede frem til bestemmelsesstedet, og da en studedrift fra Danmark kunne fylde en hel del på vejen, var det vigtigt at denne var i nogenlunde farbar tilstand. Handelslivet medførte også oprettelsen af bosættelser, der udviklede sig til vigtige knudepunkter og administrative enheder som Viborg og Jelling‘Hærvejene’ var tidligere tiders hovedfærdselsårer. Der er ikke tale om en enkelt, veldefineret vej, men om flere nord-sydgående vejforløb, der for nogles vedkommende kan have været i anvendelse på samme tid, men som har flyttet sig gennem tiderne. På de normale veje var broerne en flaskehals, så det særlige ved hærvejen var, at man kunne brede sig i flere spor, hvilket var nødvendigt ved studedrift og transport af en hær. Vejens alder skønnes for nogle forløbs vedkommende at kunne føres op mod 4000 år tilbage (højanlæg, bebyggelser m.v.), men skriftlige kilder findes først fra begyndelsen af middelalderen. Vejforløbets høje alder skyldes formentlig at det følger vandskellet langs den Jyske højderyg. Det giver den fordel, at der er forholdsvis få vandløb og mosedrag, som skal passeres. Med skibsfartens fremskridt fik Hærvejen efterhånden konkurrence som transportvej af havnene ved fjordene på den østjyske kyst, og med jernbanens indførelse i midten af det 19. århundrede forsvandt grundlaget fuldstændig for at bruge Hærvejen som handelsrute. Den blev efterhånden stort set glemt, indtil historikerne omkring 1930 blev opmærksomme på den. Siden da er den blevet restaureret på flere strækninger, herunder flere af de gamle broer. Vejen bruges nu om dage først og fremmest af turister, især cyklister og vandrere. En af de nationale cykelruter følger Hærvejen.


