Seit der Wikingerzeit siedeln Menschen an der Mündung der Au, der Arhus seinen Namen verdankt. Die Wikinger gründeten nach archäologischen Befunden die Siedlung gegen 900. Im Stadtgebiet hinterließen sie sechs Runensteine. Bereits im Jahre 948 soll die heutige Großstadt dann Bischofssitz gewesen sein. Seit 1040 schlagen die Bewohner der dänischen Stadt Münzen.
In der Folgezeit wuchs Arhus schnell, so dass die Bürger Gebäude nicht mehr innerhalb des bestehenden Stadtwalls errichten konnten. Dementsprechend erbauten sie 1070 den Dom außerhalb des Walls in der neuen Vorstadt. Anfang des 12. Jahrhunderts entstand ebenfalls jenseits des Walls die nächste Vorstadt. Unter dem Bischof Peder Vagnsen begann 1203 ein weiteres großes Bauprojekt: Der Bau des heutigen Doms. Den alten Dom rissen die Arhuser nieder und an dessen Stelle entstand 1235 die Frue Kirke und ein Dominikaner-Kloster. 1477 musste schließlich der erste Wallabschnitt neuen Bauten weichen.
Im 16. und 17. Jahrhundert war Århus nur eine regional bedeutende Seehandelsstadt. Sie stand hinter den damals dänischen Städten Kopenhagen und Flensburg zurück. Mitte des 19. Jahrhunderts entwickelte sich die Domstadt jedoch zum Mittelpunkt des neuen Chausse- und Eisenbahnnetzes. Århus überflügelte die Konkurrenten Randers und Aalborg und stieg zur größten Stadt in Jütland auf. Da das Königreich Dänemark die Herzogtümer und wirtschaftlichen Zentren Schleswig, Holstein und Lauenburg verlor, nahm der Stellenwert Arhus’ zu.
Das rasante Wachstum setzte sich im 20. Jahrhundert fort. Århus wurde zur Großstadt und erhielt 1928 eine Universität. Damit war sie die zweite Universitätsstadt überhaupt in Dänemark. Außerdem ist die Metropole Sitz einer Handelshochschule, einer Architekturschule, der Staatlichen Hochschule für Musik sowie der Schauspiel- und Dramatikerschule am Theater Aarhus. Heute ist sie von ihrer Bedeutung her das Zentrum Jütlands. Das Verwaltungszentrum war sie aber nie.