Leoben sa nachádza v spolkovej krajine Štajersko. Mesto leží na brehu rieky Mura, na južnom úpätí Ennstalských Álp, v nadmorskej výške 541 m. Mesto je významným kultúrnym centrom, kde sa skĺbi architektúra starého mesta s pestrým kultúrnym životom. Centrum mesta tvorí pozdĺžne námestie Hauptplatz na ňom stojí stará radnica Altes Rathaus z roku 1568. Hlavné námestie v Leobenu patrí k najkrajším v Európe, možná na tom má veľkú zásluhu tiež to, že tu je zákaz vjazdu automobilom.