Ellmau leží pod skalnými stenami Wilder Kaiser v Kitzbühelských Alpách. Lanovka na Hartkaiser sprístupňuje panoramatické a rodinné trasy, zatiaľ čo okolité cesty vedú k horským chatám a miestam známym z televízneho seriálu Doktor z hôr. V zime je Ellmau súčasťou rozsiahlej lyžiarskej oblasti SkiWelt Wilder Kaiser-Brixental.