Das Stadtgebiet wird geprägt durch die Fuldaer Senke und das Fulda-Haune-Tafelland im Norden. Kuppenartige Erhebungen, teils mit basaltischem oder kalkigem Untergrund, charakterisieren die Landschaft.

Die höchsten Erhebungen bilden im Osten innerhalb der Gemeinde Petersberg der markante Rauschenberg (474,3 m) zusammen mit dem Petersberg (403 m). Weithin sichtbar ist auch der mit Hochhäusern bebaute Aschenberg mit den im Süden angrenzenden Kalvarienberg (334 m) und Frauenberg (329 m); letzterer gut erkennbar am Klosterbauwerk auf dem Hügel.

Im westlichen Planungsgebiet erhebt sich der Basaltkegel des Haimbergs (410 m) neben dem kalkbedeckten Schulzenberg (370 m), letzterer mit der Wallfahrtskapelle zum Heiligsten Herzen Jesu. Zwei weitere Erhebungen, die hier wegen ihrer Bauwerke ins Auge fallen, sind die Propsteien Neuenberg und Johannesberg.

Südlich der Kernstadt Fulda prägen der Röhlingsberg (343 m), der Florenberg (380 m) mit der ihn krönenden Filialkirche St. Flora und Kilian sowie der Geisküppel (Wellenkalk) das Relief.

Aufgrund dieser Fülle an weithin sichtbaren Sakralbauten wird Fulda auch gern als "kleines Rom des Nordens" bezeichnet.

Die Landschaft westlich der Fulda bildet gegenüber der Kernstadt eine ca. 300 m hohe Hochfläche, zu der man über relativ steil ansteigende Straßen bei Johannesberg, Neuenberg und Maberzell gelangt. Sie wird hauptsächlich landwirtschaftlich genutzt. Das Relief wird hier außer durch die oben beschriebenen Kuppen durch die zahlreichen verstreut liegenden dörflichen Stadtteile und die Tälchen der Zuflüsse der Fulda gegliedert.

Im Norden durchschneidet die hier streckenweise stark mäandrierende Fulda in einem engen Tal mit fruchtbaren Böden die Hochfläche des Fulda-Haune-Tafellandes. Die steilen Talhänge sind vorwiegend mit Wald bedeckt.