Schon vor dem 2. Weltkrieg war die heutige Justizvollzugsanstalt Gerichtsgefängnis für Männer und Frauen. 1944 wurde das Gefängnis bei einem Bombenangriff vollständig zerstört. Ab 1949 wurde mit dem Wiederaufbau begonnen und am 1. April 1953 als Gerichtsgefängnis wiedereröffnet.
Die Justizvollzugsanstalt Fulda verfügt über eine Vollzugsabteilung, die aus den Bereichen geschlossener und offener Vollzug besteht. Ihre Zweckbestimmung erfährt sie durch den Vollstreckungsplan des Landes Hessen.