Frankfurt am Main hat als Gerichtsstandort eine lange Tradition. Nach fränkischen Anfängen ist ab 1189 ein Schultheiß nachgewiesen, dem der Vorsitz des königlichen Gerichts zukam, und der im 13. Jahrhundert seinen Amtssitz im Saalhof hatte. Von den umliegenden Gerichten wurde das Frankfurter Gericht häufig als Oberhof angerufen, dessen älteste urkundlich belegte Entscheidung aus dem Jahr 1225 stammt. Zwar ging dessen Bedeutung mit dem Erstarken der Territorialgerichtsbarkeit als Ausdruck der im Westfälischen Frieden von 1648 anerkannten Landeshoheit der Territorialherren zurück. Frankfurt blieb aber als Messegerichtsstandort überregional bedeutsam.
1866 verlor Frankfurt seinen Status als Freie Reichsstadt und wurde preußisch. Die Gerichtsbarkeit ging in die Zuständigkeit Preußens über, Frankfurt behielt aber den Sitz eines Appellationsgerichts. Nach Gründung des Deutschen Reiches 1871 erfolgte eine Vereinheitlichung der Gerichtsorganisation durch das Gerichtsverfassungsgesetz von 1877. Frankfurt kämpfte in diesen Jahren um den Sitz eines Oberlandesgerichts; die Bemühungen waren schließlich infolge der unentgeltlichen Bereitstellung eines für sämtliche Gerichte geeigneten Grundstücks im Herzen der Stadt erfolgreich. Mit Wirkung vom 1. Oktober 1879 wurden auf preußischem Gebiet die Oberlandesgerichte Frankfurt am Main und Cassel sowie für den Bereich des Großherzogtums Hessen das Oberlandesgericht Darmstadt errichtet.
Das Oberlandesgericht Frankfurt war seinerzeit für die Landgerichtsbezirke Frankfurt, Wiesbaden, Limburg, Neuwied und Hechingen mit insgesamt 52 Amtsgerichten zuständig; die hohenzollernschen Lande um Hechingen gehörten weiterhin zu Preußen, das dortige Landgericht unterstand dem Oberlandesgericht Frankfurt als nächstgelegenem preußischen Oberlandesgericht.
Untergebracht war das neue Oberlandesgericht zunächst provisorisch im Haus "König von England" in der Fahrgasse, 1889 bezog es den neu errichteten „Justizpalast“, heute Gerichtsgebäude A, und 1917 den „Neubau“, das heutige Gerichtsgebäude B.