Das imposante neoklassizistische Gebäude ist eines der wenigen Überbleibsel des preußischen Regimes. Nach Fertigstellung im Jahr 1914 wurde es zunächst als Sitz des Landrats genutzt. Mit dem Vertrag von Versaille verlor Preußen neben Eupen und St. Vith, auch Malmedy an Belgien. Nachdem Generalleutnant Baron Baltia im Oktober 1919 zum Gouverneur der Region Eupen-Malmedy ernannt wurde, erhielt das Gebäude schließlich eine neue Bestimmung: Es wurde zum Palast der sogenannten Baltia-Regierung, die mit der endgültigen Angliederung des Gebiets an die Provinz Lüttich im Juni 1925 ein Ende fand. Nach einem Brand während des Zweiten Weltkrieges wurde das Gebäude von den Deutschen beschlagnahmt und als Hauptquartier genutzt. 1988 kaufte die Gebäuderegie das Haus, das nach aufwendigen Um- und Aufbauarbeiten gegenwärtig als Sitz der verschiedenen Abteilungen des Föderalstaats genutzt wird.