Het imposante neoklassieke gebouw is een van de zeldzame overblijfselen van het Pruisisch bewind. Het werd gebouwd in 1914 en werd aanvankelijk gebruikt door de toenmalige Landrat (adviseur van het Land). Door het verdrag van Versailles moest Pruisen naast de kantons Eupen en St. Vith ook Malmedy aan België afstaan. Nadat luitenant-generaal Baron Baltia in oktober 1919 tot gouverneur van Eupen-Malmedy benoemd wordt, kreeg het gebouw uiteindelijk een nieuwe bestemming: het werd het paleis van de zogenoemde Baltia-regering. De definitieve aansluiting van de gebieden Eupen en Malmedy aan de provincie Luik in juni 1925 betekenden het einde van deze regering. Na een brand tijdens de Tweede Wereldoorlog werd het gebouw bezet door de Duitsers die er hun hoofdkwartier in vestigden. In 1988 werd het gebouw gekocht door de Regie der Gebouwen en na grondige restauratie- en verfraaiingswerken nemen de verschillende diensten van de federale staat er hun intrek.