Das Palais diente seit 1849 als Sitz der Zweiten Kammer des Preußischen Landtags, der Vertretung des Volkes. Deutschlandweite Bedeutung erhielt es, als hier der erste Deutsche Reichstag 1871 eine gesamtdeutsche Verfassung verabschiedete.

Den Namen trägt das Gebäude, weil dort Karl August von Hardenberg, der Namensgeber der Hardenbergschen Reformen und Vertreter eines liberalen Verfassungsstaats zeitweise seinen Wohn- und Arbeitssitz hatte. Das 1774-1776 erbaute Anwesen wechselte mehrfach den Besitzer und wurde umgebaut, bevor es als Parlamentsgebäude der Zweiten Kammer des Preußischen Landtags genutzt wurde, der 1855 in Haus der Abgeordneten umbenannt worden war. Der Versammlungsraum wurde im Garten geschaffen, das Gebäude war aber schon bald wieder zu klein, so dass 1867 eine Erweiterung erfolgte. Ab 1905 diente das Gebäude als Geschäftshaus; es wurde im Zweiten Weltkrieg komplett zerstört.

Heute erinnern weder die neu errichteten Gebäude noch vorhandene Gedenktafeln an einen fundamentalen Ort deutscher Demokratiegeschichte.