Het gebouw van de Eerste Kamer bestaat tegenwoordig uit drie aaneengesloten delen: de oude zalen van de Staten van Holland en West-Friesland, het voormalige kwartier van de stadhouder en de Hofkapel. De kapel was oorspronkelijk in de dertiende eeuw gesticht door Floris V en deed in de beginjaren dienst als privékapel van de grafelijke familie. Na de reformatie in de zestiende eeuw kwam de kapel in handen van de protestantse Waalse gemeente en vanaf de Franse tijd, eind achttiende eeuw, droeg de rooms-katholieke parochie van Jacobus de Meerdere hier de mis op. Historisch gezien was het een belangrijke plek. Verschillende graven traden er in het huwelijk en figuren als de Hollandse gravin Jacoba van Beieren en raadpensionaris Johan van Oldenbarnevelt liggen er begraven.
Toch werd de Hofkapel in 1879 gedeeltelijk afgebroken. Wilde de Eerste Kamer namelijk op het Binnenhof blijven, dan was een uitbreiding van het aantal werkvertrekken noodzakelijk. Zo ontstond het besluit om de rooms-katholieke parochie op te kopen en de kapel te ontmantelen. Op de plaats waar enkele jaren eerder nog de kerkgangers in gebed bijeenkwamen, verrezen moderne kantoorruimten. De hofkapel werd als het ware 'gestript': de fundamenten, muren en zoldering bleven deels in tact. Binnen het casco zijn vervolgens nieuwe muren, vloeren en plafonds aangebracht. Tegenwoordig bevinden zich in de vleugel van de voormalige Hofkapel onder meer de Gravenkamer en Handelingenkamer van de Eerste Kamer.
Voordat de uitbreiding van het Eerste Kamergebouw gereed was, maakten de ‘bewoners’ van het Binnenhof echter nog dankbaar van de gelegenheid gebruik om historisch onderzoek te verrichten naar de grafkelders onder de kapel. Dit verliep overigens zonder veel eerbied voor de doden. Zo werden graven zonder pardon opgebroken en de lichamen van de doden onder grote publieke belangstelling in de bouwput tentoongesteld. De actie leidde tot enkele verontwaardigde reacties, onder andere van prins Alexander – de zoon van koning Willem III – die zich in de krant over de gang van zaken beklaagde.