在贝聿铭获准开始建造卢浮宫金字塔之前，他不得不等待。1984年，考古学家们进驻了卢浮宫的中央庭院——拿破仑庭院，用刷子挖掘了一整年，才得以动工。在此之前，这片庭院一直是法国政府雇员的停车场。他们发现的景象令所有人震惊。挖掘者们挖出了查理五世在百年战争期间建造的城墙。城墙之下，他们发现了路易·勒沃为路易十四建造的17世纪地基。再往下：一座小教堂、曾为法国国王服务的面包师和鞋匠的作坊，以及一枚刻有王太子路易纹章的圆形徽章。进一步的挖掘揭示了一处高卢罗马时期的定居点，在其下方，则发现了至少从公元前4000年就有人居住的高卢村落的遗迹。考古队始终保持着高昂的士气。
1985年的一个清晨，考古学家们来到工地，发现他们正在挖掘的一个地窖底部竟然有一个装饰完整的房间。墙上贴着壁纸，桌子上摆着餐具，一把叉子插在一罐砂锅菜里。房间里还有一张邮政日历，角落里放着一双沾满泥巴的靴子。在画面之外，还有一张铁床，床上方挂着一张美女海报。几个同事凌晨五点偷偷溜进来布置好了这一切，然后八点钟才出现，装作一副完全无辜的样子。据一位组织者说，这“真的激发了团队的灵感”。这是在这期间，团队成员还策划了一场恶作剧，在一个发掘出的地窖里布置了一个装饰齐全的现代房间——配有壁纸、卡苏莱砂锅炖菜和靴子——以此调节气氛。
金字塔于1986年开始建造，并于1989年3月29日正式开放。