Fin dall'inizio il progetto del Centre Pompidou è stato pensato per essere una grande biblioteca generale di uso pubblico e gratuito che fino alla metà del XX secolo mancava nel modo più assoluto nella città di Parigi. Allo stesso tempo c'era anche il museo di arti moderne (o Musée National d’Art Moderne) che aveva urgente bisogno di una nuova "casa".

Su commissione dell'allora Presidente francese Georges Pompidou (alla fine al centro culturale fu dato il suo nome), si bandì una gara tra architetti per il diritto di pianificare e costruire la nuova struttura.

Un gruppo di architetti, due italiani e uno britannico, vinsero la gara e diedero vita a quella che è oggi considerata una costruzione altamente d'avanguardia, una costruzione che abbraccia il futuro. All'inizio non fu ben percepita dal pubblico e dalla critica perché si pensava fosse terribilmente fuori luogo nell'area circostante. Si diceva per esempio che le "mura" esterne mancassero, e che questo lasciava esposto lo scheletro della costruzione, con quei tubi colorati dei sistemi meccanici visibili a tutti. Più recentemente è stata considerata una struttura di grande innovazione architettonici sotto molteplici aspetti.

Al tempo della lavorazione l'IRCAM, e cioè il centro per la musica e la ricerca acustica, era già nei pressi, e oggi è anche parte integrante dello stesso Pompidou.