Son histoire est profondément liée à celle de la Révolution Française. Il a en effet été aménagé en juin 1794, au fond du jardin d’un couvent dont les religieuses avaient été chassées deux ans plus tôt. Il permit d’enterrer les corps décapités par la guillotine installée sur la voisine Place de la Nation, alors nommée Place du Trône-Renversé, en juin et juillet 1794. 1306 personnes furent ainsi enterrées dans deux fosses communes, aujourd’hui recouvertes de gravier. Des plaques indiquent les noms des corps qui y ont été ensevelis, parmi lesquels celui du poète André Chénier.

C’est l’un des quatre cimetières du Paris de la Révolution à avoir reçu des corps de guillotinés, avec celui de la Madeleine, celui des Errancis et le cimetière Sainte-Marguerite.

Racheté par les familles des condamnés, le lieu devient un cimetière privé dès 1796. En 1834, le marquis de La Fayette, héros de la guerre d’indépendance des États-Unis, y fut enterré à côté de sa femme, dont une sœur et la mère reposent dans les fosses communes. Tous les 4 juillet, jour de sa fête nationale, l’ambassade des États-Unis vient au cimetière rendre hommage à La Fayette.

Le cimetière de Picpus est avec le cimetière des Juifs Portugais de Paris l’un des deux seuls cimetières privés de la ville de Paris.

Le cimetière se situe au 35, rue de Picpus, dans le 12e arrondissement. Les conditions de visite sont à vérifier auprès du lieu.