Rupf fait la connaissance de Paul Klee en 1913. Par l'intermédiaire de Rupf, Kahnweiler devient le représentant exclusif du peintre en 1933. Après 1946, Rupf s'engage pour la conservation de la succession Klee. Il n'est donc pas étonnant que l'artiste suisse constitue un point fort de sa collection.

En 1931, Rupf entre aussi en relation avec Vassily Kandinsky, l'ami de Klee – il s'occupe de ses finances. Dans une lettre de décembre 1944, Kahnweiler raconte les funérailles de Kandinsky. Rupf et Nina Kandinsky resteront en contact.

Un contrat existe entre André Masson et Kahnweiler depuis 1922, environ. Mais les aspects parfois cruels du surréalisme de Masson rebutent Rupf. Vers 1960 il finit donc par vendre le tableau Massacre dans les champs (1933), conserve cependant un ensemble important de peintures et d'œuvres sur papier.