Keep It Up è stato pubblicato il 1 gennaio 1992 da BMG Rights Management GmbH come parte dell'album The Madman's Return