Modern Kicks κυκλοφόρησε στις 1 Απριλίου 2003 από Third Man Records ως μέρος του άλμπουμ Guitar Romantic