1942, la guerre s'enlise, et les Allemands commencent à sentir que l'issue ne sera pas victorieuse.
Afin de remonter le moral de la population, Joseph Goebbels, ministre de la Propagande, décide de créer un groupe de "musique de danse accentuée rythmiquement", un équivalent du jazz, considéré comme une "musique dégénérée" ou "musique de nègres". On fait appel à Wilhem Dussander, un pianiste d'une soixantaine d'années, qui s'est retiré du monde depuis que les membres juifs de son groupe ont été arrêtés. Celui-ci est obligé d'accepter. Il part sur les routes d'Allemagne, accompagné de Dietrich Müller, un fonctionnaire zélé. Dès leur première rencontre, le courant passe mal entre les deux hommes. Cela ne s'améliore pas lorsque Dussander rejette en bloc tous les garçons qui se présentent aux auditions. Pour jouer du jazz, la technique ne suffit pas ; il faut avoir le sens du rythme et de l'improvisation, ce que les Jeunesses Hitlériennes n'ont pas enseigné à leurs élèves... Dussander parvient tout de même à trouver trois perles rares : le fragile Ruppert au piano ; au saxophone, Max, qui n'a pas sa langue dans sa poche ; aux percussions, Thomas, qui vivait dans la rue. Le quatrième membre de la formation est imposé par Müller : Hermann est un pur produit des Jeunesses Hitlériennes ; il joue de la contrebasse avec rigueur, sans fantaisie. Le groupe formé, les "Quatre en Or" - ou "Goldene Vieren" - ainsi que les garçons se baptiseront eux-mêmes par la suite, peuvent commencer leur apprentissage dans le manoir de Dussander. L'entente entre eux n'est pas immédiate, surtout vis-à-vis du "petit nazi", mais leurs liens se resserrent lors des cours de sport dispensés par le brutal lieutenant Kluge.
L'après-midi, Dussander leur enseigne la musique, la théorie et toute l'histoire du jazz, puis la pratique. Les garçons progressent vite, même Hermann, qui, peu à peu, se laisse envahir par le swing. Dussander s'occupe d'eux avec bienveillance, épaulé par sa domestique, Elsa.
Bientôt, le groupe est prêt. Un premier titre est enregistré, qui obtient un immense succès.
Les dirigeants du Reich sont ravis, et les "Goldene Vieren" partent en tournée dans le sud de l'Allemagne. Or, la guerre est partout, et la réalité des horreurs perpétrées par les nazis poursuivent les "Goldene Vieren" à chaque étape de leur voyage. Les bombardements. Le lynchage d'un Juif dans la rue. Les rumeurs sur l'existence de camps de la mort... Dussander se questionne vis-à-vis de son manque d'engagement. Doit-il résister autrement qu'avec sa musique ? Le vieil homme se convainc que non, et il s'expose lorsque, volontairement, il fait chanter aux garçons les paroles que Ruppert a écrites pour leur tube, "Printemps à Berlin", plutôt que celles imposées par Müller.
Mais est-ce suffisant ? Pour Ruppert, la réponse est non. Et bientôt, à l'insu des autres membres du groupe, il s'engage dans l'action de la Rose Blanche, un mouvement de résistance au Reich, orchestré par des étudiants...