Le 7 octobre 1940, Pétain abroge le décret Crémieux qui, depuis 1870, offrait aux Juifs d'Algérie la nationalité française. Dès lors, Alfred Nakache n'est plus français. Insulté dans la presse collaborationniste, il est renié, pourchassé, puis arrêté par la Gestapo en novembre 1943 avec sa femme et sa fille. Déporté à Auschwitz, il organise en secret, chaque dimanche après-midi, des séances de natation dans un bassin de rétention d'eau, permettant à ses codétenus de garder un semblant d'espoir, loin du regard des SS.
En janvier 1945, le camp est évacué dans le cadre des marches de la mort, sous la menace de l'avancée de l'Armée rouge. Alfred Nakache participe à l'une d'elles. Au bout du compte, les survivants des camps d'extermination sont menés dans des camps d'internement. Il se retrouve ainsi à Buchenwald, que l'armée américaine libère en avril 1945.