Il sentait qu’il était fourvoyé, mais il n’en voulait démordre, comptant sur un hasard heureux et n’osant peut-être reculer, car il s’était fermé toutes les voies de retour. Du reste, il jugeait bien les hommes : « Je cherchais des patriotes, a-t-il écrit, et je trouve des gens qui auraient livré les forts aux Prussiens plutôt que de se soumettre à l’assemblée ; je cherchais la liberté, et je trouve le privilège installé à tous les coins de rue ; je cherchais l’égalité, et je trouve la hiérarchie compliquée de la fédération, l’aristocratie des anciens condamnés politiques, la féodalité des ignares fonctionnaires qui détenaient toutes les forces vives de Paris… Ces gueux d’officiers de la commune, trinquant au comptoir avec quelque sergent, gueux déguisés en soldats et qui transforment en guenilles l’uniforme dont on les a affublés… drôles qui prétendaient affranchir le pays du régime du sabre et qui ne pouvaient qu’y substituer le régime du delirium tremens. » Il y avait à peine huit jours qu’il était ministre de la guerre et commandant en chef que déjà le dégoût le noyait ; il eut envie de faire fusiller sommairement tous les chefs de légion ; le peloton d’exécution réuni n’attendait plus que ses ordres, qu’il ne donna pas. Le 9 mai, il envoya sa démission au comité de salut public par une lettre hautaine qui se termine ainsi : « Je me retire et j’ai l’honneur de vous demander une cellule à Mazas. » On se préparait à déférer au désir exprimé, lorsqu’il se ravisa et disparut.
Sous le nom de Gardembois et avec les faux papiers d’identité d’un employé du chemin de fer de l’Est, il s’était réfugié boulevard Saint-Germain, hôtel Montebello, où chaque soir il recevait Delescluze, nommé à sa place délégué à la guerre ; ce furent ses conseils, tant qu’il fut possible de venir les demander, qui dirigèrent la résistance. La presse révolutionnaire, avec laquelle il avait entretenu d’étroites et fréquentes relations, ne l’abandonna pas ; le Père Duchêne, redoublant de jurons et d’invectives, lui proposait d’aller soulever Belleville et de renouveler contre la commune l’insurrection que le comité central avait dirigée, le 18 mars, contre le gouvernement régulier. Rossel ne se décida pas, attendit sans doute une circonstance propice, et, pendant qu’il réfléchissait ou rêvassait, l’armée française reprenait possession de Paris. Sa retraite fut découverte ; traduit devant le troisième conseil de guerre, présidé par un colonel du génie, il s’entendit condamner à la peine de mort. On fit tout pour le sauver ; on prépara un plan d’évasion qui ne put aboutir ; des influences très hautes, des influences souveraines, intervinrent inutilement pour obtenir une grâce que l’on était fermement résolu à refuser. Appartenant à l’armée régulière, il avait déserté à l’ennemi, combattu le pouvoir légal et ses anciens
