Né à Filettino en 1882, Rodolfo Graziani est fils de médecin. Il entre au séminaire et débute ensuite des études universitaires à Rome. En 1903, il s'engage dans l'armée, l'Esercito Italiano, au sein du premier régiment des Grenadiers de Sardaigne.

De 1908 à 1912, en Erythrée puis en Libye en 1914, il est lieutenant. Il passe capitaine puis major successivement en 1915 et 1916. Après guerre, il rentre en Libye. De 1922 à 1923, date à laquelle il devient général de brigade, il reconquiert le Djebel en Tripolitaine. En 1924, il acquiert Ghadamès et la Syrte. La reconquête de la Cyrénaïque, débutée en 1925, se termine en 1930, au moment ou il envahit Fezzan et Koufra. Ses actions lui valent d'être nommé gouverneur adjoint de la Cyrénaïque et il est également promu général de division, de corps d'armée en 1932 et gouverneur de Somalie.

Au cours de la guerre d'Ethiopie, il commande le front sud et connaît des victoires (Diredaoua, Harar, Neghelli). Le 21 mai 1936, il est nommé maréchal et devient vice-roi d'Ethiopie à la place de Badoglio. Graziani, surnommé "le boucher", mène une répression sanglante qui aboutit à un attentat le 19 février 1937 au cours duquel il est durement blessé. Le duc d'Aoste lui succède au mois de décembre de la même année. Il devient, à son retour en Italie, marquis de Neghelli.

Le jour de l'invasion de la Pologne par l'Allemagne, le 01 septembre 1939, il est nommé commandant d'un groupe d'armées en métropole. Le 31 octobre, il est chef d'état-major de l'armée de terre. A l'entrée en guerre de l'Italie, il prend la place d'Italo Balbo en tant que gouverneur de Libye et comme chef des forces armées en Afrique du Nord. Il subi alors une suite de défaites cuisantes à Sidi Barani puis à Beda Form le 05 janvier 1941. Ces revers contraignent l'armée italienne au repli sur El-Agheila et donc à l'abandon de la Cyrénaïque. Graziani se retire alors à Arcinazzo et laisse sa place à Gariboldi.

Par ambition, il accepte, après septembre 1943, le poste de ministre de la défense et de chef d'état-major général des forces de la République de Salo ; poste auquel il traquera les partisans. Il s'échappe du convoi où a été capturé Mussolini mais est capturé le 28 avril 1945 sur le lac de Côme.

Le 11 octobre 1948, un tribunal civil italien se déclare incompétent quant au jugement. C'est donc une cour spéciale militaire qui le condamne à 19 ans de prison ferme. Il est malgré tout libéré le 29 août 1950 à cause de son âge et de ses blessures. Il devient membre d'un mouvement néo-fasciste, "le mouvement social italien" qu'il quitte en 1954. Il a écrit des livres pour expliquer sa conduite après 1943 notamment, en 1947, "J'ai défendu la patrie". Il meurt en 1955 à Rome.