La race est ancienne et son histoire remonte à l’Empire romain. À cette époque, les légions voyageaient avec leur viande sur le sabot et avaient besoin de l’aide de chiens de travail pour garder le bétail. L’un des itinéraires empruntés par l’armée passait par Wüberg jusqu’au petit bourg de Rottweil.
Cette région est finalement devenue une région importante pour le bétail et les descendants des chiens de berger romains ont prouvé leur valeur à la fois en conduisant et en protégeant les éleveurs des voleurs. Ce serait un brave méchant qui essaierait d’enlever la bourse autour du cou d’un Rottweiler Metzgershund (chien de boucher de Rottweil).
Cependant, à la fin du XVIIIe siècle, la race avait tellement décliné qu’en 1900, il n’y avait plus qu’une seule femelle dans la ville de Rottweil. Mais la construction jusqu’à la Première Guerre mondiale a vu une forte demande pour les « chiens policiers » et cela a conduit à un regain d’intérêt pour le Rottweiler. Son énorme force, son intelligence et sa capacité à recevoir des ordres en ont fait une arme de guerre naturelle.
Depuis lors, il est devenu populaire auprès des propriétaires de chiens et en 1935, la race a été officiellement reconnue par l’American Kennel Club. En 1936, les Rottweilers furent exposés en Grande-Bretagne à Crufts. En 1966, un registre séparé a été ouvert pour la race.
Les Rottweilers ne sont pas naturellement sans queue. Beaucoup de propriétaires décident de faire enlever les queues peu après la naissance des chiots.
Ces dernières années, la race a reçu beaucoup de mauvaise presse. Des éleveurs sans scrupules ont produit des chiens aux tendances très agressives et certains propriétaires les ont utilisés pour rehausser leur image macho. Un « Rottie » bien formé et réactif peut fournir au bon propriétaire beaucoup d’exercice et de compagnie amoureuse.