Der Name dieser schon seit dem 13. Jahrhundert in Lübeck, Augsburg und Oberbayern, im 14. Jahrhundert in Niederbayern und Nürnberg, im 15. Jahrhundert in der Oberpflaz, dann seit dem 16. Jahrhundert in der Steiermark, Sachsen, Württemberg und am Oberrhein, auch in der Rheinpfalz vorkommende Familien dürfte von zu leistenden Naturalabgaben, Kucheldiensten genannten Verpflichtungen, herkommen. Ein verwandtschaftlicher Zusammenhang muss unter diesen Familien nicht bestanden haben.
Die württembergische Familie Kleindienst wird ertmals erwähnt mit Balthas Kleindienst, Forstknecht, später Schultheuß zu Maulach, der hier im Alter von 84 Jahren am 10. November 1608 starb; Gattin Apollonia, † Roßfeld 8.4.1594. Sein Sohn Utz (1568 – 1631), markgräflich brandenburg-ansbachischer Wildmeister zu Weipertshofen bei Crailsheim, begründet die Crailsheimer Linie, deren gegenwärtige Vertreter in Biberach a. d. Riß und in Detmold leben. Ein anderer Sohn des Balthas Hans (1569 – 1636), Schultheiß in Maulach ist Stammvater der Fleiner- und Auensteiner Linie, von der noch jetzt Angehörige in Flein und Auenstein bei Heilbronn a. N., auch in Augsburg und Stuttgart-Sillenbuch ansässig sind. Eine Ahnentafel des von Balthasar Kleindienst abstammenden Vaters des Einsenders findet man in den „Bayrischen Geschlachtstafeln“ des Bayerischen Landesvereins für Familienkunde in München. Band 1 (1938), sowie einen Auszug aus seiner umfangreichen Familiengeschichte in den „Blättern“ dieses Vereins Band 8 (1930) Seite 29 – 31. Das Wappen befindet sich auf zwei älteren Siegelringen verschiedener Linien Kleindienst. Wenn es sich und auch sein Nachweis als freie Erfindung eines österreichischen Wappenfabrikanten herausgestellt hat, so hat sich der Einsender Karl Kleindienst, Kaufmann in Biberach a. d. Riß, in Anbetracht seines Gebrauches durch mehrere Generationen hindurch, doch entschlossen, es als Familienwappen beizubehalten und es für sich und alle legitimen Nachkommen des ältesten nachweisbaren Ahnherrn Balthaser Kleindienst vom Maulach zu stiften.
