Nachdem das PI in Fulda aufgelöst wurde, wurde der begeisterte Skiläufer und Drachenflieger als Oberstudienrat an die Liebigschule in Gießen versetzt. Selbstverständlich setzte er sich hier für die Etablierung des Bereichs Gerätturnen ein, unterstützte den Aufbau der Schule zum Sportleistungszentrum und nahm erfolgreich am Wettbewerb „Jugend trainiert für Olympia“ teil. Aber auch selbst war Arnold Kaiser ein erfolgreicher Turner, vor allem in den Mehrkämpfen: 1959 Deutscher Meister Jahn-Neun-Kampf, 1960/61 Bundessieger im Jahn-Schwimmen, 1960 und 1965 Landesturnfestsieger im Deutschen Zehnkampf, von 1960 bis 1965 sechsmal in Folge Deutscher Hochschulmeister im gemischten Zehnkampf. Er war einer der ersten Turner, die den Doppelsalto-Abgang vom Hochreck turnten. In den 70er Jahren erfand er die nach ihm benannte „Kaiserlonge“, ein mit Seilen versehener Bauchgurt, der als Sicherheit beim Erlernen der Riesenfelge am Reck diente. Aber sein Wissen, seine Begeisterung für das Turnen setzte Arnold Kaiser auch im Ehrenamt ein. Im heimischen Bereich war er von 1989 bis 1992 Männerturnwart im Turngau Mittelhessen, von 1955 bis 1990 war er im DTB tätig, war Lehrwart für Wettkampfwesen und war Lehrkraft bei Landes- und Gaulehrgängen. Schon 1993 zog er sich aus gesundheitlichen Gründen von Beruf und Ehrenämtern zurück. Sein ehrenamtliches und berufliches Engagement wurde stets unterstützt von seiner Ehefrau Brigitte, einer ebenfalls erfolgreichen Mehrkämpferin, Lehrwartin und Kampfrichterin.
