Langen wuchs auf Gut Klein Belitz bei Güstrow (Mecklenburg) auf, das sich von 1755 bis ca. 1925 in Familienbesitz befand. 1907 trat er in das 1. Garde-Ulanen-Regiment in Potsdam ein, wo er seine reiterliche Ausbildung erhielt. 1914 nahm er im Rang eines Rittmeisters am Ersten Weltkrieg teil und wurde bald an der Ostfront schwer verwundet, was zu einer mehrjährigen Lähmung seiner Beine führte. Trotz gesundheitlicher Einschränkung war er in den 1920er Jahren als Reitsportler erfolgreich und startete als erster deutscher Teilnehmer bei Turnieren im Ausland. Langen feierte nationale und internationale Erfolge, so 1924 (auf Hanko), 1927 und 1928 (jeweils auf Falkner) als Sieger beim Hamburger Spring-Derby. Allein 1923 errang er 50 Siege im Jagdspringen und 13 Siege in Dressurprüfungen. Höhepunkt seiner reiterlichen Laufbahn war der Gewinn der Einzel- und Mannschaftsgoldmedaille (mit Hermann Linkenbach, 1889–1959 und Eugen Freiherr von Lotzbeck, 1882–1942) bei den Olympischen Spielen 1928 in Amsterdam in der Dressur mit dem Pferd Draufgänger, das Trainer August Staeck ausgebildet und 1928 Langen zur Verfügung gestellt hatte. Dieser war damit der erste deutsche Reiter, der als Sieger in die Geschichte der Olympischen Spiele einging.

Langen war zeitgenössischen Berichten zufolge seit Sommer 1930 Mitglied der SA; ein genaues Eintrittsdatum lässt sich nicht belegen. Im Dienstrang eines SA-Obersturmbannführers gehörte er zum privilegierten Kreis der höheren SA-Führer und setzte sich maßgeblich für die ländliche Reiterei und die nationalsozialistische „Neuordnung“ des Pferdesports im Sinne einer „Volksgemeinschaft“ ein. Bereits seit 1923 gehörte Langen zum Präsidium des neu gegründeten Reichsverbands für Zucht und Prüfung deutschen Warmbluts. Ende der 1920er Jahre löste er Richard Wolff (1882–1938) als Vorsitzenden des Provinzialverbands der Ländlichen Reitervereine Pommerns ab und wurde zugleich Mitglied des 1912 von Gustav Rau (1880–1954) gegründeten Olympiade-Komitees für Reiterei, das unter der Leitung von Reichsminister Hermann Göring (1893–1946) und Reichswehrminister Werner von Blomberg (1878–1946) stand. Am 25. Juli 1934 stürzte er bei einer Militaryprüfung in Döberitz (heute Dallgow-Döberitz, Brandenburg) und starb wenige Tage später an den Folgen des Reitunfalls. Unmittelbar nach seinem Tod wurde im September 1934 im Derby-Park in Hamburg Klein Flottbek die „Freiherr v. Langen-Gedächtnistafel“ eingeweiht.

Von der nationalsozialistischen Propaganda überhöht, erlangte Langen postum große Popularität durch Clemens Laars (1906–1960) Biografie „,...reitet für Deutschland’. Carl Friedrich Freiherr von Langen. Ein Kämpferschicksal“, die 1936 mit einem Vorwort von Reichssportführer Hans von Tschammer und Osten (1887–1943) erschien, vor und nach dem Krieg in mehreren Auflagen publiziert und 1941 u. d. T. „...reitet für Deutschland“ als Ufa-Produktion unter der Regie von Arthur Maria Rabenalt (1905–1993) verfilmt wurde. In der Hauptrolle des Freiherrn von Langen alias „Rittmeister von Brenken“ avancierte Willy Birgel (1891–1973) in den 1940er Jahren zum Publikumsliebling; Joseph Goebbels (1897–1945) stufte den Film, der zu einem der erfolgreichsten Propagandafilme in der Zeit des Nationalsozialismus avancierte, 1944 als von „nationaler Bedeutung“ ein. Von der alliierten Militärregierung zwischen Juni 1945 und 1952 verboten, wurde der Film danach weiterhin in bundesdeutschen Kinos gezeigt.

Langen war nach dem Ersten Weltkrieg einer der erfolgreichsten deutschen Spring-, Dressur- und Militaryreiter. Die Erinnerung an ihn blieb in den folgenden Jahrzehnten unkritisch. Während seine SA-Mitgliedschaft bis heute weitgehend unerwähnt blieb, wurde sein Werdegang häufig als unpolitisches Reiterschicksal verklärt: Die Deutsche Bundespost widmete ihm anlässlich der Olympischen Sommerspiele in Mexiko 1968 ein Sonderpostwertzeichen; nach 1990 wurde zu seinen Ehren eine Gedenktafel an der Schlossfassade seines Guts Parow angebracht, die 2020 im Zuge von Renovierungsarbeiten wieder entfernt wurde. Der örtliche Reitverein richtete jahrzehntelang ein Gedenkturnier aus.

Ein kritischerer Umgang mit Langen setzte 2013 nach der Veröffentlichung von Nele Fahnenbrucks (geb. 1982) Untersuchung „,...reitet für Deutschland‘. Pferdesport und Politik im Nationalsozialismus“ ein. In der Folge wurde der von Paul Schockemöhle (geb. 1945) initiierte, nach Langen benannte Nachwuchspreis des Turniers im mecklenburgischen Landgestüt Redefin neu tituliert. Weiterhin Bestand hat dagegen die 1971 so benannte Freiherr-von-Langen-Straße in Warendorf bei Münster, in der sich der Sitz des Deutschen Olympiade-Komitees für Reiterei und der Deutschen Reiterlichen Vereinigung (FN) befinden.