Geboren wurde der Schauspieler und Produzent als John E. DeCoste in Brooklyn, New York. Schon früh wurde 'Terry' sein Spitzname, da er als kleiner Junge eine Zeickentrickfigur selben Namens sehr mochte. Den Künstlernamen 'Carter' legte er sich zu Beginn seiner Schauspielkarriere zu, da viele Produktionsfirmen sein Aussehen mit seinem spanisch/mexikanisch klingenden Nachnamen nicht in Verbindung bringen konnten.

Aufgrund der Herkunft seiner Eltern wuchs Carter zweisprachig auf und erweiterte sein Sprachenrepertoire im Laufe seines Lebens ständig. Italienisch wurde ihm, Anfang der 60er Jahre, zur zweiten Muttersprache, als er ein Jahr in Rom verbrachte und kurze Zeit später in New York seine italienische Freundin Anna Scratuglia heiratete. Mit ihr hat er zwei Kinder: Miguel und Melinda.

Seinen ersten Auftritt hatte Carter mit neun Jahren, als er 'Vasco de Gama' in einer Aufführung seiner Grundschule darstellte. Allerdings blieb er der Schauspielerei nicht sofort treu. Nach seinem Abschluss der Stuyvesant High School in New York meldete er sich freiwillig zur Marine und schiffte an Bord der SS Marine Marlin nach Bremerhaven, wo sie Kriegsvertriebene und -gefangene an Bord nahmen und nach Venezuela, Argentinien oder Brasilien brachten.

Nach nur sechs Monaten verlies Terry die Marine und arbeitete in der Poststelle des New Yorker Museums für Moderne Kunst. Carter entwickelte in dieser Zeit seine Leidenschaft für Kunst und Film.

Dennoch schrieb er sich Ende der 40er Jahre an der Northeastern Universität in Bosten ein, um Jura zu studieren. Sein Studium finanzierte er als Klavierspieler einer Jazzband, die vornehmlich auf Hochzeiten, Bar Mitzvahs und in Nachtclubs spielte.

Er wechselte kurz darauf mit seinem Studienfach an die St. Johns Universität in New York und traf dort auf bekannte Theaterschauspieler wie Howard Da Silva und Morris Carnovsky und wurde von ihnen überzeugt eine Karriere als Schauspieler in betracht zu ziehen. Fortan studierte er tagsüber Jura und in den Abendstunden Darstellende Kunst und verlor zunehmend das Interesse an einer beruflichen Karriere als Anwalt. Bereits während seines zweiten Jahres an der New Yorker Universität gab er sein eigentliches Studienfach auf und wechselte zum Schauspiel.

Carters Schauspielkarriere begann 1952, als er die Hauptrolle in Chodorovs Decision am Greenwich Mews Theater spielte. Er wurde Mitglied der dortigen Theatergruppe und trat kurz darauf in Les Pines Monday Heroes auf. 1954 hatte er seinen ersten Auftritt am Broadway, in der männlichen Hauptrolle von Mrs. Patterson.

Mit Kampfstern Galactica folgte im Jahr 1978 mit eine der größeren Produktionen an denen er als Schauspieler mitwirkte. Ursprünglich für die Rolle des Lt. Boomer vorgesehen, konnte Carter aufgrund eines Skateboard-Unfalls während der ersten Drehtage nicht anwesend sein und seine Rolle wurde von Herbert Jefferson Jr übernommen. Da Larson aber nicht auf Carter verzichten wollte, wurde dieser Colonel Tigh.

Im Anschluss an Galactica hatte Carter nur noch vereinzelt Gastauftritte in TV-Filmen und -Serien, zuletzt sah man ihn 2001 in der schwedischen Produktion Hamilton.