C'est en 1993 et avec Forrest Gump, qu'il va lancer sa carrière avec deux nominations pour meilleur acteur en 1995.

En 2004, il commence sa première série télévisée régulière, Les Experts : Manhattan, dans laquelle il joue le rôle du détective Mac Taylor pendant neuf saisons.

Plusieurs épisodes ont permis à Sinise de montrer les prouesses musicales, y compris dans un épisode de la deuxième saison, où Mac Taylor joue de la guitare basse dans un club de jazz avec des musiciens Kimo et Carol Williams et Danny Gottlieb, membres du Lt. Dan Band, cofondé par Gary Sinise et Kimo Williamsen en 2003. Le groupe est cité pour le personnage de Sinise dans Forrest Gump.

Il a cofondé Operation Iraqi Children avec l'écrivain Laura Hillenbrand. Le but de cette fondation est d'aider les enfants à accéder à l'apprentissage scolaire dans de meilleures conditions et avec des outils (école mais aussi cahiers, crayons…). Gary Sinise dit que « l'Irak est dans les nouvelles tous les jours et la plupart de ce qui est mauvais. Mais il y a des histoires positives. Et comme nos soldats sont là pour la reconstruction des écoles, aider les enfants est l'un d'entre eux ».

En juin 2008, Gary Sinise a soutenu la candidature du sénateur John McCain à la campagne des primaires républicaines présidentielles de l'Arizona et en décembre de la même année, il reçoit la Presidential Citizen Medal des mains de George W. Bush.

Après l'arrêt de Les Experts : Manhattan en février 2013, il se consacre pleinement à sa fondation Gary Sinise Foundation. Près de deux ans après, il est choisi pour incarner le personnage principal nommé Jack Garrett, dans le deuxième spin-off de la série Esprits criminels, Esprits criminels : Unité sans frontières, déclarant que c'est un « privilège de travailler avec des scénaristes aussi talentueux que Mark Gordon et Erica Messer. » Il rejoindra par ailleurs son ami Joe Mantegna qui officie dans la série originale depuis 2007.