Après une année de Maths Sup, Frédéric Pierrot part aux États-Unis où il découvre avec émerveillement le monde du spectacle. A son retour en France, il décide de prendre des cours de comédie, tout en travaillant comme machino sur les plateaux de cinéma. Après une première apparition à l'écran en 1986 dans Manège, un court-métrage de Jacques Nolot, il tourne en 1989 dans La Vie et rien d'autre de Bertrand Tavernier, un cinéaste qui fera par la suite régulièrement appel à lui (Capitaine Conan en 1996, Holy Lola en 2004).

Comédien exigeant et passionné, Frédéric Pierrot est bientôt à l'affiche de deux œuvres qui retracent de grands combats pour la démocratie : la guerre d'Espagne avec Land and Freedom de l'Anglais Ken Loach (1995) puis la Révolution des Œillets au Portugal avec Capitaines d'avril de l'actrice Maria de Medeiros. Son jeu subtil, mélange de détermination et de fragilité, lui vaut d'être bientôt sollicité par des metteurs en scène aussi prestigieux que Jean-Luc Godard (For Ever Mozart) ou Bertrand Blier (Mon homme).

Mais ce sont les auteurs de la jeune génération (et notamment les femmes) qui sauront le mieux exploiter le talent de Frédéric Pierrot. Motard dans Circuit Carole d'Emmanuelle Cuau (1995), il campe des individus dépressifs dans La Vie moderne de Laurence Ferreira Barbosa (2000) et Imago (jours de folie) de Marie Vermillard. Avec son côté terrien, l'acteur apparaît dans des œuvres qui s'éloignent des rives du réalisme comme Les Sanguinaires de Laurent Cantet, Inquiétudes de Gilles Bourdos ou encore Les Revenants de Robin Campillo (2004). Il retrouve pour une troisième fois la caméra de Bertrand Tavernier pour sa Holy Lola.

Plusieurs seconds rôles se succèdent alors pour Frédéric Pierrot. Notamment dans Les Fourmis rouges (2006) de Stephan Carpiaux, puis dans Parlez-moi de la pluie d'Agnès Jaoui (2007) et Il y a longtemps que je t'aime (2008) de Philippe Claudel. La fin des années 2000 lui fait interpréter Xavier dans la série L' État de Grace et lui offre des rôles dans de grands téléfilms historiques comme Opération Turquoise (2007) d'Alain Tasma ou Adieu De Gaulle, Adieu de Laurent Herbiet (2010). Frédéric Pierrot marque ensuite son retour sur grand écran dans Elle s'appelait Sarah, drame de Gilles Paquet-Brenner autour de l'épisode du Vel d'Hiv, dans lequel il retrouve Kristin Scott Thomas, deux ans après Il y a longtemps que je t'aime.

Mais c'est en 2011 que la chance sourit réellement au comédien, qui enchaîne deux gros succès, montrant une fois de plus l'étendue de son talent : avec son physique un peu bourru, les femmes lui confient désormais des rôles d'homme blessé et font ressortir son humanité, comme en témoignent ses apparitions dans La Guerre est déclarée de Valérie Donzelli, où il campe un chirurgien qui met tout en oeuvre pour sauver un enfant du cancer, on encore dans Polisse de Maïwenn, qui lui offre pour l'occasion le rôle de Balloo, policier bougon à fleur de peau. Grâce à ces deux rôles marquants, l'acteur connaît un regain de popularité et continue sur sa lancée l'année suivante avec deux comédies : La Cerise sur le gâteau et Au cas où je n'aurais pas la palme d'or.