Nasce a Bree, in Belgio, il 30 aprile del 1975, figlio di Richard Galecki, un militare statunitense di origini polacche, e di Mary Lou Noon, una consulente immobiliare statunitense di origini irlandesi ed italiane. Il padre è stato membro della United States Air Force in una base in Belgio. La famiglia Galecki fa ritorno negli Stati Uniti a Oak Park, in Illinois, quando Johnny aveva tre anni.

Dopo una serie di lavori televisivi, debutta sul grande schermo nel 1988 nel film Le ragazze di Jimmy, con River Phoenix, in seguito recita nella commedia Un Natale esplosivo. Acquista popolarità grazie al ruolo di David Healy, interpretato dal 1992 al 1997 nella sit-com Pappa e ciccia.

Nel 1995 è protagonista del video della Dave Matthews Band Satellite.

Dopo l'esperienza in Pappa e ciccia, lavora nel film comico Mr. Bean - L'ultima catastrofe, nell'horror So cosa hai fatto e nell'indipendente The Opposite of Sex - L'esatto contrario del sesso, in quest'ultimo ha interpretato un adolescente gay che mente su molestie da lui subite. Nel 2000 partecipa al film Bounce, con Ben Affleck e Gwyneth Paltrow, mentre l'anno successivo ottiene una piccola parte in Vanilla Sky. Infine nel 2005 ebbe un'apparizione nel telefilm My Name Is Earl.

Nella stagione 2006-2007, Galecki lavora a Broadway nella commedia The Little Dog Laughed, dove interpreta un gigolò, la sua parte prevedeva anche alcune scene di nudo frontale. Ha partecipato ad alcuni episodi di Hope & Faith e interpreta Leonard Hofstadter nella serie TV The Big Bang Theory, alla quale hanno partecipato anche le colleghe Sara Gilbert e Laurie Metcalf.

Nel 2008 lavora nella fanta-commedia Hancock, con Will Smith, mentre nel 2011 interpreta Borel in In Time.

Nel 2014, dall'ottava stagione di The Big Bang Theory, insieme ai protagonisti della sitcom Jim Parsons e Kaley Cuoco, percepirà un assegno di oltre un milione di dollari a episodio. Questi tre artisti diventano così gli attori di serie televisive più pagati di sempre.