Budapesten született 1948-ban, apja tisztviselő, anyja ápolónő volt. Már gyerekként is lelkesedett a színházért, szenvedélyes autogramgyűjtőként ünnepelt színészekkel elegyedett szóba, rendszeres látogatója volt a Madách Színház előadásainak. 1966-ban a Madách-gimnáziumban érettségizett, utána két alkalommal hiába felvételizett a Színház- és Filmművészeti Főiskolára. Addig is kitanulta a fényképész szakmát, a Révai Nyomdában kemigráfus (klisékészítő) fényképészként dolgozott.
Életében meghatározó év volt 1968, amikor az MTV Ki mit tud? című tehetségkutató műsorában első helyezést ért el parodistaként,
és ugyanebben az évben, harmadik nekifutásra felvételt nyert a Színház- és Filmművészeti Főiskolára, ahol 1973-ban kapott diplomát. Színészi karrierje a Thália Színházban indult, melynek húsz esztendőn át volt tagja. 1993-ban átszerződött a Madách Színházba, ahol csaknem két évtizedig lépett színpadra, de fellépett a Vidám Színpadon és a Játékszínben, valamint az Orlai Produkcióban és a Rózsavölgyi Szalonban is. Egyik legutóbbi bemutatója 2021-ben Pintér Béla Marshal Fifty-Six című darabjában volt.
Népszerű színpadi, film- és tévészínész, nagy sikerű paródiák előadója, vidám televíziós műsorok szereplője. Színpadon eljátszotta Ottót (Katona: Bánk bán), Pierre Bezuhovot (Tolsztoj: Háború és béke), Gömböc urat (Moliére), Albint (Poiret: Őrült nők ketrece), Richard Willeyt (Cooney: Délután a legjobb), Leonida Papagattót (Scarnacci-Tarabusi: Kaviár és lencse), Gregory Solomont (Miller: Alku), Gastrofar George-ot (Webber: Macskák), Szmirnovot (Csehov: A medve), Max Bialystockot (Brooks-Meehan: Producerek). A Furcsa pár című Neil Simon-darabban mindkét főszerepet eljátszotta, A napsugár fiúkban Willie Clark volt. 2014-ben a Szegedi Szabadtéri Játékokon Kodály Zoltán Háry János című daljátékában Ebelasztin báró ruháját öltötte magára. Elsősorban komikus szerepeiről ismert, de például a Hullaégető című darabban drámai szerepben láthatta a közönség.
Első nagy filmsikerét a Csinibaba (1997) című filmben aratta, ezt követte a Rap, revü, Rómeó (2004), majd a Magyar vándor (2004), a Le a fejjel (2004).
A tévében szerepelt a Pasik című szituációs komédiában Bajor Imre és Hernádi Judit partnereként, legújabban a Keresztanyu vígjátéksorozatban látható.
Már a hetvenes évektől több önálló show-műsorral jelentkezett, a 80-as évek közepén elsőként készített reklámparódiát, sok szilveszteri műsorban is feltűnt. Állandó szereplője volt a Rádiókabarénak és az RTL Klub Heti Hetes című műsorának, a csatornánál Gálvölgyi-show címmel önálló műsora volt.
Szinkronszínészként is kedvelt, Benny Hill, a Derrick-sorozat Harryjának állandó magyar hangja volt,
de több alkalommal kölcsönözte hangját Peter Sellersnek, emellett hangoskönyveken is hallható. Első lemeze 1986-ban, a második 2002-ben jelent meg, 2015-ben a felélesztett Vers mindenkié sorozat részeként, amelyben színészek egy sláger szövegét szavalták el, Kis Grófo Bulibáróját adta elő.
Show-műsorai és paródiaszámai nagy részét saját maga írja, 1995-ben jelent meg első könyve Show-ról show-ra címmel. Egy hetilapban két év alatt rendszeresen megjelent jegyzeteit kötetben összegyűjtve 2004-ben adták ki, ezt még két kötet követte. Életpályájáról ír a 2010-ben megjelent Jókedvet adj! című kötetében, tavaly látott napvilágot a Hivatásos rajongó, amely színházi élményeiről és pályatársairól Kövesdi Péterrel folytatott beszélgetései alapján készült.
Művészi munkáját számos kitüntetéssel ismerték el. 1980-ban Jászai Mari-díjat, 1984-ben SZOT-díjat kapott, 1987-ben érdemes művész, 1997-ben az év nevettetője lett. 2000-ben Karinthy-gyűrűt, 2001-ben Súgó Csiga-díjat, 2002-ben Szabad Sajtó Díjat, 2003-ban Déri János-díjat kapott.
2005-ben Kossuth-díjjal tüntették ki
humanista elkötelezettségű, sokoldalú művészi munkásságáért, rendkívüli népszerűségnek örvendő színészetéért, emlékezetes alakításaiért. A Halhatatlanok Társulatának 2006-ban lett tagja és Pro Urbe Budapest díjban részesült. 2008-ban Radnóti Miklós-díjat, 2009-ben Marton Frigyes-díjat vehetett át, 2012-ben megkapta a nyíregyházi Vidor Fesztivál életműdíját. Felesége, Gálvölgyi Judit műfordító, a híres bűvész, Rodolfo lánya, két lányuk közül egyik sem követte apját a színi pályán. Gálvölgyi János hobbija a bohócgyűjtés.
A népszerű színész május 10-én összetett tüdő- és szívelégtelenség okozta súlyos légzési panaszokkal intenzív osztályra került, de már túl van az életveszélyen.
