Még pejhedző állú kamasz, amikor Polgár Károly vidéki színtársulatához szerződik. 1906-ban, huszonegy évesen már Nagyváradon találjuk Gózont, aki korán megszerzett színészi rutinjának köszönhetően játékával, kitűnő énekhangjával hamar az élvonalbeli színészek közé kerül. Néhány sikeres nagyváradi évadot követően az ifjú sztár mégis örömmel mond igent Nagy Endrének, a "kabarékirálynak", aki Pestre csábítja. A fővárosi közönség így már nem csak  színészként, hanem „Füttyös Gózon" nevű "szórakoztatóiparosként" ismerheti meg. Ez a kettősség aztán szinte egész pályafutását jellemzi. Gózon pályája csúcsán egyszerre volt a Nemzeti Színház vezető művésze és a filmvásznak ügyeletes humorforrása. 

Nagy Endre Kabaréjánál egy évadot tölt, majd az újonnan megnyílt Népoperához szerződik. 1917. január 30-án Ferencvárosban  veszi feleségül Berky Lilit, aki ekkor a saját vállalkozásában elindított Muskátli Kabaré primadonnája. Gózon 1919-től a Király Színház, 1927-től a Belvárosi Színház, 1929-től az Új Színház tagja. Igazi színészi feladatát a drámában találja meg, bár sohasem lett hűtlen az operetthez. 1935-ben a Nemzeti Színház szerződteti, ahol  tragikus és komikus alakok hosszú sorát alakítja, mindig emlékezetes sikerrel. Bár a negyvenes évek elejétől a zsidótörvények miatt nem játszhat, 1945 után újra a színpadon fogadhatja a közönség tapsát. A Nemzeti Színház tagja marad élete végéig. 

Már 1914-ben, a némafilm korában elkezd filmezni, de rendszeresen csak a hangosfilm bevezetése után vállal filmszerepeket. Már az első - nagyot bukó - magyar hangosfilmben (A kék bálvány, 1931) is szerepet kap, de a Hyppolit, a lakáj sikerének köszönhetően lesz kihagyhatatlan figura a producerek számára. Főszerepet nem kap ugyan, viszont annyira erősek az általa megformált karakterek, hogy feltételezhető, néhány film forgatókönyvébe akkor is beleírtak néhány hálás mondatot Gózon számára, ha arra dramaturgiailag nem is lett volna szükség.

1932 és 1940 között legalább ötven filmben szerepel. Gózon sikere minden bizonnyal annak is köszönhető, hogy személyében a nézők egy olyan alakot láthattak a vásznon, akivel nemcsak másfél órára, hanem mindörökre azonosulhattak.

A második világháború idején karrierje megtörni látszik, a háború után azonban a megváltozott viszonyok közepette is ott folytatja filmes karrierjét, ahol 1941-ben abbahagyta: a hatvanas évek közepéig szinte az összes népszerű magyar filmben szerepel. Filmszerepeinek száma 90-re tehető.

Feleségével még 1935-ben vették meg Rákosligeten az otthonukat jelentő családi házat, ahol a második világháborút, a németek bevonulását, majd a nyilas hatalomátvételt is átvészelték. Gózon Gyula csaknem haláláig élt a házban, amelyet csak élete legvégén, az 1970-es évek  kezdetén adtak el eltartói és vették magukhoz. Utolsó éveit egy lakótelepi előszobában tölti - zavarodott elmével, ápolt betegként.

Gózon Gyula sírja Budapesten. Kozma utcai izraelita temetőben található.