A „Hortobágy legyőzhetetlen bikája” színre lépett
Szülei kereskedelmi iskolába íratták, de egy idő után kicsapták, mert komoly összeütközésbe került az egyik tanárával, aki lekevert egy pofont Józsinak, és ő azonnal visszaütött. Ezután inas lett egy autószerelő műhelyben, de ott is eljárt a keze, és 1930-ban kilépett a cégtől, majd artistának szerződött egy cirkuszban.
A szüleinek ez egyáltalán nem tetszett, így elküldték egy strassbourgi ismerősükhöz, de ő egyenesen Párizsba ment, ahol közel egy évig az egyik Renault műhelybe állt be szerelőnek. Kalandokban bővelkedő évek következtek ezek után is.
Hazajött, majd az Alpesi falu varietéhez szerződött artistaként. A varieté társulatával Bulgáriába mentek körutazásra és a Hortobágy legyőzhetetlen bikája birkózószámával sikereket aratott. Várnában egy török birkózó legyőzte, és ezért hazajött. Kereskedősegédnek szegődött Budapesten, egy Kálvin téri divatáru üzletben, majd 1933-ban a Royal Revű Varieté szerződtette táncosnak. Ekkoriban változtatta a nevét Markos Józsefre.
Együtt lépett fel Marcel Marceuval és Louis Armstronggal
A Royal Revű Varieté után közel egy évig szerepelt Olaszországban, ezután elszerződött egy vándorcirkuszhoz. Bevonultatták és lovas huszárként szolgált az I. Jászkun Huszárezred Kerepesi úti laktanyájában. A katonai szolgálata után parkett-táncos lett a főváros legelőkelőbb mulatójában, az Arizona varieténél, ahol felfigyelt rá a híres Miss Arizona, (Senger Mária) akivel többször is fellépett.
De itt sem maradhatott, mert megpofozta az őt provokáló, és kissé részeg Festetics grófot, ezért szerződését felmondták. Egy rövid ideig a Kék Egér mulatóban szerepelt, majd ismét külföld következett: Egyiptom, Szudán, Libanon, Szíria, Törökország mulatói, varietéi.
Ezután ismét Olaszországban (1937–1938) szerepelt, ahol együtt lépett fel Marcel Marceuval – akivel a pantomim szakmai fogásait is megbeszélték – és Louis Armstrong dzsessztrombitással. A következő állomás a párizsi Olympia varieté volt, majd ismét Budapest. Még nem volt harmincéves, amikor 1941. augusztus 1-jén a Margitszigeti Parisien Grillben egy Sarkadi nevű barátjának panaszkodott, hogy milyen szomorú egyedül élni. Barátja azt tanácsolta, hogy ismerkedjen meg az üzemében dolgozó, Kolozsvárról érkezett szép és csinos lánnyal. Be is mutatta őket egymásnak, a lány Weisz Annaként mutatkozott be és rossz élcelődésnek vette, amikor Markstein Józsi azonnal megkérte a kezét. De két héttel később már házasok voltak.
A második világháború végén, 1944-ben munkaszolgálatra hívták be, de sikerült megszöknie és álnéven műtőssegédként dolgozott a Rókus kórházban.
A háború után, 1945-ben egy orosz katonatiszt tolmácsaként került Szegedre, ahol megpróbálkozott a színészettel, de reményei nem váltak valóra.
Feleségéről azt hitte, hogy meghalt
Budapesten a híres bűvész, Rodolfo partnere volt a Fővárosi Nagycirkuszban, de ő önálló estre vágyott. Apránként kialakított magának egy egyszemélyes színházat, melynek írója, rendezője, főszereplője is volt. A Fővárosi Nagycirkusz szerződtette, ahová tódultak az emberek. Egy előadás közben, a manézs bejárata mellett megpillantotta feleségét Annát, aki rettenetesen lefogyva, rongyos kabátban állt a bejáratnál. Hatalmas lelkierővel, de sírással küszködve tudta csak befejezni jelenetét, és ezután omlottak egymás karjaiba.
A Fővárosi Nagycirkuszban Rodolfo mellett lépett fel, mint kétbalkezes segédbűvész (1946). Ekkora szeretett felesége Anna felerősödött, felépült. Első gyermekük, György ugyanebben az évben született, július 22-én.
Markos György is parodista, humorista, zenész és énekes lett. 1952-ben, megszületett második fia, István. 1954 tavaszán pedig lánya, Zsuzsa.
Együtt lépett fel Toto és Vittorio De Sicával, vicceket, poénokat írt Jacques Tatinak
A fővárosban, több színházban és varietében szerepelt: Royal Revü Színház, Vidám Színpad, melynek tagja volt (1951–1956) és a Kamara Varieté. A Vidám Színpadon olyan nagyságokkal lépett fel, mint Salamon Béla, Kellér Dezső, Komlós Vilmos. Nem tudni miért, de innen is távoznia kellett, pedig itt nem pofozott fel senkit. Több hónapos turnéra ment a Szovjetunióba (1956), és barátok lettek a legendás orosz humoristával Arkagyij Rajkinnal.
1958-ig Ausztriában és Belgiumban pantomim előadásokban szerepelt Marcel Marceauval is, aki később Budapesten meglátogatta. Vicceket, poénokat írt Jacques Tati filmrendezőnek, akinek egyik filmjében is szerepelt, együtt lépett fel Vittorio de Sica olasz filmszínésszel és a legendás humorista Totóval.
Öt idegen nyelven beszélt, angolul és franciául kiválóan, de Egyiptomban arabul is megtanult
Ismét Budapest következett, a Fővárosi Operettszínház, majd újra leszerződtette a Vidám Színpad. Önálló, sikeres műsora volt a Budapest Táncpalotában. Már az 1949-es évek elejétől szerepelt filmekben, A Díszmagyar (1949), Költözik a hivatal (1953) Dollárpapa (1956), Puskák és galambok (1961), Meztelen diplomata (1963), Az „idefigyeljenek emberek” televíziós filmben (1964), Hahó, Öcsi! (1970), Rumra cserélt feleség (1970) és még több filmben, de elvállalt reklámfilm szerepeket is. Öt idegen nyelven beszélt, angolul és franciául kiválóan, de Egyiptomban arabul is megtanult, ahol egy idő után bakancsban és burnuszban járt. Kairóban találkozott és sokat beszélgetett a világhírű nyelvész orientalistával, Germanus Gyulával, aki Abdul Karim néven az ezeréves Azhar mecsetiskolának a sejkje volt.
A Vigyázat, mázolva! című film, melynek főszereplője volt, elnyerte az oberhauseni fesztivál fődíját
Amikor újra hazatért színháztörténelmet írt humorista-parodistaként. Egyre népszerűbb lett, óriási paródiákat készített hatalmas sikerrel, és saját műsorai mellett, a televíziós és filmes szerepei is felejthetetlenek. Minden korosztály kedvence volt és az ifjúsági filmjeit Bagaméri a fagylaltos, a Keménykalap és krumpliorr című klasszikusokat ma is egy ország kedveli. Kisebb-nagyobb szerepekben, számtalan televíziós és mozifilmben szerepelt. De rengeteg kabaréjelenetben is szórakoztatta a nézőket és rádióhallgatókat. 1969-ben kapta meg az Érdemes Művész kitüntetést. A Vigyázat, mázolva! című film, melynek főszereplője volt, elnyerte az oberhauseni fesztivál fődíját. Az 1974-es Keménykalap és krumpliorr című film oklevelet kapott a müncheni Prix Jeunesse fesztiválon.
A Vidám Színpadon lépett fel 1975-ben vendégként, amikor előadás közben sürgős telefonhoz hívják, és jött a szörnyű hír: feleségét a házuk előtt megtámadták, retiküljét kezéből kitépték és súlyosan bántalmazták. A kórházban kiderült, hogy végzetes tüdőrákja van, és nem tudják már megmenteni. 1975. október 14-én halt meg. Markos József a mély gyászából hosszú idő után került ki.
A magyar televízióban először a humoros húszpercesei és az Alfonzo-show volt a nézők millióinak kedvence, de reklámfilmekben is játszott, és mondatai szólásokká lettek: „Ne nekem köszönje!”, „Van egy fölösleges százasa?” vagy a „Megvette már az e hetit”?
Néhány héttel születésnapja után 75 éves korában halt meg, 1987. május 31-én. György fiának ezt mondta a halálos ágyán: „Ne csinálj pánikot.”