1919 muudeti Ministeeriumikool Jõhvi Alevi Algkooliks, mis 1920ndatel aastatel töötas Jõhvi mõisa peahoones kuni  1929 avati uus, uusklassitsistlik koolihoone, mille projekteeris arhitekt August Tauk.

Jõhvi keskkooli asutamise küsimus võeti esmakordselt päevakorda Jõhvi alevinõukogu koosolekul 1919. a suvel, kus otsustati ümbruskonna valdade esindajad ühes alevinõukogu esindajatega ühisele nõupidamisele kokku kutsuda, et keskkooli asutamise küsimus laiemale ringkonnale otsustamiseks anda. Kool otsustati ühehäälselt avada Jõhvi alevis, kui ümbruskonna keskpunktis.

Maakonnanõukogu otsuse kohaselt lubati Jõhvis avada 1919. a sügisel kaks keskkooliklassi kolme õppejõuga. Ametliku volituse kooli asutamiseks sai A. Möller 1. septembril 1919, seda päeva tuleb ka kooli asutamise päevaks pidada, kuigi koolitöö algas hiljem. Praktiliste raskuste tõttu – polnud ruume – oli esimene koolipäev 20. septembril ja seda päeva pühitsetakse pidulikult kui kooli aastapäeva.

Esimeseks koolipäevaks avati kahe klassiga kool Jõhvi alevis Narva mnt 29 Madis Nigoli eramajas 33 õpilasega. Samades ruumides asus ka Jõhvi ministeeriumikool ning peamiselt selle vanemate klasside õpilastest moodustatigi gümnaasiumi kaks viimast klassi. Esimesed õpetajad olid A. Möller (juhataja kohusetäitja ja eesti keel), A. Värav (matemaatika), V. Noortoots (käsitöö), R. Ormus (joonistamine), M. Dietric (saksa keel), J. Olivier (prantsuse keel), M. Mamberg (võimlemine), A. Okelmann (maateadus), A. Mägar (loodusteadus), P. Veevo (vene keel), V. Kroni (ladina keel), R. Sööt (laulmine), A. Köbin (ajalugu), A, Mattiesen (matemaatika). Nad olid tööle võetud õpetaja kohusetäitjatena.

Õppimine gümnaasiumis oli tasuline – 1000 marka aastas, alates 1921/22 õppeaastast 1500 marka aastas. Majanduslikult halvemal järjel olevad õpilased vabastati osaliselt või täielikult õppemaksust.

1921. aasta alguses kolisid osa algkooliklasse ja kõik reaalgümnaasiumi klassid Jõhvi mõisa endisesse härrastemajja. Algkooli nooremad klassid jäid aga edasi reaalgümnaasiumi endisesse üürimajja vastava lepingu põhjal kuni õppeaasta lõpuni.

3. juunil 1922 lõpetas reaalgümnaasiumi esimene lend.

7. detsembril 1922. a võttis Riigikogu vastu uue keskkoolide seaduse. See tõi muudatusi ka meie kooli ellu. Seadus hakkas kehtima 1. augustil 1923 ja sellest kuupäevast oli kooli ametlik nimetus Viru maakonna Jõhvi Ühisgümnaasium.

1923. a algas uue koolimaja ehitus, mis kestis 1923. a märtsist kuni  novembrini. Vastvalminud uude majja koliti õppetöö alates 26. novembrist 1923. Uus koolimaja oli üsna tavaline kahekordne puuehitis, mis lõhnas tollaste vilistlaste mälestuste järgi pisut tolmu ja nõrgalt õlitatud põranda järele.

Koolis töötas humanitaar- ja põllumajandusharu. Põllumajandusharu  õpilaste praktika jaoks renditi Jõhvi mõisast 2 tiinu (umbes 2 hektarit) maad. Tartu Ülikooli meteoroloogiline jaam avas gümnaasiumi  juures ilmajaama.

Pikemat aega käis kemplemine kooli ühe haru järkjärgulise sulgemise üle. Tänu sellele, et Jõhvi mõisa maad läksid suures osas sõjaväe käsutusse ja kooli muutmine põllumajandusgümnaasiumiks seetõttu luhtus, jätkas kool 1930. a sügisest tööd viieklassilise humanitaargümnaasiumina.

1931. a kevadeks asus vabariigi valitus avalike keskkoolide võrgu koondamisele. Virumaal pidid  minema  sulgemisele kõik maavalitsuse poolt  ülalpeetavad koolid, ka Jõhvi Gümnaasium langes suletavate nimekirja. Algas võitlus gümnaasiumi säilimise nimel.
 
20.06.1931. a otsusega arvatakse Jõhvi Gümnaasium avalike keskkoolide võrgustikust välja augustist 1931. Kool jätkas tegevust eragümnaasiumina (Jõhvi Era-Ühishumanitaargümnaasium) viie klassiga.

1938. a kevadel lõpetas gümnaasium oma tegevuse, andes viimase, 18. lennu. Jõhvi linn ühes teda ümbritseva laiaulatusliku tagalaga pidi leppima keskkoolidega – Jõhvi Progümnaasiumi (algkooli 4. klassi lõpetajatele) ja Reaalkooliga (algkooli 6. klassi lõpetanuile).

1940. a teisel poolel toimusid riigielus suured muudatused ja kahjuks kooli kroonikaraamatus puuduvad selle õppeaasta kohta sissekanded.