1960-datel toimus koolielus palju muudatusi. 1. septembril 1960 alustati õppetööd kahes majas, kool sai endale filiaaliks endise vene õppekeelega 6. Keskkooli ruumid Rahu tänaval. See 1947. a valminud maja oli äärmiselt halvas seisukorras, kuid see võimaldas hakata tööle ühes vahetuses.

Uue koolimaja valmimisega 1967 muutus hoone ekskursiooniobjektiks. Peale oma vabariigi toodi siia külalisi ka kaugemalt, teistest liiduvabariikidest ja välismaalt. Uut koolimaja tutvustati soomlastele, ameeriklastele ja üleliidulise õpetajate kongressi saadikutele.

Jõudsalt kasvas õpilaste arv, õppeprogrammidesse lisandus tootmisõpetus, toimus üleminek 8-klassilisele haridusele ja algas õppetöö „mammutkooli“ tingimustes, kus õpilaste arv oli üle 1400. 1970/71. õa õppis koolis ajaloo suurim õpilaste arv – 1450. Kuna õpilasi oli palju (41 klassikomplekti), siis töötati kahes vahetuses.

Koolis oli matemaatika ja pedagoogika klass, muusika ja kunstiklass. Kool sai tänu Põlevkiviuurimise Instituudile esimesena Eestis arvutiklassi. Arvutid olid nii suured, et tuli kraanaga teise korruse aknast sisse tõsta.

1980-datel toimus koolis rida uuenduslikke muudatusi. 1981./82. õa läksid algklassid üle 5-päevasele töönädalale, millele läks hiljem üle kogu kool. 1985. a algas üleminek kuueaastaste õpetamisele ja 1986./87. õa alustasid tööd kaks kuueaastaste klassi. Neile sisustati magamisvõimalustega ruumid, telliti sobiv mööbel ja osa algklasside koridorist muudeti nende mängumaaks. Katsetati ka tunni lõpetamist ilma lõpukellata (1987/88), planeeriti õppekabinettide kaotamist. Kadus koolivorm.

1989. a saadi tagasi endine nimi Jõhvi I Keskkool. 1993. a alustas tööd kooli hoolekogu ja õpilasomavalitsus. Kool sai arvutiklassid, loodi sõprussidemed Rootsi ja Saksa koolinoortega. Traditsiooniks muutusid kooli rahvatantsupeod.
1996. a alates kandis kool Jõhvi Gümnaasiumi nime.

Gümnaasiumi nime taastamisega tulid õppekavasse erinevad õppeharud. Nendeks olid esimesel tööaastal humanitaar-,  majandus- ja loodusharu. Hiljem piirduti kahe haruga.