1924年6月至1927年8月，义乌县立中学筹建阶段。1927年9月1日，学校正式开学，招初中两个班，学生120人。筹建时学校拟名为“义乌县立中山中学”，开学时正式定名为“义乌县立初级中学”，朱式欧为义乌中学首任校长。1928年4月，冯雪峰来校任教，成立共青团义乌初级中学支部。1932年，学校开办“民众学校”，有“识字室”4个，学员76名。1931年至1936年，先后附设一年制简师班，三年制师讲班，四年制师范简易科各一班。1938年，学校设立“推广部”，在县城附近办起民众夜校15所，同年，因日寇飞机轰炸义乌县城，学校一度迁至江湾殿口商村（1938年至1946年1月，抗战期间，校址十迁）。1949年6月，学校由义乌县人民***接管。1951年，学校教育工会成立。1952年9月，遵照省教育厅指示，学校设立高中部，招收学生3个班，学制三年。（一说1953年）正式定名为“浙江省义乌中学”。1960年，学校被确定为“十年制”试点学校。1966年，文化大革命开始学校停课。1968年10月，文化大革命中第一次初中招生，共十个班，学制二年。1970年，文化大革命中第一次高中招生，学制二年。1978年，学校被定为义乌县县属重点中学。1980年，学校高中入学新生学制由2年制为3年制。1981年5月，学校被列为浙江省80所重点中学之一。1986年6月，成立“义乌中学家长委员会”，创办“义乌中学家长学校”。1988年，义乌市教育局决定浙江省义乌中学自下半年开始停止初中招生，改为高级中学。1995年，评为浙江省一级重点中学。2014年4月，被评为浙江省首批一级普通高中特色示范学校。