相国这个职位，和丞相并不完全相同，早在春秋晋国时期已有之。先秦时这个职位的名字叫“相邦”。后来多国开始设此官职，代表人物比如被拜为鲁国相的至圣先师孔子，挂六国相印的苏秦，以横破纵、先后任秦魏两相的张仪等等。后来秦始皇认为相邦权力太大，几乎占据了军事、政事的所有大权,便干脆彻底废除了相邦一职，所以李斯也只是做到了丞相一职。

时至西汉刘邦再次设立相邦一职，但避刘邦名讳改相邦为“相国”，相国一般仅设一人，而丞相则分设左、右。《史记》有载：“上已闻淮阴侯诛,使使拜丞相为相国。” 公元前196年，淮阴侯韩信有谋反的嫌疑被萧何设计诛***，萧何有功，从丞相升为相国。这事说明西汉时期，相国的职位是在丞相之上。东汉时期通常不再设相国一职，但到了东汉末年，出现了一位跋扈的相国——董卓。后来曹操掌权时，献帝又不再设相国，任曹操为丞相，蜀汉亦设丞相而不设相国。而到了后世两晋南北朝时期，相国一般由权臣担任，而之后的朝代，几乎不再设立相国一职。