凉州，即汉元狩二年（前121年），骠骑大将军霍去病远征河西，击败匈奴，获得的河西之地，并设立武威、张掖、酒泉、敦煌四郡。汉元封五年（前106年），汉武帝分天下郡县为十三州及司隶校尉部，各置刺史（京兆为司隶校尉），“十三刺史部”，其中凉州刺史部，包含原河西四郡之地，及陇西、陇东诸地。凉，意为“地处西北，地常寒凉”。
东汉立国，凉州曾增置武都、永阳、南安三郡，及安定属国、张掖属国、居延属国(西海郡)。汉末建安初，酒泉、张掖、敦煌、武威四郡，及居延属国五郡国析出凉州，设置雍州刺史，治姑臧。汉建安十八年（213年），并凉州入雍州。
魏黄初元年（220年），魏文帝曹丕重置凉州，辖武威等七郡，治武威郡姑臧县。晋泰始元年（266），晋武帝司马炎取代曹魏而自立，建国号为晋，定都于洛阳，凉州归入西晋。
张轨于姑臧之外增筑四城，并征召凉州九郡子弟，建立学校，设置崇文祭酒，举行春秋两季以射选士之礼仪。一时间凉州人文荟萃，经济繁盛，大气雄阔，为北方之最。姑臧城成为全国政治、经济、文化的三大中心之一，于北方大动乱时期，力保华夏衣冠文化，时有人言：“天下将乱，避难之所唯有凉州。张刺史德行气量不凡，天命莫非应此人？”
晋永嘉二年（308年），张轨因患中风而不能说话，以子张寔为中督护，代管凉州。凉州张氏坚守臣节，服从晋朝廷，数次出兵卫护晋帝，并不断朝贡。晋授张轨侍中、太尉、凉州牧、西平公，张轨坚决辞谢。
晋建兴二年（314年）五月，张轨病重去世，只以安西将军、安乐乡侯、护羌校尉、凉州刺史的名义下葬，以示身为晋臣。晋追赠张轨侍中，太尉，凉州牧，西平公。
此后，凉州张氏先后历经张寔、张茂、张骏、张重华三代四任凉州刺史，一直使用晋愍帝建兴年号，以晋臣自居，但实际上已是割据政权，史称张氏政权为前凉。
前凉建兴四十一年（353年），张重华死，庶兄张祚废张重华子张曜灵，自立为凉王，不再尊奉晋为正朔。其后张氏宗室内乱不已，经历十余年的夺位之争，到前凉末代统治者张天锡登位时，前凉国势已经大衰，并失去陇西。
东晋太元元年、前秦建元十二年（376年），前秦大军步骑十三万来攻前凉，张天锡不能抵挡，被迫出降，张氏前凉据有凉州七十年，历五代，九主，至此灭亡。
东晋太元七年、前秦建元十八年（382年），前秦以吕光为将，率军进击西域，开拓疆土。吕光一路西征，下焉耆、龟兹、平定西域三十余国。次年，前秦南征东晋，大败于淝水，无暇顾及西域独军，于是吕光率军东返。
至凉州，被前秦凉州刺史梁熙阻挡，吕光击败梁熙入驻姑臧，自称凉州刺史。因后秦姚苌叛前秦，占据关中及陇西陇东，所以吕光于前秦交通隔绝。
东晋太元十一年，前秦太安二年（386年），苻坚遇害消息传到凉州，吕光吕光下令三军缟素服丧，并自称使持节、侍中、中外大都督、督陇右河西诸军事、大将军、凉州牧、酒泉公等，建年号为太安，后凉实际立国。
东晋太元二十一年，后凉龙飞元年（396年），吕光称大凉天王。东晋隆安三年，后凉龙飞四年（399年），吕光临死前将皇位禅位给太子吕绍，自称太上皇，三天后去世。吕绍继位后，其庶兄吕篡杀吕绍自立，吕光之弟吕宝子吕超又杀吕篡，迎立自己的兄长吕隆为帝。
吕隆继位后，南凉秃发氏，北凉沮渠氏不断进逼后凉，再者吕隆为建威名，多杀后凉豪族、名流、宗亲，使得后凉人心惶惶，内外交困，百姓饥谨交迫，奔走流亡。姑臧城内人吃人屡见不鲜，饿死十余万。后凉国内除都城姑臧外，仅剩二郡，处于崩溃边缘。
后秦见后凉朝纲紊乱、国势衰落，于是在东晋隆安五年、后秦弘始三年、后凉神鼎元年（401年），发兵进攻后凉。七月，直驱姑臧城，大败凉军，斩首上万。九月，吕隆见再无法抵抗，只得向后秦投降，后秦接受后凉剩余疆域，封吕隆为后秦镇西大将军、凉州刺史、建康公，继续以凉国名义镇守姑臧。
后秦撤军后，吕隆重整军备，继续与南凉秃发氏、北凉沮渠氏互相攻杀，但国力损耗太多，终无力再战，害怕被其灭国，于是主动向后秦申请内迁，并获得后秦同意。后秦弘始五年、后凉神鼎三年（403年）八月，吕隆率残余后凉百官、军队、民众，弃守姑臧，去凉国号、帝号，迁往后秦国都长安，被后秦拜为散骑常侍、建康公。后凉据有凉州十八年，历四代国主，烟消云散。
东晋隆安元年，后凉龙飞二年（397年），后凉建康（非东晋都城建康，而是凉州酒泉郡）太守段业叛后凉，自立为凉州牧，建立北凉前身。段业以凉州大姓李氏子孙李暠为敦煌郡效谷县令，此后逐步升为持节、都督凉兴以西诸军事、镇西将军，兼任护西夷校尉、敦煌太守，成为北凉实力人物。
东晋隆安四年，后凉天玺二年（400年），李暠被北凉晋昌太守唐瑶推举为冠军大将军、沙州刺史、凉公，兼敦煌太守。李暠于是自立于北凉之外，在境内大赦，以干支纪年，改年号为庚子，并连续多年与北凉作战，争夺凉州西部控制权。史称李暠政权为西凉。
李暠建国后，积极纳谏，执法宽简，赏罚有信，并重视农桑，寓兵于农，在玉门关、阳关等地屯田，广积粮谷，敦煌地区因战乱而遭到破坏的经济，很快得以恢复和发展。
东晋义熙元年（405年），李暠自称大将军、大都督、兼任秦凉二州牧，大赦境内，改年号建初，并遣人携带奏章，抄小路前往建康（今江苏南京）谒见东晋朝廷，以晋臣自居。当年十月，西凉将国都自敦煌迁往酒泉。
东晋义熙十三年，西凉建初十三年（417年）正月，李暠病重，留遗诏予长史、异父同母弟宋繇，叮嘱其辅佐太子李歆二月，李暠去世，年六十七。
李歆继承西凉大权，并接受东晋大都督、大将军、凉公、凉州牧、护羌校尉等官职，改年号嘉兴。李歆不同于乃父，治国用刑过于严厉，又喜大造宫殿，西凉国力消耗过度，对抗北凉逐渐吃力。
宋永初元年，西凉嘉兴四年（420年）六月，刘裕代晋自立，建立宋朝，宋授李歆为都督高昌等七郡诸军事、征西大将军、酒泉公，李歆转为宋臣。
当年九月，北凉主沮渠蒙逊见李歆连年修造宫舍，并治国刑罚繁重，法规严峻，致使西凉国力衰弱，于是准备击灭西凉。先是散布消息，谎称北凉主力出征西秦，却偷偷将军队调回，以制造北凉防卫空虚假象，诱使西凉来攻，而中途埋伏一举破之。李歆果然中计，不顾其母及众臣告诫，率军三万出征北凉。
西凉军进入北凉境，先后在怀城、蓼泉两次遭遇北凉军埋伏，连连大败，李歆更是在蓼泉阵亡，西凉军大败，北凉军乘胜直驱西凉都城酒泉，一举破之。西凉残军败退回敦煌，拥立李歆弟李恂，称冠军将军、凉州刺史，改元永建，勉力维持。
宋永初二年，西凉永建二年，北凉玄始十年（421年），北凉主沮渠蒙逊率兵来攻敦煌，李恂闭城坚守，北凉军引水灌敦煌，李恂自料不能坚持，于是乞降，北凉不受，李恂绝望中自杀，敦煌被北凉攻破，西凉灭亡。西凉占据凉州西部二十一年，历三主而亡。
西凉亡后，李歆第三子李重耳趁乱逃出凉州，投奔北魏，后历任北魏恒农太守、安南将军、豫州刺史。李重耳子李熙，北魏金门镇将，戍守武川镇。李熙子李天锡，北魏邢州任县新市疃疃主。李天锡子李虎，西魏、北周八柱国之一，封唐国公。李虎就是唐高祖李渊祖父。西凉李氏，即后世大唐皇室之祖。
从前凉、后凉、西凉三个凉州地方政权自立国到灭亡的过程来看，都有相似的特点：
地方大族或实力派官员趁局势混乱，自立为王，依靠原有所掌握的势力，占据凉州，自成一国。这样的立国模式，完全靠主君个人影响力来号令下属，一旦开国之君去世，很快国家就因争夺权力陷入乱局，导致外部强敌攻击而灭国。虽然前凉表现稍好，但也是占了同期东部邻国群雄并立，一时顾不上凉州，所以才能安稳几十年，一旦中原完成一统，很快就被统一后的强国所灭。
凉州疆域广阔，但是地广人稀，且南北均为高山荒漠阻隔，东西狭长，河西四郡就全部位于地势平坦的河西走廊之上，呈连线分布。各割据政权只能将有限的人力物力集中在不多的几个大城，以汇集力量，维持国力。这样一来，强敌入侵，以优势军队沿河西走廊一路长驱直入，只要攻克其国都或一二重要城池，整个国家就土崩瓦解，无法组织抵抗，只有出降而已。
另外，凉州地方贫瘠，农业薄弱，经济落后，无法承载太多的人口，也就无法孕育出一个强大的政权。凉州长时间分裂为各不统属的诸凉割据势力，互相攻伐，更没有能力建立如中原一样成熟的郡县制。整个凉州，也只有姑臧、酒泉、张掖、敦煌等寥寥几座适合成为国都的大城，诸凉分别占据建国。所以，一旦外部强敌入侵，只要拿下这几座重要的城池，就代表着已经消灭割据此地的政权，前凉、后凉、西凉概莫能外，另外的南凉、北凉也是一样的遭遇。
