夏代王杼五年（公元前2053年），封曲烈为鄫，有向（今向城）、次室（今兰陵）诸邑。

公元前567年，鄫国为莒国所灭，后莒国被齐国灭，鄫地为鲁国所辖，鲁国设有向、次室、鄫（今车辋）诸邑。

公元前487年，兰陵为吴国属地。

公元前468年，兰陵为越国属地。

公元前261年，楚国占领兰陵，置兰陵县。直至公元前221年，县境分属兰陵、襄贲2县。

秦统一后，县境分属东海郡之缯、兰陵、襄贲3县。

西汉时，属徐州刺史部东海郡之缯县、兰陵、襄贲3县。

东汉时，属琅琊国之缯县及东海郡之兰陵、襄贲县。

三国时，东海郡之兰陵、襄贲、缯3县。

晋永平元年（291年），兰陵郡从东海郡中析置，县境分属兰陵郡之兰陵县、琅琊国之缯县、东海郡之襄贲县。南朝刘宋时，县境分属琅琊郡之即丘县、费县和东海郡之襄贲县。

北魏时，分属兰陵郡之兰陵县、琅琊郡之即丘县、郯郡之郯县。

隋时，分属临沂县、兰陵县。

唐初，分属临沂、兰陵、缯县。贞观元年（627年），县境分属河南道沂州之临沂县、丞县。

宋代，属京东东路临沂县、丞县。金时属山东东路临沂县、山东西路邳州兰陵县。

元代，属中书省山东东西道宣慰司益都路峄州和沂州临沂县。

明清两代，分属沂州府之兰山县、费县、郯城县。

民国二年（1913年），府制取消，复设临沂县，县境分属临沂县六、七、八区，郯城县四、五区，费县二、七区。

民国二十六年（1937年），协商成立临郯费峄4县边区联庄会办事处。

民国二十八年（1939年）2月，临郯费峄四县边区联庄会办事处在车辋召开会议进行改组，改称临郯费峄四县边区联合办事处。

民国二十九年（1940年）3月，临沂县抗日民主政府在庄坞成立。

民国三十年（1941年）3月28日，临郯费峄四县边联抗日人民代表大会在万村召开，成立临郯费峄四县边区政府，简称“边联县”。

民国三十二年（1943年）春，中共鲁南区委决定建立兰陵办事处。

民国三十三年（1944年）3月，改称兰陵县。同年春，边联县改称赵镈县。

民国三十四年（1945年）10月，兰陵县撤销，其部分辖区归属赵镈县。同年底，苍山县境只赵镈县1个建制。

民国三十六年（1947年）春，将赵镈县东半部析出置县，为纪念1933年中共领导的“苍山暴动”，取名苍山县。

民国三十七年（1948年），重建兰陵县。

1950年5月11日，撤销赵镈县，其辖区大部分并入苍山县。

1953年，撤销兰陵县，其辖区部分并入苍山县。

1956年撤销向城、兴明2个区，将向城分划给文峰、贾庄2个区，将兴明分划给卞庄、南桥2个区。

1994年，临沂地区改置为地级临沂市，苍山县隶属临沂市。

1996年苍山县辖卞庄、兰陵、大仲村、长城、磨山、神山、向城、层山、尚岩、车辋、南桥11个镇和贾庄、矿坑、流井、大炉、下村、鲁城、新兴、横山、三合、二庙、沂堂、芦柞、小岭、甘霖、兴明、庄坞、韩塘17个乡。

2001年1月5日，苍山县由14个镇、14个乡调整为14个镇、7个乡。

2009年9月21日，撤销苍山县卞庄镇，设立卞庄街道，全县辖1个街道、13个镇、7个乡。

2010年，苍山县沂堂镇划归罗庄区管辖；撤销鲁城乡、矿坑乡，设立鲁城镇、矿坑镇。调整后，全县辖1个街道、14个镇、5个乡。

2011年11月，撤销二庙乡，并入长城镇；撤销层山镇，并入庄坞镇；撤销兴明乡，并入向城镇；撤销三合乡，设立芦柞镇，并将卞庄街道的前芦柞东村、前芦柞西村等22个行政村划归芦柞镇管辖；撤销贾庄乡，设立金岭镇，并将卞庄街道的东坊上、西坊上等49个行政村划归金岭镇管辖。调整后，苍山县辖1个街道、15个镇、1个乡。

2014年1月8日，民政部同意并批复苍山县更名为兰陵县。1月21日，正式恢复为兰陵县。

2018年8月30日，山东省政府正式批复撤销金岭镇，设立苍山街道办事处，“苍山”这一元素得以保留。

现辖大仲村、兰陵、向城、长城、磨山、神山、尚岩、南桥、车辋、庄坞、新兴、鲁城、芦柞、矿坑等14个镇，下村1个乡，卞庄街道、苍山街道2个办事处，兰陵经济开发区管委会1个省级开发区。