汉分属虹、谷阳、符离、夏丘、下邳诸县领辖。

三国属魏之下邳。

西晋属沛国；东晋属阳平郡。

南北朝改阳平郡为谷阳郡，又置连城、高昌二县，灵璧县南郊隶属连城县。梁置临潼郡，北齐废为县，后又置潼郡，辖今县境北部。

隋初属彭城郡；后改属下邳郡。

唐初属谷阳县，隶徐州。显庆元年（656），夏丘更为虹，废谷阳入蕲县，灵璧县分属虹、蕲两县。元和四年（809），虹县部分属宿州，隶河南道。

五代十国，灵璧县分属宿州、泗州之地。

宋元祐元年（1086）析虹县的零璧镇置零璧县，属宿州，隶淮南东路；建炎后没于金。

元初复立灵璧县，属宿州，隶河南归德府。至元四年（1267）改属泗州；十七年复属宿州。

明初属宿州，洪武四年（1371），宿州改属临濠府；六年属中立府；七年属中书省凤阳府；后属凤阳府，直隶南京。

清初沿明制。顺治二年（1645）改属江南省凤阳府；康熙六年（1667）改属安徽省，先后属凤阳府、凤颍六泗道管辖。

中华民国元年（1912）4月废府州设县，灵璧县直属安徽省。

民国3年置道，属淮泗道。16年废道，又直属安徽省。21年，安徽省设10个行政区，灵璧县属第六行政区，24年改为9个行政督察区。灵璧县属第六督察区。抗日战争期间，先后裁并改设8个专署，灵璧县隶属第六专署。34年，安徽省设9个行政区，灵璧县属第四行政区。37年11月25日，灵璧解放，属江淮解放区第三行署。38年4月21日改属皖北行署宿县专区。

中华人民共和国建立后，灵璧县仍属皖北行署宿县专区，1952年4月12日改属安徽省宿县专区，1956年元月12日改属安徽省蚌埠专区。

1961年4月13日，蚌埠专区划分为滁县、宿县两专区，灵璧县属宿县专区。

1971年3月29日，宿县专区改名为宿县地区。

1979年2月27日，宿县地区改名为宿县地区行政公署。至今，灵璧县隶属关系未变。