临泉，古称沈地。历史悠久，源远流长。公元前1042年，周武王死后，成王年幼，周公姬旦辅佐成王治理国家，主管国家政务，在今临泉县境置沈子国，亦称沈国，封周文王第十子聃季载“食邑于沈”。公元前506年，蔡国公孙姓率师灭沈。获沈子嘉归，杀之。后来楚国又灭蔡国，临泉属于楚地，此处设平舆邑（战国属楚，以地势平坦，为车辆的发祥地，改名平舆）。秦始皇二十六年（公元前221年）置寝县，西部置平舆县。汉改寝县为寖县（王莽改为闰治），同时在西部置鲖阳县，治所在今鲖城集，还置有平舆县（治所不详），均属汝南郡。东汉时，将寖县赐给李通并置固始侯国；封阴庆为鲖阳侯，在今鲖城置鲖阳侯国；永建元年（126年）封刘显为阜阳侯，置阜阳候国；还置有平舆县（治所不详）。三国改置为鲖阳县、固始县属汝南郡。西晋仍置鲖阳县、固始县，属汝阴郡。
姜子牙雕像
东晋将鲖阳县、固始县并入新蔡县，后复立，属新蔡郡。南北朝时，572年，北朝北齐武平三年，废平舆县。东魏武定八年（公元550年）改固始为财州，北齐废财州、鲖阳县，置褒信县。隋开皇三年（583年）废褒信县置沈州，把原褒信县分为鲖阳县和沈丘县。唐武德元年（618年）在今县东南部置高塘县，六年废，入汝阴县。贞观元年（627年）废鲖阳、沈丘两县并入汝阴县。神龙二年（706年）分汝阴复置沈丘县仍属颍州。
70年代临泉农村
914年，安徽淮北设淮泗道，临泉地方属淮泗道阜阳县。1928年废道存县，临泉仍属阜阳县。
1932年，地方绅士以灾民为名，赴省请愿设制县城，理由是临泉地处豫皖边界，土地辽阔，距阜阳县城较远，鞭长莫及，豫匪群起，为害甚惨。安徽省府同意建县。民国23年（1934年）9月，析阜阳县西乡设立新县，因县城滨临泉河，故名临泉县，县政府驻地在沈丘集，属安徽省第七行政督查区。1935年1月正式成立临泉县，驻地沈丘集，属安徽省第七专员公署。县下设三个区。民国28年（1939年），改属安徽省第三行政督查区。1947年10月临泉解放，县民主政府驻地宋集刘寨，辖11个区；在西部与河南省交界的边隅地区建立泉南县，县民主政府驻地黄岭侉子营，辖11个区；12月在杨桥、胡集、陶庙、砖集和阜阳、太和两县边隅地区建立泉阳县，县民主政府驻地胡集、辖8个区；次年7月，将临泉县城关区所辖西起周楼集，东至油坊庄，北接沈丘、泉阳两县境，南到蒋寨，建立临泉市，市民主政府驻原国民党县政府所在地（即县针织厂），辖5个区。
统归豫皖苏区第四地委、四专署管辖。1949年3月，将临泉、泉南、泉阳县和临泉市撤销恢复旧临泉县界，成立新的临泉县，县政府驻原县城。全县划为15个区、256个（镇）。属皖北人民行政公署阜阳专区。1952年起属安徽省阜阳专区。1971年起临泉县属安徽省阜阳地区。1996年起属安徽省阜阳市。
