据《平顶山市地名集锦》载，琴台为唐代所建。传唐代元德秀（字紫芝）任鲁山县令期间，治理有方，体恤民情，想方设法减轻赋税劳役，百姓拥护，每到交粮时间，元德秀在琴台弹琴，百姓踊跃交粮，人称“琴台善政”。街道因此得名。

琴台街道是2007年县委、县政府决定成立的新机构。下辖12个村（街），其中农业村（街）10个，分别是：三街、四街、五街、宗庄村、刘营村、余堂村、马洼村、八里仓村、米章村、贾王庄村；非农业村（居委会）2个，分别是：建设街居委会、友谊街居委会。全街道总户数11709户（其中少数民族528户），总人口数4.7万人，其中常住人口44667人，流入人口2340人。回汉两民族杂居，回族人口1978人。有63个村（街）民组，52个自然村，总面积18.14平方公里。 琴台街道位于鲁山县城墨公路以西，老城大街、西关大街、311国道以北，西至八里仓村，北至昭平台水库北干渠，是集城乡一体，人口最密聚、商+查看详细琴台街道概况>>

2006年拆分鲁阳镇为琴台等4个街道，属鲁山县。