有关古琴的记载最早见于《诗经》、《尚书》等文献。《尚书》载：“舜弹五弦之琴，歌南国之诗，而天下治。”可知琴最初为五弦，周代时已有七弦。东汉应劭《风俗通》：“七弦者，法七星也，大弦为君，小弦为臣，文王、武王加二弦，以合君臣之恩。”三国时期，古琴七弦、十三徽的型制已基本稳定，一直流传沿续到现在。

古琴的演奏形式主要有琴歌、独奏两种。根据文献记载，先秦时期，古琴除用于郊庙祭祀、朝会、典礼等雅乐外，主要在士以上的阶层中流行，秦以后盛兴于民间。关于以琴为声乐伴奏的形式，早在《尚书》中，已有"搏拊琴瑟以咏"的记载。周代，多用琴瑟伴奏歌唱，叫"弦歌"，即唐宋以来所谓的琴歌。从汉代蔡邕所着《琴操》中，有歌诗五曲，即周之弦歌，其中的"十二操"、"九引"以及"河间杂歌"，都是援琴而歌的。

春秋战国时期，古琴的独奏音乐已具有一定的艺术表现能力，如伯牙弹琴子期善听的传说。当时有名的琴师有卫国的师涓，晋国的师旷，郑国的师文，鲁国的师囊等；着名的琴曲如《高山》、《流水》、《雉朝飞》、《阳春》、《白雪》等，均已载人史册。

汉、魏、六朝时期，古琴艺术有了重大发展，除在《相和歌》、《清商乐》中作伴奏乐器外，还以"但曲"演奏形式出现。如器乐曲《广陵散》、《大胡笳鸣》、《小胡笳鸣》等，反映出古琴作为器乐演奏的一个重要发展阶段。汉末的蔡邕父女和魏、晋间的嵇康，都是当时着名的古琴演奏家和作曲家。如嵇康擅长弹奏古琴名曲《广陵散》，己传为历史佳话。创作的着名乐曲有嵇氏四弄：《长清》、《短清》、《长侧》、《短侧》；蔡氏五弄：《游春》、《渌水》、《幽居》、《坐愁》、《秋思》；传为竹林七贤中的阮籍所作琴曲《酒狂》以及六朝宋王义庆《乌夜啼》。

隋唐时期，西域音乐盛行，琵琶兴起，