伯牙从小就酷爱音乐，他的老师成连曾带着他到东海的蓬莱山，领略大自然的壮美神奇，使他从中悟出了音乐的真谛。
他弹起琴来，琴声优美动听，犹如高山流水一般。虽然，有许多人赞美他的琴艺，但他却认为一直没有遇到真正能听懂他琴声的人。他一直在寻觅自己的知音。
有一年，伯牙奉晋王之命出使楚国。八月十五那天，他乘船来到了汉阳江口。遇风浪，停泊在一座小山下。
晚上，风浪渐渐平息了下来，云开月出，景色十分迷人。望着空中的一轮明月，伯牙琴兴大发，拿出随身带来的琴，专心致志地弹了起来。他弹了一曲又一曲，正当他完全沉醉在优美的琴声之中的时候，猛然看到一个人在岸边一动不动地站着。
伯牙吃了一惊，手下用力，“啪”的一声，琴弦被拨断了一根。伯牙正在猜测岸边的人为何而来，就听到那个人大声地对他说：“先生，您不要疑心，我是个打柴的，回家晚了，走到这里听到您在弹琴，觉得琴声绝妙，不由得站在这里听了起来。”
伯牙借着月光仔细一看，那个人身旁放着一担干柴，果然是个打柴的人。
伯牙心想：一个打柴的樵夫，怎么会听懂我的琴呢？于是他就问：“你既然懂得琴声，那就请你说说看，我弹的是一首什么曲子？”
听了伯牙的问话，那打柴的人笑着回答：“先生，您刚才弹的是孔子赞叹弟子颜回的曲谱，只可惜，您弹到第四句的时候，琴弦断了。”
打柴人的回答一点不错，伯牙不禁大喜，忙邀请他上船来细谈。
那打柴人看到伯牙弹的琴，便说：“这是瑶琴！相传是伏羲氏造的。”接着他又把这瑶琴的来历说了出来。
听了打柴人的这番讲述，伯牙心中不由得暗暗佩服。接着伯牙又为打柴人弹了几曲，请他辨识其中之意。
当他弹奏的琴声雄壮高亢的时候，打柴人说：“这琴声，表达了高山的雄伟气势。”
当琴声变得清新流畅时，打柴人说：“这后弹的琴声，表达的是无尽的流水。”
伯牙听了不禁惊喜万分，自己用琴声表达的心意，过去没人能听得懂，而眼前的这个樵夫，竟然听得明明白白。没想到，在这野岭之下，竟遇到自己久久寻觅不到的知音，于是他问明打柴人名叫钟子期，和他喝起酒来。俩人越谈越投机，相见恨晚，结拜为兄弟。约定来年的中秋再到这里相会。
和钟子期洒泪而别后第二年中秋，伯牙如约来到了汉阳江口，可是他等啊等啊，怎么也不见钟子期来赴约，于是他便弹起琴来召唤这位知音，可是又过了好久，还是不见人来。
第二天，伯牙向一位老人打听钟子期的下落，老人告诉他，钟子期已不幸染病去世了。临终前，他留下遗言，要把坟墓修在江边，到八月十五相会时，好听伯牙的琴声。
听了老人的话，伯牙万分悲痛，他来到钟子期的坟前，凄楚地弹起了古曲《高山流水》。弹罢，他挑断了琴弦，长叹了一声，把心爱的瑶琴在青石上摔了个粉碎。
他悲伤地说：我唯一的知音已不在人世了，这琴还弹给谁听呢？”