金山中学的前身金山书院，是在清光绪三年（１８８７年），由时任潮州总兵的方耀在清办积案和组织军屯所开发的田地中，拨出一部分作为院产，在当时名绅士郭廷集主持下，以潮州府城北金山顶濂溪祠为主体所建成的。
金山书院一直由名师执掌院务，先后聘请陈维岳、廖廷相、何凌端、柳芳、吴道镕、杨国璋、温仲和、何寿朋等饱学名士任山长（即校长）。主讲“四书”、“五经”，学生学习《九章经》，兼读《孝经》、《公羊传》、《谷梁传》、《周礼》、《尔雅》及诰，学作八股文、诗、赋、策、论等，及后又相继开设算学、外语、体操等科目，其中还有由温仲和编写的《代数几何算稿》。书院聚集一批名儒，如吴道镕、温仲和、温丹铭、黄际清、王师愈、郭经、崔炳炎、郑国藩等，他们主张结合实际做学问，朴学学风因之影响了岭东学人。
金山书院创办即被定为潮州府所辖的二十多间官学中最高学府，其招收虽然面向潮州府所辖，但是要经过县试、府试等严格的考试，成绩在前１００名的秀才才有资格到该院就读。而且其前４０名定为廪善生，由官府供应伙食，再４０名定为增广生，自备伙食，后２０名为附读生。一直到光绪二十五年，经批准每期学员才扩招到１４０名。金山书院学制三年，期间设的两次统考：第一次称为岁考，成绩分为六等，一、二等成绩者给予奖励，非廪膳生可升为廪膳生，三等成绩者待遇如旧，四等成绩者给予扑责，五等成绩者降低待遇，六等成绩者即被开除；第二次称为科考，一、二等成绩者列入科举生员的资格，可被选送参加乡试，三等成绩后奖惩与岁考同。配合这二次统考，书院还组织月考、季考等。在严格的教学条件下，金山书院学员的中举率相当高，仅１９０４年就中举２８名举人，名冠全省。１８８７年１２月，两广总督张之洞巡视潮州期间，到金山书院参观，指令潮州知府增加书院经费，并倡议辟建金山书楼。该楼于１８９２年１１月建成，张之洞亲题“小琅环”匾，年已七十的李士彬知府题联曰：“妃呼豨！此楼长贮此书，便是升平日月；归去来，太守自嫌太老，会看多士风云。“收藏各类书籍一万多卷，名出版家、署理潮州知府方功惠捐出了不少个人收藏的善本图书。１８９４年，广东巡道曾纪泽又划拨经费，由方功惠主持购买图书。金山书楼，无论是藏书数量、还是质量，在岭东地区都是首屈一指的。藏书楼还藏刻书板，方耀经营金山书院时，曾设韩江书局，购刻书籍，今存广东省中山图书馆的清刻本《醉经楼集》卷首就有“潮州金山书院藏版”的字样。又光绪年间重刊乾隆《潮州府志》，书版也藏于该楼。１９２２年，藏书楼在八二风灾中，楼摧书毁。现汕头市金山中学、潮州市谢慧如图书馆尚存有该楼旧藏本。