中国古代书院始于唐朝，最早是官方修书校书和藏书的地方，之后转变为民间私人读书讲学的地方，当时有松州书院，义门书院，梧桐书院等较为有名的书院。
到了宋朝，因为五代十国混战，官方教学废弛，一直到宋初，统治者仍在忙于征战，无暇顾及兴学设教，于是私人讲学的书院得以进一步发展，形成影响极大、特点突出的教育组织。出现了中国历史上最著名的四大书院，即，应天书院、岳麓书院、白鹿洞书院，嵩阳书院。
宋代学者吕祖谦在《白鹿洞书院记》中记载了当时的盛况：“国初斯民，新脱五季锋镝之厄，学者尚寡。海内向平，文风日起，儒生往往依山林，即闲旷以讲授，大率多至数十百人。应天书院、岳麓书院、白鹿洞书院及嵩阳书院为尤著，天下所谓四书院者也”
这些古代书院因为私人设置和讲学，兼有教学和学术研究双重性质，一般既是教学机构，又是学术研究机构，书院的主持人或讲学者多为当时的著名学者，甚至是某一学派的代表人物。因此在教学中，和官方设置的学院有很大不同。
书院的教学人员，大多数都是书院的管理人员，而且管理人员非常少。一般只有山长（院长），规模较大的书院增设副山长、助教、讲书等职。这些人的主要工作还是教学，其他事务都是辅佐而已，没有正规编织。正因为学院的松散，教学风气十分开放。
教学的学者很自由，一个学者可以同时在多个书院讲授学问，一个书院也可以允许多个学派的学者来讲学，因此书院间的学术交流十分频繁。
学院的学生也有自由，在书院内，学生可以自学有兴趣的课程，可以独立研究自己的学术命题。读书推荐独立思考，教师从旁辅导，书院考核不只在乎书面成绩，平时的表现和品德也是考核标准。
书院外，学生可以和学者一样，到不同书院去听讲，其他书院也非常热情款待。而往往由于学术观点不同，不同书院之间会自发的组成辩论和会讲。很多时候书院内部也会有学者之间，学生之间，学者和学生之间的论辩。
历史上著名的“鹅湖之会”，就是一次巨大的学术交流和辩论大赛。规模化，自发性的辩论和会讲是书院教学的一个重要内容。
说到最后，顺便提一句，这些书院的教学经费多以自筹为主，由师生共同管理或监督各项开支。
