在人类现存各大文明的历史演进中，有一种教育从未离开。无论是以美国为首的继承古希腊、古罗马文明的西方文明，文字记载历史最长的中华文明，还是同样历史悠久的伊斯兰、印度文明等等，都能看到这种教育的存在。它没有现代意义上的专业属性，它的内容关于道德、人格和智慧，形式上通常比较接近现代的人文学科。它的最低目标是培养民众的基本素质、养成健全人格、形成对本文化的认同，最高目标是使青年树立正确的志向，启迪他们的智慧，影响和感召他们勤奋、充实地成长为栋梁，使他们中间有人能为文明续命，为传统开新。
今天，美国将这种教育称为“博雅教育”（Liberal Arts）和“普通教育”（General Education），日本相应地叫做“教养教育”和“一般教育”，我们称之为“通识教育”。将前述的教育理念翻译到现代高等教育来看，如果说专业教育和职业教育培养的是“ 技”和“能”，那么通识教育的核心就是涵养人的“气”和“魂”。前者回应了现代性对个人在现代社会的谋生要求，后者则体现了亘古不变的英才教育理想。这既是培养受教育者本人的“气”和“魂”，也孕育着整个国家、文明的“气”和“魂”。现代社会扩大了普通人受高等教育机会的同时，并不能放弃高等教育本初的崇高理想。一方面，这种古典的教育是现代大学教育中与专业、职业教育相对的不可或缺的另一半，完整的高等教育才能避免缺陷的现代人；另一方面，随着高等教育的普及，公民教育作为扩展的内容注入其中。我们必须承认“通识教育”确实负有如此重大的责任，否则它将只是我国高教改革中的一朵浪花，一场运动，而不具有思想史的意义，无法参与中华文明的历史进程。虽然我们直到最近才为这种教育正式冠以“通识”的名号，而且常常拿美国的教育做比附，但它并不算是一个陌生的、舶来的新概念。
中华文明之所以延续几千年至今，怎么可能缺失了这种教育的护佑呢？综观史料可考的四千余年，上有周公、孔子之教化，下有世代儒生之践行，中华文明中立德、树人、安天下的教化几千年来延续着一条贯通的道路发展。教化的有效性和文明的延续之间的关系绝非偶然。虽然在各个时代不免各有弊端，但也正是这样的教化培养出了代代贤人，承前启后，革除旧弊，推动维新。如此，几千年来中华的文教不论是理论思想还是制度实践，都始终在那个时代的世界范围内处于明显的领先水平。这种教育在我国曾经是如此的发达，邻近的邦国无不倾慕效仿，日本可能是其中最出色的学生。
再看西方，早在立国之前，美国已有哈佛、耶鲁等私立贵族学院引进英国牛津、剑桥具有悠久传统的精英教育模式。随后，他们进一步汲取西方文明源头的古典精华，在上世纪上半叶兴起了芝加哥大学、哥伦比亚大学、哈佛大学等轰轰烈烈的博雅教育改革，将精英的通识教育推向高峰。进而，在时代的推进中又繁衍出今天的普通教育。整个过程中文化、政治和教育理念共同以复杂而紧密的方式施加影响，每一次变革，既是对先前的弊端作出反应，也是对传统精髓的保守。因此，美国普通教育的成功不是直接到达的，而是经过一条扎根西方文明的迂回道路一步一步走过来的。今天的普通教育也显然不是普世的终点，其弊端在时间中愈发显现，明慧之士已经对此有所体察，开始积聚下一次的革新。这才是这种教育带给文明最本源的生命力和竞争力所在。
如此可见，今天我们所说的“通识教育”不是一个崭新的问题，而是一个如何现代化的问题。如果说我国的通识教育落于人后，绝不是自古落于人后，而只是最近百年的高等教育现代化尚未达成。并且，新中国的大学中它也并非不存在，政治思想教育、第二课堂等也是理论与实践兼备。这些虽然堪称上一辈的有效创举，但时弊已经显露，现代化之路还在半程。
在中国现代大学的语境中率先提出“通识教育”的有清华大学的老校长梅贻琦先生。1941 年他在《大学一解》中试图汇通古今，寓中国传统大学精神于现代大学制度。他特别在诠释大学“新民”之使命中提出了“通识教育”的概念：
