「教育智慧」一词，系由德国教育学家赫尔巴特(Johann Friedrich Herbart, 1776～1841)所提出，用以联结教育理论与实践；赫尔巴特可说是最早注意教育理论与实践间联结的教育学者。
理论与实践的关系，一向是哲学的基本问题，对于两者间关系的讨论，也常因对人类的理性及实在有不同的看法而产生极大的分歧。理论与实践的问题，放到教育上来看时也极为重要，因为教育本就是一项无法离开实践的人类活动；如何厘清教育实践与理论间的关系，一直是许多教育学者与哲学家所孜孜研究的课题。
自从亚里斯多德(Aristotle)将人类的理性活动分为三种不同的表现形式：理论沈思、行为实践与技艺制作后，人类的理论与实践间便产生了一道难以弥补的鸿沟。虽然亚里斯多德提出了以「实用智慧」(phronesis)来沟通理论与实践的差距，但亚里斯多德却也同时否定了这种基于对情境认识来产生行为抉择的「实用智慧」有获得最高幸福的可能。
到了康德(Immanuel Kant, 1724～1804)时，则企图以揭露认知与实践主体的理性功能及限制来解决理论与实践间距离的问题；康德认为只有对「规范」的「理论性」认识，并不足以有益于具体实践性问题的解决。为了达到实践的目的，更需有一种敏锐的判断力，所以康德提出了以「反省的判断力」(die reflektierende Urteilskraft)来作为理论与实践之间的联结。
康德的「反省的判断力」的观念，对于赫尔巴特的教育学影响甚大；赫尔巴特的「教育智慧」正是脱胎于康德的学说。赫尔巴特所讲的圆熟的「教育智慧」是指在实践中逐渐成长，而又受到教育理论指引的一种智慧，一方面可以为理论提供服务，导引教育本质在理论上的意义决定；另方面则可作为实践的直接桥梁，藉由迅捷的判断与决定，使具体的教育实践能接近于教育理论中的理想。
赫尔巴特的「教育智慧」的提出，在教育理论与实践间关系的探讨上具有开创性贡献。因为教育学作为对教育实践反省的学科而言，其研究的对象不是普效性的法则，而是教育过程中具体的、具有发展性的活生生个体，所以更应考虑到在教育实践中的运用问题，而不只是死板地将「法则」应用在教育情境中。教育学本身不可能「规则化」，必须预留实践者在整个「教育场」中开展其能力的可能，从康德的「反省判断力」到赫尔巴特