现代美国教育部是由吉米·卡特总统于1979年10月签署成为法律建立的。然而，这个国家的第一个联邦教育部门，虽然寿命很短，但早在一个多世纪前的1867年，安德鲁·约翰逊（Andrew Johnson）担任总统期间就成立了。
内战结束后的几年里，在废奴主义者的支持下，俄亥俄州众议员（后来的总统）詹姆斯·a·加菲尔德（James A. Garfield）提出了成立美国教育部的法案。约翰逊总统对此持矛盾态度，最多也不过维持了一年，国会就将其降级为内政部的一个办公室。在接下来的111年里，它没有作为一个部门重新建立起来。
纽约宾厄姆顿大学（Binghamton University）教育和历史教授亚当·拉茨（Adam Laats）说，第一个联邦教育部的兴起和短暂的性质，在很大程度上都是由战后重建南方的政治努力推动的，其中包括教育以前被奴役的人。
“对于前邦联领导人来说，拥有一个联邦教育部是多么具有煽动性，你怎么估计都不为过，因为他们把‘联邦’等同于重建，”拉茨说。
拉茨说，内战期间，许多州和城镇的联邦法律禁止目前和以前被奴役的人上学。他说，随着联邦的胜利，这种情况开始发生变化，但联邦政府对他们教育的支持激怒了前邦联领导人。
宾夕法尼亚大学教育史教授乔纳森·齐默尔曼（Jonathan Zimmerman）说，战后，识字率很低，尤其是在南方和较贫穷的州。只有大约10%的奴隶识字，这有助于在南方建立学校，包括为黑人建立学校。
齐默尔曼说：“南方在内战中元气大伤，而北方却没有。”“因此，文盲率极高是有道理的，包括在南方。”
重建时期的黑人领袖
与此同时，北方的公共学校运动从19世纪30年代就开始了。霍勒斯·曼主张由国家出资建立一个免费和普及的教育体系，在他的领导下，这场运动改革了马萨诸塞州的公立学校，其他州也逐渐采用了它的模式。拉茨说，尽管这些学校是按种族隔离的，有时甚至是按性别隔离的，但改革的努力要求做出改变，允许所有孩子都能接受普及教育。
1865年北方赢得内战后，“（教育）被胜利的联邦领导人视为胜利的关键，”拉茨说。“因此，赢得这场战争意味着政府应该——它应该包括一个教育组织，因为这是联邦的优势之一。”
在其他废奴主义者的支持下，加菲尔德提出了成立联邦教育部的法案。已经不受欢迎的总统安德鲁·约翰逊（Andrew Johnson）同意了这个想法，尽管他并没有坚定地支持这个想法。拉茨说，据称，他被告知，该部门不会让出多少权力，更多的是作为一种“空洞的姿态”，以安抚呼吁建立该部门的共和党人。
第一个教育部的任务是“收集统计数据和事实，以显示几个州和地区的教育状况和进步”，包括新解放的非洲裔美国儿童的学校。它只有四名雇员：三名职员和委员亨利·巴纳德（Henry Barnard）。巴纳德是一位著名的教育改革者和公共学校运动的领军人物。巴纳德于19世纪30年代末在康涅狄格州建立了一个州立学校董事会。
Laats说，联邦教育部门的预算很少，采用了与州立部门类似的模式，后者在收集统计数据方面取得了成功，主要是学生出勤率和税收数据。
该部门的许多批评者将其与教育以前被奴役的人的持续努力联系在一起，这在南方和北方都不受欢迎。齐默尔曼说，除了种族之外，还有其他因素在起作用。
齐默尔曼说：“公平地说，批评者说，在那之前，联邦政府几乎没有参与任何教育活动，这并没有错。”从这个意义上说，它的创建是一个“激进的举动”，他补充道。
1868年，国会提议解散司法部后，《哈特福德日报》（Hartford Daily Courant）发表了一篇社论，概述了保留司法部的好处。《纽约时报》认为，教育部收集的数据除了可以提供信息，支持为以前被奴役的人提供教育之外，还可以让联邦政府比较不同州学校系统的成功情况，并有助于向其他国家展示美国投资公立学校系统的意愿。
“一旦（前邦联领导人）重新获得政治影响力，”拉茨说，“这是他们的首要目标之一。”随后，教育部被降级为一个办公室，这种情况持续了几十年。
齐默尔曼说，直到20世纪中期，教育办公室——曾一度更名为教育局——扮演着与最初的部门想象的类似的信息收集角色。但随着1965年林登·b·约翰逊总统签署的《中小学教育法》的通过，这一角色得到了扩大。
齐默尔曼说：“这是联邦政府第一次将大笔资金投入到日常课堂和学校活动中。”在此之前，国会只通过了影响教育的更小、更有针对性的立法法案。例如，《国防教育法》（1958年）是针对苏联发射人造卫星而出台的，它增加了对科学教育的援助和资金。
随着教育办公室的不断扩大，卡特总统于1979年签署了一项法案，重新建立了联邦教育部门。它于1980年5月开始运营，但在随后的几年里，围绕它的争议一直存在。例如，罗纳德·里根总统曾分享过他解散国防部的计划。
里根在1981年说：“通过取消成立不到两年的教育部，我们不仅可以减少预算，而且可以确保地方的需求和偏好，而不是华盛顿的愿望，来决定我们孩子的教育。”
最终，里根以缺乏国会支持为由放弃了这一举措。
