张之洞在湖北、四川学政任内和山西巡抚任内分别建立了经心书院、尊经书院和令德堂，后又在广州设广雅书院、在湖北设两湖书院。这些都是当时比较着名的教育机构。书院的设立，其目的在于“养贤才，贵得明体达用之士，以备国家任使。”学成以后，可以“出为名臣，处为名儒。”这样，就可以“羽翼圣道，匡济时艰。”因此，在学习内容方面，则注重经史古学的研究。他对各科教学也提出了具体要求：“经学以能通大义为主，不取琐屑；史学以贯通古今为主，不取空论；性理之学以践履笃实为主，不取矫伪；经济之学以知今切用为主，不取泛滥；词章之学以翔实尔雅为主，不取浮靡；士习以廉谨厚重为主，不取嚣张。其大旨总以博约兼资，文行并美为要。”可见，这样设课和教学比当时一般书院只重举业，理学独占讲坛的情况要好些，向重研究和务实学方面前进了一步。
随着时代的变化，形势的发展，传统教育愈来愈显得脱离社会实际。针对这种情况，张之洞认为，要改革传统教育以期培养“体用兼备”的人才，“令守道之儒兼为识时之俊”。张之洞于光绪二十四年(1898年)上书清廷，提出将经心、两湖书院改为学堂。他说：“按照学堂办法，严立学规，改定课程，一洗帖括词章之习，惟以造真才济时用为要归。”改造后的两湖书院应分设经学、史学、地舆学、算学四门，于地舆学中附设图学；经心书院分设外政、天文、格致、制造四门，并以算学为共同必修课。并且可以兼习西方语文。此外，另设院长，专司整饬学规、考核品行，讲明《四书》义理、中国政治。光绪二十五年，张之洞再次上书清廷，提出改定两湖、经心、江汉三书院课程的意见。札中说：“书院之设原以讲求实学非尚训诂词章，凡天文、舆地、兵法、算学等经世之务，皆儒生分内之事”。因之，计划加强实用科目，汰减经史内容。将经史合为一门，每月讲习一次，增加兵法、舆地等自然科学门类，以期“文武兼习，学行交修”。改造的学堂皆以“中学为体，西学为用”作为办学宗旨。这样就可以实现他的“守道之儒兼为识时之俊”的洋务人才的理想。
2.创建新式学堂
张之洞除创设书院、改书院为学堂外，还在各地建立许多新式学堂，种类繁多，科目齐全，对中国近代教育有积极的影响。现就不同类型的学堂各举一、二为例，分述如下：
(1)方言学堂——湖北自强学堂。洋务派的首领们为了培养自己的外交人才，首先创办方言学堂(如北京同文馆)。张之洞在光绪十九年(1893年)提出设立自强学堂的建议。他说，湖北地处长江上游，南北要冲，而且汉口、宜昌二地均为通商口岸，洋务繁多，动关大局。所以“造就人才，似不可缓，亟应及时创设学堂。”他本着“讲求时务，融贯中西，研精器数”的精神，于武昌建自强学堂。设方言、格致、算学、商务四门，每门招生二十名。
其后，张之洞的思想认识也随形势发生变化，他认识到“自强之道，贵能取人所长，若非精晓洋文，即不能自读西书，若不能多读西书，即无从会通博采”。为应时需，他拟改变自强学堂的任务，于光绪二十二年(1896年)提出改革设想：将算学门移入两湖书院，格致、商务两门停办，一律改学方言(外国语)，分设英文、法文、俄文、德文四门，每门学生三十名，共一百二十名。从此，自强学堂成为外国语专门学校。
次年，即光绪二十三年(1897年)发布“招考自强学堂学生示”，并拟定了“自强学堂章程”，规定了办学的具体措施。“章程”规定：学生必须资性聪颖，身家清白，先通华文，先读儒书，义理明通，志趣端正；年龄在二十四岁以下，十五岁以上，口齿灵敏，在学期间，必须专心致志，不准兼作时文试帖，亦不准并应各书院课试；入学时必须经过严格考试，合格者方准入堂学习，分班授课，学生既经选定，即使出现空额，亦不能陆续收补，以免“新旧搀杂”；五年期满毕业；学生入学除饭食、书籍、纸笔、均由学校供给外，“每名每月给膏火银五元。”
从自强学堂章程的规定来分析，反映了资产阶级新教育的某些特点：分科分班，班级授课制；统一的入学考试；固定的修业年限，等等。这些规定是在模仿西方学校组织下制定的。一方面它有利于新教育的传播和发展，另一方面也应看到“章程”残留着一些封建教育的痕迹，反映了封建的等级制度。
在以后的改革中，张之洞又提出酌收学生学费的办法，取消自强学堂每月发给学生的膏火费，实行按考试成绩给予奖励的办法。规定“按月比较华洋文字进境分数，分别甲乙，给予奖赏，以资鼓励。”
这种改革，可以说是中国近代教育实行奖学金制的开始。
甲午战后，随着中、日频繁的交往，派往日本留学生人数的日益增多，日本对中国的影响也就逐渐增强。这时，对日本的了解，更感迫切，因此掌握日文更为重要，所以，自强学堂决定自光绪二十四年(1898年)起增设东文(日文)门。从此，自强学堂语种更为齐全。
到了光绪二十九年(1903年)，随着第一个全国统一学制的实行，自强学堂改为普通中学，这是湖北有普通中学之始。
(2)军事学堂——广东水陆师学堂。战争频频失败，清朝统治者片面地认为“造船不坚”，“选将不精”是失败的原因。因此，为应时需，非设军事学校不可。张之洞认为广东地处南洋首冲，较他省尤为重要，因此于光绪十三年(1887年)奏请仿天津和福州水陆师学堂的办法，利用广州黄埔长洲原博学馆旧址改建广东水陆师学堂。学生来源，先从博学馆旧生中挑选三十名为内学生，再从军营选拔胆气素优的武弁二十名为营学生，另外再选收已读史书，能文章，年龄在十六岁以上三十岁以下的文生二十名为外学生，共七十名。水、陆师各招收七十名。
水师设管轮、驾驶两科，管轮科学习机轮理论，制造运用；驾驶科学习天文海道、驾驶攻战，两科都学习英语。陆师设马步、枪炮、营造三科，学习德语。《四书》、《五经》是他们的共同必修课，“以端其本”。两堂各设中、外教习若干名，学校设施有讲堂和操场。全年九个月在校内学理论，三个月到练船或营地实习，选优秀生到外国接受海陆军训练。
经过两年的扩建，校舍日臻完善，到光绪十五年，计有教室和师生住房十六个院，一百八十六间房，机器厂、铸铁厂各一座，操场、演武厅、帅台等设施俱全。学生名额增多，分管轮、驾驶、陆师三班，每班各七十名，共二百一十名。聘请曾在天津水师工作过的关仲翔为总办。规模相当可观，是当时中国近代化的一所军事学校。
光绪十二年(1886年)张之洞在黄埔设鱼雷学堂，这是中国军事教育中的一个新专业。
湖北武备学堂：张之洞认为：“自强之策以教育人才为先，教战之方以设立学堂为本。”于光绪二十二年开始筹办湖北武备学堂。
他指出：湖北武备学堂的任务“意不在于充兵勇之用，而在于储将领之才。”故此，他将“文武举贡生员及文武监生暨文武候补候选员弁以及官绅世家子弟，且须有华文根抵，体质坚壮，志气朴成者”作为招收对象。课程包括讲堂(军事理论)和操场(实际训练)两方面。
“讲堂以明其理，操场以尽其用。”诸生必须“讲堂、操场”兼习，每日各习四小时。外国教习，由德国聘请精通武学者二人充任。选择津粤学堂出身久为教习的华员为领班。任蔡锡勇为总办，钱恂、联豫为学堂提调。全校学生共一百二十名。一经入学，伙食军服均由学堂供给，每人每月另发银四两以为零用。考试分月考、季考、年终考试三种，学制三年，毕业后“上则可任领兵征战之事，次亦可充营务幕府军械局所之官”。另外，学堂除去学习近代军事知识外，对学生的思想训练极为重视，提出“之忠孝以植根基，励之廉耻以端其向”，这正是他主张的“以中学治身心，以西学应世事”的具体体现。
(3)实业学堂。随着世界形势的发展，中国也开始建立一批近代工矿企业。由于缺乏科学技术人才，不能满足生产的需求，因此，不得不招募外国工程技术人员，但“薪工太厚，势难多雇”，垄断技术，“绝不思教华人”。他们认识到“用人最是急务，储才尤为远图”。这是付出了极大的代价才换来的认识。要改变这种状况，只有建立各种实业学堂以加速本国技术人员的培养。
农务学堂。光绪二十四年(1898年)张之洞在武昌设农务学堂。
以美国为榜样，学堂以“讲求相土辨种之方，炭养相资之理，兼及各项畜牧事宜”为目的，学习地质、化学、格致、农艺、农具、制造等专门知识。凡绅商士庶子弟均可报名投考。学制三年。学生每人每月酌收伙食、笔墨、零用等项银四元，以示“劝学深意”。张之洞重视发展农业和农业教育的思想，值得注意。可借，由于洋务运动的根本目的在于巩固封建政权的统治，而不在于人民，所以不可能真正实现。
工艺学堂。张之洞在创办农务学堂的同时也着手创办工艺学堂，并拟定了《工艺学堂招考学生章程》。其培养目标是：使学生熟悉各项工艺的方法，探求机器制造原理。招生对象为绅商士人子弟，身家清白，年龄在十二岁以上十六岁以下天资灵敏，身体健康，读过《四书》能识两千字者。每日用四小时学习格致、化学、算绘诸书，晚间学习中国旧学。工艺学堂分汽机车床、绘图翻砂，打铁打铜、木作漆器、竹器、洋蜡玻璃各门工艺。学制三年。共收学生六十名。聘请本国和日本教习，选中国和日本优秀匠师传授工艺技术，以“明其体”，并“达其用”。
此外，张之洞还创办了不少实业学堂，如光绪十三年于广州设电报学堂，光绪十七年五月设商务学堂，光绪二十一年设铁路学堂，光绪二十二年创办蚕桑学堂，光绪三十一年于湖北洋务局附设路矿学堂，武昌、汉阳各设商业学堂一所，等等。
实业学堂的建立适应了中国资本主义生产的需要，培养了中国第一批工程技术人员和技术工人，其成绩是不可磨灭的。
(4)师范学堂——三江师范学堂。《钦定学堂章程》制定后，清政府为了推行新的教育制度，要求各省府州县广设中小学堂，自此，师范教育才系统地兴建起来。在这时期，张之洞先后创办的师范学堂有：湖北师范学堂，三江师范学堂，两湖师范学堂，并于光绪三十年九月，清学务处开设师范讲习所，十二月，令湖北各府暂停中学先办初级师范学堂、速成师范或师范讲习所，这些措施为新教育的兴起保证了教员的供应和质量的提高。
张之洞认为：“师范学堂为教育造端之地。”“兴办学堂全赖师范得人，课程方能得度，管理方能得宜。”他指出，各国中小学教员多取材于师范学堂，鉴于此，决定于光绪二十八年(1902年)在江宁开办三江师范学堂。
三江师范学堂“研究教育之理，讲求教育之法及管理之法”，“以端教法而裕师资”。
学堂学生分别由江苏、安徽、江西三省按分配名额选送。全堂分设三科，三年毕业的本科，二年毕业的速成科和一年毕业的最速成科。以培养高、初两级小学堂教员为宗旨。课程主要有修身、历史、地理、文学、算学、教育学、理化学、图画、体操等，另加法制、理财、农业、英文为随意科。聘举员廪增出身的“中学”教习分别讲授。
张之洞于光绪三十三年七月二十八日写了一篇《请奖各学堂毕业生及管理员教员折》。在这篇奏折中，总结了十年来湖北省创办书院、各种学堂及毕业生、管理员和教员的情况。据许同莘编《张文襄公年谱》统计，十年来各学堂共有毕业生三千人以上。
他总结说，湖北办教育是本着“教员必求合格，管理必求认真，教科必求完全，功课必求切实”的精神。培养学生“皆遵守学规，不染近时恶习”。从这篇奏折中，我们可以看到湖北教育的概况，也可以看出张之洞为发展湖北教育付出的辛勤劳动，总之，张之洞在发展地方教育方面作出的贡献是值得肯定的。
3.留学教育
张之洞选派学生出国留学的时间较晚。光绪二十二年他上书清廷，请求派学生出国留学。他说：“时局需才求效难缓，拟选派已通西文之学生分入外洋各国学堂肄业，以期速效而济急用”。他计划派学生到外国学习关于“史册、地志、富国、交涉、格致、农事、商务、武备、工作”等方面的专门知识。按照西方的教育方式，根据学生的程度，学习一门或数门专业。原则是，会哪国语言，就到哪国学。首先他从其创办的水师学堂选学生到英国学管轮和驾驶，培养海军将领，从陆师学堂选派学生到德国学步骑、炮工，培养陆军将领。
按照他的设想，经过几年的外国教育，期满毕业后，上等水平的“可兼通数事”，中材“亦精习专门”，除选优重用外，其它可充任教习。这样，“二十年后，人才必大有可观。”在他的筹划下，江南诸省留学生教育得到较快发展，培养了一批具有近代知识的军事、科技、管理人员。
在他所倡导的留学生教育中特别强调加强留学生的思想教育。
他告诫留学生，应该念念“不忘君、不忘亲、不忘圣”，“趋向必正，立志必定”，勿听邪说，遵从约束教诲，“不得稍有违犯轻侮”，以期“行检修饬，学问日进闻誉日彰。”特别是在十九世纪末至二十世纪初这段时间，新兴的中国民族资产阶级活跃在政治舞台上，革命思潮不断高涨。在这种形势下，张之洞忧心忡忡，惟恐留学生在国外接受革命思想，传播革命影响，因之，一再训诫留学生不得沾染新思想，指示驻日委员传谕戒勉留学生，加强对留学生的管理，并亲自拟定了“约束鼓励游学生章程”，指出“出洋学生如不妥筹约束，听其浮游废学，任性妄为，犯义干名”，则为害不可胜言。他要求按章程规定“分别惩劝，庶足以杜流弊而励真才。”
按章程规定，凡赴日留学，不论官费或私费，都需由出使大臣总监督公文保送，否则不准派出。所在学校应随时考察学生的言行，如有“妄发议论，刊布干预政治之报章，无论所言是否，均属背其本分”，必须严加训戒，不听教诲即令退学回国。并且规定，在留学期间翻译或着书，“但有妄为矫激之说，紊乱纲纪害治安字句者”必须严加禁阻，并请日本政府禁止在日本出版、印刷。张之洞的这些企图在势不可挡的革命风暴面前只能是徒劳的。