正当广西巡抚认为黄佐这种擅离职守的行为是无视上级，打算要求朝廷处罚黄佐的时候，大学士李时却提出了不同的看法。李时说黄佐有深厚的儒学功底，应该请他来京任职。1536年十二月的一天，嘉靖上朝，对大学士夏言、顾鼎臣等人说：“此前李时曾推荐任用黄佐，现在翰林院正是缺乏像黄佐这样博古通今的人才，是否聘请黄佐，请诸臣多加考虑。”此议一出，众大臣均举手赞成。吏部遂打算让黄佐出任翰林院编修兼左春坊左司谏。
在广州的黄佐并没有立即答应李时的推荐和吏部的安排。在粤官员和青年学生听说黄佐返粤，纷纷前来求见，黄佐干脆将粤秀山的粤洲草堂装修一新，广东巡抚陈大用在粤洲草堂前面的空地兴建泰泉精舍。黄佐一边埋头著述，编撰《内则》《曲礼》《列女传》等书，一边接待来访者。
在粤期间，黄佐不忘协助官府，为改善民生出谋划策。明初，由于对国家安全的威胁主要来自北方，朝廷将主要精力放在北方的防御，而对南方邻邦藩国则相当开放。永乐帝曾遣使诏谕安南、暹罗、爪哇等，鼓励其上朝贡物，以及携带土产前来交易。《大明会典》明示，凡安南、柬埔寨等来朝贡者，俱由广东布政司官员接待，1403年，广东重设市舶提举司于广州西关十八甫的怀远驿，备有一百二十间房屋，接待贡使及番商。这种做法一直延续到正德年间。1517年，佛郎机（葡萄牙）船队突然在东莞沿海一带出现，屡犯广东。为防意外，明朝政府下令佛郎机人不得进贡，各地尽行阻绝番船。这一政策令广东的对外贸易中断，经济萧条，民生凋敝。为了恢复昔日的繁荣，让粤人生活得更好，广东巡抚林富让黄佐为他写一奏疏，希望朝廷能够恢复广东与外国，主要是与东南亚一带通商。
为此，黄佐起草奏疏说，官员的职责是为民兴利除害，凡上有利于朝廷、下有益于人民者为利；相反，上有损于朝廷，下有损于人民者为害。这个禁止通商的做法是以除害为名，连利一起禁绝，它忘记了明初朝廷订下的制度，且违背民心。现在的情况是，按法律制度设置了市舶司官吏的广东，其正常贸易反不如福建漳州等地的走私无禁。这样下去的话，过去朝廷的贸易制度如一纸空文。没有贸易，哪来税收？国家和军队的开支如何保证？黄佐在否定上述“因噎废食”的做法后，列举开通广东对外贸易的诸多好处：贸易税收上缴国库，提供御用，克充军饷；民众通过辗转交易，可以致富以带动广东地方富庶。黄佐建议在东莞、南头等地加强海防，按照明初朝廷的制度和《大明会典》的规定与安南等国进行贸易，同时驱逐佛郎机船只，严禁私通，从而做到怀柔有方，公私两便。尽管黄佐写的这一奏疏并未得到采纳，但奏疏字里行间尽显黄佐关怀乡梓、体恤民情的思想，以及对国家贸易、外交政策的熟悉和把握。
黄佐接受朝廷任命，重返翰林院的时间是1539年九月，黄佐上京担任左春坊左司谏。左春坊是翰林院下属的一个机构，左司谏仅为九品小官。尽管官位十分低微，黄佐却积极有为，他撰写《九经政要箴》九首，用语质朴无华，直陈大义，用以约束政府官员的行为。黄佐认为应该重视“训蒙”二字，特别是宫廷内部的教育，比如说皇室弟子，他们都是日后朝廷统治天下的基础，要及早培养，从而使他们能够接受传统正面的教育，培养出规范的行为、聪明的智慧和良好的道德观念。但黄佐的这些建议未被接纳。
越南古称安南，自汉唐以来，一直是中国的属地。明朝以来，安南政权内讧不断，时局不稳。1540年，安南安兴王莫登庸在明朝软硬兼施政策的影响下，亲自携大臣到广西镇南关向嘉靖求封。消息传至京城，黄佐上奏疏。他总结了永乐、宣德年间朝廷费时三十年，依靠武力，兴师动众，始终无法平定安南之乱的经验教训，提出要谨慎处理与安南等属国之间的关系，请求采取安抚政策，接受莫登庸的归顺。嘉靖听取了黄佐的建议，下诏改安南国为安南都统使司，册封莫登庸为都统使，子孙世袭，置十三宣抚司，令自署置。为此，有人评价说，朝廷不费兵卒令安南归顺，黄佐功不可没。
在翰林院，黄佐曾建议在被大火烧毁的北京大兴隆寺废址上建立射圃。他提出应该依照洪武皇帝定下的制度，提倡“文武兼用、贤能并举”，规定在京城的官员及学生练习射箭，并要学习武器知识以防备北方氏族的侵略。嘉靖接受了黄佐的建议，将大兴隆寺改作射所，名为讲武堂。后来黄佐担任经筵讲官，专为皇帝讲解经史。
1540年，黄佐调任南京翰林院侍读。1542年春，黄佐升任南京国子监祭酒，官职为从四品。黄佐回广州带着母亲前往南京任职。南京国子监是明朝最高学府，是培养文官和直接向国家输送人才的学校，其规模宏大，“延袤十里，灯火相辉”。国子监内建有供教学用的正堂一、支堂六，计一百零五间，藏书楼十四间，学生宿舍二千多间。此外还有射圃、仓库、休养所等。当时规定“监生与尚书、侍郎、诸郎官并名而疏”，显示国子监学生的预备官僚身份，而且有权同历事衙门的正式官僚一起议拟政事的“可否”、“举察所司奸弊”。
作为国家最高学府的校长，黄佐开始整顿校风，颁布“五伦”条约。他将别人送的金钱礼物分给监生，清廉从政，备受赞扬。自古以来，教育一直强调德才兼备。黄佐谈到德与才的问题时说：“管理天下事情的基础在于德，治理天下的事情在于才。才是德的本钱，德是才的统帅。”黄佐赞成司马迁说的“才德兼备是圣人，才德俱无是愚人，德胜才谓之君子，才胜德谓之小人”。黄佐说：“德全者要化而大之，合‘五常’为一德；才全者化而大之，通‘六艺’而贯三才。这样解释才、德就清楚了。”黄佐提出一个“诚”字，强调德才兼备。他说：“只有遵从古训学习、坚持自我修炼的人，其才德必会长进。一个人具备德和诚，就能得到治理天下的方法；一个人具备才和诚，就能治理天下的事情。”
黄佐又说：“孔夫子曾经讲过：‘德之不修，学之不讲，闻义不能徙，不善不能改，是吾忧也。’因此修德不讲学则不明，讲学不修德则不诚。明则察理必精，诚则循理必一，理存于心，心见于事，义日以集，气自浩然，立于无过之地，则纯粹至善，克而大之，大而化之。”黄佐强调：“学之博，问之审，思之慎，辨之明，而后笃于行焉。广大，仁之致也；精微，义之尽也。高明，知之极也；中庸，礼之交也。”黄佐认为，书不必广著，要在守约；学不必重讲，要在力行。他对国子监学生说：“为学求放心而已者也，心放而知求则必先明义利之辨焉，义则循理善之源也，利则纵欲恶之源也。此心常觉利之终害，而惟义所在则心日以收，善日以积，美在其中矣。”黄佐要求学生谦虚谨慎，戒骄戒色，杜绝自高自大。
明代国子监学生出仕大致有四个途径：通过升堂积分，通过考试得官，通过报考教职得官，或通过历事出身得官。其中历事制度是国子监的重要制度之一，这是让监生前往各官府衙门历练政事，在国子监年长或品学兼优者方能有机会被拨出历事。在国子监内部，监生严格按资历深浅、坐堂（上课）多少来排队，俗称上序。天顺以前，一般要“坐监十余年，然后拨历”。成化以后，因为监生积滞过多，于是用“拣选”、“优者辄与拨历”的方法来疏通生员，有坐堂未足一年者便被拨历出监。黄佐来任祭酒，要求预备拨历的监生按其坐堂时间统一排队，登记在案，全校六堂各设一册，供各堂查核。遇有违反监规拟作虚旷，由监丞总为扣算，严厉制止之前的“超拨之法”。对那些无心读书、无心历事、逃避历事及雇人代历的监生，黄佐作出处罚性规定：“不分在监在历，私逃回籍三个月者，发回原学肄业。半年以上，一律革退为民。”“各衙门拨到历事监生，俱要常在公供事，讲习律令……其有私自回家，雇人代替者，查究得实，即将替人参送法司问罪，监生仍照行止有亏，革罢为民。”
黄佐在南京，将前任吴节、崔诜未完成的《南雍志稿》加以编纂，写成了《南雍志》二十四卷。该书分事纪四卷、职官表二卷、杂考十二卷、列传六卷，为后人留存了大量明代太学教育制度等方面的史料。如文庙佾舞是用来祭奠以孔子为首的儒家圣贤的一种舞蹈，是宝贵的文化遗产。今天想了解研究文庙佾舞，要通过查阅黄佐的《南雍志》，该书不仅记录了乐章和佾舞谱的舞蹈基本动作，还记载了能使人容易理解舞蹈基本动作的术语，是现存最为珍贵的明代太学文献之一。
1543年三月，黄佐归乡之心日切，先后两次奏疏请求给假送母亲回粤。他在疏中说：“我的母亲七十一岁了，自从跟随我来到南京后，水土不服，饮食难进，身虚体弱。作为儿子，我日夜惶悚，无地自容。由于父亲去世早，我又是独子，母子相依为命至今，实属不易。尽忠与尽孝是一个道理，做官和做儿子也一样，如果我不能孝顺自己母亲的话，又怎么能忠于朝廷呢？《周礼》强调为人师表要以道德为重，传统道德以孝为先，这正是我这个校长应尽的义务！”忠厚动情的言语未能打动嘉靖的心，黄佐的申请未获批准。1544年四月，母亲对黄佐说：“南京的气候既热又毒，我在这里待不下去了，想早日返回广州。”黄佐听后十分恐慌，他第三次上疏请求送母亲回广东，再次遭拒。七月四日，重疾缠身的陈氏病逝南京，黄佐悲痛万分，哭泣不已，国子监众学生也为之感动。黄佐与母亲感情深厚，其母先后生下五个儿子，只养活黄佐一人。参加会考前，黄佐曾想过放弃，但母亲对他说：“如果你放弃，便是忘记了爷爷和父亲对你的期望。”以后黄佐在京考中进士，成为编修，母亲高兴万分。她写信给黄佐说：“祖辈的愿望终于实现了，希望你再接再厉。”当因黄佐之故而被朝廷恩封为太孺人时，陈氏手捧玺书，喜极而泣。她对黄佐说：“可惜你的爷爷、父亲未能等到今天这个日子。”黄佐被派往广西，母亲多次催促他前去上任。后来黄佐弃职归里，过着清贫的生活，母亲泰然处之。这次黄佐任职南京，母亲欣然随其北上，最终病死他乡。黄佐含泪将母亲的遗体运回广州，1545年十一月二十六日，黄佐合葬父母于白云山聚龙冈。
1547年元旦那天，圣旨传来，朝廷任命黄佐为少詹事兼翰林院侍读学士，官正四品。黄佐受命上京，行至江西大庾，见到刑部侍郎刘节。刘节提醒黄佐说：“现在翰林院的风气今非昔比，宫廷里竞争激烈，你此时上京自当小心谨慎。”
黄佐刚入宫殿，见到长相俊朗的首辅夏言。令黄佐想不到的是，这个深得皇帝恩宠、平日骄横跋扈的夏言与黄佐一见如故，竟然对他行了一个对等的礼，黄佐唯有作揖鞠躬，大臣们也为之惊骇不已。此时正值夏言与严嵩争夺权力，各自扩张势力，故夏言极力拉拢黄佐。但后来就是否应该派兵收复河套一事，黄佐与夏言意见不合，夏言对黄佐不满。适逢吏部右侍郎一职需要补充，吏部推荐黄佐和礼部右侍郎崔桐担任，给事中徐霈、御史艾桢则主张崔桐与左侍郎许成名参选。为此事宫廷里惹起争议，最后黄佐落选。大学士张治抱怨说：“那些人指让为争，这与指鹿为马有什么区别？”不少官员前来安慰黄佐。面对宫廷里尔虞我诈，钩心斗角的人事，黄佐身心疲惫，却从不作辩解。不久，朝廷罢免黄佐、唐龙、许成名、崔桐、王用宾等。黄佐从此告别官场，返回家乡。
黄佐从政数十年，官至四品，由于对“慎独”有深刻的认识和理解，决定了他为政清廉，克己奉公，两袖清风。他的《泰泉集》等著述多靠学生资助才能出版。李时行在《庸言》序里说，有人将黄佐与宋代的王十朋相比，认为两人皆为詹事，且朱熹称赞王十朋光明正大，疏畅洞达。李时行认为，黄佐应该在王十朋之上，他为官四十年，正道退隐，安于清贫，他像孔子最得意的弟子颜回那样，是一个身居陋室却生活快乐的人。