「三農」問題是全國工作的重中之重，而農村工作的重中之重是教育。
建國之初，百廢待興。為了實現迅速普及初等教育目標，1951年10月，政務院頒布《關於學制改革的決定》，將工農速成學校、業餘學校、識字學校等正式納入學校系統，形成工農速成教育、成人業餘教育和正規教育三足鼎立的格局。1956年1月，面對國內經濟的良好發展態勢，教育部印發《十二年教育事業規劃綱要》，準備7年內「在全國基本普及義務教育」。到了9月份的中共八大，「基本普及義務教育」更變成了「普及義務教育」，時間也延長到12年。對於農村孩子來說，這是一段好時光。當時中小學教育收費低，公共保障好，由上級政府負責教育經費，村民象徵性交點錢，即使交不起，中小學也有助學金可以申請。人民公社成立後，教育、衛生醫療和水利建設，全由公社包干，免費教育的「好時光」仍然持續，一直到「文革」結束。
1978年，大包干拉開了農村經濟改革的大幕，改變了「政社合一」的人民公社體制，農民生產的積極性空前高漲，農業生產突飛猛進，但過去由公社負責的教育、醫療和農田水利等公共產品，卻一下子無人提供了。
自1978年開始的教育改革，重點放在重建高等教育和提高教育質量上。農村地區的中小學被大幅撤銷和合併，教學人才和資金迅速向城鎮迴流，造成農村學齡兒童的入學率和小學畢業生升學率持續下降。當時中央在改革過程中迅速注意到了這一現象，連續發文要求加強農村小學教育。1985年，《中共中央關於教育體制改革的決定》要求，「把發展基礎教育的責任交給地方」，中小學教育實行「地方負責，分級管理」。此後的義務教育法對「免費」的表述是「對接受義務教育的學生免收學費，國家設立助學金，幫助貧困學生就學」，但並沒有像其他國家一樣直接定為「免費」。全國60％到80％的中小學都在農村，義務教育的重擔由鄉鎮和縣級政府承擔，他們的經費從何而來？1986年4月，六屆全國人大四次會議通過了《中華人民共和國義務教育法》，這部法律開了一個政策口子，允許「按照國務院的規定，在城鄉徵收教育事業費附加，主要用於實施義務教育」。而在1992年3月發布實施的《義務教育法實施細則》中，「實施義務教育的學校可收取雜費」的口子固定下來。從那時到現在，雜費以各種名目在學生們的繳費單上出現，成為農村乃至城市居民的主要開支之一。南京大學社會學系張玉林教授估算，20世紀90年代10年間，全國對農民徵收的「教育附加費」和各種「教育集資」，最保守的估計也在1500億元。在農村，許多學校是農民自己建起來的，老師的工資和辦公費用也由農民來分擔，但令他們尷尬和無奈的是，他們的孩子仍然不能順利就讀，許多家庭為供孩子上學，終年生活在貧困之中。
2000年年底，中國實現了基本普及9年制義務教育、基本掃除青壯年文盲的「兩基」目標。2001年1月，中國政府向世界宣布如期實現「兩基」的戰略目標。2005年，全國小學凈入學率、初中的毛入學率分別提高到99％和95％。隨之而來的是一場關於教育收費和教育公平的論戰，「不免費的義務教育」成為被質疑的焦點。
此後，中央政府順應民意，通過稅費改革取消了農民身上的教育附加費，農民負擔開始減輕，但鄉鎮政府財政狀況卻雪上加霜。2001年，國務院發展研究中心一項調查發現，農村義務教育實際上是農民自己負擔，全部義務教育投入中，鄉鎮一級的負擔高達78％，縣財政負擔約9％，省地負擔約11％，中央財政只負擔了2％。
從2001年起，農村義務教育的投入主體，開始從鄉鎮一級上移到縣級政府，教師工資由縣財政發放，但積弱已久的縣級財政同樣無法承受義務教育的重擔。相關的改革仍在繼續，中央和各省市政府有望承擔起更多的責任。國家於2004年啟動西部地區「兩基」攻堅計畫。2006年春季學期開始，中國西部地區率先進行農村義務教育經費保障機制改革，全部免除農村義務教育階段學生學雜費，繼續執行免教科書費、補助寄宿生生活費政策，並對部分專項資金實行國庫集中支付，資金直達學校，受益學生達到4880萬人，平均每個小學生減負140元、初中生減負180元。
2006年6月29日，全國人大常委會通過新修訂的《義務教育法》。新《義務教育法》明確規定「不收學費和雜費」。同時，考慮到免除雜費需要一個過程，在附則中增加了一條規定：對接受義務教育的適齡兒童、少年不收取雜費的實施步驟，由國務院規定。
2007年3月5日，國務院總理溫家寶在十屆全國人大五次會議上表示，從今年起，免除國家扶貧重點縣農村義務教育階段貧困家庭學生的書本費、雜費，並補助寄宿學生生活費。全國財政安排農村義務教育經費1840億元，全部免除了西部地區和部分中部地區農村義務教育階段5200萬名學生的學雜費，為3730萬名貧困家庭學生免費提供教科書，對780萬名寄宿學生補助了生活費。
一些地方政府已先行一步。廣東在該省16個扶貧開發重點縣的農村開始免費義務教育試點，並計畫在2008年秋季推廣到全省農村。江蘇在經濟薄弱的農村地區進行免費義務教育試點，蘇州是第一個宣布為義務教育全面「埋單」的地區。從2006年秋新學年開始，蘇州市享受義務教育的孩子不僅免學費、雜費，教科書費也全免。
免費義務教育——中國幾億農民多年的企盼，圓夢在即。免除學雜費將惠及全國農村近1.5億名中小學生。免除學雜費後，平均每個小學生每年可減負140元，初中生年減負180元，貧困寄宿生可減負500元。