文渊阁和吏部终于向他低头。当年夏天，海瑞被任命为南直隶巡抚，驻扎苏州。且不说这里是全国最富庶的地区，即使是一般地区，任命这样一位不由进士出身的人担任巡抚，也已属于罕见。但是这一地区历来号为难治，以海瑞的性格而就任斯职，有识见的人早就料到必然引起不良的后果。事实不出所料，8个月之后，他遇到劾参而被迫退休。
海瑞的新职一经发表，南直隶的很多地方官就自己估计到将会不能见容于这位古怪的上司，因而自动离职或请求他调。缙绅之家纷纷把朱漆大门改漆黑色，以免炫人眼目而求韬光养晦。驻在苏州的一个宦官把他的轿夫由8人减至4人。举出这些琐事，就可以证明新巡抚大人声势之迅猛，足以使人震慑。
海瑞下车伊始，就把他的“督抚条约”三十六款在所治各府县公布。条约规定：境内成年男子一律从速结婚成家，不愿守节的寡妇应立即改嫁，溺杀婴孩一律停止。巡抚出巡各地，府县官不得出城迎接，但巡抚可以传询者老听取他们的控诉。巡抚在各府县逗留，地方官供给的伙食标准为每天纹银二钱至三钱，鸡鱼肉均可供应，但不得供应鹅及黄酒。境内的公文，今后一律使用廉价纸张；过去的公文习惯上在文后都留有空白，今后也一律废止。自条约公布之日起，境内的若干奢侈品要停止制造，包括特殊的纺织品、头饰、纸张文具以及甜食。
这些规定，有的不免失之琐碎苛细，本来就会生问题的。而他最后的垮台，则是因为他干预了境内的农田所有权所致。
本朝开国之初，太祖洪武皇帝使用严厉的手段打击豪绅富户，两千年来社会的根本问题即土地问题因而得以暂时缓和。中叶以来，这一问题又趋尖锐。高利贷者利用地方上的光棍青皮大量放款于自耕农，利率极高，被迫借款者大多不能偿还。一旦放款的期限已到而又无力偿还，其所抵押的土地即为放款者所占有。虽然官方曾规定利率不得超过三分，而且不论借款时间之长短，利息总数不得逾本金之半，但这种规定从来未能认真执行。与上述规定同时，官方还规定土地因不能还贷而被放款者占有，5年之内，仍可以用原价赎回，这也就在书面上更增加了事情的复杂性。
海瑞之下决心改变这种状况，不仅是出于保持法律的尊严，而且是为了维护道德的圣。从他的文集中可以看出，他有限制富户过多地占有土地、缩小贫富差别的愿望。这种冲动使他一往直前，义无反顾。因此，他毫不犹豫地接受了大批要求退田的申请。
南直隶境内的豪绅富户，最为小户百姓所痛心疾首的是徐阶一家。此人曾任首辅，后为高拱排斥而退休闲住。他的家庭成员，据称多达几千，其所占有的土地，有人说是24万亩，有人说是4o万亩。上述数字无疑地有所夸大，但徐家为一大家庭，几代没有分家，放高利贷的时间也已颇为长久。海瑞把有关徐家的诉状封送徐阶，责成他设法解决，最低限度要退田一半。从他们往来的缄犊中可以看到，徐阶被迫接受了海瑞的带有强迫性的要求。徐阶于海瑞有救命之恩。在他任首辅期间，海瑞因为上书而被系狱中，刑部主张判处绞刑，徐阶将此事压置。他退职家居以后，听任家里人横行不法，根据当时的法令，他可以受到刑事处分。海瑞强迫他退田，并且逮捕了他的弟弟徐涉，一方面显示了他的执法不阿，另一方面也多少可以减缓百姓的不满，体现了爱人以德的君子之风。这种兼顾公谊私情的做法大大地增加了海瑞的威信。
如果海瑞采用惩一儆百的方式，把徐家或其他几家有代表性的案件广事宣传，以使藉富欺贫者知所戒惧，而不是对类似的案件一上追究，那么，他也许会在一种外张内弛的气氛中取得成功。然而他的热情不可收敛。他指定每月有两天专门收受这一类案件。据他自己的文章中说，他每天要收到三千至四千件禀帖。牵涉面如此之广，自然一发而不可收拾。
南方的农村大多种植水稻。整片田地由于地形和灌溉的原因划为无数小块，以便适应当日的劳动条件。这样，因为各小块间肥瘠不同，买卖典当又经常不断，是以极少出现一个地主拥有连绵不断的耕地。王世贞和何良俊都记载过当时的实况是，豪绅宫户和小户的自耕农的土地互相锗杂，“莫知所辨析”。海瑞自己在海南岛的田产，据估计不到4o亩，却分成了93块，相去几里。这些复杂的情况，使解决农田所有权的问题变得更加困难。
除此以外，利用高利贷以侵蚀获取他人的产业，还并不限于富户及其代理人青皮光棍。因为信用借贷的机构并不存在，一个自耕农如果稍有积蓄，他就会设法把积蓄贷之于亲戚邻舍以取得利息，借方即以其田产的一部分作为抵押品。在开始的时候借贷双方的贪官程度往往相去无几，然而当借方由于急需而以这种利率极高的贷款来饮鸩止渴，在多数的情况下就难于自拔，所抵押的田产也随即为贷方接管。这种情形在当时已经成为社会风气。海瑞卷入了大量这样的纷争之中，孤军奋斗，遂使自己陷于不能自主之境。以个人而对抗强大的社会力量，加之在具体处理这些诉讼的时候又过于自信，师心自用，既没有对地方上的情形作过周密的考察，也没有宣布法律的准则，更没有建立专门的机构去调查案情、听取申辩以作出公正的裁决，海瑞的不能成功已不待言而自明。除此以外，他虽然承认明文规定5年以上不得赎还的条文，但却要求有书面契约作为依据，否则这一条文就不能适用。这个理由表面上似乎并无不妥，然而揍诸实际，农民间的借贷，通常却很少有书面契约。据他自己说，对这样的案件，他所批准赎还的仅占二十分之一，但正如上面所说的，他不是依靠一个强有力的机构而只凭个人的判断去裁决为数众多、头绪纷繁的争执，其是否能一一做到合情合理，无疑是一个极大的疑问。
还在海瑞受理田产纷争之前，他已经受到了监察官的参劾。参劾的理由是他不识大体，仅仅注意于节约纸张等细枝未节，有失巡抚的体统。随后，给事中戴凤翔以更严厉的措辞参劾海瑞，说他但凭一己的冲动随意对百姓的产业作出判决，在他的治下，佃户不敢向业主交租，借方不敢向贷方还款。这种明显的夸大之辞不免使人怀疑这位给事中是否已经和高利贷者沆瀣一气。更为耸人听闻的是，戴凤翔竟说，7个月之前，海瑞的一妻一妾在一个晚上一起死去，很可能出于谋杀。尽管海瑞答辩说他的侍妾在阳历8月14日自缢，而妻子则在8月25日病死，但是给事中的参劾已经起到了预期的效果，不论真相如何，许多人已经怀疑海瑞确系怪僻而不近人情，所以才会发生这样的家庭悲剧。
事情极为分明，戴凤翔所代表的不仅是他自己。要求罢免海瑞的奏疏继续送达御前。吏部根据各种参勃的奏疏提出意见，说南直隶巡抚海瑞实为“志大才疏”，应该调任闲曹。这情形是如此微妙，一年之前没有人敢于非议这位朝廷上最正直的忠臣，一年之后他却成了众矢之的；一年之前文渊阁和吏部还因为海瑞的抗议，对他另眼相看，一年之后他们却建议皇帝让他去重新担任不负实际责任的官职。愤愤不平的海瑞终于在157o年春天被迫辞职回乡，在提出辞职的奏疏中，他痛斥“举朝之士，皆妇人也”。这种一概骂倒的猖介之气，使他在文官集团中失去了普遍的同情。
两年之后，万历皇帝登极，张居正出任首辅。这位文渊阁的首脑和海瑞一样，尊重法纪而讨厌苏松地区的地主。由此，海瑞曾经和张居正作过接触，希望他主持公道。张居正给他的复信中说：“三尺之法不行于吴久矣。公骤而矫以绳墨，宜其不堪也。讹言沸腾，听者惶惑。仆谬乖钧轴，得参与庙堂之未议，而不能为朝廷奖奉法之臣，摧浮淫之议，有深愧焉。”这种以委婉的语句阳作同情、阴为责备的修辞方式，正是我们的文人所擅长的技巧。张居正认为海瑞轻率躁进而拒绝援之以手，使海瑞赋闲家居达15年之久，一直要到1585年，他才被重新起用为南京右金都御史。
对于张居正，批评者认为他峭刻、矫饰而自奉奢侈；对于海瑞，则称之为特、怪僻而执拗。批评者没有看到他们那种上下而求索的精，即希望寻找出一种适当的方式，使帝国能纳入他们所设计的政治规范之内。尤其重要的是，如果张居正的措施多少带有变法的意味，那么海瑞的做法却是力图恢复洪武皇帝拟定的制度，这些看来似乎是古怪的政令都有成宪和理论的依据。
洪武皇帝两百年以前创建本朝，并确立了整套的政治和经济制度，其主要的着眼点在于保存一个农业社会的俭朴风气。当时全国的文官仅有8ooo人。所有办理文犊和事务的技术人员称之为“吏”，和文官属于两个不同的阶层，如径渭之分明。官可以罚降为吏，吏却很少能上升为官。这些吏的薪给极为微薄，仅足以供一家糊口。
即使对于官员，立法上的限制也十分严格。比如有一条最为特的规定是，所有的官员如果未经一定的手续批准，则不能越出城门一步，违者以拢民论，按律处死。他们和百姓接触的方式是派皂隶票传当事人前来官衙，三传不到，才能下令拘捕。洪武皇帝还亲自著成一本名为《大诰》的小册子，通过具体的案例以阐述他实行严刑峻法的原因。百姓中每家每户都必需置备一册，如果遭受官府欺压而沉冤不能昭雪，有必要叩阙鸣冤，这本《大诰》可以代替通行证。
农村的组织方式是以每一乡村为单位，构成一个近于自治的集团，按照中央政府的规定订立自己的乡约。一村内设“申明亭”和“旌善亭”各一座，前者为村中耆老仲裁产业、婚姻、争斗等纠纷的场所，后者则用以表扬村民中为人所钦佩的善行。一年两度，在阴历的正月和十月，各村都要举行全体村民大宴，名曰“乡饮”。在分配饮食之前，与会者必须恭听年高德劭者的训辞和选读的朝廷法令，主持者在这一场合还要申饬行为不检的村民。如果此人既无改悔的决心而又规避不到，那就要被大众称为“顽民”，井呈请政府把他充军到边疆。
在为全国农村规划这样一张蓝图的同时，洪武皇帝又连兴大狱，打击官僚、绪绅、地方等高级人士，从朝廷内的高级官员直到民间的殷实富户，株连极广。据有的历史学家估计，因之丧生者有逾十万。没收了案犯的家产并把其中的土地重新分配，加上建国以来大批的移民屯田开荒，就使全国成了一个以自耕农为基础的农业社会。1397年，据户部统计，全国仍能保有田产7oo亩以上的地主计有14341户。他们的名单被备案呈报御前，洪武皇帝批准他们保持自己的产业，但同时加之以很多服役的义务，俾使其家产不致无限地扩大。
洪武皇帝所推行的农村政策及一整套的措施，对本朝今后的历史，影响至为深远。其最显著的后果是，在全国的广大农村中遏止了法制的成长发育，而以抽象的道德取代了法律。上自官僚下至村民，其判断是非的标准是“善”和“恶”，而不是“合法”或“非法”。
在财政制度上，政府规定了按面积征收田赋，除浙西（当时的浙西包括今日的苏南）而外，其他地区的税率都比较低。征收不分贫富，其限制富户的办法即上述的服役。这种服役名目繁多，而且按累进税的原则分派，即家室愈是殷富，其负担也愈是繁重。比如各地驿站所需的马匹、船轿和饮食，完全出自大户供给，一年中的供应量又没有限额，旅行的官员越多，他们的负担也越重。
地方支出中数字最难固定的项目，即来往官员的旅费。这笔费用既由各大户分摊，所以大部分的地方政府，其财政开支大部根据固定的数字。同时又因为开支涉及的范围很小，多数地区均可自给自足。其有特殊情况不能自给的，按规定应由距离最近而有赢余的地区直接补贴。这种地方自给的财政制度推行到这样的程度，即在洪武未年5ooo名金吾卫军士的军饷不是由国库支出，而是指定应天府内5ooo个纳税人把他们应交的税米直接送到这5ooo名军士的家里。这种以赢补亏而不由上级机关总揽收支以节约交通、通讯、簿记、仓库管理等各项后勤支出的财政制度贯彻于本朝的始终。全国满布着无数的短途运输线，缺乏统一的组织和管理。到后来税收已由实物折为现银。这种原始的方式也由于积重难返，而且中级机构又缺乏组织，而无法完全改变。
显而易见，这种财政制度的弊病在于缺乏弹性，不能适应环境而调整。各府县的税率、税额长期凝固，即便耕地的收获量增加，其利益也为业主和高利贷者分润，于国库则无所裨益。在传统经济中的主要成分农业的税收情形尚且如此，对视为未业的工商业，自然也是照此办理。
造成这种财政经济上凝固化的主要原因，是为了维持文官制度的统一和协调。各个地方官既已根据洪武皇帝所制定的原则，以农村的简朴为行政的着眼点，那么少数文官想要刺激较为活跃的经济部门例如商业，或者是想改革供应制度以总收专发，保持收入和支出的合理弹性，则势必在整个文官集团中另起炉灶，培养一批技术人员。其甄别，训练，管理，考核，升调也都要和一般行政人员不同。这样，势必演变而为两套不同的法令和两个不同的组织。而在事实上，文官集团只能有一种传统的性格，而由于这个集团是本朝实际上的统治者，它就必然会以自己的性格作为标榜，而责成全社会向它看齐。俭朴本来是一种美德，然而在这种条件下提倡俭朴，充其量也不外是一种手段，意在使行政问题简化，以适应政府本身的低能。
