在这个专制政权统治下，大久保在政治、经济、文化等方面进行了一系列的资产阶级改革，便遭到封建保守势力的反对。对版籍奉还、废藩置县一直心怀不满的岛律久光上书天皇，提出14条建议，反对各项资产阶级改革，并要求撤掉大久保的职务。当然大久保等改革派不能接受，对保守派进行反击，岛津久光被迫引退。
当岛津等旧藩势力在内部进行反政府活动的时候，对明治维新各项资产阶级改革强烈不满的反动土族公开发动了反政府的武装叛乱。最先发动的是1874年2月由江藤新乎和岛义勇领导的“佐贺之乱”。结果被大久保镇压下去。
1876年3月政府发布了废刀令，8月又发行金禄公债，废除俸禄制，使失去利权的土族更为愤怒，在熊本爆发了“敬神党之乱”。在其影响下福冈县爆发了“秋月党之乱”，在山口县爆发了“获之乱”。这些叛乱都被大久保一一镇压下去。
1877年2月2日，鹿儿岛的反动士族拥立辞职回乡的西乡隆盛为首领发动了叛乱，即所谓西南战争，结果仍以失败告终。大久保的这一系列高压政策，必然遭到士族的痛恨，埋下了这位日本“铁血宰相”的死因。
明治十一年(1878)5月14日晨，来东京出席地方会议的福岛县令山吉盛典到大久保的邱宅。大久保很高兴地接见了山吉，听取了他关于福岛县形势的报告，还就福岛县的疏水工程交换了意见。后来山吉想走，大久保挽留他并说：“维新以来已经十年岁月;内外事件频发。不肖利通担任内务卿以来未见政绩，实在不胜惭愧。现在是内外安定，此时正欲努力贯彻维新的盛意。要达到此目的，不得不以30年为期。假如将它分为三期，明治元年至十年为第一期，还是创业期。明治十一年至二十年为第二期，确实这是最重要的时期，整顿内政、充实国力就在此时。利通虽然不肖，但欲排除万难完成此志。明治二十一年以后的十年为第三期，这是守成时期，等待后进的优秀分子继承大业。”以上的话想不到竞成了大久保的遗嘱。
山吉定后，大久保便到太政官(相当国务院)去办公，乘马车来到曲町清水谷。大久保在马车内还利用时间阅读了文件，不料8点左右，遭到石川县岛田一郎等六名征韩党士族的袭击。大久保虽然身受白刃，还厉声呵斥，沉着将放在膝上的文件用绸巾包好，不久倒向前方断气了。时年49岁。