1924年败于第二次直奉战争，时人也多谓非战之罪;再败于南方革命军之北伐，遂息影下野。晚年又潜心于阐释儒家学说，有《循分新书》、《正一道诠》、《明德讲义》、《春秋正义证释》等着作传世。他注重修身，廉洁自守，忠诚无畏，算得上是民国政坛军界中的佼佼者。对他一生的事功、品格与为人处事，民国名记者陶菊隐誉其为“中国旧军人的最后一个典型”。
吴佩孚的死因，时人有多种说法，至今谜团未解，未能定论。可以肯定的是：无论他是死于日伪的阴谋，还是误于庸医之手，都无碍他的晚节。对吴的辞世，伪华北政权所控制的《新民报》于1939 年12月5日，以“吴佩孚将军昨晚在寓逝世东方文化上一大损失”为题发布了吴佩孚死讯，报道称：“吴佩孚将军，以六秩晋六之翁，身体素健，步履如恒，讵于前四五日突罹牙疾，当延伊东日本大夫及中医郭眉臣，西医方石珊，德医史替芬等医治，以期万全。惟牙肿迄未见痊可，竟于四日下午六时病逝，享年六十六岁。将军之生前友好齐燮元、江朝宗、蒋雁行、孙丹林、陈廷杰、陈中孚诸氏主持治丧处云。”而抗战后方重庆的《中央日报》也于12月6日刊登消息说：“敌因汪逆精卫之伪中央政权不为各方面所承认，乃急图强迫吴佩孚出任某重要军职，加强傀儡组织之声誉。自上月二十五日起，敌即派大批特务人员包围吴氏住宅，敌酋坂西并亲晤吴氏，迫其与汪逆合作，或在华北自树一帜，虽为吴氏所拒绝，而敌酋仍日往逼诱。二十九日起，吴氏突患牙痛，敌嘱日医为之诊治，同时吴宅即为宪兵所监视，进出均受检查。本月三日，吴氏牙痛更剧，日医商得坂西同意后，施行拔牙手术，此后吴氏即转入昏迷状态。四日午后稍清醒，欲邀亲友及旧时僚属谈话，然终不可得，最后乃语其夫人曰：‘死得好!’日医此时复为之注射，吴氏复入睡眠状态，延至下午六时五十分乃与世长辞。”又讯称：“吴佩孚病逝之消息传出后，各界人士一致表示哀悼，咸认吴为富贵不能淫，威武不能屈之爱国男儿。自‘临时政府’成立以来，王克敏及日方曾屡次请吴氏出任伪职，汪精卫曾以此为请，但均为吴严词拒绝。今日日方所办之英文报，称吴氏将出任汪氏政权之军政部长之说，亦并不可靠，盖吴氏已屡行表示不就任何伪职也，吴死后日方之组府工作，势必更趋困难云。”