地方政府的官员必须住在衙署内，出于履行职责、方便工作、环境安全和廉政保密等多方面的需要。据《东观奏记》等史书记载，唐代宣宗时，崔郢任京兆尹，发生了“囚徒逸狱而走”事件，皇帝遂“命造京兆尹廨宅”于衙内，并严申“京兆尹不得离府”。因知这个制度至少在唐代就已经有了。
《水浒传》第二十一回，写唐牛儿想帮助正被阎婆缠住的宋江脱身，撒谎说：“知县相公在厅上发作，着四五替公人来下处寻押司……”阎婆立刻揭穿他道：“这早晚知县自回衙去，和夫人吃酒取乐，有甚么事务得发作？”这里所谓“回衙”，就是回到郓城知县和夫人住房所在的内衙。所以这一段对话，也是宋代地方官员及随任家属都住衙门的佐证。这个制度，一直维持到明清。
宜加说明的是，长官及其眷属所住的院落，通常都是相对而言位置最好的所在，通称“上房”；复以男女防嫌的缘故，其封闭性也很强，特别是女眷，一般是不走出来的。哲学家冯友兰的父亲曾在晚清时署理崇阳知县，所以他也有过跟着父母居住后衙的经历，其在《三松堂自序》里回忆说——
进了宅门，往西边拐，就是花厅，是县官会客的地方。花厅西头，有一个套间，叫签押房，是县官办公的地方。花厅后边，隔一个院子，就是上房。母亲领着我们都住在上房里面。还有厨房和其他零碎房屋，都在东边的院子里。这个格局和体制，大概各州县衙门都是一样。
其实，如果是条件较好的衙门，内衙生活区内尚有池榭假山、凉亭台阁等人工景观，供那些被圈在院子里的太太小姐等女眷走动散心。如明代嘉靖《江阴县志》卷1述江阴县衙内的建筑，就有若梅亭、练江亭、翠光亭、漾花池、莲风阁等多种名色。
