民國三十六年十一月，連震東在家鄉台南競選第一屆國民代表代表，順利當選。

民國三十七年，連震東奉聘為憲政監督委員會委員。民國三十八年，任東南軍政長官公署土地處長兼臺灣省地方自治綱要起草委員，對推行地方自治及土地改革著有貢獻。國民政府遷台後，民國三十九年，連震東奉派為中央改造委員會委員，為十六名委員中唯一的台灣籍人士；另兼中華日報社長，旋改任董事長。

民國四十二年，連震東任國民黨中央黨部第五組主任，並奉派為台灣省政府委員兼建設廳長。民國四十三年起，調任台灣省政府民政廳長，積極推動地方自治；旋兼台灣省政府秘書長；民國四十四年，政府舉辦台灣省第一次戶口普查，連震東身兼戶口普查處副處長。

民國四十七年，當選省警民協會監事。

民國四十八年五月，連震東為當時在美國留學的獨子連戰越洋取得台北市一塊農地（現為中山北路五段永勝大樓），一年後成為建地。

民國四十九年年三月廿五日，連震東奉派為國民黨副秘書長，並辭去台灣省政府委員兼民政廳長之職；同年五月，因行政院局部改組，新任行政院內政部長，推動台灣經濟建設、土地改革、兵役制度之確立，以及地方選舉政務之策畫執行。

民國五十年，連震東的兒子連戰以論文《台灣的土地改革》取得芝加哥大學國際公法與外交碩士。由於方瑀（現冠夫姓為連方瑀）的姨父任職於內政部，時任內政部長的連震東介紹於美國求學的連戰給方瑀。民國五十四年，獨子連戰在鄒讜（連震東的世交鄒魯之子）任指導教授下，以論文題目《中共如何批鬥胡適》獲得芝加哥大學政治學博士學位。九月五日，連戰與在台贏得中國小姐選美競賽的方瑀在美國芝加哥大學龐德教堂結婚。

民國五十二年，國民黨九全大會，連震東當選為中央常務委員。民國五十五年，連震東奉派兼任行政院戶口普查處處長，並於同年辭內政部長及相關兼職，專任行政院政務委員。民國五十六年，連震東奉派為國家安全會議委員兼國家建設計畫委員會政治組召集人。民國五十八年，國民黨十全大會，連震東奉派為中央評議委員。民國六十五年獲聘，民國六十九年獲聘為總統府資政。

民國七十五年，連震東在台大醫院病逝，享年八十二歲，葬於陽明山公墓。

連震東先生從民國三十四年返台擔任台北州接管委員會首任主任委員，至民國七十五年逝世的41年間，先後擔任首屆台北縣長
、台灣省行政長官公署參事、台灣省參議會秘書長、第一屆國大代表
、東南軍政長官公署土地處長兼臺灣省地方自治綱要起草委員、台灣省政府民政廳長，台灣省政府秘書長、行政院內政部長、中國國民黨中央委員、行政院政務委員、中國國民黨中央評議委員會主席團主席、總統府國策顧問、總統府資政等黨政要職，對於台北重建、地方自治及國家長遠發展居功甚偉。

民國七十五年十二月二十三日，蔣經國總統特頒「總統令」褒揚連震東，總統令內容如下：

國民大會代表，總統府資政連震東，少勵志節，克纘家風，深明民族大義，學成獻身祖國，竭智宣勞，同御外侮。待抗戰勝利，台灣光復，當選制憲及第一屆國民大會代表。歷任台北縣縣長、台灣省參議會祕書長、台灣省政府建設廳廳長、民政廳廳長、內政部部長等職。於土地改革、經濟建設、兵役、戶政諸端，功隨年積，尤於地方自治，懋積孔昭，膺聘資政以來，復多獻替，平居熱心公益，為世所稱。茲聞病逝，悼念良深，應予明令褒揚，以示政府篤念忠勛之至意。