1928年秋,张公制从安丘到青岛养病,从此过起了远离政治的隐居生活。虽然隐居,然而张公制心里始终关注着国家和民族的命运。
　　他在青岛期间,他亲眼看到了国民党统治下的黑暗,他在回忆录中写道:“……总的说来,抗战胜利后国民党的所作所为,简直令人觉得这不是胜利,而是亡国。加上美国兵无法无天,随便打人,随便辱人,更使得国家名存而实亡。”青岛解放之前,73岁的张公制仗义执言,冒险面见青岛最高军政长官刘安祺,劝他放弃了炸毁青岛的计划,保全了青岛这座滨海名城。
　　6月2日,青岛和平解放,这座美丽的城市重新回到了人民的怀抱。广大市民载歌载舞,欢庆解放军进城,张公制功不可没。

坚辞不就,拒当国民政府“附庸”
　　从1928年秋开始,张公制多次往返青岛、安丘、邹平,积极创办乡农学校,致力于乡村建设,并取得了一定效果。“七七事变”爆发后,张公制不愿为日寇驱使,从青岛返回家乡安丘。当时的安丘派别复杂,互相摩擦,都想拉拢张公制为其效力。
　　1937年冬天到1938年春末夏初这段时间,张公制先是住安丘西南山区的马朗沟村友人家中,后又到马家寨庄和水帘沟两村的亲戚家借住,四处避难。
　　张公制在安丘期间,国民党第八区专员厉文礼一再邀请张公制到他的部队担任顾问,国民党南京政府也希望由张公制担任山东宣慰使、山东省参议会的议长、副议长等职,这些都被张公制以年老有病为由拒绝。
　　1938年春末,张公制谎称去上海看病,暗中潜回了青岛,虽然报户口时用的是夫人的名字,但伪市长赵琪不久便发现张公制住在青岛。他先是派人去请张公制出山,后又亲自拜访商谈,都没有达到目的。青岛成立参议会时,国民党青岛市党部邀请张公制出任议长,被张婉言拒绝。
　　据张公制回忆,他在青岛期间之所以能够安然无恙没有受到伤害,得益于诗友吕美荪的庇护。日伪时期的青岛,军警宪特密布全市,张公制既不为日伪所驱遣,也不为国民党的邀约所打动,人身安全却时时受到威胁。在一本日本人编的《支那名人录》中这样记载:“张公制,性情激烈,是反日分子……”他曾随身携带一瓶安眠药,一旦被日寇裹挟,随时准备赴死。

杀人事件,要求严惩外籍肇事者
　　日寇投降后,国民党反动派接管了青岛。丁治磐担任青岛绥靖公署主任,是当时的军事首脑；李先良当市长,是政治首脑。
　　此外,还有国民党中央派来的敌产管理处之类的东西。行政院善后救济总署鲁青分署也随之成立,这是联合国“救济”物资处理机构。当时的青岛,到处是这种或那种的机关,名目繁多,不胜列举。
　　再加上美国海军、海军陆战队、宪兵队等,几乎把青岛所有较大的建筑物都占据起来。沿街随处可以看见美国兵,他们酗酒、携妓、打人、闹事,驾车在街上横冲直撞。
　　张公制老朋友安鹏东的儿子安仲达无故被美军打死,让张公制难抑心中怒火,他愤而找到丁治磐交涉,要求严惩凶手。
　　安鹏东的儿子安仲达从南京警官学校毕业后到丁治磐属下某团担任第六营营长。就职赴任之前,安鹏东怕儿子年轻缺乏经验,还谆谆交代了一些处世之道。
　　第二天安仲达到任后,带领几个士兵赴浮山所防地巡视。他路过美军兵营附近时,见一值岗的美军士兵正拥抱着一位外籍女子,场面难以入目。
　　正在安仲达不知如何处理的时候,那女子却指着安仲达向美兵比划,美国兵即举枪向安仲达瞄准作射击状。安仲达连忙向美国兵摇手示意,不料对方却扣动板机,子弹穿透了他的胸膛。这个刚刚上班一天的年轻军官,还没有来得及施展自己的人生抱负,就这样倒在了血泊当中。
　　失去儿子,安鹏东痛不欲生。听说这件事之后,张公制立即约上与丁治磐熟识的臧文珊前去与丁交涉,要求严惩凶手,交出那个涉事的外籍女子法办。
　　丁治磐推称中国无治外法权,不能惩办外国人。张公制当即表示要据实登报,将此事公诸舆论,丁治磐不得已答应尽力为此事交涉。结果最后,只说行凶的美国兵已被押解回国处理,而那个外籍女子也一直没有交出法办。
　　事后丁治磐拟以法币数万元作为抚恤金,被安鹏东严词拒绝。
临危时刻,敢于出面说服当权者
　　1949年春,青岛解放前夕,张公制通过高密任祖兰先生之孙任林圃在国民党青岛警务司令部当秘书之便,得知国民党由南方运来大批炸药,准备撤离青岛时炸毁青岛水电和工业区,给共产党留下一个烂摊子。当时,中国共产党胶东军区也得到这一消息,中共希望能和平解放青岛。
　　军区通过刘仲让(安丘城关人,早年与公制先生相识)与张公制取得联系,说明我党我军和平解放青岛的目的和要求,想请张公制出山去说服青岛绥靖区司令刘安祺,劝其不要做为害国家、民族的罪人。当时能承担此任的只有张公制一人。刘安祺是临沂人,丁治磐离任后继任绥靖区司令。刘安祺素仰张公制先生的为人和声望,所以到青岛之后曾登门拜访过张公制,对张以前辈礼待。
　　张公制欣然应允:“此举甚合吾意,我豁上老命也要完成任务。”当时国民党在青岛大肆搜捕地下党人和进步人士,已经73岁的张公制冒着生命危险两次去见刘安祺。
　　见到刘安祺,张公制正言道:“风闻司令要炸毁青岛工业区,此事万万做不得!”刘安祺当即否认,张公制趁机规劝他仿效傅作义将军。见刘安祺思忖不语,张公制又说:“青岛孤军无援,岂能坚守?如果通过战争解决,青岛人民必遭涂炭,如按‘中央’指示,要炸毁水、电厂及港口码头等重要设施,名城青岛将毁于一旦。这样做,阁下的名誉将不是流芳千古……如其不然,不如不战善退、保全青岛,也不失留有余地。”听到这里,刘安祺终于说:“我是山东人,哪里不想在本地留个好名誉呀!我接受你的善意。”就这样,迫于各方面的压力,刘安祺放弃了炸毁青岛这一破坏计划的实施,二人达成了“不战善退”的协议。
　　为防止已秘密参加革命的青岛警察局消防队长马元敬被裹胁撤离青岛,张公制又劝说刘安祺留下消防队维持地方治安,刘当场答应,指令警察局长刘国宪办理。5月底,刘国宪把马元敬叫到办公室说:“消防队是慈善机关,你的名声不坏,绥靖区司令官刘安祺接受民意,把你们消防队留下,警察撤离后由你维持地方治安。”
　　6月1日晚,国民党军队和警察上船逃跑,马元敬立即派出消防队员携带武器到自来水厂、电厂、码头、重点企业等地布岗执勤,出动全部消防车巡逻在各主要街道,鸣笛警戒,维护好市政机关和水电设施,持城市治安秩序。
　　6月2日,青岛和平解放,这座美丽的城市重新回到了人民的怀抱。广大市民载歌载舞,欢庆解放军进城,张公制功不可没。