张伯苓相继创办了南开中学、南开大学、南开女中、南开小学，其经费来源主要靠社会募捐，由此他得了个“化缘和尚”的绰号。张伯苓把募捐到的资金登记造册，账目完全透明化、公开化。他坚持把钱花在刀刃上，绝不允许有丝毫的浪费，更不允许落入私人腰包。他的生活始终朴实无华，过着布衣素食的生活。

张伯苓深信俭可养廉的道理，婚后他曾对夫人说：“教育是清苦事业，所入无多，家中事悉以累汝。”为了支持张伯苓创办教育事业，夫人一个人料理一切家务事，张伯苓则一心扑在教育上。为了节约经费，他出行很少坐车，无论是上下班，还是去市里开会，他都一路步行。于是，有人送给他一个雅号“11号车”。

张伯苓去北京出差，永远坐三等车厢，每次都住在一家一天一元钱、管吃管住的小店。老舍和曹禺称张伯苓是一个“不吸烟，不喝酒，一辈子也不摸麻将和牌九”的人。不过，张伯苓开始是吸烟的，后来只是为学生做榜样才戒掉的。有一次，张伯苓在校园里发现了一个抽烟的学生，就教育学生说，吸烟有害健康，要把烟戒掉，以后不要再吸了。谁料，学生却振振有词地对张伯苓说：“校长，您不是也在吸烟吗？如果您能把烟戒掉，以后我就不吸了。”就这样，学生一句调侃的话，张伯苓却认真对待，从此他真的把烟戒掉了。他戒烟的消息传开，使每一个学生敬佩不已。

张伯苓名满中国时，依然居住在平民区的简陋住宅里。一次，少帅张学良慕名来访，汽车跑了好几趟，才终于找到了“校长公寓”。事后，张学良对记者惊叹道：“偌大大学校长居此陋室，他的朴实令人敬佩！”