然而，严氏家馆成立次年，八国联军直逼天津。1900年农历6月16日，列强攻破天津，烧杀抢掠，横尸遍野。张氏全家逃住严家避难，又赶瘟疫，全家先后染疾，他四五岁的一儿一女，无医无药，先后夭折。
1901年，时局稍转稳定，天津“八大家”之一的盐商“益德王”——王奎章，出面聘请张伯苓，为王氏家馆6个学生教授英文、数学等自然学科知识。
从此，他穿行严、王两馆，传道授业，诲人不倦。
1903年，严范孙被提拔为直隶学校司督办，成为直隶地区管辖教育的高级官员。
是年，张伯苓边教学生，边思考为何小日本弹丸之地，却能跻身世界列强？他想到日本揭秘，得到严范孙和王奎章的全力支持。于是他利用暑假，到日本考察了办学的规模和教学方法，深受触动，倍感启发。
回国后，在严、王两位学东为他举办的欢迎宴上，他感慨地说：“考察数日，知彼邦富强，教育振兴为主因。欲救中国，必须从教育着手，欲使教育完善，必须有一正式学校组织。”