读此书，感觉何兆武先生娓娓道来，俨然是一次轻松惬意的聊天畅谈。其实，书中包含了作者对历史、对社会、对人生的深刻见解，字里行间无不闪烁着智慧与豁达。正如葛兆光先生在此书《小引》标题所说那样，此书体现了“那一代中国知识分子的幸福和自由”。
知识分子，是读书人都乐于接受的称谓。然而，并不是所有的读书人都能经受得起“知识分子”的称谓。何兆武以及书中所提及的梅贻琦、、朱自清等人配得上“知识分子”。他们生逢乱世，“追随着五四时代的传统精神，把民主、自由、科学当作矢志不渝的追求，把国家整体的富强当作永恒的理想……”，他们不是简单的科学技术人员，并不是整个国家、整个民族、整个时局的“局外人”。
诚如美国30年代兴起的要素主义教育思潮认为：“学习的目的在于使学生掌握使他终身受用的知识、技能”；又如永恒主义教育思潮所认为：“教育所培养的人的使命不仅仅在于适应现实的环境，而关键在于改变现实的环境，去实现一种更幸福美好的社会生活”。众所周知，要素主义和永恒主义教育思潮是在批判进步主义教育主张中产生的。《上学记》中说“我们的教科书几乎都是美国课本”。无可否认，作者受到了西方优秀教育思想的影响。同时，尽管何兆武先生多次谈到自己的国学基础差，但是在他们身上很显然地体现出对中国传统文化的眷顾。因此，是教育中的中西融合、兼容并蓄使得那一代知识分子的内涵更加丰满。
葛兆光先生说认为“教养”至少得三代人的培养，知识分子的成长也不是一朝一夕的事。尽管何兆武先生在《上学记》中谦虚地说“我的祖上没有名人”，然而我们知道何先生的祖父是清末的秀才，父亲就读的是湖南大学的前身——湖南高等实业学堂。良好的家庭教育、良好的知识分子家庭氛围是何先生成为知识分子的前提之一，也是良好的教育得以顺利开展的前提之一。书中提到这样的例子还有很多，杨振宁的父亲是西南联大数学教授杨武之，朱棣文的父亲是北大的朱汝瑾等。因此，教育的目标应该更为远大，因为教育培养的不只是一代学生，培养的可能还有“学生的学生”。
