他没想到的是，四年级划分时，清华营建系已改为纯工科的建筑系，没有了建筑史。他被分到工业建筑，毕业后分配到中国科学院土木建筑研究所。幸而1956年9月中科院与清华建筑系合办建筑历史与理论研究室，梁思成任主任，傅熹年被所在单位派到这个研究室工作，得以回到母校清华。他以为终于实现了研究中国建筑史的夙愿，但命运再一次捉弄了他。
反右运动中，因一些私下闲谈被人揭发，他被划成右派，1959年春下放建筑工程部的北京南口农场劳动。
说起这次下放，他只淡淡地说工作是“放牛、养猪、种老玉米”。他觉得自己很厉害的是给母猪接生，十个八个呼噜一下子就生出来了，“挺好玩的”。下放的近两年里，他抽空反复通读了带去的《资治通鉴》和宋《营造法式》。
1960年10月，他摘掉了右派帽子，返回单位。反右后，建筑历史与理论研究室已被清华撤销，经梁思成联系，傅熹年等非清华人员调到了建筑工程部所属的建筑科学研究院建筑历史室。工作室的主任是梁思成，副主任是刘敦桢、汪季琦。傅熹年被编入民居研究组，参加了王其明负责的浙江民居调查。
王其明告诉《中国新闻周刊》，组里有两个能人，一个尚廓，一个傅熹年，两个人手下都很有功夫。
建筑科学院的图书馆搜购了很多建筑方面的书籍，有的是外文原版的。傅熹年提醒王其明，其中有两前欧洲建筑师到乡村采风所画的建筑速写图册，还有一本日本的《百栋集》，一百栋住宅每栋都配了一张平面图、一张剖面图和一张透视图，可以参考。王其明深受启发，觉得浙江民居调查也可以这样做。
傅熹年作品：浙江杭州上天竺民居写生稿。
王其明说，光画平面图、剖面图不足以显示建筑物的优点，要画透视图，傅熹年画透视图是一绝。“他的表现能力特别强，图画得可帅了。他画的那些民居写生图，有远有近，有大有小，配上的那些树也很好。因为他对国画的见识也比较多，很有才气的。”
王其明觉得傅熹年很有钻劲儿。他是红绿色弱，考清华建筑系前就有意识地做“预习”，画画知道自己哪个颜色不准，就注意调整。她觉得，傅熹年被划右派受打击很大，但对他来说也算一个很特殊的成长环境，还收获了知心的爱人。他划右派后，要跟在文物出版社工作的女友分手，女友却坚决不改志向，他也毫不动摇，两个人是等他摘了帽子后才结婚的。
除了画图，傅熹年的文史综合能力也有了用武之地。在协助刘敦桢编写《中国古代建筑史》时，他开始用研究古建筑的手法来考察一些重要古代名画。
