戴笠1920年初到上海时，苦于没有落脚栖身之所，只好寄居在表弟张冠夫的亭子间里。张夫妻俩睡在床铺上，他就打地铺，弄得表弟夫妇的生活很不安。张当年是商务印书馆的一名小职员，当然是招待不起，念在至亲，短时间内尚无怨言，但表弟的妻子则不免冷言讽语的。后来戴笠发迹了，念着表弟待他的一点好处，引为亲信，一直将张安置在管金柜、管外汇的岗位上，也为戴笠管私财。张冠夫最大的官做到苏浙行动委员会少将衔的经理组长。可是戴笠对表弟的妻子一直视同仇人一般，有时指桑骂槐，大骂黄脸婆。张妻不失为有骨气的女性，并不因为戴笠有权有势而假以颜色，多年来都是怒而不言地对立着。有一次戴笠到香港与杜月笙有所密谋，张冠夫在港管外汇，因事须向戴笠汇报，欲带着妻子一道登门问候，借以消除多年来的积怨。可是张妻怎么也不听其夫的劝说，一硬到底，坚持不去，戴笠也无可奈何。
戴笠在上海混的时候，日子过得很苦，经常吃了上顿没下顿，饿几天是经常的事。后来混不下去又来到杭州，在一个夏天里，他只穿一身由灰军装改成的便服，他没有别的衣服，每穿一两天便汗臭难闻，为了使人摸不清老底，每隔一两天，就去灵隐寺旁边的湖里假装洗澡游泳，抢时间将脱下的衣服洗涤干净，摊在草皮上晾晒。等到衣服干了，才出水穿上东游西逛，探亲访友。他甚至自夸衣服只有一套，却比别人穿得干干净净，比之穿绸着纱还要好。
有一次他在灵隐寺旁边洗澡洗衣时，认识了胡宗南。当时胡宗南自吴兴乡湖师范毕业后，在杭州某小学当小学教员。有一天，胡领着一队小学生去灵隐寺湖边游览。小学生无意中发现了草地上晾晒的衣服，用小石子压着，他们不解压上小石子的用处，顺手将石子拾去，迫使戴笠不得不大声叫喊，既不能出水，又怕一股风把衣裤吹跑了。这时从学生中走出一位带队的老师，将拾去的石子追还，同时也觉察到泡在水里的人之所以急得大喊大叫的原因，两人相视一笑，似乎有千言万语尽在不言之中，后来戴笠找到学校里去致谢，两人畅谈之后，大有相见恨晚之意，遂成为生死之交的朋友。
1921年，蒋介石同戴季陶、陈果夫在内的一帮朋友在上海经营股票贸易市场，为孙中山集资时，在一个偶然的机会，认识了又从杭州回到上海混的戴笠。开始时，他们视戴笠为小瘪三，不过是差使跑跑脚、送茶递水而已。后来戴季陶知道他姓戴，又是浙江同乡，便问他读过书没有，青年人想干些什么的一类关心的话。戴笠那时感到这伙人不像商人，一天到晚来往的青年人不少，十有八九是革命党，可又不敢说出来，便答复说：“有饭吃就行。”他趁机又说：“青年人要干，就要像陈英士、徐锡麟一样，干得轰轰烈烈。我受过中学教育，当过团丁当过兵，现在打流打到上海来了。”
从那以后，戴季陶对戴笠改变了态度，对他关心起来。戴笠便改口称戴季陶做叔叔。蒋介石见戴季陶器重戴笠，凡属是跑腿出街的事，便叫他去干。
但戴笠对陈果夫的使唤却很不满意，非常讨厌他那股老爷气，经常在背后骂陈果夫是个肺病鬼。有时陈果夫叫他小瘪三，他就回敬他，叫他大瘪三。