两人最早相识于《水月洞天》剧组，张晋引起活泼外向的蔡少芬的注意，依旧是因为他天生的害羞性格。蔡少芬回忆说：“当时全组除了陈法蓉，只有他会广东话，我看他经常闷坐在那里，好可怜，我又比较喜欢照顾安静的人，就老找他玩。”
跟所有的爱情故事一样，张晋和蔡少芬的爱情最初也充满戏剧性。张晋回忆说，自己最早对蔡少芬有感觉，是“当时她在煮面，我从后头看着她，觉得这要是我女朋友该有多好”。那时候，两人在剧组天天泡在一起玩儿，岁数都不小了，但彼此对两小无猜的把戏乐而不疲。在一次跳远比赛里，张晋甚至玩得兴起，折断了自己左手某只手指的骨头。“她当时还捂嘴嘿嘿笑呢”。回忆起这段甜蜜，张晋满脸宠溺。
2007年，蔡少芬给港媒发手写公开信，正式公布和张晋的恋情，并表示两人即将完婚。谈及这段过往，张晋又开启了害羞模式，“信特别肉麻，我觉得有点儿过了，但喜欢的人夸自己，就这样吧”。
但在张晋看来，对方对自己性情潜移默化的改造，是一笔可贵的财富。在蔡少芬的影响下，张晋本身的少年心气，也被打磨得越发温润——他坦言，自己刚跟蔡少芬好时，“看她跟别的男人在一起拍肩膀、搂在一起拍照都会吃醋”。现在，他对此已泰然自若，“最重要的还是沟通”。
当一个男人能把嫉妒这枚毒药的毒性都消减殆尽，还有什么扛不过去？
2015年元宵晚会上，张晋和蔡少芬一起，献唱了一曲《平凡相恋》。这应该是两人第一次以对等的身份，在公众场合亮相合作。从“蔡少芬老公”到做自己，张晋完成了人生蜕变，这对伉俪，将要面临的是新的身份转变和挑战。
同年5月的《鲁豫有约》里，蔡少芬就主动谈到了这一点。“现在找他出去玩的派对多了，他会说又没有叫你，你就不要去了。我就会觉得为什么不找我呢？我的心态也需要慢慢调整。”
如今张晋在业余时间基本不碰武术了，“前几十年接触武术的东西太多了”。现在他觉得更需要做的是陪伴家人：“生活中很多东西过了就没有了，我女儿大了，我就不能再送她上学，我太太老了，就看不见她年轻的样子，这是我每天活在当下，应该要去做的。”