故事发生在拥有着深厚历史的圣多明尼教堂之中，在这里执掌的，是名为基斯（巴里·菲茨杰拉德 Barry Fitzgerald 饰）的神父，基斯在这个职位上已经度过了四十五年的时光了。基斯年岁已高，思想早已经渐渐跟不上潮流，前来听他布道的信徒们越来越少，教堂很快就陷入了入不敷出的危机之中。
就在这个节骨眼上，一位名叫欧曼尼（平·克劳斯贝 Bing Crosby 饰）的年轻神父被教会派来此地协助基斯。对于这个活泼风趣的年轻人，固执老成的基斯当然是看着一百个不顺眼，然而，欧曼尼依旧我行我素，用他温暖随和的风格，让每一个人如沐春风。随着时间的推移，欧曼尼在潜移默化之中改变了基斯的想法，并且帮助教堂筹得了重建资金，拯救了这座古老的圣坛。
查尔斯·“查克”·奥马利神父（平·克罗斯比饰）是一位来自东圣路易斯的新任牧师，他被调往纽约市的圣多米尼克教堂。
第一天，他非传统的风格让他陷入了一系列的不幸。他不拘一格的外表和态度给老牧师菲茨吉本神父（巴里·菲茨杰拉德Barry Fitzgerald饰）留下了不好的印象。非常传统的菲茨吉本进一步被奥马利的娱乐习惯——尤其是他打高尔夫球——以及他与更加随意的蒂米·奥多德神父（弗兰克·麦克休饰）的友谊所困扰。奥多德欺骗奥马利透露，主教实际上派他负责教区事务，而菲茨吉本则继续担任牧师。为了不伤害菲茨吉本的感情，奥马利表现得好像他只是他的助手。
奥马利和菲茨吉本的风格差异显而易见，因为他们处理的是教区居民被驱逐和年轻女子卡罗尔·詹姆斯（吉恩·希瑟饰）离家出走等事件。最重要的差异出现在他们对教会青年的处理上，其中许多人在托尼·斯卡波尼（斯坦利·克莱门茨饰）领导的团伙中不断陷入法律麻烦。菲茨吉本倾向于视而不见，因为男孩们经常去教堂而站在他们一边。奥马利试图闯入男孩们的生活，与斯卡波尼成为朋友，并最终说服男孩们加入教堂唱诗班。
练习唱诗班的噪音惹恼了菲茨吉本，他去找主教并要求将奥马利调走。在谈话过程中，菲茨吉本推断出主教想让奥马利负责教区的意图。为了避免出现不舒服的情况，菲茨吉本请求主教让奥马利负责，然后，他接受了自己的命运，告诉奥马利他的新角色。痛苦的菲茨吉本在暴雨中逃跑，并于当晚深夜返回。奥马利让年长的牧师上床睡觉，两人开始建立联系。他们讨论了菲茨吉本长期以来一直渴望去爱尔兰看望他现已 90 多岁的母亲的愿望。奥马利用一首爱尔兰摇篮曲“ Too Ra Loo Ra Loo Ral ” 让菲茨吉本入睡。
奥马利遇到了珍妮·塔菲尔（瑞丝·史蒂文斯饰），她是他的老女友，他离开她加入了牧师行列。珍妮现在在大都会歌剧院拥有成功的职业生涯，以吉纳维芙·林登（Genevieve Linden）艺名演出。当她准备登上舞台，担任《卡门》表演的主角时，两人讨论了他们的过去，她得知她与以前的一家歌剧公司一起环游世界，导致她错过了他解释自己已成为牧师的信。
奥马利接下来拜访了卡罗尔，她现在被怀疑与教堂抵押贷款持有人的儿子小泰德·海恩斯（詹姆斯·布朗饰）生活在罪恶之中。奥马利向这对年轻夫妇描述了他人生的使命，即追随宗教快乐的一面，并带领其他人也这样做，这正如他的作品《Going My Way》中所唱的那样。当小海恩斯后来遇到他的父亲时，父亲发现他和卡罗尔已经结婚了，而且他已经加入了空军。
珍妮去教堂拜访了奥马利，参观了男孩合唱团，并阅读了《Going My Way》的乐谱。她、奥马利和奥多德制定了一项计划，出租大都会教堂，让合唱团与一支完整的管弦乐队一起表演，然后出售这首歌的版权，从而使教堂摆脱财务困境。当音乐主管马克斯·多兰（威廉·弗劳利饰）听到这首歌后并不相信这首歌会畅销时，合唱团决定充分利用在大舞台上的机会，并演唱了《在星星上摇摆》。高管无意中听到并决定购买它，并提供足够的资金来偿还教堂抵押贷款。
一切尘埃落定后，奥马利被调去执行新的任务。奥多德将成为菲茨吉本的新助手，托尼·斯卡波尼负责合唱团。然而，教堂在一场大火中被毁。平安夜，教区居民聚集在临时教堂举行弥撒，这也是奥马利的告别仪式。奥马利派人从爱尔兰请来菲茨吉本的母亲（艾德琳·德·沃尔特·雷诺兹饰）作为告别之意。当母子 45 年来第一次拥抱时，唱诗班唱起“Too-ra-loo-ra-loo-ral”，奥马利神父静静地消失在夜色中。