1965年，长影拍摄的电影《上甘岭》全部拍摄完成，样片也剪了出来。导演沙蒙想写一段插曲加进去，于是想到了乔羽。
乔羽看完样片之后，问沙蒙这个歌词你要什么样子的？沙蒙说：“我只有一个要求，就是希望在将来这部电影没有人看的时候这首歌还有人听！”
许多天过去了，乔羽还是找不到歌词的基调。这天，乔羽在外面闲走的时候，突然开始下雨，乔羽退进了长影厂的小白楼。不一会雨过了，地上的积水开始流淌，有的人家的孩子也出来嬉戏。这一幕，一下子让乔羽激动了，他记得自己小时候在水边也是这么玩的。家乡的大运河微山湖不都是这样哺育了自己。
“长江万里波浪宽”首句就这样诞生了，有了首句之后，下面的句子就非常容易了。后来主创人员商议后，决定不写长江，因为每个人心中都有自己家乡和心中的大河，都有自己的母亲河。于是改成了现在的“一条大河波浪宽”。
诗情画意很快把作曲刘炽带进一个新境界，他一遍又一遍地反复唱着旋律，唱累了就用笛子吹，以分析它们的节奏。不久，根据《小放牛》改写的《卢沟问答》的头两句被他捕捉到了。刘炽把这头两句略加改动，作为新歌的引子，灵感找到了，刘炽欣喜难捺，很快，《我的祖国》完整地展现在大家面前。
最后的录音是在中央人民广播电台的录音棚进行的，歌唱家郭兰英深情真挚的演唱使参加录音的人眼里几乎都含着热泪。录音结束后的第二天，中央人民广播电台就向全国播放了这首歌曲，《我的祖国》先于电影红遍全国，而且流传了整整半个世纪。
该曲在电影中伴随这样的画面推出：坑道里，年轻的女卫生员开始了低声吟唱，于是，志愿军战士眼前出现了滔滔大河，层层波浪，穗穗稻花，点点白帆……魏春桥本报记者申志远
