早年经历
1933年，山田洋次因父亲在满洲铁道公司工作的关系，举家迁往满洲（即现时中国东北），居于沈阳，童年大部分时光在那里度过，直到二战结束之后搬回日本。1935年，迁往哈尔滨。1938年，迁往长春，入读西广场小学；两个学期后再迁返沈阳，转读加茂小学。1941年，举家返回日本东京，于池雪小学读四年班。1944年，再次迁往满洲，移居大连，考入大连一中。1945年，日本战败，山田退学，与家人靠贩卖家财为生。1947年，重返日本，定居于山口县，于宇部中学就读中四；因父亲失业，山田放学后打苦工，帮补家计。1950年，考入东京大学，加入“东大自由映画研究所”。
演艺经历
1954年，毕业于东京大学法学部；同年，进入松竹公司任导演助手，担任川岛雄三、涉谷实、井上和夫、野村芳太郎等导演的助导。后来，日本电影新人导演协会招募剧本，凭”蜂之子“赢得第一名，赚取了人生首个8万剧本费，并在旧家具店买了一个衣柜。
1956年，山田洋次与野村芳太郎合编《月薪13000圆》，由野村芳太郎执导而成。1961年，在野村芳太郎的推荐下，山田洋次执导了个人首部电影《住在二楼的人》。
1963年，把倍赏千惠子主唱的歌曲“平民区的太阳”构思成同名电影，这是他首次执导的长篇电影。1969年，执导由渥美清主演的爱情片《寅次郎的故事》，直至1995年最后一集，共编导了48集（当中只有第三、四集不是由山田洋次执导）。
1976年，执导由倍赏千惠子、寺尾聪合作主演的剧情片《同胞》。1977年，执导由高仓健主演的爱情片《幸福的黄手绢》。
1980年，拍摄由倍赏千惠子、高仓健、吉冈秀隆联手主演的爱情片《远山的呼唤》。1986年，为纪念松竹大船摄影所五十周年，山田洋次执导了以松竹旧片厂蒲田为背景的剧情片《电影天地》，片中描写当年松竹旗下年青导演不怕失败的冒险精神及创作热情。
1988年，担任由西田敏行主演的剧情片《钓鱼狂人日记》的编剧，至2005年的第16集。1991年，拍摄由永濑正敏、三国连太郎联合主演的亲情片《儿子》，该片入围第17届日本电影学院奖最佳影片，他凭借该片入围第17届日本电影学院奖最佳导演、最佳编剧。
1993年，拍摄以夜校为题的动作片《学校》，该片由西田敏行、萩原圣人共同主演，他获得第17届日本电影学院奖最佳导演、最佳编剧奖。1996年，执导动作片《学校2》，该片由西田敏行、吉冈秀隆、永濑正敏联袂主演，在当年《电影旬报》10佳影片评选中排名第8。
1998年，执导由大竹忍、小林稔侍共欧婷主演的动作片《学校3》。2000年，执导由金井勇太、麻实丽合作主演的动作片《十五岁：学校4》。
2002年，执导了第一部古代武士片《黄昏清兵卫》，由真田广之、宫泽理惠合作主演，该片改编自武士小说家藤泽周平的三个短篇小说，由八个短篇组成，突破了日本武士片的传统，把最下级的武士的生活、矛盾与感情表露无遗。
2004年，山田洋次与藤泽周平合作创作第二部以幕府末年的弱小地方藩为舞台的古装剧爱情片《隐剑鬼爪》，该片由永濑正敏、松隆子联手主演，讲述了位于东京底层的小人物们的风土人情。
2006年，执导第三部改编自藤泽周平小说的武士片《武士的一分》，该片是“历史剧三部曲”（《黄昏的清兵卫》、《隐剑鬼爪》）的最后一部，由木村拓哉、檀丽联袂主演。
2008年，拍摄根据野上照代的作品《给父亲的安魂曲》改编的家庭片《母亲》，该片由吉永小百合、浅野忠信、檀丽主演，入围第58届柏林国际电影节主竞赛单元；同年，获得亚洲电影终身成就奖。
2010年，执导亲情片《弟弟》，该片由吉永小百合、笑福亭鹤瓶、苍井优主演，讲述了平凡人吟子对总是把事情搞砸，一生与失败为伍的弟弟的感情故事，是对市川昆1960年同名作品的致敬，只不过把故事搬到了现代，入围第34届日本电影学院奖最佳影片，同时被选为第60届柏林国际电影节闭幕影片，这是日本电影首次被选为该电影节的压轴作品。
2012年，获得日本“文化勋章”。2013年，执导由桥爪功、吉行和子、妻夫木聪联袂主演的家庭片《东京家族》，该片翻拍于小津安二郎的电影《东京物语》，入围第37届日本电影学院奖最佳影片，同时也为山田洋次第81部导演作品，山田导演刚好也是81岁。
2014年，拍摄改编自中岛京子同名小说的爱情片《小小的家》，该片由松隆子、倍赏千惠子、黑木华领衔主演，主要讲述了一个女佣和女主人一家在战争期间发生的故事，入围第64届柏林国际电影节主竞赛单元。
2015年，执导由吉永小百合、二宫和也合作主演的亲情片《如果和母亲一起生活》。同年，执导描述家人之间羁绊的喜剧片《家族之苦》，该片由妻夫木聪、苍井优合作主演。2016年，拍摄喜剧《家族之苦》续集。