川岛雄三出生于青森县下北郡田名部町。毕业于青森县立野边地中学（现为青森县立野边地高等学校）。明治大学文艺系毕业后，加入松竹大船的导演部门。相继担任过岛津保次郎、吉村公三郎、小津安二郎、野村弘将、木下惠介的副导演后，于1944年晋升为导演，之后推出了根据织田作之助原作改编的导演处女作《回来的男人》。战后，川岛拍摄了大量的低成本类型片。1954年移籍日活，并留下了《洲崎天堂 红灯》、《幕末太阳传》等杰作。1957年，川岛又移籍东宝旗下的东京映画。同时，他也在大映担任导演，并与若尾文子合作，拍摄了《女人再次诞生》、《雁之寺》、《优雅的野兽》这三部深受好评的作品。川岛是个摄影爱好者，他与一些电影工作者、男女演员共同创办了“Minox”（一家德国照相机生产商）的爱好者协会“蓑虫（在日语里取谐音）俱乐部”。 从晋升为导演那时候起，川岛就为遗传性疾病“肌肉萎缩神经侧索硬化症”所累，连步行都有障碍。遗作《孤注一掷》公映的前5天，川岛在自宅暴卒。直接死因是“肺心症”，享年45岁。他的墓碑在位于青森县MUTSU市新町的德玄寺。趣闻川岛与和自己同年出生的西河克己、小林桂三郎、柳泽类寿共同创办了名为《泥马俱乐部》的小册子。以充满幽默的笔调来讽刺挖苦松竹的首脑以及高层，深受大家好评，但是迫于公司压力，只出版了4期。电影导演今村昌平是他的爱徒、也是剧本家。不过，据说尽管今村昌平后来一直以编剧的身份出现在演职员表中，但实际上被采用的只是一小部分罢了。《幕末太阳传》的最后一个镜头，原来的设定是，主人公从江户时代的布景中走出来，走过摄影所，一直走到街上。川岛原本一定要这样拍摄，但最后被Franky堺以及工作人员以“这样拍没有意义，实际上行不通”为理由说服了，才拍成了现在的这个最终镜头。不过，Franky堺在后来又表示，仔细考虑过以后，还是觉得根据川岛所说的那样拍要更好。生前，川岛曾自嘲道：“身患这种病，还成为名人，我可真像罗斯福（美国总统，残疾）啊”。他在当时的电影导演中打扮得十分花哨。连表带都要根据当天衣服的颜色来配。他的作品质量参差不齐，而他表示，“制作电影，完全是为了生活罢了”。1995年，《电影旬报》为纪念电影诞生一百年评出最伟大十名日本导演，川岛雄三位居第七。