在幕府末期的海坂藩，有一个贫困潦倒的下等武士井口清兵卫（真田广之饰），薪俸微薄，他的妻子因劳累过度而病逝，留下两个女儿和高龄痴呆的母亲需要他照料。

他非常爱自己的女儿，教导女儿学习《论语》。

虽然他的舅舅觉得女人读多了书，嫁不出去，但是清兵卫并没有在意。

就像女儿问爸爸：爸爸我学好裁缝后，将来可制和服或浴衣。但读书又有何用呢?

清兵卫：唔，也许读书不像学裁缝那么有用。

听好了，萱野，读书使你有思考的能力，使你懂得思考不论世道如何转变，只要能思考就能生存下去。

这个道理放诸男女皆准。

他虽然有一身不错的武艺，供职于仓库账房，但一直隐藏着自己这方面的实力。

每日工作结束后，他从不和同事厮混在一起，总是匆匆在天黑前赶回家，因此同僚们给他起了个绰号“黄昏清兵卫”。

对待同僚都客客气气，从不恃才傲物，不欺辱弱者，谦虚谨慎。即使受到轻视，也不以为意，平静地过着50石俸禄的艰苦生活。

清兵卫的生活出现转机，是他巧遇了多年未见的好友饭沼，以及饭沼的妹妹朋江（宫泽理惠饰）。

饭沼是一名高级武士，朋江与清兵卫青梅竹马。

朋江刚与粗暴的酒鬼丈夫丰太郎离婚，回到娘家。在得知清兵卫的窘境后，朋江常去帮助他操持家务，代他照顾女儿和母亲。

她暗恋清兵卫多年，关系逐渐变得亲密。

某夜，清兵卫送朋江回家时，遇到了醉酒前来问罪闹事的甲田丰太郎。

清兵卫代替不擅剑术的饭沼与丰太郎决斗，以一根木棒轻松战胜丰太郎，他的剑客之名在私下传开来。

然而，当饭沼建议清兵卫迎娶朋江时，清兵卫因家境贫困、社会地位卑微而不想让朋江吃苦，婉拒了好意，导致朋江不再登门。

在这个关键时刻，关于藩主继承人的争执白热化，清兵卫接到了让他对阵著名剑客余吾善右卫门的命令。

在临行前，清兵卫向朋江表白了隐藏心底已久的爱意，却发现对方已经答应另一门亲事，清兵卫黯然踏上生死未卜之途。

余吾善右卫门是海坂藩内的第一高手，他曾经因为朋友甲田的事情来找过清兵卫，但比武的事情被清兵卫拒绝。

一些被他打败的武士认为余吾善右卫门剑术高超，凶猛如野兽，冷酷无情。

可是，当他在与清兵卫的决斗中，道出了自己的一生。

原来他也是个苦命的武士，曾经因为多年没有收入，老婆和孩子在路途中因为贫苦病逝。

世道不公，自己侍奉的主公也因为是反对势力被杀，对自己的身世充满了抱怨和哀痛。

他被困在房间里几天，体力精力消耗极大，但在与清兵卫的交战中，还是不落下风。

清兵卫认为自己的武力并不能作为杀手去与他贸然正面交锋，拒绝出战，但被严辞申斥“藩命就是藩主的命令”，于是被迫出战。

这场决斗不仅是武艺的较量，也是两种武士精神的交接。

最终，余吾善右卫门在决斗中败给了清兵卫，他的死亡象征着旧时代武士精神的结束。

新时代的到来并不能改变清兵卫的命运，他还是牺牲了自己的性命。

而朋江留了下来，继续照顾他的女儿们和母亲。

《黄昏清兵卫》以日本幕府末期的社会背景和一个小人物武士的悲惨命运，展现了他在时代变迁中的挣扎与无奈，以及对个人尊严和家庭责任的坚守。

影片叙事平缓，但不乏一些感人的事迹，成为了日本电影史上值得推荐的杰作。