小铁蛋是个孤儿，父亲是抗联战士，在同日本鬼子作战中壮烈牺牲。日本鬼子对中国实行血腥屠杀，小铁蛋的母亲也惨遭日本人杀害，因铁蛋住在姥爷家，才幸免于难。虽然逃过一劫，大难不死，但日本人和汉奸还在追捕抗日烈士家属，企图斩尽杀绝。
为了不暴露身世，小铁蛋随了姥爷家的姓，管姥爷叫爷爷，因为铁蛋还小，没有引起日本人和汉奸的注意。
铁蛋的父母惨遭日本鬼子杀害，这在铁蛋幼小的心灵中深深埋下了仇恨的种子。
铁蛋到了十二岁时，整天缠着姥爷要去当兵打鬼子，替父母报仇。姥爷被缠得没办法，对铁蛋说：“你还小，背不动枪，走不动路，怎么打鬼子呀，队伍里不要你，要不这样，你去给人家放牛去吧，等长大了，再去当兵打鬼子。”
铁蛋说：“放牛就放牛，我能挣粮养护姥爷，不让姥爷挨饿就行，等我长大了，再拿枪打鬼子去。”
姥爷见留不住这个孩子，便托人把铁蛋送到大财主肖百万的青房子去放牛，每年工钱是两石粮食。
铁蛋来到青房子上班，和一个叫小五子的同龄孩子一起放牧牛羊，小五子也是抗日家属遗留下的孩子，和铁蛋有着同样的身世。
两个孩子很投缘，一接触就成了好伙伴儿，他们整天高高兴兴地早出晚归。因为有伴儿，却不感到放牧牛羊的单调和乏味。
铁蛋当上牛倌儿后，开阔了眼界，增长了见识，站在高高的山顶上，可以看到山下公路上旗公署通往县城的军用汽车和摩托车，来来往往的日本兵和旗警队，这样的场面在姥爷家的那个小山沟是看不到的。日本人杀害了自己的父母，铁蛋恨透了日本人，每当日本兵从山下经过时，铁蛋都拿着木棍当机枪，向鬼子作射击状，嘴里还突突的喊着：冲呀、杀鬼子呀，尽情地释放着仇恨的怒火。
放牧牛羊并不累，山场大，有草有水，中午青房子有专人送饭。送饭的是个关里人，此人有点缺心眼，见了人就呵呵地傻笑。他从关里流浪到这里，在青房子当了一名伙夫，负责给耪青的、放牛羊的中午送饭。两个小伙伴和他处得很好，叫他傻大叔。
傻大叔天天来送饭，眼睛却直勾勾地望着山下的公路，好像在想什么事情。这时，铁蛋说：“上午过了一队日本兵，我还用机枪突突了他们了呢，结果一个都没打着。”
小五子听说了，就笑着说：“你那是假机枪，我长大了，就用真枪打鬼子，把鬼子赶出中国去。”
每当这时，傻大叔都在认真地听着两个孩子的议论，发泄对日本鬼子的仇恨。
一天，傻大叔又来送饭，眼睛里闪着坚定的目光，对两个小伙伴儿说：“你们俩怕不怕日本鬼子？”铁蛋抢先说：“不怕，我总想杀他们，给爹娘报仇。”傻大叔又问：“敢不敢炸鬼子的汽车？”两小伙伴儿异口同声说：“敢！”傻大叔说：“鬼子有一批军火，从县城运往旗公署，咱们在路上把军火车炸掉，支援抗日战争。”两小伙伴儿一听，高兴得跳起来，都表示听傻大叔的，傻大叔指着公路拐弯处说：“炸车地点就选在这里，这里路窄又是急弯，又便于瞭望，今晚就做炸车的准备，你俩下午把一只羊腿打断，拴在路上，回去向管家汇报，说羊腿断了，管家叫咱们抬羊时，趁这个机会，咱们做炸车的准备。”
两个小伙伴儿按照傻大叔的安排，将羊腿弄断，拴在树上，晚上回来向管家说，羊滚砬子了，摔断了腿，管家便叫傻大叔和两个小伙伴儿饭后去抬羊。
吃过晚饭，三个人趁着月色去抬羊，傻大叔把藏着的两颗地雷带上，又拿出钉有两排马掌钉的扎车钉，向公路奔去，到了公路拐弯处，他们把路的一面撤掉一层石头，然后垫上一层土，使路面恢复原样，目的到时好扒开土放扎车钉，又在路基下面埋上地雷，上面覆着树枝，只要军火车不翻，地雷是不会被引爆的。做完这一切后，将扎车钉放在附近荆条丛中，到时方便使用，一切放置完毕，三个人赶着瘸羊回到了青房子。
一晃几天过去了，两个小伙伴儿在煎熬中焦急地等待着，盼望着军火车早点过来，他俩在焦急中终于等来了军火车。
日本鬼子开着两辆摩托车架着机枪，一边行驶，一边往公路两侧沟里及树林里用机枪扫射，做火力侦察，鬼子生怕有抗日队伍截获军火。鬼子的摩托车刚过，拉着军火的汽车在西边露出了头，负责瞭望的小五子看见军火车后，放倒消息树，铁蛋在炸车路段看见消息树倒了，知道军火车来了，迅速地跳上路面，扒开路面活土，放上扎车钉，上面铺上树叶，盖上活土伪装好，不仔细看，看不出和别处有什么两样时，铁蛋迅速翻下公路，钻进树林，一口气跑到山顶，到了安全地带，就等着观看炸车的好戏上演。
拉着满车军火的汽车，像老牛一样喘着粗气，慢腾腾地开进炸车路面，只听噗地一声车胎被扎，车身一晃，发生了侧翻，军火车瞬间翻下路基，引爆了地雷，一声巨响，满车军火被炸得满天飞，车上的几名鬼子也趁机上了天，随后燃起熊熊大火。
巨大的爆炸声惊动了县城和旗公署的军、警、宪、特，他们知道军火车半路出事了，第一时间纷纷赶来，他们从现场看出是一起炸车事件，便迅速地封锁了两公里范围内的区域进行搜捕，希望找到抗日队伍和作案人员，当鬼子看到两个小牛羊倌儿时，没怀疑也没有问，鬼子一定会想，小小的牛羊倌儿，做不出这样的大案来。
当军火车爆炸时，两个小伙伴高兴得手舞足蹈，他俩太过瘾、太高兴了，高兴过后，才说起傻大叔来，原来傻大叔不傻，说不定就是抗日英雄呢，两个小伙伴儿在心中对傻大叔产生了敬佩和信任。
天要黑了，鬼子还在四处搜捕作案者，铁蛋和小五子高高兴兴地赶着牛羊回到了青房子，傻大叔深情地望着两个小伙伴儿凯旋归来，还像往常一样，呵呵地傻笑着。
