荀彧字文若，颍川郡颍阴县人。祖父荀淑，字季和，曾任朗陵县令，在汉顺帝、桓帝时，很有名望。荀淑生有八子，号称“八龙”。荀或的父亲荀绲，曾任济南国相，叔父荀爽，曾任司空。
荀或年少时，南阳人何颙十分欣赏他，说：“这是个可以辅佐帝王的良才!”永汉元年（公元189年），荀或被举为孝廉，授予守宫令（掌管皇帝的笔、墨、纸张等物品）。
董卓之乱时，荀或请求出任地方官，任亢父县令，终于弃官回乡，对父老们说：“颍川是四面受敌的兵家必争之地，天下有变，首当成为军事要冲，应赶紧离开这里，不要久留。”乡里很多人留恋故土，犹豫不决。
适逢冀州牧同郡人韩馥派骑兵来迎接乡人，却无人跟他走，惟有荀彧带领宗族迁到冀州避难。
此时，冀州已为袁绍所得，袁绍见荀彧来，待之为上宾。荀彧的弟弟荀谌及同郡人辛评、郭图，都得到袁绍任用。
荀或预料袁绍最终不会成就大业。当时曹操任奋武将军，驻在东郡。
初平二年（公元191年），荀或离开袁绍而投曹操。曹操很高兴，说：“你是我的张良啊！”任他为司马，这时荀彧才二十九岁。
当时董卓以其权势威慑天下，曹操问计荀彧，荀或说：“董卓肆意暴虐，必将以乱亡告终，不会有什么作为。”
董卓派李催等出关东，所到之处大肆掳掠，直到颍川、陈留才返回。荀彧家乡留下来的人大多遭到杀掠。
第二年，曹操兼任兖州牧，后又任镇东将军，荀彧常作司马跟随。兴平元年（公元194年），曹操征讨陶谦，任命荀彧主持留守事宜。
适逢张邈、陈宫在兖州反叛，暗中迎奉吕布。
当时，荀彧和寿张令程昱守鄄城，吕布到后，张邈就派刘翊告诉荀彧说：“吕将军来帮助曹使君攻打陶谦，应赶快供他军粮。”众人将信将疑。
荀或知道张邈已经反叛，当即整肃军队，设置防务，速召东郡太守夏侯惇，而兖州各县已纷纷响应吕布了。
其时曹操全军围攻陶谦，留守兵力少，而将领们多与张邈、陈宫勾结。夏侯惇来到后，当夜杀了谋反者几十人，军心这才平定下来。
豫州刺史郭贡率兵数万来到城下，有人说他与吕布是同谋，大家都很害怕。郭贡求见荀彧，荀彧准备前往。夏侯惇等人说：“您是一州的镇守者，前去必定危险，不能去！”
荀或说：“郭贡与张邈等人，本不是平素就有勾结，现在他来得很急，准是主意还没打定。趁他未定去说服他，即使不能为我所用，也可让他保持中立；如果先猜疑他，他将会被激怒而与张邈合谋。”
于是，荀彧出城会见郭贡。郭贡看到荀彧毫无惧意，认为鄄城不易攻下，因此领兵离去。荀或又与程昱计议，让他去说服范和东阿二县，最终保全了三座城,以等待曹操。
曹操从徐州回师，在濮阳击败了吕布，吕布向东逃去。兴平二年（公元195年）正月，曹操击败侵入定陶（今山东定陶西北)的吕布军。
五月，曹操向驻军巨野（今山东巨野东北）的吕布部将薛兰、李封发动攻击，吕布亲自援救，被曹操击败，撤退而走。
曹操歼灭巨野守军，斩薛兰、李封，乘胜进驻乘氏（今山东巨野西南)。兴平二年（公元195年）夏天，曹操驻军乘氏县，发生饥荒，竟出现了人吃人的事。
这时陶谦已死，曹操想趁机夺取徐州，回师再平定吕布。荀或劝曹操先巩固基地以控制天下，这样进可以制胜，退可以固守，虽有困难曲折却终于完成大业。
曹操这才打消了攻徐州的念头，大力收割麦子，积蓄实力。
不久，曹操再次与吕布交战，并大败吕布，吕布连夜弃营撤往徐州。
曹操乘胜攻取定陶，并分兵平定各县，兖州因此而平定。此战的获胜，对曹操以后统一北方，成就大业，具有重要的意义，荀彧功不可没。
建安元年（公元196年），曹操击败黄巾军。汉献帝从黄河以东返回洛阳。曹操想迎献帝迁都许县，有人认为山东尚未平定，韩暹、杨奉新近迎天子到洛阳，北面联合张杨，尚不能即刻控制他们。荀或却赞同曹操的想法。
于是，曹操到了洛阳，迎接天子迁都许昌（今河南许昌东）。天子任命曹操为大将军，提升荀彧为汉侍中，代理尚书令。
荀或经常居于朝中理朝政，曹操虽征战在外，军国大事都要与荀或筹划。
曹操问荀或：“谁能替代您为我出谋划策？”荀或说：“荀攸、钟繇。”荀彧善于举荐人才，原先，荀彧谈到出谋划策之士，曾举荐了戏志才。戏志才死后，又推荐了郭嘉。此外，还举荐了陈群、杜畿、司马懿等人，都是当时的名士。
曹操认为荀或知人善任，他所推荐的人大多是称职的，只有严象为扬州刺史，韦康为凉州刺史，后来兵败身亡。
自从曹操迎奉天子之后，袁绍心中不服。袁绍已经兼并了黄河以北各郡县，天下人都畏惧他的强大。
曹操正在忧虑东边的吕布，抗拒南边的张绣。建安二年（公元197年）正月，曹操南征张绣，张绣在宛县打败了曹操军。
袁绍更加骄横，给曹操写信时，言辞无礼而傲慢。曹操大怒，出入举止不同于常，众人都说是因败于张绣的缘故。
钟繇就这事问荀或，荀或说：“曹公是聪明人，必定不会追咎往事，可能是为其他事忧愁。”
于是荀或见到曹操询问，曹操便将袁绍的信给荀或看，说：“我现在想讨伐不义，可力量敌不过他，怎么办？”
荀或列举了曹操凭借四个方面的优势辅佐天子，扶持正义，征伐叛逆，谁敢不从？袁绍强大有何用？”
曹操听后很高兴。荀或又说：“不先攻取吕布，河北也还是不易谋取。”曹操说：“你说得极是。我所困惑的，是又担心袁绍侵扰关中，引发羌人、胡人作乱，向南勾引蜀、汉中二郡的刘璋；那样我将单独以兖、豫二州抗击天下兵力的六分之五，那该怎么办呢？
荀或说：“关中将帅数以千计，没有人能统一起来，只有韩遂、马腾最强。现在如果以恩德招抚他们，维持和好，即使不能长久安定，但至少在您平定山东之前，足以不生变动。关西的事情可以托付给钟繇，这样您就可以放心出征了。”
建安三年（公元198年）五月，曹操击破张绣，东擒吕布，平定徐州，进而与袁绍相抗衡。
此时，袁绍击灭公孙瓒，成为北方最强大的割据势力。六月，袁绍统精兵十万，企图南下进攻许昌。
孔融对荀或说：“袁绍地广兵强，有田丰、许攸等谋臣替他出谋划策，审配、逢纪等忠臣为他干事，颜良、文丑勇冠三军，为他统领军队，恐怕很难战胜啊！”
建安五年（公元200年），曹操与袁绍连续交战。曹操保守官渡，被袁绍包围。曹操军粮将尽，写信给荀或，与他商议可否退兵许县以引开袁绍军队。
荀或回信说：“您以仅及敌之十分之一的兵力，就地坚守，扼住敌人咽喉使其不能前进，已经半年了。敌人的底细已经清楚，锐气已经枯竭，局面必将有所变化，这正是使用奇谋的良机，不可失去啊！”
曹操采纳了荀或的建议，继续坚守待机。曹操以奇兵偷袭袁绍的其他军营，斩杀了他的大将淳于琼等，袁绍退走。
审配因为许攸有不法行为，收捕其妻儿，许攸一怒之下背叛了袁绍；颜良、文丑被阵前斩首；田丰由于劝谏而被杀，一切正如荀彧所预想的那样。
建安六年（公元201年）三月，曹操为筹粮到了东平国的安民县，粮食太少，不足以与河北相峙，想要趁袁绍刚败，利用这个空隙讨伐刘表。
荀彧得知后，写信劝阻说：“现在袁绍失败，部众离析，应趁此机会，一举平定河北；我们背靠兖州、豫州，如远征江、汉，这时袁绍要是收其残部，乘虚攻击我们的后方，您的大事就完了。”
曹操纳其计，遂于四月挥军北进，驻军于黄河岸边；对驻守仓亭的袁绍军发起攻击，一举歼灭仓亭袁军。至此，袁绍主力丧失殆尽。九月，曹操班师返回许昌。
建安七年（公元202年）五月，袁绍病死，其子袁谭、袁尚为争夺继承权互相攻伐。
曹操渡过黄河，袭击袁绍之子袁谭、袁尚；而高干、郭援侵略河东郡，关右震动，钟繇率马腾击败了他们。
建安八年（公元203年），曹操登录荀或前后的功绩，上表请封荀彧为万岁亭侯。荀彧为人谦虚，认为自己没有战功，于是把表压了下来。
曹操又写信给他说：“同你共事以来，你帮着纠谬辅政，荐举人才，提出计策，周密谋划，做得已经很多了。立功不一定都靠作战，希望你不要推让。”荀彧这才接受。
建安九年（公元204年），曹操攻下邺城，兼任冀州牧。有人劝曹操：“应恢复古代区划，设置九州，那么冀州所控制的地盘广大，天下就会服从您了。”
曹操要采纳这个建议，荀或则劝曹操迅速领兵先平定河北，然后修复意益意，人人安心；天下完全平定后，再计议恢复古制，这才是国家长久的利
曹操于是搁置了恢复古制的计划。这时荀攸已经是曹操主要的谋士。荀彧的哥哥荀衍任监军校尉驻守邺城，统领河北军事。
曹操征讨袁尚时，高干暗地派士兵偷袭邺城，荀衍事先察觉，全部诛杀之，因功被封为列侯。
曹操将女儿嫁给荀彧的长子荀恽，后称安阳公主。荀彧、荀攸均权重显贵，但都谦虚节俭，得到的赏赐、俸禄都分给宗族故里，自家并无余财。
建安十年（公元205年），河东叛乱，曹操让荀或举荐贤才，荀或说：“西平太守京兆杜畿，勇足以当难，智足以应变。”曹操遂让杜畿为河东太守。
曹操听从荀或建议，将杜畿任命为司空司直，调任护羌校尉，使持节领西平太守。杜畿到任后，平定叛乱，广施仁政，在任十六年，政绩获誉天下第一。
建安十二年（公元207年）三月，又增加荀彧的封邑一千户，合计二千户。还要授以三公之职，荀彧推辞十几次才作罢。
建安十三年（公元208年）曹操将征讨刘表，问荀或将采用什么计策，荀彧说：“现在中原地区已经平定，南方的处境就困难了，可以明里出兵宛、叶二县，而暗中抄小路轻装行进，打他个出其不意。”曹操照办。
恰好此时刘表病死，曹操按荀彧的计策直趋宛、叶，刘表之子刘琮献出荆州而降。
建安十五年（公元210年），荀彧患风湿病而卧床不起。曹操知晓后，立即赶来探望，倍加安慰。几个月后，荀彧的病情好转。
建安十七年（公元212年），董昭等人认为曹操应晋爵为国公，得到九锡的最高礼遇，以表彰他特殊的功勋，他们就此事秘密征求荀或的意见。
荀或认为曹操本是起兵以匡正朝廷，安定国家，怀着忠诚之心，保持退让的实际行动；君子爱人是爱其德行，不应该这样做。曹操从此心中对他产生了不满。
同年，曹操征讨孙权，上表请派荀或到谯县慰劳军队，荀或到达以后，曹操乘机擅自留下荀彧，让他作侍中、光禄大夫，持节，参谋丞相军事。
曹操军队到了濡须，荀或因病留在扬州寿春，忧郁而死，享年五十岁。追谥为敬侯。第二年，曹操就升为魏公了。
