初平三年，兖州刺史刘岱闻说程昱大名，于是遣使辟召为州郡从事，程昱拒不应命。刘岱与袁绍、公孙瓒和亲，袁绍令妻子居于刘岱处，公孙瓒亦遣从事范方带兵助刘岱守城。后来公孙瓒击破袁绍军，遣使向刘岱索要袁绍妻子，并令刘岱与袁绍绝交。刘岱连日不能决断，于是召见程昱问计，程昱说道：“公若弃袁绍近援而求于公孙瓒远助，譬如求人于吴越以救齐鲁受溺儿童同理。且公孙瓒绝非袁绍之敌，今虽稍胜，终必为袁绍所擒。若趋朝夕之势而不思长远之计，将军则必败。”刘岱听从其计，于是拒绝公孙瓒之请，其后公孙瓒果被袁绍所破。刘岱表奏程昱为骑都尉，程昱却托疾病请辞。后来刘岱为黄巾所杀，曹操兵临兖州，辟召程昱，程昱一口答应，欣然起行。乡人十分疑惑，问道：“前刘岱屡次征召，公皆力辞。今曹操片纸相约，公则欣然而行，何前后行为如此相背？”程昱笑而不应。
程昱既至曹营，曹操与之谈论大喜，以程昱为寿张令。曹操征徐州时，又令程昱与荀彧留守鄄城。陈宫与张邈等军作叛，迎吕布入兖，四周郡县响应，唯有鄄城、东阿赖程昱与荀彧设计守之，岿然不动。程昱由鄄城返回东阿，经过范县时游说县令靳允，使其伏兵刺杀叛将泛嶷，范县亦由此得以保全。程昱又遣别骑占住仓亭津，使陈宫及吕布军不能得渡；至东阿后相助东阿令枣祗率吏民拒城坚守，又有兖州从事薛悌与程昱协谋，终于守住三城。曹操自徐州归还，执程昱之手赞道：“若非程卿之力，某无所归矣。”至其后灭袁术，杀吕布，程昱亦极力参赞军事，故为曹操所重。闲言少叙，书接前文。曹操既召程昱进府，密问道：“今董承等虽已伏诛，名单上尚有马腾、刘备。那大耳儿果是惫赖，既在血诏上签字，却又故意涂污，使人几乎难辨其迹。用心险恶，其实罪不容诛！今其二人已离许都，鞭长莫及，如此奈何？”程昱轻轻笑道：“明公既然断定此乃伪诏，则其上名单也便未必是真。”
曹操道：“虽是伪诏，同盟名单焉能妄造？既然名列其上，便必然是与董承等人同谋，不可不除。且马腾拥兵西凉，刘备割据于卧榻之侧，某岂能坐视不理？今请先生前来，是要请问，先伐西凉的好，还是先征刘备的好？”程昱回道：“马腾如今屯军西凉，又与韩遂互为照应，西凉兵勇猛无敌，未可轻取。不如明公亲自写书慰劳，并以加官升职之名诱入京师，然后寻其一朝之错，图之即可。刘备现在徐州，虽然与其弟关羽分布掎角之势，但立足未稳，且其部下军马大半是从许都带去。将军若去亲征，自然望风而降，破之必矣。”