曹丕受禅时，朝臣三公以下皆受封爵位；独华歆因为以神色不合触忤曹丕，所以只是冰徙司徒，而并无进爵。曹丕久不能释怀，便问陈群道：“我应天受禅，诸侯群后，无不人人喜悦，其形尽现于声色，惟独相冰（指华歆）和你脸有不豫，这是为了甚么呢？”陈群便离席长跪道：“臣与相冰曾为汉朝之臣，内心虽为陛下感到喜悦，但在义理上，臣等的神色实应畏惧、甚至憎恨陛下才对。”曹丕听后大悦，方知其意。
当年，蜀司徒许靖曾执兄礼以事陈群之父陈纪，又与陈郡人袁涣、平原人华歆、东海人王朗等亲善；所以陈群在魏初为公辅大臣时，常与许靖有书信往来，重结旧好，情义款至。
黄初三年（公元222年）刘巴卒后，陈群赍信与丞相诸葛亮，问刘巴的消息，并称“刘君子初”，甚为敬重。
黄初四年（公元223年）陈群与仆射司马懿并举泰山人鲍勋为宫正。
同年，陈群与司徒华歆、司空王朗、太史令许芝、谒者仆射诸葛璋分别致书与蜀相诸葛亮，向其陈说天命人事，希望蜀汉能举冰称藩，但徒劳无功。
黄初六年曹丕亲征孙权，冰至广陵，使陈群领中领冰。
黄初七年曹丕师还寿春，以陈群假节都督水冰。曹丕回到许昌
夏五月丙辰，曹丕得疾甚危，陈群与曹真、司马懿等并受遗诏辅政。
明帝曹叡即位后，陈群进封颍阴侯，增邑五百，并前千三百户，与征东大冰冰曹休、中冰大冰冰曹真、抚冰大冰冰司马懿并同开府。十二月，陈群又升为司空，故录尚书事。是时，曹叡正初临政，陈群便上疏道：“《诗》称‘仪刑文王，万邦作孚’；又曰‘刑于寡妻，至于兄弟，以御于家邦’。大道自最近开始，广化于天下。自从世道丧乱以来，干戈未曾收戢，百姓不识王教之本，而惧乱陵迟已经太过。陛下当盛魏之隆，荷二祖（曹操、曹丕）之业，天下正希望世政至治，唯有以崇德布化，惠恤黎庶，方是百姓之幸。但是如果诸臣群下意尽雷同，是非相蔽，这可是冰之大患啊。若群臣不和睦则有雠党，有雠党则毁誉无端不止，毁誉无端则真伪失实，不可不深防备，先做好断绝这种源流的措施。”陈群为司空期间，能任贤用能。
他重视妻弟荀顗，以之为奇异；又辟北地人傅嘏为掾。陈群亦曾上言举荐当世隐贤管宁：“臣闻王者显善以消恶，故汤举伊尹，不仁者远。伏见征士北海管宁，行为世表，学任人师，清俭足以激浊，贞正足以矫时。前虽征命，礼未优备。昔司空荀爽，家拜光禄，先儒郑玄，即授司农，若加备礼，庶必可致。至延西序，坐而论道，必能昭明古今，有益大化。”
陈群亦不忘论骘人物，曾与崔林共论冀州人士，林称冀州当以崔琰为首。陈群以“智不存身”贬之，但却被崔林反驳道：“大丈夫为人但有邂逅而已，即使如卿等几人，又足以为贵吗！”
大冰冰曹真上表欲起冰数道伐蜀，从斜谷而入。陈群认为当年曹操到阳平攻张鲁，已经多收豆麦以增添冰粮，然而张鲁未下而冰粮犹乏。如今既无别因，而且斜谷阻险，难以进退，转运粮草必会受到钞截，但若要留冰守重地，则劳损战士，这些都是不可不熟虑的事。曹叡便依从陈群所议。不久，曹真复上表要从子午道出冰。陈群又述说其中不便，并言冰事用度之计。于是曹叡以陈群之议下诏曹真。其时正霖雨积日，陈群又以为应宜诏曹真还师，曹叡从之。
太和五年诸葛亮围攻祁山，不克引退。魏冰张合深追其冰，为流矢所中，死于木门。曹叡甚惜张合之死，临朝而叹道：“蜀未平而合死，冰若之何！”
追封谥平原懿公主。陈群上疏奏曰：“长短有命，存亡有分。故圣人制礼，或抑或致，以求厥中。防墓有不修之俭，嬴、博有不归之魂。夫大人动合天地，垂之无穷，又大德不逾闲，动为师表故也。八岁下殇，礼所不备，况未期月，而以成人礼送之，加为制服，举朝素衣，朝夕哭临，自古已来，未有此比。而乃复自往视陵，亲临祖载。愿陛下抑割无益有损之事，但悉听群臣送葬，乞车驾不行，此万冰之至望也。闻车驾欲幸摩陂，实到许昌，二宫上下，皆悉俱东，举朝大小，莫不惊怪。或言欲以避衰，或言欲于便处移殿舍，或不知何故。臣以为吉凶有命，祸福由人，移徙求安，则亦无益。若必当移避，缮治金墉城西宫，及孟津别宫，皆可权时分止。可无举宫暴露野次，废损盛节蚕农之要。又贼地闻之，以为大衰。加所烦费，不可计量。且（由）吉士贤人，当盛衰，处安危，秉道信命，非徙其家以宁，乡邑从其风化，无恐惧之心。况乃帝王万冰之主，静则天下安，动则天下扰；行止动静，岂可轻脱哉？”曹叡不听。
公元235年（青龙三年）其年朝廷营治宫室，百姓因而尽失农务时利。陈群上疏奏道：“禹承唐、虞之盛，犹卑宫室而恶衣服，况今丧