刚即位的汉惠帝看到曹丞相一天到晚都请人喝酒聊天，好像根本就不用心为他治理国家似的。惠帝感到很纳闷，又想不出个所以然来，只以为是曹相国嫌他太年轻了，看不起他，所以就不愿意尽心尽力来辅佐他。惠帝左想右想总感到心里没底，有些着急。
有一天，惠帝就对在朝廷担任中大夫的曹窑（曹参的儿子）说：“你休假回家时，碰到机会就顺便试着问问你父亲，你就说：‘高祖刚死不久，现在的皇上又年轻，还没有治理朝政的经验，正要丞相多加辅佐，共同来把国事处理好。可是现在您身为丞相，却整天与人喝酒闲聊，一不向皇上请示报告政务；二不过问朝廷大事，要是这样长此下去，您怎么能治理好国家和安抚百姓呢？’你问完后，看你父亲怎么回答，回来后你告诉我一声。不过你千万别说是我让你去问他的。”曹窑接受了皇帝的旨意，休假日回家，找了个机会，一边侍候他父亲，一边按照汉惠帝的旨意跟他父亲闲谈，并规劝了曹参一番。曹参听了他儿子的话后，大发脾气，大骂曹窑说：“你小子懂什么朝政，这些事是该你说的呢？还是该你管的呢？你还不赶快给我回宫去侍候皇上。”一边骂一边拿起板子把儿子狠狠地打了一顿。
曹窑遭了父亲的打骂后，垂头丧气的回到宫中，并向汉惠帝大诉委屈。惠帝听了后就更加感到莫明其妙了，不知道曹参为什么会发那么大的火。
第二天下了朝，汉惠帝把曹参留下，责备他说：“你为什么要责打曹窑呢？他说的那些话是我的意思，也是我让他去规劝你的。”曹参听了惠帝的话后，立即摘帽，跪在地下不断叩头谢罪。汉惠帝叫他起来后，又说：“你有什么想法，请照直说吧！”曹参想了一下就大胆地回答惠帝说：“请陛下好好地想想，您跟先帝相比，谁更贤明英武呢？”惠帝立即说：“我怎么敢和先帝相提并论呢？”曹参又问：“陛下看我的德才跟萧何相国相比，谁强呢？”汉惠帝笑着说：“我看你好像是不如萧相国。”
曹参接过惠帝的话说：“陛下说得非常正确。既然您的贤能不如先帝，我的德才又比不上萧相国，那么先帝与萧相国在统一天下以后，陆续制定了许多明确而又完备的法令，在执行中又都是卓有成效的，难道我们还能制定出超过他们的法令规章来吗？”接着他又诚恳地对惠帝说：“现在陛下是继承守业，而不是在创业，因此，我们这些做大臣的，就更应该遵照先帝遗愿，谨慎从事，恪守职责。对已经制定并执行过的法令规章，就更不应该乱加改动，而只能是遵照执行。我现在这样照章办事不是很好吗？”汉惠帝听了曹参的解释后说：“我明白了，你不必再说了！”
曹参在朝廷任丞相三年，极力主张清静无为不扰民，遵照萧何制定好的法规治理国家，使西汉政治稳定、经济发展、人民生活日渐提高。他死后，百姓们编了一首歌谣称颂他说：“萧何定法律，明白又整齐；曹参接任后，遵守不偏离。施政贵清静，百姓心欢喜。”史称“萧规曹随”。