春秋时，齐景公自从宰相晏婴死了之后，一直没有人当面指谪他的过失，因此心中感到很苦闷。有一天，齐景公欢宴文武百官，席散似后，一起到广场上射箭取乐。每当齐景公射一支箭，即使没有射中箭鹊的中心，文武百官都是高声喝彩：好呀！妙呀！真是箭法如神，举世无双。
事后，齐景公把这件事情对地的臣子弦章说了一番。弦章对景公说：这件事情不能全怪那些臣子，古人有话说：上行而后下效。国王喜欢吃什么，群臣也就喜欢吃什么；国王喜欢穿什么，群臣也就喜欢穿什么；国王喜欢人家奉承，自然，群臣也就常向大王奉承了。
景公听了弦章的话，认为弦章的话很有道理，就派侍从赏给弦章许多珍贵的东西。弦章看了摇摇头，说：那些奉承大王的人，正是为了要多得一点赏赐，如果我受了这些赏赐，岂不是也成了卑鄙的小人了！他说什么也不接受这些珍贵的东西。
后人便把上行下效来形容上面的人喜欢怎么做，下面的人便也跟着怎么做。在我们的现实社会里不是正多看这样的人和这样的事吗？例如一家公司的主持人经常在外吃喝玩乐，不理业务，他的下属也跟着不务正事，这便是上行下效。这成语约含义是否定的，所以它形容的也一定是不好的事情了。
