春秋时，楚王特派风胡子去找越国的欧冶子和吴国的干将，请他们铸造几把宝剑。欧冶子是当时的铸剑技师，他曾为越王铸过5把出色的宝剑，名叫“湛卢”、“巨阙”、“胜邪”、“鱼肠”和“纯钩”。干将和他的妻子莫邪，也是当时的铸剑技师。
他们接受了楚王的委托，便在茨山（在今安徽泾县北）开矿取铁，经过认真的冶炼、锻造，铸成了3把锋利无比的宝剑，其中一把就叫“泰阿”，或作“太阿”；其余两把，一名“龙渊”或“龙泉”，一名“工布”或“工市”。
到了晋代，《晋书·张华传》又有如下的记载：
晋初，武帝时，在斗、牛二星座之间（据说即吴、越分界处的上空），发现常有紫气。当时官为“中书令”的张华，问善观天象的雷焕，这是什么缘故。雷焕说：“这是宝剑的光。从这道直冲牛斗的光来看，那宝剑定非凡品！”张华又问，宝剑大约在什么地方。雷焕仔细观测之后，答道：“在豫章郡的丰城县”（丰城在今江西南昌附近）。
张华便推荐雷焕担任丰城县令，立即上任。雷焕到了丰城，专心寻找宝剑的下落，终于在一所监狱的地下，找到了剑光的来源。当即搬走监狱，往下挖掘。掘了四丈多深，发现一个石匣，打开一看，里面装着一对宝剑，剑上都刻着字，一把是“龙泉”，一把是“太阿”。当天晚上，再观星空，牛、斗之间的紫气，果然不见了。
上面两段传说，当然不可能是事实。但是我们既然明白“泰阿”乃是一把宝剑的名称，那么对于“倒持泰阿”这句成语，也就不难理解了。
宝剑本是用以自卫的武器，如果虽有泰阿宝剑，而把它倒过来拿着，这不是自动把剑柄送给对方，给对方造成机会，而自受其害吗？
因为“泰阿”又作“太阿”，所以“倒持泰阿”也可作“倒持太阿”，或作“泰阿倒持”、“太阿倒持”。《后汉书·何进传》作“倒持干戈，授人以柄”，意思相同。
