“喲！你到是有眼光，這根盤龍棍可不是一般人能用得了的，乃是前朝英雄麥鐵杖的武器，你想用也行啊，你得有對得起他的能耐！”
麥鐵杖是始興人。勇猛而有膂力，能日行五百裡，跑起來可以趕上奔馬。粗獷放蕩且好酒，喜歡結交朋友，重信義，平常以捕魚打獵為生，不置產業。
陳國太建年間與人合夥做賊，廣州刺史歐陽頠俘獲了他，麥鐵杖從此淪為朝廷的奴仆，專給陳後主撐傘。麥鐵杖常常在陳後主退朝之後，步行一百多裡，夜間到南徐州，翻越城牆而入，借燈光打劫偷盜。次日早晨返回時，仍舊替陳後主撐傘。像這樣十多次，失主們認出了他，南徐州官府用狀子告到陳後主那裡。朝中官員見麥鐵杖每天早晨都在，不相信他做賊。
後來南徐州官員又多次狀告鐵杖，尚書蔡徵說：“這是可以驗證的。”在衛兵們退出的時候，以百金懸賞，招募可以送詔書給南徐州刺史的人。鐵杖出來應招，懷揣詔書而去，次日早晨及時回奏。
陳後主說：“的確是徐州官員說的那樣，鐵杖偷盜之事是很清楚的。”因憐惜他勇猛敏捷，警告後便放他回家了。
隋滅陳後，麥鐵杖轉入大將軍楊素軍中，居清流縣，屢立戰功。恰巧江東謀反，楊素派鐵杖到江南去偵察。
麥鐵杖頭戴草把，在夜間浮水過江，全部弄清賊營情況後回報楊素。後來又再次到賊營窺探，被賊兵捉住，賊帥李棱派三十個軍士押送他，綁著準備送給高智慧。押到肻亭，軍士們吃飯休息，可憐他餓，解開綁著的手讓他吃飯。麥鐵杖奪取軍士的刀，亂砍押送的軍士，直到殺儘為止，然後一一割下他們的鼻子，懷揣而歸，楊素十分驚奇。後來論功行賞，卻沒有麥鐵杖，碰上楊素坐驛車回京都，鐵杖徒步追隨楊素，每夜同宿一店。
楊素發現麥鐵杖時才明白麥鐵杖的用心，特地向隋文帝請奏授鐵杖為儀同三司。但因麥鐵杖不識字，放回鄉裡。成陽公李徹欣賞鐵杖勇猛，在開皇十六年（597年），征召麥鐵杖到京城，任命他為車騎將軍。仍跟隨楊素北征突厥，加封為上開府。
隋煬帝即位，漢王楊諒在並州謀反，鐵杖又跟隨楊素征討漢王楊諒，每次作戰總是身先士卒，後任柱國大將軍。不久調任萊州刺史，但無政績。轉任汝南太守，漸漸學習法令製度，群盜絕跡。
後來上朝，考功郎竇威嘲笑鐵杖說：“麥是什麼姓？”鐵杖應聲答道：“麥竇（豆）沒有差異，有什麼值得奇怪的？”竇威非常羞愧，無言以對，當時的人都認為麥鐵杖機敏聰慧。
不久麥鐵杖又調任右屯衛大將軍，隋煬帝對他更加親密。麥鐵杖認為隋煬帝對他恩重如山，常懷儘忠報國之誌。
大業八年（612年），隋煬帝征討高句麗，麥鐵杖請求當前鋒。他回頭對隨從醫生吳景賢說：“大丈夫的性命自有所在，豈能去用艾炷燙鼻梁，用瓜蒂噴鼻孔，治黃不差，而死在婦人懷裡呢？”將要渡遼河，鐵杖對他的三個兒子說：“你們應該準備淺黃色的衣衫。我久蒙國恩，今天應是為國捐軀的時候。我如果戰死，你們將會富貴。在忠與孝上，希望你們多努力。”等到渡河時，橋未完工，離東岸還有幾丈，高句麗軍大批湧來。麥鐵杖跳上岸，與高句麗軍拚搏，戰死。同時戰死的還有武賁郎將錢士雄、孟金叉。