乞丐們身處社會最底層，爲了在長期行乞中維持生計，他們走到一起，結成了自己的組織——丐幫。丐幫最早出現在城市經濟繁榮的兩宋時期，孟元老《東京夢華錄》中記錄說：“至於乞丐者亦有規格，稍有懈怠，衆所不容”。經過元、明發展，到清朝、民初達到鼎盛。三百六十行，各行各業都有自己的祖師爺，丐幫也不例外。被丐幫弟子尊爲祖師爺的有範丹、朱元璋、武松、秦瓊、伍子胥等，其中範丹是最具“神威”的一個，因爲孔老夫子的命就是他救的。
說到丐幫，不能不說打狗棒，關於這打狗棒的由來，有個說法：京師丐首使用的杆子相傳是從朱元璋一代代傳下來的。當年朱元璋落魄江湖，沿街乞討，曾被兩個乞丐接濟食物。朱元璋平定四海，不忘二丐昔日恩情，就下令尋找他們，召入皇宮封賞。二丐謝絕爲官，朱元璋就賜他們各持一根一尺長的木棒，棒上纏布，垂有穗，一色黃，一色藍，賜名曰：“杆”。後來這杆子就成了丐首權威的信物。
杆子通常要漆成紅色，外面再套上紅色的絲綢袋，高高懸掛在幫主家中或幫衆據點最顯眼的地方。新幫主繼任都要衝着祖師爺畫像和這根棍子行磕頭大禮；有新的乞丐入夥，也要先對棍子磕頭。因爲杆子不便攜帶，有時丐首就以一根極粗極長的旱菸管代行其權威。或許因爲傳說中的杆子有黃、藍兩種，後來北京丐幫的兩大派也就各自以此得名了。“黃杆子”是“屌絲”中的“高富帥”，成員大都是落魄的八旗子弟。作爲幫主的“丐首”，無不是王公貝勒級別的人物。這些人平時不會上街討飯，只在春節、端午和中秋出來向商鋪乞討。
貴族就是乞討，也有一套莊重的規矩。他們常是兩人同行，一人唱曲，一個敲鼓板。這時候有經驗的掌櫃就要跑出店來，先把手略微舉過頭頂，再將錢幣放到鼓板上。店家必須在乞討者唱完第五句前，完成前述程序，且施捨不能少於五枚大錢。按規矩給了錢，則一切罷了，如果不然，那麼掌櫃的麻煩就來了。第二天來四個人，第三天來八個人，人數每天翻倍，在店鋪門口從早上呆到晚上，不言不語，只圍觀不說話，但店主的生意當然是沒法做了。這時店主人出來求饒，那就不是幾枚大錢就能打發的了，不給這些落魄貴族們個幾千上萬，就別想正常做買賣了。那些普通乞丐組成的“藍杆子”就不能如此公開地橫行霸道了。
因爲中國地域廣大，如小說中那樣建立統一的丐幫組織顯然是不可能的，所以真實的乞丐組織都是有地域性的。如湖北的“羅筐會”、江西的“邊錢會”、 貴州的“孝義會”、 湖南的“紅黑會”等等，名號各不相同。山東、河南等地的“窮家行”，乞丐自稱“萬年窮”，又自稱“理情行”，意思是講究事理人情的幫派。窮家行內的正宗是 “死捻子”，就是普通的叫花子，又細分爲韓門、齊門、郭門三個支系。死捻子內又分爲“花搭子”、“武搭子”和“叫街”三類。所謂“花搭子”是通過賣藝乞討，如唱數來寶、砸牛胯骨、打竹板等。“武搭子”是苦討，“叫街”的是殘疾的乞丐。
