东北的土匪被老百姓成为“胡子”，大致缘起于清末民初之时，以抢劫官府和百姓为生，也曾有很多土匪绺子基于民族大义参加过抗日斗争。尽管土匪尊桃园三结义的关公为神，对外扯的大旗也号称“替天行道、保境安民”，其实却多是与官匪勾结，干的是打家劫舍、祸害百姓的下作勾当。
土匪的来源比较复杂，上山落草也有着各种各样的原因。东北比较有名的土匪有张作霖、张乐山、李华堂、谢文东、罗明星等人，甚至连曾经打响江桥抗战第一枪的马占山也是土匪出身。清末民初时期的东北，由于政府无能，加上外来人口的大量进入，政府机构形同虚设。一时间，土匪多如牛毛。像张作霖、马占山都是因为身在绿林，势力太大，民国政府根本无力清剿。只好许以高官厚禄、招安了事。
旧时土匪拉队伍的门槛很低，三几个人便可以拉起杆子。土匪拉队伍叫做“起局”。起局要有资本，通常说的是必须有快马快枪，占了险要的山头，便有了当土匪的底子。如果没有快马快枪，便可以用红布包了东西伪装成枪炮的样子，去抢大户。民国时因为战乱，东北的很多大户都有自己的武装，多半都会有花大洋买来的好马快枪来保护自己。闯关东到东北的座山雕张乐山便是给大户人家看家护院，后来勾结土匪劫了大户的家产，做局底上山入伙做了二掌柜的。后来大掌柜的被打死，张乐山便成了霸凌一方的大土匪头子。
拉队伍起局也有规矩可循，几个人拉杆子以后要喝血酒，发毒誓，烧香拜山头。土匪入伙拜的是十八罗汉和达摩老祖，当然也有不少人是拜关二爷的。土匪起局，大当家的通常都要起个报号。旧时土匪报号五花八门，史书上记载的有老北风、小白龙、驼龙、三江好、三江红、一山红等等，不胜枚举。土匪拉杆子也有组织，一般来说大当家下面有师爷、炮头、粮台等四梁八柱。再有来人入伙，也有规矩。入伙在黑话里叫做“挂柱”，分保人介绍和自己投靠两种。初来上山落草的人，为了表示决心便要纳投名状。一般来说需要杀人壮胆，有了人命便不会轻易开小差。如果没有杀人，劫了财物也可算数。像《水浒传》里豹子头林冲上梁山入伙时，白衣秀士王伦要他下山纳投名状，便是这个道理。
入伙的人数无论多少都有仪式，只是有繁简之分。入伙者在众兄弟面前跪拜盟誓：“某某今日入伙，与众兄弟同心。若生异心，天打五雷轰。不走漏风声，不出卖兄弟。如为了盟誓，背叛了山寨，让大当家的插了我。”此时，大当家的便会说：“都是一家人了，起来吧。”
接着便是新入伙者见各位兄弟，入伙者要先走到炮头那里，说：“听大哥指点。”炮头会说：“强中更有强中手，你的枪法还得练。每天早点起来，别踏被窝子，家里也没有吃奶的孩子。到你的卡子精灵点，有事要及时发号，大家的命都在你这里了......”炮头吩咐完后，入伙者接着走到粮台前，粮台对他说：“咱们在外面追风逐尘不容易。啃窝子（吃饭）时别挑肥拣瘦。听说过老时候孔融让梨的故事吗？以后学着点。”
然后，入伙者还要走到水香处，听水香说一些注意事项。等拜完了山寨里的四梁八柱，领了职务、枪弹和衣被及洗漱用品等等，整个仪式才算是完事。
如果一次性入伙的人很多的话，大当家的便会吩咐灶上杀鸡宰羊款待众兄弟。大碗喝酒、大碗吃肉、分烟土和大洋以犒劳有功者。旧时百姓生活困苦，许多人也是贪占了土匪可以不劳而获的便宜，才选择上山入伙的。
土匪上山落草难，如果想要退伙那就更加是难上加难了。
在土匪的眼里，上山入伙便是兄弟，如果退伙便是失了忠义之心，这在土匪当中是相当忌讳的。东北土匪的黑话里，退伙被称为“叠拉”，也被称为“拔香头子。”如果想退伙的兄弟遇到了天大的难处或者家中出了大事想洗手不干，则必须先禀告山寨的大当家的。大当家的也会派人下山去探听消息，如果属实且经过大掌柜的允许，便可以举行拔香仪式。
拔香仪式一般选在每月农历十五日左右，要在月朗星稀的夜里。在山寨全伙的围观下，在院中插十九支香，共分五束，前三后四，左五右六，当中一。
退伙者跪在香前，口中诵道：
十八罗汉在四方，
大掌柜的在中央，
流落山林百余日，
多蒙众兄来照看。
今日小弟要离去，
还望众兄多宽容，
小弟回家养老娘，
还和众兄命相连。
有窑有片弟来报，
有兵有警早挂线，
上有天来下有地，
弟和众兄一线牵。
铁马别牙不开口，
钢刀剜胆心不变，
小弟废话有一句，
五雷击顶不久全。
大哥吉星永高悬，
财源茂盛没个完，
众兄弟们保平安。
诗有十九句，香有十九根，说一句拔一根。如果兄弟们都开心，大掌柜的便说：“兄弟你走吧，再回来吃饭。”粮柜便会为退伙者送上些许钱银和衣物，如果退伙者深受众兄弟敬慕，大当家的还会送马一批，助其还乡。大家一团欢喜，好说好散。如果退伙者说的不好，不利索，加上这人平时在伙里不招人待见的话，大当家的便会拍案而起，骂一句：‘你个不上道的，我插了你。’此时，早就环伺在周围的土匪们便抽出刀来，大叫：“别叫他邮了（跑了）。”然后，大当家的把帽子摘下来，扣在桌子上，众土匪上前对退伙者刀砍斧剁，乱刃分尸。因此民间流传一句话：“挂柱容易，拔香头子难。”
也正因为如此，入伙的土匪大都不敢拔香头子。
