梁小龙的父亲在香港一个小戏班里当班主,常年漂泊在外。家中只有八岁的小龙和年迈的祖母相依为命,因为梁小龙是孩子中的大哥,所以父母便希望他能认真读书,梁小龙却重武轻文,在他七八岁的时候便离开家庭,开始自己闯荡人生。在他15岁时,当时在香港邵氏电影公司当武术指导的叔叔梁小松便开始正式传他武功,他不但随叔叔学习了北派腿法,还跟其他武师习练咏春拳,并正式拜日本空手道黑带高手山口为师学习空手道。在香港参加了三次有外国人参加的全港搏击比赛,获两次冠军、一次亚军。他一次在九龙油麻地平安大厦自己武馆的梯间,遭十多名持利器男子伏击,最终将对方全部打倒,他手无寸铁只受轻伤。
1972年,梁小龙在街上打架时被香港电影协会主席兼香港政客吴思远看中,因此进入演艺圈。