李谦天资聪颖，勤奋好学。1920年考入县立醴陵中学，在那里接受马列主义的熏陶，积极参加学生爱国运动和社会进步活动。1922年，李立三到江西安源煤矿领导工人运动时，曾多次到自己的母校醴陵县立中学宣传十月革命和马列主义，宣传中国共产党民主革命纲领，李谦认真阅读《新青年》、《向导》等革命刊物，响应李立三关于打倒军阀，驱逐列强，拯救祖国的号召，投入反对帝国主义的活动。1924年，进入黄埔军校第一期学习，聆听周恩来、叶剑英等讲的政治和军事课，思想有很大进步。同年加入中国共产党。毕业后，留校任教导团排长，率部与军校学生军先后参加广东革命政府为讨伐军阀陈炯明，统一广东的第一、第二次东征和平定滇系军阀杨希闵、桂系军阀刘震寰叛乱。战斗中，他身先士卒，冲杀在前，初步显示其军事指挥才能。升任国民革命军第一军第二师连长，不久调任湘军改编后的第六军营长。 1926年，在北伐诸役中屡建战功，擢升为第十九师第二团团长。

大革命失败后，赴日本陆军士官学校深造，他潜心研究军事，专攻战术，成绩优异；两年后回国，1929年7月，奉中共中央指示到南宁，改名李谦，任广西第四警备大队副大队长，积极协助大队长张云逸改造部队，训练中下级军官，进行武装起义的准备工作。1929年12月11日，百色起义胜利举行，红七军成立，部队编成3个纵队：原四大队编为第一纵队，李谦担任第一纵队纵队长，中共红七军前委委员，成为红七军领导人之一。

1930年11月，部队在河池整编，纵队改称师，任红7军第20师师长。李谦在敌人大军“围剿”之下，率部转战湘粤边界地区，时而奔袭，时而固守，时而杀回马枪，攻城略地，出奇制胜。他不仅作战勇猛顽强，机智灵活，而且在斗争最艰难困苦的关头，总是用坚韧不拔、吃苦耐劳的忘我革命精神和与战士同甘共苦的模范行动，来鼓舞部队士气，使红二十师越战越强，成为红七军中一支能征善战的主力部队。

1931年2月3日，在广东省乳源县梅花村，一场激战打响了，李谦率领的五十八团一营在草家坪岭上痛击敌军。不料情报有误，敌军来的不是一个，而是四个团。湘粤军阀部队采用人海战术，来势汹汹，企图吞噬红七军。面对敌人的猛烈攻势，以勇猛著称的李谦，手挥驳壳枪，犹如猛虎下山，摧枯拉朽，指挥战士们扼守住梅花村的咽喉地带——草家坪后山高地，打退了湘粤军阀部队的七次猛烈进攻。在回击敌人第八次进攻的时候，他挥舞大刀，与敌人展开英勇的肉搏，敌人狼狈逃窜。他又提起机枪，射向接近十几米的敌人。不料，飞弹袭来，他的腹部鲜血喷涌而出，肠子流出体外。他对赶来搀扶的警卫员大吼一声：“别管我！快冲出去！”他强忍着剧痛一直没有倒下。鲜血染红了他的军装，犹如硝烟中熊熊燃烧的火炬。他用22岁的年轻生命，书写了人生最壮烈的一页。

1925年2月，李谦在军校教导团任排长，参加了广东革命政府举行的第一次东征。在战斗中，他身先士卒，英勇杀敌，显现了他的军事指挥才能。同年6月初，在滇系军阀杨希闵和桂系军阀刘震寰叛军占领广州的危急时刻，李谦随东征军回师广州，参加了平定滇、桂军阀叛乱的战斗。是年7月，黄埔军校学生军改编为国民革命军第一军，李谦升为连长。后来，蒋介石提出了“整理党务案”，排挤共产党人，李谦到程潜指挥的第六军，担任第十九师五十四团营长。1926年7月，国民革命军誓师北伐。第六军在南昌城误中军阀孙传芳的空城计，程潜军部被敌军团团包围。李谦沉着指挥，拼死冲杀，使程潜和军部脱离险境，1927年春天，程潜在南京召开庆功会，李谦被擢升为第十九师二团团长。

1927年4月开始，蒋介石大肆捕杀共产党人，在南京的神策门、栖霞山等处，强行解散和诱歼第六军主力十九师。李谦在程潜帮助下，东渡日本，进入日本陆军士官学校学习。

1929年5月间，李谦从日本回到上海后，即根据中共中央的决定，随邓小平、张云逸等前往广西，利用蒋桂矛盾发展、建设革命武装和革命根据地。

李谦到广西南宁后，由党设法安排在广西警备第四大队担任副大队长，协助大队长张云逸对该大队进行了改造和整顿。他经常深入到士兵群众中去，宣传共产党的主张，耐心启发士兵的思想政治觉悟，号召士兵起来揭发反动军官克扣军饷和虐待士兵的罪行，并果断地撤换了一批为广大士兵所痛恨的反动军官。同时，在连队秘密地建立党的组织，发展新党员，从而使这支队伍面貌一新。

同年10月，广西政局发生急剧变化。张云逸与李谦按照邓小平的部署，率领广西警备第四大队和广西教导总队部分学员，挺进右江地区的山城——百色，与韦拔群领导的农民运动相结合，进行武装起义准备工作，并将在百色的坚持反动立场的广西警备第三大队一举歼灭，扫除了武装起义的障碍。

1929年12月11日，在广州起义两周年纪念日之际，邓小平、张云逸、韦拔群等发动百色武装起义，建立了中国工农红军第七军和右江革命根据地，邓小平任红七军前委书记兼军政委，张云逸任军长。红七军下辖三个纵队，李谦被任命为第一纵队纵队长。

1930年2月初，桂系军阀为了阻止红七军攻打广西南宁，派桂军师长李画新为总指挥，率领四个团兵力，向左江革命根据地的前哨——隆安县城大举进攻，气焰十分嚣张。当时驻守县城的部队，只有李谦率领的纵队直属部队和第一营的两个连，敌我力量悬殊。李谦不畏强敌，沉着地指挥部队抢占有利地形，接连打退了敌人一次又一次的进攻。敌人增兵越来越多，炮火也越来越猛。为了摸清敌人的情况，李谦冒着敌人的炮火，只身爬往前沿阵地，不幸被一颗子弹射中了右臂，才被战士们扶下了火线。后来，红七军主力部队相继赶来支援，经过三昼夜的激战，消灭了大批敌人后，撤出了隆安县城，转移到东兰、凤山一带。

一个月后，李谦的伤口刚刚愈合，为了扩大政治影响和解决部队的军需供给问题，红七军的第一、二纵队开赴到黔桂边界开展游击战争，李谦带队从凤山县盘阳区(今属巴马县)出发，一路上宣传发动群众，帮助当地建立农会、工会、妇女会等组织，为建立红色政权，壮大革命力量，做了大量工作。

4月底，第一、二纵队穿过了山峦重迭的百里大苗山，到了贵州军阀王家烈的老巢榕江县城。这是一座古老的山城，四周城墙用大青石块砌得又高又厚，加上依山傍水，地势险要。红七军由于缺少攻城器材，又没有炮队，尽管红七军战士猛打猛冲，苦战三个多小时，仍无法登上城墙。是继续攻城还是收兵，一时间大家议论纷纷。李谦仔细观察了地形，全面分析敌我双方的情况，认为我方具有许多有利条件，于是请求军部把攻城的主要任务交给第一纵队。军部及时调整了攻城器材，决定在当天下午5时，再次发起了攻城。李谦率领第一纵队战士，带着登城的云梯，如猛虎般跃出掩体，冒着敌人强烈的炮火，迅速向城墙冲去。登上城头后，经过一番白刃战，把敌军打得落花流水。残敌妄图从城后门逃窜，又被红军扼守在城北山坡上的一纵队一营截击，给敌人以沉重打击。战斗在天黑以前结束，实现了军部提出的“攻下榕江城，纪念五一节”的誓言。经过这场战斗，战士们对李谦的军事才能敬佩非常，亲切地称他为“张飞大队长”。

打下榕江城后，红七军筹集了一笔经费，便回到右江的平马一带进行整顿。1930年11月7日，中共红七军第一次党代会在河池召开。在这次党代会上，李谦被选为前委委员。翌日，红七军在河池进行了整编，全军编为三个师，李谦任第二十师师长。

1930年11月9日，军部率第十九、二十师离开河池，奉党中央的命令，准备执行攻打柳州、桂林和广州的任务。12月底，红七军转战到湖南省武岗县，攻打武岗县城未能取胜，就向新宁方向转移。转移时，敌人以数倍的兵力在后边紧追不放。红七军由于连续行军，频繁恶战，过于的疲劳和饥饿，许多伤病员和辎重队人员已经走不动了。眼见敌人就要追上，情况危急万分，李谦断然决定自己率一个排断后。一边阻击敌人，一边鼓励掉队的战士赶上队伍。他英勇地击退敌人多次追击，但伤亡惨重，最后，一个排只剩下排长王贵和一名战士。敌人正要包抄过来，李谦就对王贵说：“我们跟敌人拼到最后时，请你留一颗子弹给我!”王贵的心情虽万分沉重，但他坚定地说：“死了我王贵，才轮到师长!”在这关键时刻，前边的部队得到李谦带领的掩护排情况后，立即组织人员赶来支援，打退了敌人的追击，李谦他们才转危为安。

1931年1月，红七军折回广西，前委在广西全州召开了会议，对离开根据地以来的经验、教训进行了总结，并根据当时敌我双方的力量对比，决定放弃攻打大城市的决策，坚决反对冒险主义，迅速将部队开往湘粤边，再到江西与中央红军汇合。会后，红七军渡过湘江，向湖南江华进发。1月中旬，红七军从江华南下到广西贺县的桂岭圩休整。为了提高战斗力，缩减编制，将原来两个师减编为两个团，干部降级使用，李谦任五十八团副团长兼一营营长。

2月初，红七军转移到广东乐昌县，住在一个群山环抱，树林成荫的村庄——梅花村。该村庄位于湘南和粤北的交界处，地理位置极其重要。前委决定，一边休整部队、一边开展群众工作。第二天凌晨，军部接到情报，有一团的敌人从连县、星子尾向梅花村扑来。军部决定迎击敌人，打一场歼灭战。临近中午时，迎击敌人的战斗在梅花村旁的画眉岭打响。不久，军部发现，从连县、星子尾扑来的湘粤军阀部队不是一个团，而是三个团的兵力。他们气势汹汹，大有一口吃掉红军的气势。

军部决定第一营扼守梅花岭的咽喉地带——草家坪后山高地。当大批的敌人向高地进攻时，李谦挥舞着驳壳枪，在前沿阵地指挥，既是指挥员，又是战斗员，率领部队打退了敌人的七次冲锋，杀得敌人尸横遍野，始终无法向红军阵地靠近一步。

太阳落山，夜幕就要降临。敌人像疯狂的野兽，以猛烈的炮火掩护发起了第八次冲锋，倾尽全力妄图攻下红军阵地。霎时间岭上炮声隆隆，烟雾弥漫，土石横飞，成棵的树木被炸倒。李谦气红了眼，他动员战士们殊死也要坚守阵地。最后，子弹打光了，成批的敌人蜂拥而来，李谦等敌人爬近，手执钢刀，率领一个排冲杀出去，与敌人展开肉搏战。战士们个个如猛虎下山，杀得敌人难以招架、纷纷连滚带爬，仓惶败退下去。这时，不幸的事情发生了，不知从什么方向飞过来一颗子弹，射中了李谦的腹腔，肠子从伤口处滚了出来。机枪连连长立即扶住了他，他一手捂着伤口，一手指着山下的敌人喊：“不要管我，快冲下去!”喊声未落，身子一软，便昏倒了。

战士们迅速将李谦抬到军部指挥所。邓小平政委、张云逸军长闻知此事，立即赶来探望。张军长还亲自给他喂水，周围的人们都在等着他快快醒来。过了一会儿，李谦终于苏醒，当他见到邓政委、张军长时，激动得握着军部领导的手，好久才艰难地颤动着说：“首长，阵地怎么样?”张军长赶紧扶他躺好，对他说：“敌人已被打退，你的任务完成得很好!”李谦满意地点了一下头，用非常微弱的声音说：“好……好……”就闭上双眼，告别了首长和战友们。

1931年4月29日邓小平在《七军工作报告》中写到：“此次作战的损失为向来未有，重要干部如李谦（龙光）、章键皆死……全军干部损伤过半，真令人痛哭。”1960年3月张云逸在《漫谈广西革命斗争情况》中写到：“李谦同志是一位很好的党员，红七军的优秀干部，打仗勇敢，能与士兵同甘共苦，认识问题也比较正确，在工作中对我的协助最大。李谦同志的牺牲，使我失去了一个有力的助手。”