年4月与毛泽东在井冈山根据地汇合。
随后的秋收起义也失败了，在湖北，拼凑起来的农民军队很快就被原以为是盟友的国民自卫队解除了武装。毛泽东是湖南农民起义的组织者，他率领着由起义士兵、矿工、农民和士匪组成的四个〃团〃。他接到的命令是攻占长沙，经过了一番苦战，他手下的两个团之间还发生了内讧。毛泽东认为自己手下的这支军队根本无法完成任务。于是，毛泽东在远离长沙的一个小镇集合起剩余的兵力，劝说其中的大部分人跟他上了井冈山。井冈山位于湖南、江西两省交界处，地理位置偏僻，地势险峻，自古以来土匪出没。当时有两伙土匪占领着井冈山，毛泽东说服了他们的首领与他结成同盟并驻扎下来，在这个中国南方最易守难攻的峭壁密林深处，度过了一个极其艰苦但相对安全的冬天。
当年的第三次起义12月份在广州爆发，也以惨败告终。起义者计划利用共产党领导的当地军队和武装工人占领城市，建立苏维埃市政府（公社），开辟一个长久的红色区域。但经过几天激战，结果共产党组织被彻底摧毁。几位全国著名的领导人牺牲，数以千计的工人遭屠戮，其中许多人手无寸铁。斯大林认为，广州起义还有另一笔损失：国民党军队在街上打死了几名俄国人并袭击了苏朕领事馆。斯大林竭力将派往中国的共产国际顾问和苏联外交官区别开来，但广州惨案表明国民党的军官并没有对他们加以区别。自此，苏联与中国国民党之间的合作，在这个孙中山和鲍罗廷曾为之牵线搭桥的城市，划上了一个蘸满鲜血的句号。
那年秋天，瞿秋白决定将共产党中央迁回上海。仍然担任党中央秘书的邓小平于9月底或10月初到了上海。和他一起去的是李维汉。李与邓早在法国时就已相识，当时李刚被提开到政治局工作。现在，邓小平转了一圈之后，又回到了阔别七年的上海。
邓小平到上海不久就被任命为中央秘书长，负责处里中央机关的文书、机要、交通、财务等工作②。在平常时期，这类工作原本就很繁琐，在当时的工作环境下就更繁重了。共产党在当时是非法组织，其党员随时都有被捕的危险。国民党的军队和警察逮捕到嫌疑犯后，会使用一切手段逼供，一个人若是叛变了，会牵连到许多人。在共产党人要积极重建党的影响的产业界，很多劳工组织都属于青帮或其他反共黑社会组织，到处都有密探。公共租界的巡捕、法国租界的警察和国民党的警察一样仇视共产主义和共产党人。他们经常主动搜捕共产党人，然后再把抓到的嫌疑犯引渡给国民党警察。
共产党的中央机关及其下属部门在上海分布很广。中央委员会的大多数部门集中在上海市中心；江苏省委机关设在闸北和虹口的工业区内；青年团的部分单位则设在法租界。周恩来当时负责中央机关的安全工作，他规定，政治局开会时，政治局委员不必全到，要有一至二人留外，以防警察局一旦突袭时不致于全体被捕。政治局会议常常在公共场所比如医院内的安全地点召开。据周恩来的传记记载，邓小平经常前往市中心威海卫路的一家医院开会。1929年8月，大约就是在邓小平离开上每去西南的同一时间，两名政治局委员被出卖后遭到逮捕和杀害。总的来讲，在邓小平做地下工作的两年之中，中共中央在上海的安全工作一直做得很出色。
在1928年或1929年年初的某一时间，邓小平结婚了。他的妻子张锡瑗是一名共产党员，曾经在江西、福建交界的山区某个小根据地任过职。邓小平是什么时候、怎么为她相识的不得而知，很有可能是在她奉命到上海送信时两人相遇的。
不管邓小平和张锡瑗是在什么情形之下结婚的，他们的婚姻只持续了很短的一段时间便悲剧性地结束了。张锡援死于难产。关于她去世的时间有不同的说法，但有一点是一致的，即当时邓小平不在上海。有关他在1928年和1929年间活动的记录很少。但作为中央的一名重要官员，他不可能经常离开上海。因此，合理的结论是，张锡援去世时，邓小平已离开了上海、凋任新的工作了。邓小平对自己的私生活一直保持沉默，他从不对外人谈他的感情，在他的官方传记里甚至没有提及到这次婚姻。
对共产党人来说，1928年主要的政治事件是召开了第六届党代表大会。由于在中国境内没有一个安全的地方允许几十名中共代表集中在一起，该次会议选在莫斯科郊外的一所旧式庄园举行。中国共产党的大多数政治局委员参加了这次会议。但李维汉留在上海没有参加，邓小平也和他一起留在上海。大会上布哈林作为共产国际常务委员会的主席出尽风头。布哈林曾与斯大林一起批判托洛斯基的对华政策，但不久就因其〃右倾〃，和〃富农路线〃受到攻击。他性情怪异，有时身穿猎装出现在主席台上，甚至手腕上还站着一只猎鹰。在他的主持下，大会通过的决议与2月份共产国际会议的决议口径一致。
经过整个6月份的争论，大会总结认为，中国革命尚处于〃资产阶级民主革命〃阶段（不属于社会主义革命），全国的形势处于两次〃革命高潮〃之间。大会谴责了〃机会主义〃（即所谓陈独秀执行的路线。陈未到会），但同时也谴责了〃盲动主义〃（即由瞿秋白下令发动的那种盲目的军事行动）。大会通过了十大纲领，其中的三大任务是推翻〃国民党军阀政府〃，没收地主阶级的一切土地，〃联合世界无产阶级和苏联〃。十六年以后，当毛泽东自己（此处有误。毛泽东是在1939年和1940年对中国革命的性质做出完整的总结的。译注）总结出一口整套关于中国革命性质的理论时，肯定了这一纲领的正确性，但应该强调革命的持久性和〃农村根据地的重要性〃。
1929年中，邓小平的工作出现了新的转变。政治局免去了他中央委员会秘书长的职务，派他到广西执行一项特殊的任务：一，与广西省政府主席和绥靖公署主任联络。他们虽然都是蒋介石任命的，但正在策划反蒋的军事行动，并表示了与共产党合作的愿望；二，接管广西省所有党的工作；三，准备武装起义。这都是极其艰巨而危险的任务。尽管绥靖公署主任是秘密党员，省政府主（原文有误。绥靖公署主任不是秘密党员。广西省政府主席俞作柏的弟弟俞作豫是秘密共产党员。译注）席同情共产党，但他们在当地的势力很弱。而且，如果他们采取反蒋行动，失败的可能性更大。广西只与法属印度支那和广州保持着联系，而广州当时控制在坚定的反共分子手中。广西远离共产党军队所活动的任何地区。难怪当时在上海秘密活动的共产国际远东支局坚决反对接受他们两位的倡议。
邓小平先从海路到达海防，然后于9月初经陆路抵达广西首府南宁。随后又有几名党员相继来到广西，包括曾在苏联接受过军事训练的张云逸。邓小平见到省主席后，立即说服他任命张云逸为广西省警备大队的大队长和教导总队的队长。邓小平和张云逸开始等候省主席出征反蒋。后来省主席的确和绥靖公署主任一道出发了。他们刚一启程，两位共产党员便命令南宁警备部队的一个营向西北进驻山区，另一个营镇守南宁通往河内的必经之地。他们还派可靠的人占领了省军械库，军械库里有五干支步枪，一些山炮、迫击炮和机关枪，几台无线电装置和大量的弹药。这些战利品是当时率领二三千人在江西南部活动的毛泽东做梦都想不到的。
省主席和公署主任的冒险很快就结束了。他们的军对在广西、广东交界处被击溃，他们两人双双逃亡。邓小平和张云逸一听到这个消息，立即将军械库的全部军火转移到早已在南宁港准备好的轮船上，命令他们的部队撤出南宁。邓小平率领一支部队乘轮船沿邕江及其北边两条支流逆流而上，在平马（现在的田东）等待张云逸率领的第二支部队。两支部队汇合后，接着进军广西省西部一个偏远的集镇百色。在那里邓小平和张云逸开始策划起义，它标志着中国共产党又把苏维埃运动扩展到了中国一个新的地区。
为了纪念广州起义两周年，他们在12月11日这天，以中国工农红军第七军的名义在百色镇中心升起了镰刀斧头交叉的腹帜。在下游的平马，工人、农民和士兵的代表集会选举出工农苏难埃政府。两个镇均未遇到武装抵抗。邓小平担任了部队的政委和前委书记。然后他又前往龙州地区，组织了第二次起义。（早在前一年的秋天邓小平就派南宁警备大队的一个营占领了这一地区）。
1930年2月初，在临近印度支那边界的龙州，成立苏维埃政府以及中国工农红军第八军。
就在这一关键时刻，邓小平神秘地回到了上海。据他的官方传记记载，他此行的目的是向党中央汇报工作。他可能是通过无线电（经香港中转）收到了上海的指示。但更有可能的是他自行决定回去的，党中央不太可能（邓小平赴上海汇报工作，是同李明瑞、许卓商议后决定的，译注）在两个新建的根据地尚待巩固的时刻把他召回。另一方面，他至少面临着一个政治上的难题：如何安排绥靖公署主任李明瑞。李明瑞在广西东部受挫后逃回了龙州并一直在那儿协助邓小平组织起义。李明瑞当然想在新建的军队中谋得某项职位，邓小平也许是想与中央商量这件事。更富人情味的原因也许是他在为妻子担心。
邓在上海呆了两个月，4月份才离开。在上海，党中央决定任命李明瑞为红七军和红八军两支部队的总指挥，邓小平为政委。这一方面解决了李明瑞的安排问题，另一方面也表示中央对邓小平这一段时间的工作是满意的。当时总书记向忠发已不负责党中央的工作，而由组织部长李立三执掌。
邓回到了广西。这里的情况在他离开的这段时间急转直下。李宗仁和白崇禧，这两个在1926年参加北伐战争之前统治广西的军阀，已经回到南宁并迅速调兵进攻红八军。红八军只有大约不到二千人的兵力，战败后被赶出根据地。红七军出师南宁试图缓解红八军的压力，但也受挫被迫撤退到百色城外偏僻的山区里。
当年的春天和夏天，在几乎没有红军存在的地区，邓小平冒着个人的生命危险开展了〃土地改革运动〃。协助他实施这项计划的是韦拔群和李明瑞。韦拔群是一名当地的共产党员，几年前就开始带领一伙农民在山区活动。邓小平〃发动群众，打土豪，分田地，进行土地革命〃③。这似乎是很大胆的行动，完全按照当时中央的精神，没收地主的土地。它比毛泽东当时在江西实行的土地政策还要过激，后来邓自己也采纳了毛的政策。也许他意识到，全面的土地改革往往造成土地收成减产，使农民的处境更艰难，而农民正是红军主要的政治支柱和经济支柱。
1930年6月红七军离开山区，在百色周围重新开始活动。邓小平此时重返红七军并积极抓部队训练。他还着手政治和行政工作，帮助创建了几个县级苏维埃政府。夏末，百色根据地已经控制了约二十个县镇，共一百万人口。
如果党中央允许邓小平、李明瑞和张云逸按照自己的想法行事，百色根据地是很有可能继续存在下去的，只是边界不断发生一些变化。但和所有其他在前线战斗的共产党须导人一样，他们也沦为所谓〃立三路线〃的牺牲者。李立三推行的是共产党〃一省或几省〃首先夺取政权的大胆计划。
李立三路线最完整的表述是1930年6月11日通过的政治局决议。决议认为中国是〃帝国主义世界的锁链中最薄弱的一环〃，中国革命的高潮已经到来，世界革命会紧随中国革命而爆发。而且蒋介石正忙于与冯玉祥和另一位北方军阀阎锡山作战，共产党在三大根据地和许多小根据地内已拥有了五万名武装力量。同时资本主义世界爆发了经济危机。据此李立三天真地认为共产党已拥有足够的实力攻占武汉、广州和其他大城市。攻占大城市成了他主要的军事目标。
在李立三的宏伟计划中，红七军的任务是占领广西东北部大城市柳州和桂林，进而在广东建立根据地（以阻止该省的反动势力向北进攻共产党军队），最终占领广州。8月，中央代表邓岗带着李立三的命令来到广西。邓小平的官方传记说，邓小平〃认为要打下这些城市是没有把握的，提出了不同意见〃。但又说〃多数人主张服从中央代表的指示，他只得随军行动〃。④这是一个值得深入考察的时期。从邓小平以后的性格来看，他是不会遵从自认为是错误的指示的。而在广西，除了上海代表，他比任何人都有发言权。但最终他还是接受了大多数人的观点。
1930年9月底，在收编了红八军幸存人员后，红七军离开了根据地。但韦拔群很快就掉头西行，使由三支队伍组成的部队失去一支力量（韦的部队后来被打败，韦被出卖后遭杀害）。另外两支队伍在邓小平和张云逸的带领下连续向东征战。后来表明，这次征战是五年后长征的一次预演。
开始的时候，邓小平和张云逸尽力按李立三的指示行动。他们率领军队向柳州进军，但当听说白崇禧正率增援部队前往柳州时，决定撤出战斗，后来因为部队作战连连受挫，伤亡很大⑤，才不得不放弃攻打大城市的计划。这一行动造成了他们与李立三的代表邓岗的分裂，邓岗便离开了他们。
现在不太清楚，邓小平和张云逸是何时认定他们唯一可行的进军路线就是到江西的中央根据地去寻找毛泽东。据军队中一名老兵记述，那一年秋末冬初，他们的队伍在湖南西部的山区里转战了好几个星期，一直没有什么明确的目标⑥。不过，最终还是确定了明确的目标。最初有一万人的队伍这时只剩下不到四千人，经过重新整编后，红七军决定到井冈山去。当时的条件很艰苦。大多数士兵都穿着单衣草鞋，难以抵御寒冷的袭击，粮食也极度匮乏。1931年2月，红七军幸存下来的两三千人在广东北部山区乐昌渡河时，又遭到敌人袭击。有一大部分人乘船先行到达了对岸，另一小部分人再次渡河时受到炮火攻击，无法过河�