如果意识脱离身体，那还是“我”吗？如果技术发展有其不可逆的惯性，谁来为技术的边界负责？如果我们赋予AI“造物主”的地位，人类是否会体验到一种普罗米修斯式的羞惭？这是北京大学新闻与传播学院胡泳教授在虎嗅F&M创新节现场发出的警醒。
而与之形成对比的，是另外三位嘉宾对AI的宏大愿景：
百川智能创始人王小川将AI视为人类文明的有机组成部分，提出“未来的人类历史将与AI共同书写”的判断；
脑虎科技创始人陶虎坚持“大脑作为人的核心”，试图用技术增强人的主体性，让人类在智能竞争中不被甩下；
涌源合生联合创始人孟凡康以合成生物学展示了生命未来的广阔空间：当生命可被重新编写，人类是否仍是自然所定义的“那个人类”？
在虎嗅F&M创新节现场的《我是谁，我还能是谁》圆桌上，在主持人纪中展的追问下，四位嘉宾究竟将讨论推向了怎样的深度？以下为整场圆桌内容实录——
我，如何被重塑？
纪中展：刚才三位讲者给我们展示了三个方向的生命突破，AI医疗延展了生命的边界，脑机接口延展了大脑和心智的边界，合成生物学又延展了生命创造的边界。王小川讲的是为人类造医生，为生命建模型；陶虎讲的是重塑生命，突破人类生存与认知的边界。孟老师讲的是重写世界，设计大脑。听得我是越来越兴奋，也越来越迷糊，被他们三位重塑重构设计之后，我还能是谁？我还是原来的我吗？我怎么才能重新成为我？
我想先问一下王小川，你所讲的医疗AI到底是让人更自由，还是会被更系统定义？你的产品技术会把人带到哪儿？你想为人类造医生、给生命造模型，你的价值观和敬畏是什么？
百川智能创始人王小川，图源：虎嗅F&M创新节现场拍摄
王小川：首先相对于后面两位，我的价值观可能是最保守的，至少没把人本身给重写了。但即便这样我也很困惑，因为在我2023年下场做AI医疗后就意识到一个问题，即AI将进入社会成为人类的一分子，我们将与科技融在一起，所以越往下走，人跟机器的边界问题（我是谁？）可能会越严重。我甚至会认为往后人类的历史就没几年了，因为人类要和AI共同创造历史。
我觉得“为人类造医生”也只是一个阶段性的目标，让人类的精神和肉体更自由。今天我们是让AI去“修理”人，以后可能是让AI去“修理”机器人，最后的对象可能还会有大的变化。
我大概在2023年底的时候在知乎上发了一个帖子被骂得很惨，我说程序员是自己的掘墓人，其实是仿照了马克思那句“资本家是资本主义的掘墓人”。马克思那句话还没兑现，但“程序员是自己的掘墓人”这句话可能提前兑现了，今天不会写程序的人也可以让AI帮他写个程序运行。
所以不要觉得人强大到AI永远会是我们的仆人、工具，AI终将超越我们，我们会共同创造一种文明。
纪中展：最克制的已经讲完了，我们听听没那么克制的想法。陶虎老师，当意念能被读取，那我的意念是不是变成公域了？
陶虎：我原来一直痴迷于长生不老，但纵观历史长生不老术之后，感觉他们都想从肉体上改变，却没人想从“人本身活下去”这个角度来改变，刚才说的意识什么的可能太“玄”了，我说点相对比较基础的东西。
人无非就是两类病，一类是除了大脑以外其他地方的病，不管骨折也好，缺胳膊少腿也好，其实都可以用医疗器械去修补。
这时你会发现，身体装骨钉、装假手没有人会质疑你“不是人”，唯独你在大脑里动了一点手脚，人们就开始想“你还是不是人”。所以大脑在“定义人”里面占有决定性比重。
人的大脑有两个很大的特征，第一人类大脑是一个功耗比极大的超级计算机，比现在所有的npu、gpu、cpu功耗比都要高很多。比如你今天早上吃了一个馒头，到现在依然可以思考，但用算力去做的话，现在该考虑能源问题了。
所以现在“类脑”也好，各种各样的架构也好，他们都在学大脑，但我认为都只是碰到了皮毛而已。大家一直在担心人工智能会变强，人工智能会把人类取代，它背后是基于两个假设，第一觉得人的大脑不会再进化了，这点我不认可。
原来人们常说爱因斯坦大脑只用了30%就很厉害了，一个普通人用了20%就很出色了，背后是基于大脑的利用还没有被穷尽，一旦我们通过脑机接口的方式不断去认识它，反过来去激发还没有使用过的区域的话，虽然整个使用是线性的，但由于大脑巨大的网络连接，它的性能是指数的，所以我不太担心人工智能会取代人类智能，更多是怎么结合，而且我一直坚持人类智要占主导作用，是我去决定使用什么样的人工智能合作。
我虽然时刻准备植入脑机接口，我一直认为不管是脑机接口还是其他技术，人依然在本位，外界的所有东西都会为人所用。
脑虎科技创始人陶虎，图源：虎嗅F&M创新节现场拍摄
纪中展：你愿意把大脑接入到网络吗？
陶虎：我一定愿意。为什么一定愿意？比如我是一个性子很急的人，刚刚哪怕我语速这么快也只能说这么多信息，但同样的信息如果用上脑机接口，15分钟的内容在两分钟内就能分享完。
为什么我们要坚持做脑机接口？不仅仅看中某个疾病的修复或者某个功能的替代，而是大脑跟外部世界信息通道的带宽需要更可靠、更高效、更多维。
纪中展：如果意识可以备份升级迁移，那保存下来的还会是你吗？
陶虎：这个不一定，因为我是工科出身，对纯文科或者哲学这一块不太理解，但之前我们一直在说一个词叫数字生命，它就两个关键词，“数字”、“生命”，最直接的就是AI最后有自己的想法了，这是一种方法。第二个就是生命的数字化，把我的既有意识备份，存在云端。
但不管怎么样，这两块都需要脑机接口发挥作用，所以我不管最终的技术路线是怎样的，把大脑和外界digital的东西结合在一起是重要的事情。
纪中展：我再问问孟老师，当生命可以被设计，我们从自然存在走向了工程存在，最让你感到兴奋的突破是什么？最警惕的越界是什么？
孟凡康：我想谈两个事，一是合成生物学会让人成为人吗？还是不成为人？我认为会让我们成为人，而且要加一个前提——更健康的人。
我们全身其实有很多疾病，合成生物学会让我们的癌症消亡，让我们肠道更健康，让我们生活得更舒适，包括阿尔茨海默症海默症，我们都可以通过合成生物学设计的药物或者细菌疗法去解决。
同时我认为合成生物学也可能让我们变得“不是人”。分享几个案例，在生物学上有一个基础的理论是DNA由4种物质（ATCG）组成，蛋白质是由20种氨基酸组成的，DNA是生命的底层代码，而蛋白质负责任务执行。那么问题来了，为什么只能有4种和20种？能不能突破？
比如你要设计一个100种氨基酸组成的东西，比如我们通过合成生物学把更多不同种类的氨基酸掺入进去，那组织空间就变成了100的100次方，这比原来人类进化的可能性多很多。当AI可以帮助我们设计更多的功能蛋白时，生命本身将会产生天翻地覆的变化。我们可以畅想在非常极端的环境中生存，比如在火山口地下的超高温热泉里面生存，甚至有帮助我们拓展星际文明的可能。
当然，这些都需要在现有道德框架和法律框架下执行，有些毒蛋白能够杀人，但明显超出了现有伦理道德及法律框架，这显然是不行的，这也是大家需要警惕的点。
涌源合生联合创始人孟凡康，图源：虎嗅F&M创新节现场拍摄
AI洪流下，如何定义人的存在？
纪中展：胡泳老师，听他们三位讲完，你认为从哲学和社会学的视角来看，人的存在、人的意义、人主导权应该守在哪儿？
胡泳：我自己也不是搞哲学的，但我觉得在现在这个年代，每个人都必须变成哲学家，人工智能其实把我们带到一个场景下，每个人需要思考作为一个人到底意味着什么？
首先声明我不是制造对立，但我听下来觉得几位都属于超人类主义者或者是后人类主义者。想象中似乎把很多科技加到人身上，人就可以从普通人变成超人了，我们生产的物种可以不是人。
但我想讲两个方面的事情，第一个事情我并不觉得人之所以为人，纯粹是靠脑子，换言之大家可能低估了身体的重要性。
我们可以思考一个问题，昨天的你和今天的你还是同一个你，这仅仅是因为脑子的原因吗？仅仅是因为你有记忆、意识、心理活动，才是同一个你吗？身体存在的意义在哪里？比如刚才孟老师举到阿尔茨海默的例子，阿尔茨海默病人的记忆被打断了，但他的身体还在，如果这个病人是你的亲人，你能说这个人就不是这个人了吗？
我觉得我们低估了身体跟智能的关系，低估了身体在人的同一性之间的重要性。换言之，你真的把意识上传了以后，这个意识没有身体，那我们真的可以讨论一个问题——上传的那个东西到底是个啥东西？还是不是我？
另一方面，我们人类在进化过程当中，把很多资源单兵突进式的放在大脑上，导致我们的脑容量比其他物种更大。为什么在进化的时候一定要把脑子进化得这么厉害？我们当然可以再增加脑的潜力，比如通过科学让每个人都变得像爱因斯坦。但有没有想过一个问题，我们把脑子进化得这么厉害是为了干什么？我认为从人类社会的发展角度来讲，脑子搞得这么好是为了要交流、合作，要八卦、要钩心斗角，甚至就是为了要让人有社会性。
但其实我们每个人现在越来越原子化，我们不合作了，每个人都活在自己一个小小的监狱里，在这个监狱里所有东西都可以提供，你没有必要迈出去，也不需要跟他人发生关系。所以人脑进化得再好也别忘了目的是什么。
北京大学新闻与传播学院胡泳，图源：虎嗅F&M创新节现场拍摄
纪中展：我想请陶虎老师回应一下。
陶虎：胡老师的出发点我能理解，我说几个看到的案例和感觉到的进步，从历史维度来看，仅仅从社会进步和科技发展角度，信息传递、存储和交流的效率这件事儿贯穿过去几百年甚至几千年。
从古代甲骨文到书信，从电话到现在各种多媒体，信息交互、传递、处理的效率越高，科技、经济的进步，乃至文化文明的进步都相对越快。但到现阶段，人类文明的瓶颈在于人本身跟外部世界的交流速度，现在正常人的交互速度跟不上硅基发展的速度，这就是为什么我们会担心人工智能会取代人的原因。
第二个现象是，我们先不谈把正常人变成超人，就谈把病人变成正常人这件事情，从大脑入手是很有意义的。中国的渐冻症病人（不能说话、不能动）有十几万人，平均生存周期大概是48个月，而且它很规律，每年新增3~5万人，死去3~5万人。此外，高位截瘫几百万人，偏瘫几千万人，失语症几百万人。脑机接口能让他们恢复或部分恢复他的交流需求、情感需求、工作需求，这对于这么大的病人群体来说是非常有意义的。
纪中展：我也想请王小川来回应一下。
王小川：其实我听完之后觉得这两位是来拯救人类的（笑），因为今天硅基进化得非常快，而且硅基已经能像人一样交流思考，认知世界甚至改造世界。
如果你问我是大脑重要还是身体重要，我可能还是偏大脑这一块，认知世界、改造世界、决策思考还是需要依靠人脑。
今天的问题是很多角色AI开始干了，以前开车是自己开车，但现在是告诉导航软件你要去哪儿，它会给你规划整个路线图，背后事实上是机器做决策，人在做执行我们不自觉地在把决策权交给AI，未来会有更多决策权都会交给AI。
现在很多人说AI不行是因为你没把它当人来看，只给了它少数几个关键词，他自然没有良好的表现。你不只是需要给它上下文，还要control它。
今天在AI领域我们遇到了巨大的机遇，但同时也藏着巨大的挑战，人类开始让出自己的决策权，成为了单纯的执行者。我内心有一丝悲观，担心机器开始优于人，如果这个世界50%以上的决定是机器做的，那到底是谁在控制这个世界？AI就像人类养的娃，如果人类与AI能一起往前走，而不是极端情况下只剩AI，那会是最美好的画面。
人类控制AI，还是AI控制人类？
纪中展：胡泳老师，如果从“我，重新成为我”的命题来看，他们三位的分享主旨，一个是为生命建模型，一个是重塑生命，另一个是设计生命，您认为区别在哪儿？
胡泳：在ChatGPT出来以后，很多美国人工智能界的人在传阅一本老书，翻译成中文叫《原子弹出世记》。同时，诺兰在拍奥本海默时也接受过记者采访，他说做人工智能的人都对人工智能和原子弹诞生之间相似性感到可怕。
我认为有时候社会发展的巧合会让人很震惊，因为山姆·奥特曼的生日跟奥本海默是同一天，甚至奥特曼也觉得他的计划可以跟曼哈顿计划相媲美，所以我就去把这本书找来看了。这本书一开头就引用了奥本海默的一段话，这段话大意是说，科学家能够做出一个科学发现不是因为它有用，而是因为它一定会被发现。
这段话让我很震动，它在阐述一个道理，即很多时候你做了一件事情以后，它并不止步于此，就像那个潘多拉之盒的比喻，虽然我的出发点是好的，我想它应该在这个地方有一个界限，但最终奥本海默承认说，他之所以要搞原子弹就是因为原子弹在技术上有“甜蜜点”。
所以辛顿后来到处讲说人工智能对人类有风险，那有人就反问他这不都是你当年搞出来的吗？你当年干什么去了？于是他承认在科学上有甜蜜点的技术科学家就一定要去发现它。
从这个意义上来讲，“负责任的生命设计”这句话本身就是个悖论，一旦你进行生命设计了，就没有负责任这回事儿了，跟刚才我讲到《原子弹出世记》这个逻辑是一样的。
第二个，我觉得王小川对人类控制权的预期还是乐观了，将来不会是50%的决定由人工智能决策，一定是90%以上甚至99%。我经常打一个比方，有一个寓言叫做阿拉伯人的帐篷，讲的是阿拉伯人出于怜悯允许骆驼逐步将头、脖子、前腿伸入帐篷，最终被完全挤出帐篷。
陶虎：我想表达的一点是，哪怕中间我们犯过很多的错误，但我对人类仍旧有极大的信心。其次，做“重塑生命”这个事情需要有足够的耐心，把所有的病人变得正常，甚至从正常变成超人，会是一个很长的过程，我们不去让道德审判作为科技进步的阻力，但是也不能让科技进步作为道德失控的借口。
孟凡康：我举个实际的案例，关于我们在合成生物学领域是怎么管控安全的。
我们建立的整个系统第一个环节就是一套完整成熟的生物安全筛选系统，当任何用户提交DNA合成序列的时候，如果发现了任何问题，比如说这个问题跟自然界的某些有害的东西匹配起来了，那我们会拒绝掉。或者说你用AI设计避开了我们障碍，我们发现跟自然界的没有任何相似度，我们也会拒绝掉，因为这往往会带来风险。
在此之外，其实整个科学共同体都在积极的行动来发出倡议，倡导一个更安全的更合理的生命设计，我觉得这一点是一个负责任的开始，但就像胡老师说的确实会有风险，这个过程中需要大家都参与进来，无论从政策制定到技术发展都要共同参与、共同设计保障。
王小川：一个重要的关键词是，什么叫做人类？
人类是指这个人的肉身加脑子吗？刚才还提到科学家共同体，我想一个科学家也不是光指你的肉身和你脑子，你发表的论文和引用数也是你的一部分，我们很容易认为自己的肉身是“本我”，但当它脱离了外部环境而单独存在，它也不能成为人。今天我们跟古人的不同之处不在于DNA肉身的不一样，而是我们的知识，我们的观念不一样了。所以不应该把人肢解成DNA或者肉体或者脑子，而是把AI作为人类文明的一部分来看待，不去恐惧它。
就像你遇到外星人也不会只研究它的肉体，还包括它们的科技，它们的沟通方式，共同构成了外星文明。所以重新定义“何为人”之后，我们再与AI去对齐，把它当成我们人类的一种，它可能比猫狗更接近我们，更是我们要去呵护的一个baby，成为我们社会的一部分。
胡泳：我觉得AI不太可能会是一个baby，现在你赋予它意义的时候它是个baby，但是当弗兰肯斯坦养大了以后，他肯定不是baby了，甚至会逆着你的所有意志来行事。
大家知道人跟大猩猩之间其实有很大的差别，大猩猩跟蚂蚁之间的差别会更大，可是在超级智能的视角下，你会发现生物间的差距根本都不算差距了。
爱因斯坦大家公认是天才，但是在超级智能看来普通人和爱因斯坦区别并不大，因为智能的差距太大了，一旦超级智能完全碾压人类智能时，那关键问题就来了：人类凭什么能战胜所有的物种变成地球的霸主？为什么不能是AI？这里其实进入好莱坞式的畅想了，我是想说明AI不太可能是那个“baby”。
主持人纪中展，图源：虎嗅F&M创新节现场拍摄
孟凡康：今年有一个发表在《Natural》上的报告，它用AI大模型设计出了一个生物的分子，按照自然进化而言，这个分子需要5亿年才能从最初的蛋白质进化到现在的蛋白质，但是AI在一周之内就完成了这个东西。
所以我觉得AI能够足够强大并跟生物整合在一起的话，我希望它能够帮助人类进化，适应环境。如果AI能融入到整个生命设计中，我们可以更好地把人类文明延续、拓展下去。
陶虎：刚刚胡老师在讲的时候我一直在反省自己，怎么能让个体成为更好的个体？我希望能够增强我的共情能力，增加我的情商，而不是我现在做的这个越来越有逻辑性和冷冰冰的技术。人之所以是人，共情是一个很重要的特点，我希望我的情商能追得上我的智商。
王小川：我们人是活在悖论当中的，每个人都希望自己的生命能够延续下去，但我们都终有一死，我们都需要一种延续传承，所以更多人选择是生娃，为了自己娃能活得更好，自己捐献器官，甚至选择死掉去托举孩子都是愿意的。
对我而言，我也是抱着这样一种方式来对待AI的。但首先我得创造AI，同时让人类更加的健康，我也就获得了快乐，将我的创造、健康、快乐统一了。
胡泳：我越来越觉得其实能够“死亡”的生命挺好的，人为什么要永生？永生为了什么？肉体也会脆弱，也会生病，也会衰老，这些我觉得都挺好的，也没有必要改造。
其实我们总把自己放在一个造物主的高度，可一旦开始造物，那很多事情其实是由不得你的，它自己会有想法，它会按照他的势头来走，那它会走到一个什么地方？
你面对自己的造物会觉得自己比他差太远了，我称之为“普罗米修斯式的羞惭”，我认为这个不是我乐意见到的，也不认为AI往这个方向走是对的。
众和策略提示：文章来自网络，不代表本站观点。
