守住人类安全的底线
去年12月，中央全面深化改革委员会第二十三次会议通过了《关于加强科技伦理治理的指导意见》；今年3月，中办国办正式印发该文件。
这是一份有战略意义的文件，将深刻影响未来中国乃至世界的科技和社会发展。
- 1 -
科技进步会不会导致人类毁灭？
在人类诞生之后的绝大多数时期，这个问题的答案都是否定的，直到1945年两枚原子弹在日本广岛和长期爆炸，引起了科研领域的反思：人类到底有没有能力处理好科技进步和人类安全之间的关系？
表面看起来，“核武器实现了恐怖平衡”，世界主要大国拥有了核武器之后，战争的烈度得到了控制，目前尚未发生第三次世界大战。最近俄乌冲突，俄罗斯亮出核威慑能力后，美国等西方国家也确实调整了态度。
但如果细细一想，不过是人类的幸运罢了，过去几十年仅仅公开的已经有多次踩在擦枪走火的边缘，差一点就可能发生核大战。
在飞速进步的科技面前，人类更加脆弱了。谁都想过得更好，国家也是一样的。而自工业革命开始，科技的力量超越一切，每一个有能力的国家都将科技发展摆在了首位，竞争成了科技进步的核心动力。
全世界仍然有233个主权国家或地区，存在诸多的军事、政治、经济同盟或准同盟关系，世界仍不太平，地球的资源又是有限的。在有限资源的激烈竞争中，科技确实大发展，但人类的安全防线越来越受到严重威胁。
比如我们已经非常熟悉的两次世界大战、冷战，都是人类科技进步最快的时期。现在的我们已经难以想象当年美国登月时，全部计算机的计算能力加起来甚至还不如一个电子表强；单单一个苹果手机的A8芯片，处理速度就是阿波罗导航计算机的近1.2亿倍。
这背后核心原因是优先度问题，但还有一个非常关键的原因就是科技伦理为竞争让步。
类似的问题还有很多，比如最近被口诛笔伐的美国乌克兰生物实验，美国深入生物实验就是在二战开始的，并且在冷战中加速发展，冷战结束后更是肆无忌惮。
最近几十年，美国政府及很多美国机构不顾《禁止生物武器公约》的要求，以防御为名对生物战进行了深入研究，其中很多研究都集中在种族特异性病原体上，直白说就是针对某一特定种族可以精准打击。
仅仅在美国国防部提交给美国国会的报告中，就透露他们的行动包括修改非致死性病毒使其具有致命性、通过基因工程改变生物制剂的免疫特征使其无法治疗和接种疫苗，等等，这些话光看就觉得不寒而栗，这是防御吗？
如果说爆发核战争，人类还有可能在废墟中重建，而核战争没有赢家，玉石俱焚能让人更加清醒。那么生物武器是有可能让人类彻底灭绝的。
生物武器俗称穷国的原子弹，能够掌握生物武器的国家远比掌握核武器的国家多，不依赖稀缺的核原料、无需花费巨大的成本进行制备，更不需要研究先进的投放工具。无论是研发、使用都更加简单，简单到甚至只要没有底线一点，把某些具有高变异性的病毒放在丧失免疫能力（比如艾滋病患者）的人体内，无限的养蛊就有可能获得极为恐怖的生物武器。
至于投放，一封信就够了。
美国展示的含有炭疽杆菌的信件
- 2 -
相比人类已经具备的自我毁灭能力，人类的防御能力实在不堪一击，生物技术就是典型。
地球实在太大，根本无法有效遏制对利益的追逐，比如一些疯狂的科学家、组织。现在全世界在人类生命领域已经达成了基本的伦理共识，但还有很多国家并没有制定相应的伦理和法律体系。
比如美国等国家禁止使用基因编辑“三父母”婴儿技术，但美国科研团队在美国纽约完成包括卵巢刺激、卵子采集、线粒体替代手术和体外受精等步骤之后，到不限制这一技术的墨西哥将胚胎植入患者体内，于是全世界首例细胞核移植“三父母”婴儿在2016年诞生。
这个婴儿具有生父精子的细胞核DNA、生母卵子的细胞核DNA以及某未知名女性卵子的线粒体DNA。从客观上确实可以帮助受困于线粒体遗传病的家庭诞生健康后代，但这是一个潘多拉盒子，可能带来的后果呢？
例如我们现在谈疫情防控，很多人说要共存、是“大号流感”，但前提是我们对新冠病毒有了充分认知，起码确定现在的奥密克戎就是最后的变种、各种伤害机理也已经研究清楚。但是很不幸的是，根据目前研究，奥密克戎绝不是终点，新冠病毒还将继续变异，甚至有可能毒性更强。
西方所谓的“共存”不是很多很多人想象的回到正常，而是被一个蜗牛一直追杀，在这样的恐怖面前，没有多少人类能够无视。
在这个“三父母”婴儿的背后，有一件事特别需要注意，那就是研究团队虽然是美国的，但负责人却是美籍华人，而在人类生命领域，包括一些华人科学家在内对科研伦理缺乏起码的尊重，不断开启潘多拉的魔盒。
典型的比如贺某奎突破伦理下限，对两个婴儿进行了基因编辑，很显然他根本没有考虑被修改基因的两个婴儿未来会不会出现问题、如何融入社会、又会不会对人类基因安全产生威胁。对这两个孩子也毫无半点尊重，如果被人知道这两个孩子被人为修改过基因，会不会受到歧视？
在整个实验中，他完全是为了个人名利，自筹资金、蓄意逃避监管、私自组织人员进行国家明令禁止的人类胚胎基因编辑活动。
最终，他也被判有期徒刑三年，并处罚金人民币300万元。
这件事危险之处在于：基因编辑难度远低于核武器研制，一个普通高校的副教授就可以靠自己的力量私自修改人类的基因，那更有技术实力和资源的呢？
人类早就可以修改基因，但在人类尚未有能力掌握技术前，万万不能做出不可挽回的事情。
- 3 -
近些年来，中国频频遭受国际上对我国伦理监管缺失的指责甚至诋毁，而国内也总是有一些无良之人出于个人私利越过伦理禁区。比如前文提到的贺某奎修改人类基因，他也因为这一举动入选顶级学术期刊《Nature》年度十大科学人物、美国《时代》杂志2019年度全球百位最具影响力人物榜单。
我们当然明白，这种超越人类科技伦理底线的在国外也一定存在，比如典型的美国搞生物实验。
但我们也要清楚，我们确实存在漏洞，而不受约束的科技发展也确实威胁到了中国人民的安全，国内科技界也出现了一些极为短视、不负责任的倾向。
比如“基因编辑婴儿”，甚至被国内一些人鼓吹为中国科技的进步。但一个普通的副教授在堪称“黑作坊”的条件下都能编辑基因，难道欧美等国家做不到吗？不过就是迫于社会、伦理、舆论的压力不去做罢了，中国的基因技术超越美国了吗？倘若发生基因编辑的竞赛，骂名被我们担了，而我们能承受代价吗？
总书记多次强调：科技进步要造福人类。科技是人类认识自然和改造自然的手段，是为人服务的，人才是最终的目的。
科技伦理就是要限制和保护人类，防止某些人类疯狂，避免人类走向灭亡。对科技发展的限制并不会阻碍科技发展，反而会让科技发展更加健康和可持续。
科技就好像一辆可以不断加速的汽车，科技伦理就是这辆车的刹车。刹车当然不会帮汽车跑得更快，但可以根据道路环境，对车速进行限制，避免无底线的加速带来的自毁，可以让坐车的人安全抵达目的地。
安全要比危险的快更加重要。
- 4 -
构建科技伦理，是中国未来发展的必须。
在科技伦理方面，中国明显落后于欧美等发达国家，这主要是我国长期处于追赶阶段，欧美等走在前面的国家已经探索完成了相关伦理的构建。但随着数字时代和中国科技实力的进步，中国已经开始走在人类最前沿。
中国已经是仅次于美国的第二大国，不让全人类陷入自毁，也是负责任的大国所要承担的责任，一个规范、道德、理性的全球秩序，更符合中国这样的大国利益。尤其随着中国不断向海外拓展，中国也将面临更多挑战，比如可能存在的恐怖主义威胁。
无论是抵御西方伦理指责，占领国际道义高峰；又或者维护中国和中国人安全底线，都必须要建立一个完善的科技伦理体系，并且参与到国际科技伦理的制定中。
2019年7月，中央全面深化改革委员会第九次会议审议通过了《国家科技伦理委员会组建方案》；2019年10月，党的十九届四中全会提出“健全科技伦理治理体制”；2020年10月，党的十九届五中全会提出“健全科技伦理体系”。
而在普遍的科技伦理体系之外，数字领域的伦理制定更是迫在眉睫。中国已经是同美国并列的数字科技探索者，但配套的伦理体系未能跟上，这几年对个人数据大肆挖掘，擅自整合、使用隐私信息乃至一些数字技术的滥用已经带来了严重的社会问题。
比如我们熟悉的“大数据杀熟”、个人隐私泄露带来的烦不胜烦的推销和诈骗、精准算法带来的“信息茧房”，还有AI换脸对个人名誉和安全的冲击等等，普通人面对越来越强大的数据利益体，毫无还手之力。
而人工智能已经开始进入我们的生活，比如自动驾驶。
这一切往往被包装在种种具有积极意义的词汇里，正如开头提到的：一切组织都渴望获得竞争优势，而科技就是最核心的优势。
指望平台自我约束是不现实的，必须国家出手。
2017年，国务院出台《新一代人工智能发展规划》，明确要制定促进人工智能发展的法律法规和伦理规范，首次将生物医学以外的学科伦理问题提上日程。
2019年6月发布《新一代人工智能治理原则》提出发展“负责任的人工智能”。
2020年10月21日，中国成立国家科技伦理委员会，并于2021年7月发布《关于加强科技伦理治理的指导意见（征求意见稿）》，向社会公开征求意见。
过去几年对互联网行业的监管，有相当一部分就是出于科技伦理的要求。
不要觉得这是中国自缚手脚，事实上中国的一系列行动是与国际同步的，欧洲比中国更加严格。联合国也一直在推动全球AI伦理规范，2017年发布了《机器人伦理报告》，2021年11月25日发布了《人工智能伦理问题建议书》，这也是全球首个针对人工智能伦理制定的规范框架。
人之所以是人而非动物，就是因为人要遵循道义伦理，倘若抛开人的道义伦理和感情，单纯谈科技，那科技又有什么意义呢？
事物发展具有两面性，任何技术的力量强大到一定程度，都可能会导致科技生态系统的失衡，甚至出现自我毁灭的倾向，必须将科技进步限制在人类整体能力之内。
这背后有三大严峻挑战：
一是对科技发展过于乐观，忽视了存在的严重风险。
在科技领域，乐观派仍然占主流，比如典型的认为“科技无禁区”，总觉得只要是创新就是好的，但忽略了一项技术带来正面效应的同时一定存在负面效应。
人类当然会在科技进步中获得正面效应，但100件正面进步的成果，也可能抵消不了1件负面效应。科技的创造和发展，不应该由其正效应决定，而应该取决于其负面效应能否被有效控制。比如前文拿来举例的“基因编辑婴儿”，又比如现在的无人驾驶等等。
二是竞争和利益导致难以形成共识，纠错难上加难。
人类社会有着巨大的惯性，发现问题不可能停下来纠错，而是需要一边延续错误、一边争吵、一边尝试纠错。仅仅让所有人形成共识就是一件非常难的事，更别说开始联合行动，而行动能否取得效果都是未知的。
典型的比如解决气候问题。美国到现在都不愿意签订京都议定书，而欧洲搞碳中和也有许多不可言说的目的，印度等发展中国家更是难以承担碳中和转型的巨大成本，碳中和事实上可能成为锁死全球多数国家未来发展的枷锁。
中国可能是发展中国家中唯一特殊的，作为负责任的大国，要构建人类命运共同体就必须面对人类可持续发展的问题，国内能源和供给侧改革、环境治理、人民生命健康也需要推动绿色低碳的生活和发展方式。
环境要治理，但国家也要发展，背后的利益协调可能永远无法达成一致，而种种突发事件也会导致既定行动被打断，比如俄乌冲突之后，欧洲暂时放松了对碳中和的要求。
三是政治、资本等复杂因素介入，使得人类安全底线存在更大漏洞。
工业革命+市场经济制度下，科技与经济已经一体化，资本更深度的介入，而资本对利益的追逐是没有上限的，我们看到过很多灾难电影，经常看到某个科技集团或者大资本出于自身利益考虑，突破科技伦理底线，对人类带来毁灭性的灾难。
典型的比如《生化危机》。
政治影响在美国这样的机制下体现的更为突出，美国的极化导致美国的民主政治成了否决的游戏，为了反对而反对，法案是否正确并不重要，仅仅是政党斗争的对象而已。美国作为人类科技的巅峰，美国的政治失灵也必然会影响到科技发展的安全性。
- 5 -
科技伦理是一个非常宏大的题目，在兼顾阅读性和科普性的前提下，想在一篇文章里说清楚基本不可能。
有几个核心点有必要在最后强调一下：
第一：中国必须积极主动地进行科技伦理体系建设，更要在国际科技伦理体系建设中发挥更大作用。
我们遭受过很多讹诈、攻讦、威胁，抗美援朝时期的“核讹诈”，最近十来年围绕大气和环境治理的对我们的攻击，这些已经被我们破解了，至于贸易的制裁，有谁能真正制裁世界上最大的制造业大国和前二的消费市场呢？
“科技伦理”有可能成为我们必须面对的挑战，为了人类的安危本身就具有极高的道义性，而我们确实存在制度短板、国内一些无良的人也总是给国外递刀子，我们又不掌握国际话语权。
未来这将是一个非常棘手的领域。更加现实的是，中国不是俄罗斯，中国的发展离不开世界，我们需要全世界更多的国家接受中国的产品、文化、技术，包括中国的互联网产品。
中美欧正在数字领域展开激烈博弈，这将是决定未来几十年各国发展的关键领域，假如我们落后了，中国的数字企业打入其他国家市场将面临更大限制，更加重要的是：数字领域不仅仅是互联网公司，未来几乎所有的行业都将要数字化。
中国要想真正超越美国，也必须扛起为全人类谋福祉的大旗，以实际行动支撑我们提出来的“人类命运共同体”，这是中国作为大国必须承担的责任，责任和权利是对应的。
第二：普通人要搞清楚自己的立场，不要觉得自己一定是受益者。
很多人看到一些违背科技伦理的事情，总觉得这是好事啊，比如看到“基因编辑”，就觉得自己以后也可以有一个更加完美的孩子，又或者觉得自己可以更加健康长寿；看到克隆人类胚胎就觉得以后器官衰竭就可以克隆自己替换了，等等。
这背后关键是默认自己是受益者，而不是站在可能受害的角度去思考。
举个非常极端的例子，德国纳粹的人体冰冻实验也确实有助于解决严重冻伤人的救治，但现在全世界已经明确反对使用人体实验得来的数据。
现在一些超越既定规则的药物人体实验，也确实可以加速对人类一些疾病的攻克。比如美国“塔斯基吉梅毒实验”，加深了对梅毒对人类的作用机理的研究。
但己所不欲、勿施于人。
倘若被用来人体实验的是我们自己呢？
作为个体，为了一些利益，基于自己的风险偏好，选择去赌一把，只要不伤害他人、不损害社会，自己敢承担，那尽管去赌，每年在资本市场上豪赌输的倾家荡产的多的是。
但是如果一个风险可能危及全人类，那就绝不能仅仅由几个科研人员又或者某个组织私自决定。
作为普通人，要牢记“宁做太平犬、不做乱世人”，一个稳定可控的社会才是对普通人最友好的，千万别觉得自己能成为“一将功成万骨枯”的“一将”。
中国是有担当的，正因此，在《关于加强科技伦理治理的意见》这份关键的文件上，确定了五个要求、五点基本原则。
五个治理要求：伦理先行、依法依规、敏捷治理、立足国情、开放合作。
五个基本原则：增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明。
杞人忧天方可万世长存，这就是居安思危的道理。