查看原文
其他

把魔鬼关进笼子里

镇长本人 大树乡谈
2024-09-05

最近做了几个判断,有的已经中了。

一个是TikTok剥离案。

3月15日《最想否掉剥离案的,或许是拜登》提到,在民主党占一定优势的参议院阻挠剥离案,是拜登更理性的选择。

最终美国众议院提交的议案,被参议院打回要求重新修改。具体理由不用多关注,一个很有意思的点是要求增加剥离期限,从原本的165天增加到270天,再加上白宫可以行使延长90天的权限。

这就意味着,原本最终期限在10月美国大选前,现在延期到美国大选之后,这是一个双方都可以接受的结果,到时候是否剥离,就由下任总统决定了,这就大大增加了不确定性,所谓的剥离,最终多半不了了之。

需要强调的是,虽然一直说是“TikTok剥离案”,但这个法案涉及面远远超过TikTok,颇有“明修栈道暗渡陈仓”的味道,TikTok不过是被推在台面上,利用两党矛盾和美国政治正确,实现其他目的。

另一个是关于AI领域中美合作。

昨天《繁荣之下,危机在屁股后头追》刚谈了美国AI潮的利与弊,核心落脚在AI的供需不平衡上,美国目前AI需求(投资)远远高于AI的供给(社会效率提升),严重的不平衡不可能持久,可能将导致“成也萧何败也萧何”的问题,从AI概念泡沫破碎开始,导致连环冲击。

最后给出了解法:中美在人工智能领域展开坦诚合作,把小院高墙拆掉,中美优势互补,共同把蛋糕做大。

今天外交部刚刚发布消息,这次布林肯访华,中美双方达成了5点共识,其中有一点就是“举行中美人工智能政府间对话首次会议”,合作仍然有很多难点,但终归是一个好的开始,这也是落实去年11月两国元首达成的共识。

可以谈的有很多。

比如昨天文章提到的,美国的AI狂潮虽然技术领先,但是严重缺乏应用场景,这就导致根基不稳,技术创新仅仅落脚在内容生成等极少数领域,这显然是不够的,唯有与实体经济相结合,用AI改造所有的产业,才配得上新一轮工业革命的名号。
毕竟任何一个工业革命,最终都要体现在人类对能源和物质更高的掌控上,仅仅琴棋书画、诗词歌赋不过是小道而已。

中美显然优势互补,各有所长。但在这方面短期内不可能达成有效合作,能够开始谈就不错了,还是需要更进一步的博弈,只有当我们追赶得更紧,美国人才能学会好好说话。

相比创造更多价值,当前的重心集中在管控风险。
比如AI武器化

这也是最近一年被高度关注的问题,去年5月联合国秘书长就表示无法允许开发AI武器,希望由各国协调设定红线。但AI武器应用越来越多,无人机、无人艇、巡飞弹、智能地雷这种直接的武器大量应用,还有的训练AI实现超过传统情报人员的智能系统,成百上千倍的提高杀戮的效率,这种系统已经在以色列投入使用,利用人工智能筛选空袭目标。

虽然目前AI武器仍然受到人类的监控,但是随着战争的白热化,必然会进一步解放AI武器,AI武器会有更大的自主权,目前当然远远不到电影中终结者那种程度,还不至于担心机器造人类的反。

但AI已经确实在颠覆人类的战争模式。俄乌战场展示的无人装备,实际不过是民用级别简单改造,但已经对传统作战模式造成了极大冲击,几千元无人机,就能够轻易摧毁价值百万甚至千万的装甲单位,现在还是人工一对一操作,但实际上早就可以实现AI自主攻击。

设想下,以一个真正的工业国的生产力,一次性放飞数千甚至上万无人机,搭载更先进的AI系统,哪怕仅仅是消耗敌方防空弹药,令敌方防空能力过载,也是件稳赚不赔的生意,反正论成本,哪怕一万架也不过几亿元罢了,大国战争打的就是消耗战,谁能以更低的成本消耗对方更多生产力,那就是成功。

AI武器化的风险还是肉眼可见的,另一个风险在于对社会稳定的威胁

历史上,任何一种颠覆性技术的诞生,在初期一定会带来混乱,人类社会需要时间适应技术。目前美国人工智能开发主要集中在内容生成领域,打造的AI工具距离产生实际的社会效率提升还有很大距离,但是应用在舆论认知上,已经是大杀器。
过去想搞水军、影响认知,还得人工操作,哪怕提前设定话术,多少也有点虚假。但既然GPT能够实现与人对话,还能够编写还过得去的文章,逻辑表达能力已经在常人水平以上,就算有些词不达意、逻辑混乱反而更像真实的人类。

于是就可以用人工智能传播虚假信息、煽动情绪、制造矛盾,成本还特别低,结合爬虫等工具,完全可以自动实现对某个国家社会热点、矛盾事件的跟踪,分析各方观点,交给AI工具学习之后,只需要1个人就可以制造几十万真人热议的现象,可以24小时不休息。

在这里也说一个小知识点,引导社会舆论,大V反而不好使,反而是那种只有几十、几百人关注的小账号,积少成多,更能制造舆论冲击。
正所谓三人成虎,任何一件事,有看上去几十万人反复去说,终究会带动更多人卷入,追逐流量的也会进一步放大,任何一件小事都可能成为全国愤怒的焦点,例子就不举了,想想看网络留言与现实的巨大差异。

而且AI滥用,还威胁到个人的隐私,AI对一个人的了解甚至超过这个人自身,如果利用心理学工具进行有意识引导,把一个人逼疯甚至自杀,完全有可能做到。

以上还只是具体的影响,更危险的是,将意识形态、偏见引入人工智能,其后果不堪设想。

作为人工智能领域最核心的两个国家,有必要好好谈一谈,也只有中国有资格和能力跟美国谈,把美国过于奔放的AI狂潮拉一拉。相比两国合作发挥AI创造性,当前最紧迫的是设立基本的红线,把人工智能全球治理的框架和基本规范确定下来。

魔鬼一旦放出来,再想关回去就难了。
如想进一步了解,推荐几篇相关旧文:
谈谈最新的人工智能sora,技术并非最大难点
守住人类安全的底线
复杂社会的五重思考


其他文章推荐
■  从关键岗位安排,把握未来深化改革的方向
■  未来怎么走:重塑中国经济的底层逻辑
■  金融改革进入“深水区”,未来将走向何方?
■  大变革:2024年的中国战略与决策方向
■  繁荣之下,危机在屁股后头追

如果喜欢,还请点赞、“在看”和关注吧
欢迎分享,让更多人发现“大树乡谈”

除本号外,小镇仅在以下两号发文

请注意辨别,欢迎关注

修改于
继续滑动看下一个
大树乡谈
向上滑动看下一个

您可能也对以下帖子感兴趣

更多无人机现身俄乌冲突,AI武器提醒:人类的“奥本海默时刻”到了
他公然鼓吹AI武器化:大国竞争下,美国要随时做好准备
专家:美售台攻击型无人机是对“一个中国”原则的直接挑衅
约瑟夫·奈:人工智能与国家安全
石宏:“奥库斯”测试最新AI作战工具,针对中国?

文章有问题?点此查看未经处理的缓存