听委员说｜AAIG薛晖出席杭州市"两会",提出加快建立人工智能产业的多元协同治理机制

阿里巴巴人工智能治理研究中心 2023-11-28

收录于合集 #产业实践 37个

薛晖：市政协委员，九三学社余杭区基层委社员，阿里巴巴集团安全智能部算法负责人、阿里巴巴人工智能治理与可持续发展研究中心主任。

众所周知，人工智能作为引领未来的战略性技术，日益成为驱动经济社会各个领域迈向数字化、智能化的重要引擎。

薛晖说

近年来，伴随数据量的爆发增长、计算能力的显著提升以及深度学习算法自身的突破，人工智能技术和产业获得了极大发展。以自动驾驶、智能安防、智慧医疗、城市大脑等为代表的新智能产品深刻地改变着人类生活，并将对人类文明发展和社会进步产生广泛而深远的影响。

不过薛晖认为

尽管如此，人工智能依然面临巨大挑战。一方面是技术缺陷会导致模型出现灾难性的后果。比如，自动驾驶的传感器算法可能会被绕过，从而酿成重大交通事故，这方面也不乏真实案例，包括特斯拉、优步等知名科技企业研发的汽车智能系统在内。又如，利用超大规模语料训练、耗费上千万美金得到的生成式模型可能会产生难以预料的后果，例如著名的GPT3就被曝光劝说患者放弃治疗结束生命等等。另一方面是技术滥用的问题，指一些技术最早被研发的初衷是用于有意义的事业，却由于一些环节的缺失导致被错误滥用。除臭名昭著的“剑桥门”外，近年来也不断有吹哨人曝光全球最大社交网站脸书滥用其自身的数据和投放优势，服务各种非正义的目的。

据悉，近年来，人工智能也在国民生活中引发了诸多热点问题和争议。国外针对人工智能安全与治理已开展了一定研究和实践。美国政府于2018年成立“国家人工智能安全委员会”，并于2019年向国会提交确保美国AI领先优势的五项基本原则，其中一项就是将AI用于国家安全。除此之外，美国一些大企业比如微软、谷歌、IBM、推特等专设有机构进行相关领域的研究。以微软为例，提倡公平、安全可靠、隐私保障、包容、透明、负责六大原则，分设负责任人工智能办公室、人工智能伦理与工程研究委员会以及负责任AI战略管理团队，负责AI伦理践行方面的事务；并积极投入研发贯穿整个AI生命周期的技术工具和管理工具。

薛晖指出

结合杭州实际特色，特别是以数字经济为中心的产业布局和城西科创大走廊这一优势，有必要也有条件在人工智能安全、治理与伦理道德的研究方面取得突破，并建立起政府、科研院校、企业多方协同治理的机制。他建议：

以浙江大学、阿里巴巴、之江实验室为依托，增设人工智能安全与治理技术方向的课题，通过高端人才引进、设立科研基金或项目、相关领域初创企业扶持等方式，加大对人工智能安全治理技术体系建设的布局和投入。

聚焦当下对国计民生有重要影响的问题，如算法歧视、信息茧房、诱导沉迷、骑手问题、数据隐私等问题进行人工智能伦理与道德方面的研究与探讨，加快推动相关标准的制定和法律规范的健全。

鼓励企业躬身入局，支持并鼓励企业承担技术创新和应用应有的责任，自觉完善内部管理机制，开展研发人员在法律法规和技术伦理道德的培训和宣导工作，提升安全部门在数据安全、算法安全等方面的技术能力等等。

产业实践往期推荐点击标题查看文章

AAIG-自然语言理解实验室论文被ACL 2022录用,为更鲁棒可解释的算法服务而努力!

阿里深度伪造视频检测技术获评第三届中国人工智能大赛最优级

AAIG受邀参加护脸计划评审会议,共建人脸识别合规应用的健康生态

AAIG应邀参加CNCC 2021“数字服务的监管与治理”技术论坛

博士毕业后，他在淘宝“扫垃圾”？

阿里“塔玑”太逼真：外籍模特不再吃香？