学术笔谈

做好GAI伦理与安全治理,打造规划工作超强伙伴
作者:邓智团(上海社会科学院城市与人口发展研究所研究员)

近年,全球科技革命浪潮汹涌澎湃,技术更新迭代呈指数级增长,从2021年的“元宇宙元年”到2022年风靡全球的ChatGPT问世,基于大语言模型的生成式人工智能技术不断刷新人们认知,并开始对生产和生活方式产生颠覆性变革。所谓生成式人工智能(GenerativeArtificialIntelligence,下文简称“GAI”),是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。特别是ChatGPT-4(生成文字、代码等)和Dall-W2(生成图片)的相继问世,GAI已展现出接近人类智能的超级能力。当前,GPT-4模型架构的参数量已高达100万亿个,在人类历史上首次达到人类大脑约210万亿—240 万亿个神经元链接数的同一数量级,通用人工智能正在变成现实。

当然,GAI的不完善性、高风险性和不确定性,也给经济社会发展带来伦理和安全考验,同样存在新技术应用时面临的“科林格里奇困境”。所谓“科林格里奇困境”,是技术哲学家大卫·科林格里奇在《技术的社会控制》中提出的观点:一项技术如果因为担心不良后果而过早实施控制,那么技术很可能就难以爆发;反之,如果控制过晚,已经成为整个经济和社会结构的一部分,就可能走向失控。当前各界对GAI的认识和担忧正是如此。最近黑莓咨询一项针对世界各地2000名IT决策者的调查表明,超过1/2的受访者认为工作场所生成AI应用程序有机会提高效率和增强创造力,但却有3/4的企业正在实施或考虑在工作场所禁止ChatGPT或其他GAI应用。这与盖特纳咨询针对249家机构风险主管的调查结论类似,GAI被认为是当前企业面临的第二大新兴风险。一些观点认为,ChatGPT将“扼杀学生论文”和“改变学术界”,甚至可能意味着新闻、法律服务、房地产、金融,甚至城市和地区规划等行业的终结。于是乎,一些国家和机构开始禁用GAI,如意大利因数据安全问题明确禁止使用ChatGPT,众多教育和科研机构也禁止将ChatGPT用于作业、考试和论文撰写等。

作为注重前瞻性和引领性的规划工作,GAI应用同样面临“科林格里奇困境”。显而易见的是,以ChatGPT或Dall-W2为代表的GAI,既可以协助生成报告、图片、代码、音频、视频或其他规划材料,帮助起草规划文件或研究报告,也可以改善规划过程中的沟通和协作,在公共会议期间生成对公众问题或评论的常规回答,帮助规划团队完成更加高效和更有成效的内部讨论,大大节省时间和精力,让规划人员能聚焦更为重要的创造性工作。但是,GAI存在的伦理和安全风险,需要我们保持高度清醒,用尼尔·波斯曼在《技术垄断》中的话来说,就是需要细察、批评和控制,要强化人文关怀,拒绝被技术垄断。

一方面,要谨防伦理风险,避免“算法歧视”导致的内容偏见。从传播学来看,信息生产方式主要有3类:PGC(专业人士生成内容)、UGC(用户生成内容)和AIGC(人工智能生成内容)。在PGC模式下,专业人士在信息生产和传播过程中扮演“把关人”角色,确保相关内容具有客观真实性和符合社会主流价值期待。但在UGC和AIGC模式下,由于缺乏专业人士的把关,特别是在AIGC模式中,一旦接受了有偏见的数据训练,如在输入学习样本时提供显著偏向某个利益群体的材料,将可能导致生成内容出现明显的偏见和群体歧视。2023年8月15日起,我国正式施行的《生成式人工智能服务管理暂行办法》就对此作出了一般性规定。因此,在规划研究或实践过程中,需要确保GAI接受多样化和公正的数据训练,确保生成内容更加客观公正。

另一方面,要确保数据安全,注重隐私保护和知识产权。由于大语言模型的内容生成过程对普通使用者而言更像是黑箱,这让使用者很难理解其是如何作出决定或采取行动的。如果一个人工智能工具在规划文本生成过程中做出对社区或群体有负面影响的设计,责任溯源就难以实现。2023年6月欧洲议会通过的《人工智能法案(AIAct)》就对GAI提出了新的透明度要求。与此同时,任何接入互联网的工具,不可避免地面临黑客攻击或数据泄露等安全风险。比如,规划公司将知识产权或敏感数据作为提示输入ChatGPT中,而聊天记录未被禁用,则它们可能会作为对企业外部用户和组织的无源响应输出,很容易造成严重后果。因此,城市规划工作中应用GAI,需要不断改善透明度,同时确保使用时数据合规和安全。

正如著名社会学家马克斯·韦伯的观点,技术批判需要兼顾工具理性和价值理性,其中工具理性关注技术要追求最大的效用,价值理性则关注技术的伦理和美学价值等,强调在评估技术应用的利弊时不能只关注工具理性而忽略价值理性。因此,我们欢迎GAI在城市规划工作中的深度应用,以更好地释放其工具理性,同时,我们也呼吁行业主管部门适时制定有针对性的行业应用分类分级监管规则或指引,做好伦理和安全治理,改善价值理性,实现趋利避害,推动GAI成为城市规划从业者的超强伙伴,让城市规划更好地“尊重城市复杂的生命规律”,助力城市高质量发展,更好地增进人民福祉。