聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******
中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛,12月5日在清华大学以线上线下结合方式举行,中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题,发表主旨演讲建言献策,并深入研讨交流。
美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为,大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练,难以开发出具有可解释性的算法框架,深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外,由于数据可以带来巨大的规模效应,当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中,因此,未来对“机器换人”的预测非常具有挑战性,需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题,使基于人工智能的公共服务变得更加高效。
国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出,由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性,导致当前人工智能研究中面临着一系列挑战,因此,需要加强人工智能基础研究工作,这需要跨领域、跨学科的共同努力。当前,理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面,理解人工智能机理需要构架“感知-思考-行动”的智能模型,加强对大脑思维机理的理解,建议借鉴神经科学研究联合体的有益经验,建立全球性的人工智能研究数据库,形成全球共享的研究社区。另一方面,构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上,建议建立类似于自由协作式的知识库,通过全民民众参与,推动知识在全球层面共享。
中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示,由于深度学习等算法存在不可解释性,导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法,开发安全、可信、可靠、可扩展的人工智能技术,以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台,赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导,并需要政策法规对数据使用的正确规范,充分利用知识、数据、算法和算力四个要素结合,推动人工智能的创新发展。
中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为,当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段,至2030年,中国人工智能发展总体要达到世界领先水平。从战略问题看,中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈,当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势,而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看,人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求,鼓励各种可能的强人工智能探索,“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图;在安全问题层面,强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性,人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护,重视探索人工智能伦理问题,并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。
美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示,AI已经应用于生活和工作的方方面面,目前甚至在法律上也具有一定的应用,比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑,包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”,应该打开“黑箱”,探究和理解其中的具体内容和因果关系,我们一定要做可解释性的AI。同时,他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点,作为新兴领域,还需要向其他领域学习,从而更好的服务于人类。
中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出,“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择,又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网,智联网可以赋能绿色计算,助力“碳中和”。智联网助力“碳中和”主要包括三个环节:首先,由数据驱动和人工智能优化引擎来实现智能决策。其次,多参数全链系统配置优化。最后,通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架,该平台包括人工智能驱动节能减排和高能效人工智能系统,应用路径包括绿色园区和工业节能。
2021人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院承办,国际支持机构为联合国开发计划署。论坛为期两天,设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)
让网络购药更安全更便捷******
随着药品网络销售活动日趋活跃,足不出户在网上购买常用药、急用药,成为很多人的新选择。相比线下售药,网上药店往往没有实体店铺,购药时也没有药师当面指导,销售行为的监管难度更大,因而更容易出现用药安全风险。近年来,网上违规出售处方药、非法销售违禁药的情况时有发生,需要加强对药品网络销售的监管。
12月1日,《药品网络销售监督管理办法》(以下简称《办法》)正式施行。从规定“药品网络销售企业应当按照经过批准的经营方式和经营范围经营”,到指出“通过网络向个人销售处方药的,应当确保处方来源真实、可靠,并实行实名制”,再到强调“第三方平台应当加强检查,对入驻平台的药品网络销售企业的药品信息展示、处方审核、药品销售和配送等行为进行管理”,《办法》为药品网络销售提供了更加明确的合规指引,对于进一步规范药品网络销售行为,保障网络购药安全具有重要作用。各级药品监管部门要将《办法》落到实处,全面做好药品网络销售监督管理,严查违法行为,维护药品网络销售秩序。
网上药店资质审核和销售行为监管需强化。药品网络销售主体类型多、数量庞大,推广和展示方式复杂多样,监管难度比实体药店更大。《办法》规定,“药品网络零售企业应当对药品配送的质量与安全负责”“应当完整保存供货企业资质文件、电子交易等记录”。网上药店基本都有线下实体企业和仓库,加强对网上药店的资质审核和药品检查,就抓住了药品网络销售监管的“牛鼻子”。抓好药品网络销售全过程监管,确保每一笔交易有留痕、可追溯,如有违法违规问题就可以实现快速倒查。
处方药网络销售需从严、从紧管理。我国对非处方药和处方药有着严格的分类管理:非处方药使用比较安全,不需要开具处方即可出售;处方药对人体具有潜在危险,违规出售造成的用药安全风险更大,必须在医生开具处方后方可出售。《办法》规定,“处方药销售前,应当向消费者充分告知相关风险警示信息,并经消费者确认知情”;销售处方药的药品网络零售企业“相关记录保存期限不少于5年,且不少于药品有效期满后1年”。药品网络销售监管要突出处方药销售这个重点,遵循经营监管“线上线下一致性”原则,加强处方审核,严厉打击伪造处方、随意开具处方等违法违规行为。
第三方平台应担负起管理和监督责任。第三方平台面向大量消费者,进驻的药店多、药品销量大,容易出现违法违规行为。《办法》对第三方平台建立药品质量安全管理机构,配备药学技术人员,建立并实施药品质量安全、处方审核、不良反应报告等管理制度做了详细规定,并要求对申请入驻的药品网络销售企业资质、质量安全保证能力等进行审核,对销售活动建立检查监控制度等。第三方平台要完善内部管理,进一步加强专业能力建设,不断强化对进驻药店销售行为的监督,从而更好地履行平台管理责任。
药品安全关系人民群众生命健康。《办法》对药品网络销售法律责任进行了详细规定,加大了对违法违规行为的处罚力度。监管部门须坚持“以网管网”,加强药品网络销售监测,发挥技术手段在保障药品质量安全方面的突出优势,一旦发现违法违规行为,依法依规严厉查处。药品网络销售企业、第三方平台要把药品安全放在首位,落实主体责任,加强行业自律。统筹协作、共管共治,一定能持续提升药品安全治理水平,让网络购药更安全、更便捷。
申少铁
(文图:赵筱尘 巫邓炎)