关于征集济南国家新一代人工智能创新发展试验区社会实验实施方案的通知

各园区，各有关单位：

为贯彻落实《新一代人工智能发展规划》（国发〔2017〕35号）、《国家新一代人工智能创新发展试验区建设工作指引》（国科发规〔2019〕298号）、《济南国家新一代人工智能创新发展试验区建设方案》（济科发〔2020〕36号）等文件精神及要求，按照科技部新一代人工智能创新发展试验区人工智能社会实验工作部署以及经批准组织实施的济南国家新一代人工智能创新发展试验区社会实验选题，现面向全区征集济南国家新一代人工智能创新发展试验区相关领域社会实验实施方案，相关要求通知如下。

一、工作思路

以济南国家新一代人工智能创新发展试验区为依托，选择特定场景开展人工智能社会实验，加强系统设计，创新实验方法，注重能力建设，综合研判人工智能的社会影响，探索建立有效应对机制，促进技术示范、政策试点、社会实验有机互动，为人工智能健康发展提供基础支撑，为智能时代政府治理积累经验。

二、实验选题

1.智能制造

选取引入装配机器人、生产现场视频监测、智能调度算法等人工智能应用的智能制造企业作为样本，进行对照实验，探究AI技术对就业冲击和工人收入与行为的影响，评价AI技术对智能制造企业员工利益的分化和重构的效应，受教育程度低的弱势群体在社会资源分配中影响，并制定相应保障机制。

2.应急管理和社会治理

针对基层社会治理、应急管理等领域引入人脸识别、语音识别、视频监测等人工智能系统与技术，利用社会诊断理论与技术，分析人工智能算法黑箱性、数据依赖性对基层社区、个人所带来的风险，以及对社区综合治理模式、居民个人心理与行为等方面的影响，以及通过设计标准和技术调适等措施，分析可能产生的新的影响；制定人工智能在应急管理、社会治理领域应用的技术标准、法律法规和伦理道德原则，以推动人工智能健康有序发展。

3.医养健康

在机构、社区和居家等医养结合领域引入智能筛查诊断、主动健康服务、AI情感关怀等人工智能应用基础上，利用社会诊断理论与技术，分析医院、养老机构、老年人在组织模式与组织行为、个人心理与行为等方面受到的影响，以及通过机制设计和技术调适等措施，分析可能产生的新的影响；评价AI技术对医养结合模式下政府、医养机构、家庭、老人等多元主体间互动关系的影响，分析医养健康产业引入人工智能产生的溢出效应，提出多元主体间互动关系的治理模式。

4.金融

分析金融机构风险管理、领域在引入人工智能+大数据分析技术、智能风控等技术后，对金融机构以及社会公众产生的影响，并通过干预措施，分析人工智能在个人贷款信息保护、防止企业财务信息泄露与金融诈骗信息拦截等方面产生的影响；评价AI技术对金融机构风控以及与社会公众间的互动关系的影响，以及引入人工智能所产生的溢出效应，提出金融机构与企业、社会公众个人多主体间互动关系的治理模式。

三、实施方案

围绕相关社会实验选题制定具体实施方案。方案内容主要包括明确的主要研究工作方向及任务分解、具体任务内容、实施计划与进度安排、详细的技术方案等，体现实施方案依托单位为实施选题组建的专门管理机构和相应的管理制度，在社会选题实施过程中的交流、检查机制，实施过程中的风险分析与控制，数据组织方式及成果呈现形式等内容。

（编写提纲附后）

四、相关要求

1.请各园区、相关单位根据工作实际，认真组织相关领域、行业的企业提报社会实验实施方案。

2.提报的社会实验实施方案纸件及电子版一份于2021年3月10日前统一报送济南高新区管委会发展改革和科技经济部科技办公室（管委会A座321房间）。

3.联系方式：

发展改革和科技经济部科技办公室 程波

邮箱:gxqkjbgs@jn.shandong.cn

电话：0531-88871207

***：《济南国家新一代人工智能创新发展试验区XXXX选题社会实验实施方案》提纲.docx

编辑：          魏昊