在第三届2020世界人工智能大会治理论坛上，与会科学家、企业家、政府官员和国际组织专家围绕“发展负责任的人工智能”这一主题，共同分析了当前人工智能发展过程中可能存在的各类风险，并在此基础上提出了“技术+制度”的人工智能治理综合解决方案。
作为一种“创造性破坏”，人工智能技术正在颠覆传统的“技术-经济范式”，推动生产、交换、分配和消费等环节的变革。在孕育着一系列发展机会的同时，人工智能也潜藏着大量未知的社会风险，如果这些风险不能得到及时有效的治理，就会反过来制约人工智能在产业赋能中作用的发挥。因此，增强人工智能技术的包容性，推动人工智能应用往公平和普惠方向发展，是化解人工智能社会风险，解决当前人工智能治理问题的关键。
一、人工智能技术应用中的包容性与安全性
人工智能技术的应用如果忽视潜在的风险，不考虑为全体人民服务、开发负责任的、对社会有益的人工智能，构建包容性市场，就有可能带来不可估量的负面影响，具体如下：
1. “机器换人”冲击劳动力市场，引发严峻的就业挑战。从国内外现有的研究来看，人工智能技术对就业的影响主要有两种效应：一种是劳动力替代效应，据美国麦肯锡咨询公司预测，未来10-20年，人工智能可能使9%-47%的现有工作岗位受到威胁，重复性任务和以数字技术为特征的岗位需求从目前的40％下降到30％；第二种是技术进步效应，即人工智能技术可以提高企业生产效率，扩大生产规模，进而拉动相关岗位对劳动力的需求。如果不重视人工智能技术发展的包容性，劳动力替代效应将占据主导，短期内将会使得大量工作岗位消失，导致就业“极化”现象，由此社会将面临大规模结构性失业问题。
2. “数字鸿沟”分化不同人群和地区，扩大贫富差距。人工智能技术作为新一代信息通信技术，是我国新基建的重要组成部分，如果忽视其发展的公平性和普惠性，在基础设施建设、算法设计、数据获取和反馈，以及商业化开发方面都过多的向TOP人群和发达地区倾斜，那么BOP人群和相对落后的地区接受人工智能赋能程度就会相对不足，进而可能产生“数字鸿沟”。长期来看，BOP人群和相对落后的地区就可能会被排斥在人工智能市场体系之外，难以融入其中进行价值获取和价值创造，最终使财富分配格局进一步两极化，贫富差距日益扩大。
3. “技术漏洞”破坏正常机器学习，危害国家安全。人工智能技术自身难以避免存在算法歧视、虚假反馈和逆向工程等漏洞，如果被犯罪分子、网络黑客或恐怖分子滥用，就会成为他们实施技术恐怖主义的工具；形成诸如数字攻击、政治攻击和物理攻击等新型安全攻击，在扰乱大众视听，影响社会正常秩序的同时，还给诸如商业银行，以及证券交易大数据系统等依靠人工智能控制的各类程序带来极大的威胁。这些风险一旦不能及时防范，就会产生巨大的破坏力，严重危及到整个国家的安全。
二、加快推进人工智能技术包容性发展的对策建议
1. 以包容性创新为价值导向，开展人工智能伦理与安全的研究，制定人工智能行业技术标准。研发设计方面，应符合人类基本价值观和伦理道德，体现多样性和包容性，使各类人群和地区能够共享人工智能发展的福利，同时要强调市场主体对潜在伦理风险与隐患负责，提高技术水平，控制各类风险。数据获取和使用方面，建设数据安全示范应用系统，严防数据泄密，探索允许用户撤销个人数据授权的机制及计算平台，提升个人数据安全。治理体系方面，要对“机器换人”保持包容和谨慎态度，探索更能发挥人类优势和特点的新工作，并广泛开展国际合作，共享人工智能治理经验。
2. 扩大人工智能领域公共物品和服务的有效供给，保障各类人群融入人工智能市场的权利，消弭“数字鸿沟”。在教育和职业培训方面，基础教育应更加重视基础数学和科学技术教育，增加人工智能教育内容，高等教育应及时新增人工智能专业，设立人工智能学堂班，采用交叉联合学科培养方式，培养未来面向机器人、智能制造、人工智能等领域的领军人才，职业培训则要及时对最可能被人工智能取代的工作进行判定，并为受到影响的劳动力提供免费教育和再培训的机会。
在人工智能基础设施建设方面，应更加注重区域协调和人群普惠，推动各地区数据共享，加快弥补欠发达地区人工智能技术的空白，改善落后地区的人工智能基础设施环境，提高BOP人群对人工智能技术的可利用性。
3. 挖掘人工智能市场需求，重视BOP人群，积极开发服务于BOP人群的解决方案和商业模式。企业应积极探索能够使BOP人群资源市场化和BOP人员市场化的商业模式，促使BOP人群能平等地参与市场，其拥有的资源也能够纳入到正规的市场体系以内。比如，在当前信息高度不对称的金融行业，我国有许多来自BOP群体的贷款申请者由于没有信用卡，也没有银行的信贷记录，因此他们很难得到银行的贷款。百融云创公司则抓住这一市场痛点，利用大数据，结合深度学习与AI算法来帮助银行评估BOP人群的信用，缓解信息不对称的问题，从而使得BOP人群能够通过贷款进行创业，依靠市场体系，运用自身拥有的资源进行价值的获取和创造，进而增进社会福利，充分体现人工智能发展的包容性、公平性和普惠性。
安泰主页