理工酷

2020年 5 月，我国《政府工作报告》提出以5G、人工智能等为代表的新型基础设施建设政策，此举按下了人工智能国家战略推进的快进键。随后，25 省市发布“新基建”政策方案，累计投资30 余万亿人民币，加快推动人工智能算力、算法和数据基础设施建设。在新基建推动催化下，人工智能技术将加快转变为像水、电一样的基础设施，向社会全行业全领域赋能。然而，人工智能基础设施却潜藏安全风险。以机器学习开源框架平台和预训练模型库为代表的算法基础设施因开发者蓄意破坏或代码实现不完善面临算法后门嵌入、代码安全漏洞等风险。2020年 9 月，安全厂商360 公开披露谷歌开源框架平台TensorFlow存在24 个安全漏洞。开源数据集以及提供数据采集、清洗、标注等服务的人工智能基础数据设施面临训练数据不均衡、训练数据投毒、训练数据泄露等安全风险。2020年，美国麻省理工学院的研究人员通过实验证实CIFAR-100- LT、ImageNet-LT、SVHN -LT 等广泛应用的数据集存在严重不均衡问题。

发布单位：中国信通院