理工酷

上图是一只猫的照片吧？ 可Google的Inception模型却认为这是鳄梨调味酱。尽管图像就是一只猫，图像却被数字化更改，混淆了模型。 只要稍微旋转图像会使模型正确地将图像分类为猫（和动物）。 上面的图像就是所谓的对抗图像，它试图欺骗你的模型，认为该图像是你想要的东西，而不是该图像的实际含义。 我用这个例子来说明当前AI趋势的问题。 我们有许多技术可以让我们将AI / ML（而不仅仅是深度学习）用作黑盒。 真正的危险在于应用，特别是在医疗保健和国防领域。 例如，你如何说服你的癌症预测模型确实有效？ 你怎么知道你的模型不易受噪音影响？ 你怎么知道你的模型实际上已经了解了应该学习的内容？ 如果您你无法解释该模型学到的内容，那么你将无法将它推广。