谁瞄准了AI的“童年”

我爱免费

作者：微信文章
最近经常看到一个词“AI投毒”，可能对于AI关注较少的人，是个新词。人工智能快速发展的今天，我们不得不认真的来对待这个问题了。它比较正式的解释：指通过伪造数据、虚构信息等手段污染人工智能训练数据，导致AI输出错误或有害内容的技术攻击行为‌，其危害已覆盖医疗、金融、公共安全等多个领域。通俗点讲，就是给正在学习的“AI好学生”喂“有毒”的假信息，让它学坏，最后做出错误的判断。比如：教一个天真的小孩认东西，你不停地指着一只猫说“这是狗”，时间长了他就真的以为猫是狗了。

投毒方式可以主要概括为数据投毒和模型投毒两种方式。其危害跟我们日益相关的有很多，随便举几条例子:

看到一则新闻，可能是AI将不同时间地点的事情拼凑而成的，生成完全不实的结论。儿童手表以及其他的AI智能体，智能问答时候给出一些错误的言论，潜移默化的影响其价值观。使用AI生成代码，可能被植入后门，或者直接暴露敏感信息如密钥、口令等。可以通过向推荐算法（比如某音、某宝的推荐系统）大量“投喂”虚假的点击、点赞、转发数据。劣质商品或假新闻变成是“大众喜闻乐见”的，从而疯狂推荐给用户。AI造假在当下变得更容易，普通人难以分辨，诸多公信力形象危害严重。

对于我们而言，AI应用是大趋势，不可避免的要去使用它，但要优先选择成熟、知名的产品，确保安全性，避免重大损失。