AI的有趣信息-No.156
作者：微信文章1.AI 偏见
在AI领域，偏见其实非常普遍，不止于性别，不止于种族。其根本原因是：投喂给人工智能的数据。AI的核心机制是基于数据寻找输入和输出间的相关性，是基于概率给出评估的结果。
如果让GPT4玩100次这个游戏，你会发现它有2/3的概率出石头，几乎不出剪刀。所以这是一个爱出石头的GPT，是一个口是心非的AI。即使在这么简单、人畜无害的游戏上，依然会看到过度自信现象。那为什么偏偏是石头？它为啥不喜欢出剪刀呢？原因很简单，因为在英语中rock（石头）这个词的频率大于paper（纸），并且远远大于scissors（剪刀）。
如果你让GPT-4去玩狼人杀的游戏，GPT_4杀人的话，它特别喜欢杀0号和1号，因为0和1在数据中的出现的频率是更高的。
2.AI下的工作机会
AI暴露度实际上是指不同职业在AI技术发展背景下受到的影响程度，或者说该职业中工人从事的任务与当前AI能力的兼容度。简单来说，就是我现在的工作在多大程度上是AI可以帮我完成的。
AI暴露度越高，说明现在的AI技术和从事该职业的工人的兼容度越高。暴露度高意味着这份工作很大程度上可以由AI大语言模型完成，而暴露度低就说明当前技术还做不了这项工作。
3.AI幻觉
AI幻觉，即AI会在自己不知道的问题上自信地胡说八道，算法让模型学习相关性，大模型又会过度自信，所以就导致了AI的幻觉现象。
以加拿大航空公司 Air Canada 为例，去年 2 月其聊天机器人曾向一位客户建议，按照一项实际上不存在的丧亲退款政策申请退款。结果，加拿大一家小额索赔仲裁庭支持了客户的投诉，尽管航空公司试图辩称该机器人是独立法律实体，应对其行为负责。
去年某地法院审理一起人身伤害案，律师用ChatGPT起草法律摘要，结果里面硬是“捏造”了六个案例，直接被法官罚了5000美元。这可不是段子，而是AI幻觉的典型表现——当模型遇到数据盲区时，会像饭桌上爱吹牛的熟人一样，把谣言包装成“事实”。
虽然AI在发展过程中存在这样或者那样的问题，我们应抱着开放学习的态度迎接AI，AI已来，势不可挡。
PS:文中的数据来源一席公众号。
关注我，不迷路喔～
页:
[1]