这几年 AI 发展那叫一个迅猛,AI 图审的本事也越来越大,应用场景越来越多。但要说短期内完全取代人工图审,那还真做不到,长远来看,“人机协同” 才是主流。
先说说 AI 图审的优势。它处理海量数据的能力超强,能在一眨眼的功夫审核好几万张图,Meta的 AI 系统每天处理几十亿条内容,90% 多的违规信息都能过滤掉,这效率,人工可比不上。而且 AI 审核特别标准,对于规则明确的内容,准确率能达到 95% 以上,不会像人一样因为累了就出错。还有多模态技术,像 GPT-4.0,能综合图像、文本、语音来判断,连图片里文字加符号这种组合的潜在风险都能识别出来。
不过 AI 图审也有局限。遇到边界模糊的情况,它容易误判。还有些恶意用户会用像素干扰、生成对抗样本等手段绕过审核,这就得靠人工经验来识别。而且在法律和伦理方面,AI 没有人类那种社会共识和道德权衡的能力。