假AI？如何辨识 AI 界的snake oil
hi，大家好~我是shadow，一枚设计师/全栈工程师/算法研究员，目前主要研究方向是人工智能写作和人工智能设计，当然偶尔也会跨界到人工智能艺术，其他各种AI产品。
跟大家分享一个我非常喜欢的名词：
architecture
建筑、架构，适用于设计、技术，往大里讲就是规划，往小了就是设计。
一个组织，需要架构；
一款产品，需要架构；
一篇文章，也需要架构；
等等。
嗯，了解我写作风格的读者应该猜到了，没错，这篇文本的知识内容融合了技术跟设计。
mix
mix类似上图的感觉
近期，普林斯顿大学Arvind Narayanan发表了一个关于AI应用的演讲ppt《How to recognize AI snake oil》（原材料可以在文末获取）。
首先，什么是snake oil？
指的是，推销者的所谓“万应灵药”；或者是狗皮膏药（毫无用处或效果的推销品）。
我仔细读了一下，有4页跟大家分享下。
第一类AI应用，属于认知类的AI，具备高准确率。
此类技术由于深度学习的进展，准确率超越了人类。人类在认知能力上是有限，因为没有人可以在海量，比如1TB或者1PB的数据中找到自己想要的数据。人类查看一条条数据，当数据量成千上万的时候，效率开始低下；反而机器，不会疲劳，而且计算速度非常快，可以短时间阅读海量数据，找到自己需要的数据。
具体的应用比如：
内容定位（音乐搜索、图像搜索）、人脸识别、文本-语音转换；
提到的2个案例：
Shazam
一个音乐识别软件，很多人可能常常会碰到这样的情况：在收音机或电视里听到一首好听的歌，却不知道歌名叫什么，谁唱的。Shazam可以告诉你歌曲的名字、专辑的名称还有作者。
Reverse Image Search
就是我们常说的以图搜图（比较优雅的名称叫可视化搜索） 让你能够使用图像替代文本在 Web 中搜索。你可以使用图像查找相同的图像及产品、查看其他网站，甚至还可以获取食谱。
确实，从海量的数据中找寻到用户想找的数据，此类应用已经具备了较高的准确率；但是仍然有一些设计上的问题需要解决，我们如何帮助用户把想找的数据的模样描述清楚，清楚到机器可以准确理解。需要体验设计师好好思考这个问题，粗暴的解决方案就是通过表单的方式，把各种选项让用户填写，尽量是通过选择题的方式（但这并不是一个优雅、简洁的方案，如果读者有实践心得，欢迎留言讨论、分享哈~）。
第二类的AI应用，属于自动判断类型的AI，准确率适中，有待提高。
包括什么呢？作者举了一些例子，比如垃圾文本检测、版权检测、论文评分、语音检测、内容推荐等。
Hate speech detection
我翻阅了下Papers With Code上关于此项技术的统计，最佳的方法是Logistic Regression。
逻辑回归 Logistic Regression
是一种用于解决二分类（0 or 1）问题的机器学习方法，用于估计某种事物的可能性。对于机器来说，准确率是比较高的。
作者称由于是应用在判断，存在判断标准的模糊性，不同的人判断标准是不一样的，比如一篇文章写得好不好，不同人有不同的看法。而AI判断的结果，更不可能满足所有人，所以此类应用准确率需要打个折扣。
我认为，判断标准需要在交互设计的环节解决，把AI系统的判断标准通过用户熟悉的语言，告知用户，并且让AI的判断结果具备可解释性，直白、通俗易懂的解释给用户。需要微动画反应系统运行机制，直白、简洁的文案告知用户。
第三类应用场景是什么？就是我们常常超预期、充满期待的AI
——预测未来。
如果AI已经具备预测能力，比如预测股票的上升下跌，比如预测恐怖袭击的出现，比如预测文章阅读量，那制造AI系统的人，真的是犹如上帝一般的存在了吧？
很遗憾，目前AI并不具备预测能力，往往所谓的预测结果还比不上线性回归。并且，也很难使得用户信服。这是属于强人工智能的能力。
AI不具备预测能力，等同于说，AI不能替代用户做决策。
确实，目前的AI真的不能替用户做决策，比如自动驾驶不也划分了几个阶段，目前只能实现辅助驾驶。
说到这里，我所设计的智能写作系统，同样的，暂时达不到强人工智能的阶段，参考自动驾驶，目前停留在辅助写作的阶段，往半自动化的方向努力中（最近似乎找到了更好的技术实现方式）。
作者举的例子，就不一一复述了，可以自行查阅pdf资料原文。
话说回来，虽然AI不能替代用户做决策，但是AI可以帮助用户做一个更为明智的决策——辅助决策系统。
可以复盘下，我们一般做决策的时候，会参考哪些资料，需要知道哪些指标。
所以，设计一款好用的辅助决策系统，这事也只能交由用户体验设计师来主导了，因为你需要知道具体的实际决策场景是怎么样的，产生决策失误或者明智决策的因素有哪些，决策者最痛的点在哪里，等等问题。
最后一页ppt，大家可以再回顾下。
我的观点是，
不管是在AI准确率高的场景下，还是在准确率低的场景，我们都可以通过设计的手段，打造一个好用的AI系统。
建筑大师贝律铭曾经说过，“建筑师必定是伟大的雕塑家和画家，如果他不是雕塑家和画家，他只能算个建造者”。类似地，AI系统的架构师，如果不是“设计师”，他只能算是一个敲代码的码农。
欢迎添加我的微信，进一步交流讨论。
参考资料：
https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf