67书吧

手机浏览器扫描二维码访问

32 裁员三（第1页）

对于AI来说，让结果从“不准”

到“准”

，不是十分容易，与传统的“找bug”

“修bug”

流程全然不同。

目前，在对AI的争论当中，一个常常被提起的问题就是“算法黑箱”

。

也就是说，人类不能解释它的工作原理。

人工智能的核心是“神经网络”

。

科学家们模仿人类神经系统，让机器进行学习。

“神经元”

们一层一层分布下来，每个单元都能接收外部数据，而后将结果传给下一单元。

还是用“猫”

来打比方，第一层可以将图片切割、降维，得到许多小图，第二层在每个维度利用色差寻找边缘，三四五层根据勾勒出的边缘确定各个器官形状，六七八层通过各个部分颜色判断毛色、花纹，瞳色……最后顶层得出答案：这是猫、狗、兔子、其他。

在CNN（卷积神经网络）出现以前，机器学习都还处于初级阶段，需要人工提取特征、交给机器。

而CNN出现以后，它进入到“深度学习”

时代。

人类半监督，机器自己分析特征、独立学习。

给一万张猫的图片，说“这都是猫”

，它就懂了，再给一张它没见过的，问“是不是猫”

，它会说是。

人们给它正确答案的数据集，它们便能进行学习，“看”

的越多会的越多，不断优化自身能力。

因此，“人工智能”

定义十分清晰，区别是真·人工智能还是噱头，只需要看它有没有模仿人脑。

然而，对AI每一层都在提取什么特征，以及机器为何要做这些事情、为什么能得出结论，人类无法解释。

根据输出，有些提取简单易懂，比如勾勒边缘、模糊图片、突出重点、锐化图片……可是，在很多时候，人类完全get不到！

看着某层下来以后图片变成的样子，只能叫一声“什么鬼！”

有时人类只能提出几个特征，AI分出好几百层！

它给了人空前的可能，也给了人无尽的困惑。

就像人类无比摸清大脑的工作原理一样，他们同样无法摸清AI的工作原理——训练AI这种方式为何能行？不知道。

它是如何学的？信息存在哪里？为何下此判断？问老天爷。

它好像在玄幻境界。

码工时常觉得自己正在养蛊，贼刺激，给蛊虫喂个这个、喂个那个，一掀盖子，嚯，出来一个超厉害的东东！

有人说，让AI向人解释一个东西，相当于让人向狗解释一个东西，听着sosad。

人类历史充分表明，只有一个决策可以解释、分析，人才可以了解它的优点、缺陷，评估风险，知道它在多大程度能被信赖，明白该从哪些方面进行改善。