梯度下降和反向传播: 能改(上) AI
上节课, 我们通过顶点坐标公式, 求解出抛物线最低点的w坐标, 得到了让误差代价最小的w, 但是我们也通过算一笔账, 说明了这种一步到位求解的方式固然是好, 但是在输入特征过多, 样本数量过大的时候, 却非常消耗计算资源, 现在我们就来看看另外一种更常用的方式, 其实在上节课中也暗示了这一点, 我们用了一个"挪"字来描述这个过程, 抛物线最低点坐标的寻找过程, 其实不必一步到位, 大可以采用一点点挪动的方式, 比如, 一开始w的值是2, 如果误差在最低点左边, 就需要不断的把w调大, 而在右边的时候不断把w调小, 而具体实施起来也很方便, 我们使用"斜率", 一个开口向上的抛物线最低点的斜率是0, 而左边的斜率是负数, 右边的斜率是正数, 所以现在我们的目的很明确, 想办法得到代价函数的曲线, 在当前w取值这个点上的斜率, 这样我们就可以判断当前w取值, 是在最低点的左边还是右边, 然后不断调整w直到到达最低点, 也就是说,得到一个让误差代价最小的w, 我们之前已经证明了误差e和w形成的代价函数, 是一个标准的一元二次函数.
方差代价函数 : 知错 AI
我们如何评估误差?
你的第一反应可能是: 差值呗.
标准答案和预测答案两者一减就是误差, 这样好吗?
这样不好, 我们举个极端且简明的例子, 假设样本只有两个豆豆, 第一个豆豆误差是0.15, 第二个的是-0.15, 所以预测曲线在这两个豆豆上的总体误差是0, 难道这就是完美预测? 很明显不是, 这就是用差值评估预测误差的问题, 差值有正负, 所以相互之间会发生抵消作用. 机智如你, 肯定立马想到用差值的绝对值, 因为面对误差, 比较标准大0.15和小0.15,其实和标准答案的差距都是0.15, 我们并不关心正负, 不错, 是一个方法, 用绝对值处理的误差叫做"绝对差", 但是绝对差在数学处理和编码上都不是很方便, 于是人们提出了另一个更好的误差评估方式, 把差值取个平方, 正负号就消失了, 这个误差也就是所谓的平方误差.
一元一次函数感知器: 如何描述直觉 AI
在很深很深的海底, 住着一个简简单单的生物---小蓝, 他的世界很简单, 去寻找周围能吃到的一种叫做"豆豆"的植物, 并靠此生存.
但是这些"豆豆"在漫长的演化历史中, 通过和小蓝反复的博弈.为了保护自己逐渐进化出了毒性, 毒性的强弱和豆豆的大小有关, 而小蓝也进化出了一个能够检测豆豆大小的器官.
那么问题来了, 小蓝如何根据豆豆的大小判断它有多毒呢?
没错, 他还缺少个思考的的器官, 也就是我们常说的脑子, 但我们又如何描述思考呢? 或者说"认知"呢? 认知以前当然就是一无所知. 这种情况下认知事物的唯一方法就是依靠直觉, 那我们又该如何去描述"直觉"呢?
人工智能 AI
人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来,理论和技术日益成熟,应用领域也不断扩大,可以设想,未来人工智能带来的科技产品,将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能,但能像人那样思考、也可能超过人的智能。
人工智能是一门极富挑战性的科学,从事这项工作的人必须懂得计算机知识,心理学和哲学。人工智能是包括十分广泛的科学,它由不同的领域组成,如机器学习,计算机视觉等等,总的说来,人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。