人工智能、机器学习的优缺点

人工智能和机器学习
但首先，什么是 AI 和 ML？ AI是人工智能的 简称 。 这是“超级智能算法”的另一种说法。 如果我让您查看描述两个角色的两组数据，您将能够在脑海中比较它们并得出结论。 （那是因为你是一个聪明的人，而这种分析实际上是人类在进化过程中设计要做的事情。）但是，如果我把 300 万个这样的角色放在你面前并要求真实-时间分析……是的，没那么多。 这就是计算机的用途！ 这就是人工智能大放异彩的地方。 人工智能可以以闪电般的速度索引和分析所有数据，然后根据代码中的选项做出下一步该做什么的决定。
但人工智能本身也有局限性。 如果它发现某些角色与其算法中的任何内容都不匹配，那么我们就有了一个与计算机“stump the chump”的游戏。 这很有趣，理所当然，但人们在大数据上花费大笔资金通常不会被逗乐。 这就是机器学习的用武之地。机器学习在“建议”的代码中选择选项，而是查看不匹配的数据并说“棒极了！ 让我们稍微修改一下这段代码，好吗？”
这听起来很神奇，但老实说，这只是非常复杂的 决策树 。 数据是否适合 A？ 不？ 然后去B。它适合B吗？ 是的！ 太好了，去 B+1。 快说一千万倍。

人工智能、机器学习和其他人——缺点
由于在线数据量巨大，如果不是因为人工智能和机器学习的持续发展，我们就不会拥有一个功能特别强大的互联网。 想一想：搜索引擎如何做他们的事？ 大型网络商务网站如何知道向我提供特定建议？ 语音识别系统如何识别这么多不同的声音和口音？ 系统如何在有这么多面孔的情况下进行面部识别？
AI 和 ML 绝对至关重要，没有两种方法，但它们有一个共同的问题：AI 和 ML 以及它们所有的孩子都是从人类开始的。 从统计学上讲，那个人很可能是男性。 必须有人编写该代码，并且在编写该代码时，他们不禁会在他们正在设计的系统中引入一些偏见。 例如， 哈佛大学 表明，面部识别算法对深肤色女性的准确率始终最低，而对浅肤色男性的准确率最高。 在理想的世界中，开发人员是一个高度多样化的团队的成员，在该团队中，偏见可以在代码中快速识别和处理，然后再上线。 我喜欢那个世界。 我想住在那里。
不幸的是，这不是我们目前生活的世界。我可以指出大量文章说女性和少数族裔在科技领域没有得到很好的代表（继续关注 AI 和 ML，我真的很喜欢 Wired 的这篇 文章 ）。 如果在开发阶段不处理偏见，我们将看到各种各样的问题。 事实上， 我们确实看到 了各种各样的问题，包括 医疗保健 、 刑事司法 、 招聘系统 ……不胜枚举。 我什至可以指出该算法如何将个人推向 极端主义观点 。

减轻 AI/ML 中的偏见
这一切听起来很可怕。 拥有快速搜索引擎的价值是否足以证明有偏见的人工智能的社会成本是合理的？ 这就是问题，不是吗。 如果没有办法解决 AI 和 ML 系统中的偏见，那么我可能会说不，这不值得。 但是，如果一切都按设计进行……医疗可能会在干预措施最有用的最早时刻发生。 人们可以在做出会导致他们被捕的生活选择之前获得他们需要的支持。 招聘系统实际上是中立和公平的，而不仅仅依赖于人的判断（尽管仍然有点依赖）。 哎呀，人工智能甚至可以开始生成 自己的数据集 ！
并不是说我们不知道这些系统中的偏见是一个问题。 那里也有很多关于如何处理它的文献。 对“如何防止 AI 中的偏见”进行网络搜索。 我个人无法决定首先阅读哪篇文章：承诺以三种方式、四种方式、六种方式或七种方式减少或减轻 AI 系统中的偏见的文章。 这只是那里的流行内容。 访问像 Google Scholar 会让你从真正的数据科学家那里获得关于该主题的适当研究。
甚至经济合作与发展组织（通常称为经合组织；认为强大的、基于条约的国际组织）也 指导 对如何设计人工智能 没有人需要遵循这些准则，但它们是一个很好的起点。 微软 是一家在人工智能方面做了很多工作的公司，它也有一些相当广泛的指导方针和治理。 所以有希望和一些既定的指导方针。