想象一下, 你可以了解Internet上人们的心情。也许你对整体不感兴趣, 但前提是今天人们在你喜欢的社交媒体平台上感到高兴。学习完本教程后, 你将可以执行此操作。在此过程中, 你将掌握(深度)神经网络的最新进展以及如何将其应用于文本。

通过机器学习从文本中读取情绪被称为情感分析, 它是文本分类中最重要的用例之一。这属于自然语言处理(NLP)的非常活跃的研究领域。文本分类的其他常见用例包括检测垃圾邮件, 自动标记客户查询以及将文本分类为已定义的主题。那你怎么做呢？

免费奖金：关于Python精通的5个想法, 这是针对Python开发人员的免费课程, 向你展示了将Python技能提升到新水平所需的路线图和思路。

在开始之前, 让我们看一下我们拥有的数据。继续并从UCI机器学习存储库中的“情感标记句子数据集”下载数据集。

顺便说一句, 当你想尝试一些算法时, 该存储库是机器学习数据集的绝佳来源。该数据集包括来自IMDb, Amazon和Yelp的带有标签的评论。每个评论的负面情绪评分为0, 正面情绪评分为1。

将文件夹提取到数据文件夹中, 然后继续使用Pandas加载数据：

此外, 你可以添加一个度量标准列表, 以后可以用于评估, 但是它们不会影响培训。在这种情况下, 我们希望使用你在前面提到的入门中看到的二进制交叉熵和Adam优化器。 Keras还包括一个方便的.summary()函数, 以概述模型和可用于训练的参数数量：

接下来, 你要定义要在训练中使用的参数网格。它由一个字典组成, 每个参数的名称与上一个函数中的名称相同。网格上的空格数为3 * 3 * 1 * 1 * 1, 其中每个数字都是给定参数的不同选择的数目。

你可以看到它如何很快地增加计算量, 但是幸运的是, 网格搜索和随机搜索都令人尴尬地是并行的, 并且这些类带有n_jobs参数, 可让你并行测试网格空间。使用以下字典初始化参数网格：

现在你已经准备好开始运行随机搜索。在此示例中, 我们遍历每个数据集, 然后你要以与以前相同的方式预处理数据。之后, 你将使用上一个函数并将其添加到KerasClassifier包装器类中, 其中包括时期数。

然后, 将所得的实例和参数网格用作RandomSearchCV类中的估计量。另外, 你可以在k折交叉验证中选择折的数量, 在本例中为4。除了RandomSearchCV和KerasClassifier之外, 我还添加了一些处理评估的代码：

这需要一段时间, 这是一个绝佳的机会, 可以出门呼吸新鲜空气, 甚至是远足, 这取决于你要运行多少个模型。让我们看看我们有什么：

有趣！由于某种原因, 测试准确性高于训练准确性, 这可能是因为在交叉验证期间分数存在较大差异。我们可以看到, 我们仍然无法突破可怕的80％, 对于给定大小的数据, 这似乎是自然的限制。请记住, 我们的数据集很小, 而卷积神经网络往往在大数据集上表现最佳。

CV的另一种方法是嵌套的交叉验证(此处显示), 当还需要优化超参数时使用该方法。之所以使用它, 是因为生成的非嵌套CV模型对数据集有偏见, 这可能会导致过于乐观的得分。你会看到, 当像在上一个示例中一样进行超参数优化时, 我们正在为该特定训练集选择最佳的超参数, 但这并不意味着这些超参数可以得到最佳的概括。

到此为止：你已经了解了如何使用Keras进行文本分类, 并且我们已经从具有逻辑回归的词袋模型转变为导致卷积神经网络的越来越先进的方法。

你现在应该熟悉词嵌入, 它们为何有用, 以及如何在训练中使用预先训练的词嵌入。你还学习了如何使用神经网络, 以及如何使用超参数优化从模型中挤出更多性能。

递归神经网络, 更具体地说是LSTM和GRU, 是我们在这里还没有涉及的一个大话题。这些是其他强大且流行的工具, 可用于处理文本或时间序列等顺序数据。目前, 神经网络中还有其他有趣的发展, 它们正在引起人们的关注, 这些都在积极研究中, 并且由于LSTM往往会占用大量计算资源, 因此似乎是一个有希望的下一步。

你现在已经了解了自然语言处理中的关键基石, 可以将其用于各种文本分类。情感分析是最突出的例子, 但这包括许多其他应用程序, 例如：

• 电子邮件中的垃圾邮件检测
• 具有预定义主题的新闻文章的分类

你可以像本教程一样使用此知识以及在高级项目中训练的模型, 使用Kibana和Elasticsearch对连续的Twitter数据流进行情感分析。你还可以将情感分析或文本分类与语音识别相结合, 就像在本手册中使用Python中的SpeechRecognition库一样。

如果你想深入研究本文中的各个主题, 可以查看以下链接：

• AI研究人员声称机器学习是炼金术
• 人工智能何时会超越人类的表现？来自AI专家的证据
• 深度学习, NLP和表示