想了解更多AIGC的内容，请访问：

51CTO AI.x社区

https://www.51cto.com/aigc/

在当今快节奏的世界里，充斥着太多的信息，并且难以处理。人们越来越习惯于在更短的时间内接收更多的信息，当他们不得不阅读大量的文件或书籍时，可能会感到沮丧。这就该提取摘要发挥重要作用了。为了提取文章的核心内容，这个过程从文章、页面或段落中提取关键句子，为人们提供一些要点的快照。

对于那些无需逐字阅读就能理解大型文档的人来说，提取摘要是游戏规则的改变者。

本文深入探讨了提取摘要的基本原理和应用，并将研究大型语言模型的作用，特别是BERT(来自Transformers的双向编码器表示)以增强该过程。本文还将包括一个使用BERT进行提取摘要的实践教程，展示它在将大量文本精简成信息丰富的摘要方面的实用性。

理解提取摘要

提取摘要是自然语言处理和文本分析领域的一项重要技术。提取摘要可以从原文中精心挑选出关键的句子或短语，并将其组合起来，形成一个简洁而翔实的摘要。这包括仔细地筛选文本，以确定所选文章中最关键的元素和中心思想或论点。

在抽象摘要涉及生成源材料中通常不存在的全新句子的情况下，提取摘要则坚持原始文本。它不会改变或改写句子，而是准确地提取句子原义，保持原来的措辞和结构。这样，摘要就能与源材料的基调和内容保持一致。在信息的准确性和保留作者的原始意图成为优先事项的情况下，提取摘要技术是非常有益的。

它有很多不同的用途，例如总结新闻文章、学术论文或长篇报告。这个过程有效地传达了原始内容的信息，而不会出现转述时可能出现的潜在偏见或重新解释。

抽取摘要如何使用大型语言模型（LLM）?

1.文本分析

这个初始步骤包括将文本分解为基本元素，主要是句子和短语。目标是识别基本单元(在这种情况下是句子)，算法稍后将评估并包含在摘要中，例如剖析文本以了解其结构和单个组件。

例如，该模型将分析一个包含四句话的段落，将其分解为以下四个句子。

• 建于古埃及的吉萨金字塔巍然屹立了数千年。
• 它们是为法老建造的陵墓。
• 大金字塔是最著名的金字塔。
• 这些金字塔是建筑的智慧象征。

2.特征提取

在这个阶段，算法需要分析每个句子，以识别特性（Characteristics）或特征（Features），这些特性或特征可能表明它们对整个文本的重要性。常见的特征包括关键词与短语的频率和重复使用、句子的长度、它们在文本中的位置及其含义，以及对文本主题中心的特定关键词或短语的存在。

以下是一个大型语言模型（LLM）如何对第一句话进行特征提取的例子：“吉萨金字塔，建于古埃及，巍然屹立了数千年。”

3.对句子进行评分

每个句子都会根据其内容进行评分。这个分数反映了一个句子在整个文本中的重要性。得分更高的句子被认为更有分量或相关性。

简单地说，这个过程对每个句子的潜在意义进行评估，对整个文本进行总结。

4.选择与聚合

最后一个阶段是选择得分最高的句子，并将它们汇编成摘要。如果认真处理，可以确保摘要保持连贯，并能全面代表原文的主要思想和主题。

为了创建有效的摘要，算法必须平衡包括重要句子的需求，这些句子必须简洁，避免冗余，并确保所选句子提供对整个原文的清晰和全面的概述。

建于古埃及的吉萨金字塔巍然屹立了数千年。它们是为法老建造的陵墓。这些金字塔是建筑智慧的象征。

这是一个非常基础的例子，从总共4个句子提取了3个句子，以获得最佳的整体概括。多读一个句子并没有坏处，但如果文本变长了怎么办?例如有三个段落的文本?

如何运行BERT LLM提取摘要

步骤1：安装和导入必要的软件包

首先，利用预训练的BERT模型。不要任意使用一个BERT模型；与其相反，将关注BERT提取摘要生成器。这个特殊的模型已经针对提取摘要中的专门任务进行了微调。

!pip install bert-extractive-summarizer  
from summarizer import Summarizer