基于人工智能的文本重构方法、装置、计算机设备及介质与流程

1.本发明涉及人工智能技术领域，尤其涉及一种基于人工智能的文本重构方法、装置、计算机设备及介质。


背景技术：

2.随着人工智能技术的兴起，基于人工智能模型的文本重构技术已广泛应用于金融服务平台中，金融服务平台可以是保险系统、银行系统、交易系统、订单系统等，金融服务平台可以支持购物、社交、互动游戏、资源转移等功能，还可以具有申请贷款、信用卡或者购买保险、理财产品等功能。
3.文本重构技术可以应用于金融服务平台内，以提供智能客服交互、智能金融文本翻译、智能金融文本纠错等功能的基础，金融文本可以包括订单文本、保单文本、交易记录文本、合同文本等，而文本重构任务下存在文本补全任务分支，以在文本中包含指代或者省略词项时进行文本重构处理，针对此类情况，现有用于文本重构的模型通常需要结合语境进行预训练。
4.但是不同语境对应的知识背景不同，为了提高模型的泛化能力，需要准备大量的标签数据对模型进行训练，文本重构模型的训练和维护成本较大，而且，训练好的文本重构模型更偏向于结合语境对指代或者省略的词项进行预测，而忽略了上下文信息，导致文本重构的准确率较低。因此，如何提高文本重构的准确率成为亟待解决的问题。


技术实现要素：

5.有鉴于此，本发明实施例提供了一种基于人工智能的文本重构方法，以解决文本重构的准确率较低的问题。
6.第一方面，本发明实施例提供一种基于人工智能的文本重构方法，所述文本重构方法包括：
7.获取原始文本，识别所述原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在所述原始文本中，采用预设的掩蔽词项对所述可替换词项进行替换，得到第一掩蔽文本；
8.识别所述原始文本中每个词项所属的句子成分，得到所述原始文本包含的所有句子成分，针对一目标句子成分，若所述原始文本包含的所有句子成分中不存在所述目标句子成分，则确定与所述目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在所述原始文本中对应的词项位置，确定所述目标句子成分的插入位置；
9.在所述第一掩蔽文本中确定对应所述插入位置的目标位置，在所述目标位置插入所述掩蔽词项，得到第二掩蔽文本；
10.获取与所述原始文本存在语义关联的相关文本，将所述第二掩蔽文本和所述相关文本拼接，得到拼接结果，使用重构模型对所述拼接结果中的掩蔽词项进行重构，得到所有
掩蔽词项对应的重构词项，使用每个重构词项分别替换所述第二掩蔽文本中对应的掩蔽词项，得到重构文本。
11.第二方面，本发明实施例提供一种基于人工智能的文本重构装置，所述文本重构装置包括：
12.词项替换模块，用于获取原始文本，识别所述原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在所述原始文本中，采用预设的掩蔽词项对所述可替换词项进行替换，得到第一掩蔽文本；
13.成分识别模块，用于识别所述原始文本中每个词项所属的句子成分，得到所述原始文本包含的所有句子成分，针对一目标句子成分，若所述原始文本包含的所有句子成分中不存在所述目标句子成分，则确定与所述目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在所述原始文本中对应的词项位置，确定所述目标句子成分的插入位置；
14.词项插入模块，用于在所述第一掩蔽文本中确定对应所述插入位置的目标位置，在所述目标位置插入所述掩蔽词项，得到第二掩蔽文本；
15.文本重构模块，用于获取与所述原始文本存在语义关联的相关文本，将所述第二掩蔽文本和所述相关文本拼接，得到拼接结果，使用重构模型对所述拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换所述第二掩蔽文本中对应的掩蔽词项，得到重构文本。
16.第三方面，本发明实施例提供一种计算机设备，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的文本重构方法。
17.第四方面，本发明实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的文本重构方法。
18.本发明实施例与现有技术相比存在的有益效果是：
19.获取原始文本，识别原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在原始文本中，采用预设的掩蔽词项对可替换词项进行替换，得到第一掩蔽文本，识别原始文本中每个词项所属的句子成分，得到原始文本包含的所有句子成分，针对一目标句子成分，若原始文本包含的所有句子成分中不存在目标句子成分，则确定与目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在原始文本中对应的词项位置，确定目标句子成分的插入位置，在第一掩蔽文本中确定对应插入位置的目标位置，在目标位置插入掩蔽词项，得到第二掩蔽文本，获取与原始文本存在语义关联的相关文本，将第二掩蔽文本和相关文本拼接，得到拼接结果，使用重构模型对拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换第二掩蔽文本中对应的掩蔽词项，得到重构文本，根据词性以及句子成分确定替换和省略的词项，采用掩蔽词项进行标记，结合语义关联的相关文本对掩蔽词项进行重构，为重构过程提供丰富的上下文信息，进而提高了文本重构的准确率，为金融服务平台执行金融文本归档、金融文本查询等功能提供有效基础。
附图说明
20.为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
21.图1是本发明实施例一提供的一种基于人工智能的文本重构方法的一应用环境示意图；
22.图2是本发明实施例一提供的一种基于人工智能的文本重构方法的流程示意图；
23.图3是本发明实施例二提供的一种基于人工智能的文本重构装置的结构示意图；
24.图4是本发明实施例三提供的一种计算机设备的结构示意图。
具体实施方式
25.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
26.应当理解，当在本发明说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
27.还应当理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
28.如在本发明说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0029]
另外，在本发明说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
[0030]
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
[0031]
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(artificial intelligence，ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
[0032]
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机
视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
[0033]
应理解，以下实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
[0034]
为了说明本发明的技术方案，下面通过具体实施例来进行说明。
[0035]
本发明实施例一提供的一种基于人工智能的文本重构方法，可应用在如图1的应用环境中，其中，客户端与服务端进行通信。其中，客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，umpc)、上网本、云端终端设备、个人数字助理(personal digital assistant，pda)等计算机设备。服务端可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(content delivery network，cdn)、以及大数据和人工智能平台等基础云计算服务的云服务器。
[0036]
客户端和服务端可以部署于金融服务平台中，金融服务平台可以是保险系统、银行系统、交易系统、订单系统等，金融服务平台可以支持购物、社交、互动游戏、资源转移等功能，还可以具有申请贷款、信用卡或者购买保险、理财产品等功能，服务端可以提供文本重构技术，以对金融文本或者客服话术文本进行补全，便于金融服务平台执行金融文本归档、金融文本查询、智能客服交互等功能，金融文本可以包括订单文本、保单文本、交易记录文本、合同文本等。
[0037]
参见图2，是本发明实施例一提供的一种基于人工智能的文本重构方法的流程示意图，上述文本重构方法可以应用于图1中的服务端，服务端对应的计算机设备与客户端连接，以从客户端获取用户输入的原始文本，服务端对应的计算机设备内部署有预训练好的重构模型，重构模型可以用于对包含掩蔽词项的掩蔽文本进行重构，以得到重构文本。如图2所示，该文本重构方法可以包括以下步骤：
[0038]
步骤s201，获取原始文本，识别原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在原始文本中，采用预设的掩蔽词项对可替换词项进行替换，得到第一掩蔽文本。
[0039]
其中，原始文本可以是指需要进行文本重构的文本，在本实施例中，原始文本可以是指金融服务平台下的金融文本，金融文本可以包括订单文本、保单文本、交易记录文本、合同文本等，也可以是指金融服务平台下的客服话术文本。原始文本包含若干个词项，词性可以是指以词的特点作为划分词类的根据，词性包括名词、代词、动词、形容词等，预设词性可以是指预先设置好的目标词性，目标词性可以包括词性类别中的若干种，可替换词项可以是指原始文本中需要进行替换的词项。
[0040]
掩蔽词项可以是指预设的掩蔽标识，第一掩蔽文本可以是指经过掩蔽词项对可替换词项替换后的文本，在本实施例中，掩蔽词项可以采用[mask]字符串表示，实施者也可以采用如零字符、符号字符等方式表示掩蔽词项。
[0041]
具体地，词性识别可以采用基于字符串匹配的字典查找算法或者基于统计的词性标注算法，基于字符串匹配的字典查找算法可以如jieba词性标注算法等，基于统计的词性标注算法可以如隐马尔科夫模型等。
[0042]
可选的是，预设词性包括代词词性；
[0043]
识别原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项包括：
[0044]
识别原始文本中每个词项的词性，得到至少一个属于代词词性的提取词项；
[0045]
统计所有提取词项的个数，若个数小于预设的数量阈值时，确定所有提取词项为可替换词项。
[0046]
其中，属于代词词性的词项可以用于代替名词词性、形容词性等对应的词项，属于代词词性的词项可以包括“你”、“他”、“你的”、“那个”等。
[0047]
提取词项可以是指原始文本中属于代词词性的词项，个数可以是指原始文本中所有提取词项的数量统计值，预设的数量阈值可以用于衡量原始文本中属于代词词性的词项是否过多以致于无法进行文本重构。
[0048]
具体地，在本实施例中，预设的数量阈值可以是指为3，以表示当原始文本中属于代词词性的提取词项数量大于或者等于三个时，认为此时原始文本的语义特征难以提取，无法进行后续的文本重构，实施者可以根据实际情况调整该预设的数量阈值，具体可以根据后续重构模型的语义提取能力来调整，语义提取能力较强，则可以设置数量阈值较大，例如可以设置为4，语义提取能力较小，则可以设置数量阈值较小，例如可以设置为2，语义提取能力可以根据重构模型在训练时的训练数据集内样本数量表征，通常情况下，样本数量越大，说明模型能够学习到的知识越多，语义提取能力越强，样本数量越小，说明模型能够学习到的知识越少，语义提取能力越弱。
[0049]
本实施例中，通过设置数量阈值和提取词项个数相比较的方式，将包含代词词性的词项过多的原始文本筛选出来，避免了后续文本重构过程的无效推理，从而提高了文本重构过程的效率。
[0050]
上述获取原始文本，识别原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在原始文本中，采用预设的掩蔽词项对可替换词项进行替换，得到第一掩蔽文本的步骤，将可替换词项以掩蔽词项代替，得到第一掩蔽文本，从而便于后续根据原始文本句内的上下文信息对掩蔽词项进行重构，提高了上下文信息的利用程度，进而提高了后续文本重构的准确率。
[0051]
步骤s202，识别原始文本中每个词项所属的句子成分，得到原始文本包含的所有句子成分，针对一目标句子成分，若原始文本包含的所有句子成分中不存在目标句子成分，则确定与目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在原始文本中对应的词项位置，确定目标句子成分的插入位置。
[0052]
其中，句子成分可以包括主语、谓语和宾语等，目标句子成分可以是指预设的必要句子成分，必要句子成分可以是指组成能够清晰表达句义的文本的句子成分，关联句子成分可以是指与目标句子成分同属于一种句法结构的句子成分，句法结构可以是指通用的句子成分组成方式。
[0053]
词项位置可以是指词项在原始文本对应的词项序列中的位置标识，词项序列可以是指由原始文本内所有的词项按照文本顺序拼接得到的序列，插入位置可以是指目标句子成分应当在原始文本中所处的位置。
[0054]
具体地，句子成分的识别可以通过语义角色标注工具实现，语义角色标注工具可以采用如swirl、mate-tools等工具，目标句子成分可以设置若干个，通常情况下，目标句子
成分应当不超过两个。
[0055]
可选的是，确定与目标句子成分存在句法关联的至少一个关联句子成分包括：
[0056]
从预设数据库中获取包含目标句子成分的至少一个句法结构，句法结构包括至少一个句子成分；
[0057]
将满足预设条件的句法结构作为目标结构，将目标结构中除目标句子成分之外的其他句子成分，确定为与目标句子成分存在句法关联的关联句子成分。
[0058]
其中，预设数据库可以存储于服务端内，预设数据库可以包括若干个句法结构，单个句法结构由若干个句子成分组成，预设条件可以用于判断句法结构是否与原始文本较为契合，从而能够作为目标结构，目标结构可以是指可以用于确定关联句子成分的句法结构。
[0059]
具体地，同一目标句子成分可以存在于多个句法结构中，而仅有一个句子法结构与原始文本所采用的句法结构相匹配，本实施例通过预设条件对包含目标句子成分的所有句法结构进行筛选，得到目标结构。
[0060]
本实施例中，通过本地预先存储的句法结构数据库，使得能够快速搜索并确定与原始文本最为匹配的目标结构，从而便于根据目标结构进行目标句子成分的插入位置确定，提高了文本重构过程的效率。
[0061]
可选的是，将满足预设条件的句法结构作为目标结构包括：
[0062]
获取每个句子成分在原始文本中分别对应的词项及其词项相对位置；
[0063]
根据所有词项相对位置，将所有句子成分拼接为成分序列，将成分序列分别与每个句法结构对应的预设参考序列进行相似度计算，得到对应句法结构的相似度；
[0064]
若所有相似度中的最大值大于预设相似度阈值，则确定最大值对应的句法结构满足预设条件，以最大值对应的句法结构作为目标结构。
[0065]
其中，词项相对位置可以是指词项之间相对的位置信息，成分序列可以是指所有句子成分按照词项相对位置的关系拼接得到的序列。
[0066]
预设参考序列可以是指对应句法结构中所有句子成分按照句法顺序拼接得到的序列。
[0067]
相似度可以用于表征成分序列和预设参考序列之间的差异程度，预设相似度阈值可以用于衡量成分序列和预设参考序列之间是否足够相似度，以能够将预设参考序列对应的句法结构作为目标结构。
[0068]
具体地，本实施例中，句子成分可以仅为主要的句子成分，例如主语、谓语和宾语，此时，原始文本中可能包含无关的词项，例如用于修饰的状语，而词项相对位置能够有效表征主要句子成分之间的位置关系，本实施例以数字标识来表示词项相对位置，例如对于“主谓宾”的句法结构，主语对应的词项相对位置可以为1，谓语对应的词项相对位置可以为2，宾语对应的词项,相对位置可以为3。
[0069]
相似度可以采用欧式距离、余弦相似度等距离度量方式进行计算，在本实施例中，采用余弦相似度进行相似度的计算，余弦相似度的计算结果的值域范围为[0，1]，余弦相似度的计算结果越接近1，说明用于相似度计算的成分序列和预设参考序列之间越为相似，余弦相似度的计算结果越接近0，说明用于相似度计算的成分序列和预设参考序列之间越不相似，本实施例中，预设的相似度阈值可以设置为0.8，实施者可以根据实际情况调整该相似度阈值。
[0070]
本实施例中，通过词项相对位置进行位置信息表征，使得成分序列的拼接过程能够忽略部分不重要或者不相关的词项，从而精简后续目标结构确定过程的计算量，同时能够避免相似度计算过程受到无关信息的干扰，提高目标结构确定的准确率，从而提高文本重构过程的准确率。
[0071]
可选的是，根据所有关联句子成分分别对应的词项在原始文本中对应的词项位置，确定目标句子成分的插入位置包括：
[0072]
根据目标句子成分和每个关联句子成分的句法关联关系，从所有关联句子成分中确定与目标句子成分关联程度最大的关联句子成分作为参考句子成分；
[0073]
确定参考句子成分在原始文本中的绝对位置，根据绝对位置和预设偏移量，确定插入位置。
[0074]
其中，句法关联关系可以是指目标句子成分和关联句子成分同属一个句法结构内，关联程度可以通过句子成分之间的位置相近程度来表征，参考句子成分也即与目标句子成分最接近的关联句子成分。
[0075]
绝对位置可以是指参考句子成分在原始文本中对应词项在原始文本中所有词项中的位置，预设偏移量可以用于根据绝对位置确定插入位置。
[0076]
具体地，在本实施例中，按照各个关联句子成分与目标句子成分之间的距离对所有关联句子成分进行从小到大排序，得到排序结果。
[0077]
若目标句子成分在目标结构中属于首位或者末位的句子成分，则确定排序结果中第一位的关联句子成分为参考句子成分，确定参考句子成分在原始文本中的绝对位置，若目标句子成分在目标结构中属于首位的句子成分，则采用绝对位置减去预设偏移量，得到插入位置，若目标句子成分在目标结构中属于末位的句子成分，则采用绝对位置加上预设偏移量，得到插入位置。
[0078]
若目标句子成分在目标结构中不属于首位也不属于末位的句子成分，则确定排序结果中前两位的关联句子成分为参考句子成分，分别获取每个参考句子成分的绝对位置，此时，可以将两个绝对位置的均值作为插入位置，在一实施方式中，也可以通过在前绝对位置加上预设偏移量，或者在后绝对位置减去预设偏移量的方式，得到插入位置，需要说明的是，得到的插入位置应当满足在两个绝对位置之间，在本实施例中，预设偏移量可以设置为1，实施者可以根据实际情况调整该预设偏移量。
[0079]
本实施例中，根据参考句子成分在原始文本中的绝对位置和预设偏移量，确定插入位置，使得后续在插入位置进行插入时，尽量符合语序，从而提高语义特征提取时的准确率，进而提高文本重构的准确率。
[0080]
上述识别原始文本中每个词项所属的句子成分，得到原始文本包含的所有句子成分，针对一目标句子成分，若原始文本包含的所有句子成分中不存在目标句子成分，则确定与目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在原始文本中对应的词项位置，确定目标句子成分的插入位置的步骤，为后续掩蔽词项插入提供插入位置信息，从而将原始文本中被省略的词项标注出来，进而对被省略的词项进行重构，得到语义更加清晰的重构文本，提高了文本重构的准确率。
[0081]
步骤s203，在第一掩蔽文本中确定对应插入位置的目标位置，在目标位置插入掩蔽词项，得到第二掩蔽文本。
[0082]
其中，目标位置可以是指第一掩蔽文本中与原始文本内的插入位置相对应的位置，第二掩蔽文本可以是指对省略词项以掩蔽词项插入方式替代后的第一掩蔽文本。
[0083]
具体地，将掩蔽词项插入目标位置，也即将目标位置之后的所有词项均顺移一个词项位置，目标位置之前的所有词项的位置不变。
[0084]
上述在第一掩蔽文本中确定对应插入位置的目标位置，在目标位置插入掩蔽词项，得到第二掩蔽文本的步骤，将指代和省略的词项均以掩蔽词项的方式表征，从而便于后续直接对掩蔽词项进行重构，提高了文本重构的效率和准确率。
[0085]
步骤s204，获取与原始文本存在语义关联的相关文本，将第二掩蔽文本和相关文本拼接，得到拼接结果，使用重构模型对拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换第二掩蔽文本中对应的掩蔽词项，得到重构文本。
[0086]
其中，相关文本可以是指与原始文本存在上下文关联的文本，也即存在语义关联的文本，通常情况下，相关文本和原始文本同属一个段落或者同属一个章节，在对话文本重构场景下，相关文本和原始文本通常属于同一个对话部分中，拼接可以采用联结方式实现，拼接结果可以是指相关文本和第二掩蔽文本按照文本顺序拼接得到的结果。
[0087]
重构模型可以是预训练好的，预训练时可以将正常文本进行遮蔽词项替换后的结果作为训练样本，训练样本对应的正常文本即为标签，损失函数采用均方误差损失函数即可。
[0088]
重构模型可以包括编码器和解码器，编码器可以用于提取输入文本的语义特征，解码器可以用于根据语义特征对输入文本进行重构。
[0089]
重构词项可以是指重构模型对掩蔽词项进行重构后的结果，每个掩蔽词项均有其对应的重构词项。重构文本可以是指包含重构词项的文本，也即文本重构结果。
[0090]
可选的是，相关文本包括至少一个历史词项；
[0091]
使用重构模型对拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项包括：
[0092]
将拼接结果输入重构模型中，输出每个历史词项对应的重构概率；
[0093]
确定所有重构概率中的最大值对应的历史词项为对应掩蔽词项的重构词项。
[0094]
其中，历史词项可以是指相关文本中的词项，也即在原始文本语序之前出现过的词项，重构概率可以用于表征重构词项为对应历史词项的可能性。
[0095]
具体地，由于指代词项和省略词项通常是因为在上下文信息中已出现过对应的词项，因此，直接对掩蔽词项为各个历史词项的可能性进行预测，重构模型直接输出的是每个历史词项对应的重构预测值，所有重构预测值通过归一化指数函数处理后，即可得到对应历史词项的重构概率。
[0096]
再对所有历史词项的重构概率进行取最大值操作，即可得到掩蔽词项最可能是的历史词项，以该历史词项作为对应掩蔽词项的重构词项。
[0097]
本实施例中，通过限定重构模型的预测范围在历史词项中，有效加强了重构模型对于语义信息关注程度，符合文本补全任务的场景特性，从而提高了文本重构的准确率。
[0098]
可选的是，将拼接结果输入重构模型中，输出每个历史词项对应的重构概率包括：
[0099]
对所有历史词项进行筛选，将属于名词词性的历史词项保留，得到保留词项，将拼
接结果输入重构模型中，输出每个保留词项对应的重构概率；
[0100]
相应地，确定所有重构概率中的最大值对应的历史词项为对应掩蔽词项的重构词项包括：
[0101]
确定所有保留词项对应的重构概率中的最大值对应的历史词项为对应掩蔽词项的重构词项。
[0102]
其中，保留词项可以是指所有历史词项中属于名词词性的历史词项，此时，重构概率对应于保留词项。
[0103]
具体地，由于指代词项和省略词项通常是对名词词性的词项进行省略，因此，直接筛选出属于名词词性的历史词项作为保留词项，仅对掩蔽词项和保留词项相同的可能性进行预测。
[0104]
本实施例中，通过名词词性对历史词项进行筛选，得到保留词项，仅对掩蔽词项与各个保留词项相同的可能性进行预测，能够有效减少重构模型进行计算推理的计算量，并且使得重构模型的输出严格限制在保留词项中，避免重构模型得到错误的重构结果，从而提高了文本重构的准确率。
[0105]
上述获取与原始文本存在语义关联的相关文本，将第二掩蔽文本和相关文本拼接，得到拼接结果，使用重构模型对拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换第二掩蔽文本中对应的掩蔽词项，得到重构文本的步骤，结合与原始文本存在语义关联的相关文本对第二掩蔽文本中的掩蔽词项进行重构，得到重构词项，为重构过程提供了句外的上下文信息，使得语义上下文信息更加丰富，从而提高了文本重构的准确率。
[0106]
本实施例中，根据词性以及句子成分确定替换和省略的词项，采用掩蔽词项进行标记，结合语义关联的相关文本对掩蔽词项进行重构，为重构过程提供丰富的上下文信息，进而提高了文本重构的准确率，为金融服务平台执行金融文本归档、金融文本查询等功能提供有效基础。
[0107]
对应于上文实施例的基于人工智能的文本重构方法，图3示出了本发明实施例二提供的基于人工智能的文本重构装置的结构框图，上述文本重构装置应用于服务端，服务端对应的计算机设备与客户端连接，以从客户端获取用户输入的原始文本，服务端对应的计算机设备内部署有预训练好的重构模型，重构模型可以用于对包含掩蔽词项的掩蔽文本进行重构，以得到重构文本。为了便于说明，仅示出了与本发明实施例相关的部分。
[0108]
参见图3，该文本重构装置包括：
[0109]
词项替换模块31，用于获取原始文本，识别原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在原始文本中，采用预设的掩蔽词项对可替换词项进行替换，得到第一掩蔽文本；
[0110]
成分识别模块32，用于识别原始文本中每个词项所属的句子成分，得到原始文本包含的所有句子成分，针对一目标句子成分，若原始文本包含的所有句子成分中不存在目标句子成分，则确定与目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在原始文本中对应的词项位置，确定目标句子成分的插入位置；
[0111]
词项插入模块33，用于在第一掩蔽文本中确定对应插入位置的目标位置，在目标
位置插入掩蔽词项，得到第二掩蔽文本；
[0112]
文本重构模块34，用于获取与原始文本存在语义关联的相关文本，将第二掩蔽文本和相关文本拼接，得到拼接结果，使用重构模型对拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换第二掩蔽文本中对应的掩蔽词项，得到重构文本。
[0113]
可选的是，预设词性包括代词词性；
[0114]
上述词项替换模块31包括：
[0115]
词项提取单元，用于识别原始文本中每个词项的词性，得到至少一个属于代词词性的提取词项；
[0116]
词项统计单元，用于统计所有提取词项的个数，若个数小于预设的数量阈值时，确定所有提取词项为可替换词项。
[0117]
可选的是，上述成分识别模块32包括：
[0118]
句法结构获取单元，用于从预设数据库中获取包含目标句子成分的至少一个句法结构，句法结构包括至少一个句子成分；
[0119]
条件判断单元，用于将满足预设条件的句法结构作为目标结构，将目标结构中除目标句子成分之外的其他句子成分，确定为与目标句子成分存在句法关联的关联句子成分。
[0120]
可选的是，上述条件判断单元包括：
[0121]
位置获取子单元，用于获取每个句子成分在原始文本中分别对应的词项及其词项相对位置；
[0122]
相似度计算子单元，用于根据所有词项相对位置，将所有句子成分拼接为成分序列，将成分序列分别与每个句法结构对应的预设参考序列进行相似度计算，得到对应句法结构的相似度；
[0123]
阈值比较子单元，用于若所有相似度中的最大值大于预设相似度阈值，则确定最大值对应的句法结构满足预设条件，以最大值对应的句法结构作为目标结构。
[0124]
可选的是，上述成分识别模块32包括：
[0125]
参考成分确定单元，用于根据目标句子成分和每个关联句子成分的句法关联关系，从所有关联句子成分中确定与目标句子成分关联程度最大的关联句子成分作为参考句子成分；
[0126]
位置确定单元，用于确定参考句子成分在原始文本中的绝对位置，根据绝对位置和预设偏移量，确定插入位置。
[0127]
可选的是，相关文本包括至少一个历史词项；
[0128]
上述文本重构模块34包括：
[0129]
概率预测单元，用于将拼接结果输入重构模型中，输出每个历史词项对应的重构概率；
[0130]
重构概率确定单元，用于确定所有重构概率中的最大值对应的历史词项为对应掩蔽词项的重构词项。
[0131]
可选的是，上述概率预测单元包括：
[0132]
词项筛选子单元，用于对所有历史词项进行筛选，将属于名词词性的历史词项保
留，得到保留词项，将拼接结果输入重构模型中，输出每个保留词项对应的重构概率；
[0133]
相应地，上述重构词项确定单元包括：
[0134]
保留词项选择子单元，用于确定所有保留词项对应的重构概率中的最大值对应的历史词项为对应掩蔽词项的重构词项。
[0135]
需要说明的是，上述模块、单元、子单元之间的信息交互、执行过程等内容，由于与本发明方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
[0136]
图4为本发明实施例三提供的一种计算机设备的结构示意图。如图4所示，该实施例的计算机设备包括：至少一个处理器(图4中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序，处理器执行计算机程序时可以实现上述任意各个基于人工智能的文本重构方法实施例中的步骤。
[0137]
该计算机设备可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，图4仅仅是计算机设备的举例，并不构成对计算机设备的限定，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括网络接口、显示屏和输入装置等。
[0138]
所称处理器可以是cpu，该处理器还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现成可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0139]
存储器包括可读存储介质、内存储器等，其中，内存储器可以是计算机设备的内存，内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘，在另一些实施例中也可以是计算机设备的外部存储设备，例如，计算机设备上配备的插接式硬盘、智能存储卡(smart media card，smc)、安全数字(secure digital，sd)卡、闪存卡(flash card)等。进一步地，存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(bootloader)、数据以及其他程序等，该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
[0140]
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，计算机程序可存储于一计算机可读存
储介质中，该计算机程序在被处理器执行时，可实现上述方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质。例如u盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
[0141]
本发明实现上述实施例方法中的全部或部分流程，也可以通过一种计算机程序产品来完成，当计算机程序产品在计算机设备上运行时，使得计算机设备执行时实现可实现上述方法实施例中的步骤。
[0142]
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
[0143]
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
[0144]
在本发明所提供的实施例中，应该理解到，所揭露的装置/计算机设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/计算机设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
[0145]
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0146]
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

技术特征：
1.一种基于人工智能的文本重构方法，其特征在于，所述文本重构方法包括：获取原始文本，识别所述原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在所述原始文本中，采用预设的掩蔽词项对所述可替换词项进行替换，得到第一掩蔽文本；识别所述原始文本中每个词项所属的句子成分，得到所述原始文本包含的所有句子成分，针对一目标句子成分，若所述原始文本包含的所有句子成分中不存在所述目标句子成分，则确定与所述目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在所述原始文本中对应的词项位置，确定所述目标句子成分的插入位置；在所述第一掩蔽文本中确定对应所述插入位置的目标位置，在所述目标位置插入所述掩蔽词项，得到第二掩蔽文本；获取与所述原始文本存在语义关联的相关文本，将所述第二掩蔽文本和所述相关文本拼接，得到拼接结果，使用重构模型对所述拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换所述第二掩蔽文本中对应的掩蔽词项，得到重构文本。2.根据权利要求1所述的文本重构方法，其特征在于，所述预设词性包括代词词性；所述识别所述原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项包括：识别所述原始文本中每个词项的词性，得到至少一个属于所述代词词性的提取词项；统计所有提取词项的个数，若所述个数小于预设的数量阈值时，确定所有提取词项为所述可替换词项。3.根据权利要求1所述的文本重构方法，其特征在于，所述确定与所述目标句子成分存在句法关联的至少一个关联句子成分包括：从预设数据库中获取包含所述目标句子成分的至少一个句法结构，所述句法结构包括至少一个句子成分；将满足预设条件的句法结构作为目标结构，将所述目标结构中除所述目标句子成分之外的其他句子成分，确定为与所述目标句子成分存在句法关联的关联句子成分。4.根据权利要求3所述的文本重构方法，其特征在于，所述将满足预设条件的句法结构作为目标结构包括：获取每个句子成分在所述原始文本中分别对应的词项及其词项相对位置；根据所有词项相对位置，将所有句子成分拼接为成分序列，将所述成分序列分别与每个句法结构对应的预设参考序列进行相似度计算，得到对应句法结构的相似度；若所有相似度中的最大值大于预设相似度阈值，则确定所述最大值对应的句法结构满足所述预设条件，以所述最大值对应的句法结构作为所述目标结构。5.根据权利要求1所述的文本重构方法，其特征在于，所述根据所有关联句子成分分别对应的词项在所述原始文本中对应的词项位置，确定所述目标句子成分的插入位置包括：根据所述目标句子成分和每个关联句子成分的句法关联关系，从所有关联句子成分中确定与所述目标句子成分关联程度最大的关联句子成分作为参考句子成分；确定所述参考句子成分在所述原始文本中的绝对位置，根据所述绝对位置和预设偏移
量，确定所述插入位置。6.根据权利要求1至5任一项所述的文本重构方法，其特征在于，所述相关文本包括至少一个历史词项；所述使用重构模型对所述拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项包括：将所述拼接结果输入所述重构模型中，输出每个历史词项对应的重构概率；确定所有重构概率中的最大值对应的历史词项为所述对应掩蔽词项的重构词项。7.根据权利要求6所述的文本重构方法，其特征在于，所述将所述拼接结果输入所述重构模型中，输出每个历史词项对应的重构概率包括：对所有历史词项进行筛选，将属于名词词性的历史词项保留，得到保留词项，将所述拼接结果输入所述重构模型中，输出每个保留词项对应的重构概率；相应地，所述确定所有重构概率中的最大值对应的历史词项为所述对应掩蔽词项的重构词项包括：确定所有保留词项对应的重构概率中的最大值对应的历史词项为所述对应掩蔽词项的重构词项。8.一种基于人工智能的文本重构装置，其特征在于，所述文本重构装置包括：词项替换模块，用于获取原始文本，识别所述原始文本中每个词项的词性，确定预设词性对应的词项为可替换词项，在所述原始文本中，采用预设的掩蔽词项对所述可替换词项进行替换，得到第一掩蔽文本；成分识别模块，用于识别所述原始文本中每个词项所属的句子成分，得到所述原始文本包含的所有句子成分，针对一目标句子成分，若所述原始文本包含的所有句子成分中不存在所述目标句子成分，则确定与所述目标句子成分存在句法关联的至少一个关联句子成分，根据所有关联句子成分分别对应的词项在所述原始文本中对应的词项位置，确定所述目标句子成分的插入位置；词项插入模块，用于在所述第一掩蔽文本中确定对应所述插入位置的目标位置，在所述目标位置插入所述掩蔽词项，得到第二掩蔽文本；文本重构模块，用于获取与所述原始文本存在语义关联的相关文本，将所述第二掩蔽文本和所述相关文本拼接，得到拼接结果，使用重构模型对所述拼接结果中的掩蔽词项进行重构，得到所有掩蔽词项对应的重构词项，使用每个重构词项分别替换所述第二掩蔽文本中对应的掩蔽词项，得到重构文本。9.一种计算机设备，其特征在于，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的文本重构方法。10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的文本重构方法。

技术总结
本发明涉及人工智能技术领域，尤其涉及一种基于人工智能的文本重构方法、装置、计算机设备及介质。该方法确定原始文本中预设词性对应的词项为可替换词项，采用掩蔽词项替换可替换词项，得到第一掩蔽文本，识别原始文本中每个词项所属的句子成分，针对一目标句子成分，若其在原始文本中不存在，则确定其关联句子成分，根据所有关联句子成分确定插入位置，在第一掩蔽文本中对应插入位置的目标位置插入掩蔽词项，得到第二掩蔽文本，将第二掩蔽文本和相关文本拼接，使用重构模型对拼接结果重构，得到重构词项，使用重构词项替换掩蔽词项，得到重构文本，提高了文本重构的准确率，为金融服务平台执行金融文本归档、金融文本查询等功能提供有效基础。能提供有效基础。能提供有效基础。


技术研发人员：张镛 王健宗 程宁
受保护的技术使用者：平安科技（深圳）有限公司
技术研发日：2023.06.16
技术公布日：2023/9/9