显示方法、智能终端及存储介质与流程

未命名 08-07 阅读:87 评论:0
1.本技术涉及计算机
技术领域
:,具体涉及一种显示方法、智能终端及存储介质。
背景技术
::2.随着大量的语音沟通软件的发展,人们之间的沟通交流更加方便和快捷。但是听觉障碍和语音障碍的人群由于无法听到声音和发出声音,无法通过语音沟通软件进行沟通交流。对于普通人而言,在未学习手语的情况下,也很难通过手语与听觉障碍和语音障碍的人群进行交流。3.在构思及实现本技术过程中,发明人发现至少存在如下问题:4.对于普通人而言,手语学习难度较大。在智能设备上,如果用户通过手语进行交流沟通,普通人无法理解手语的含义,导致通信软件中的视频通话和语音功能无法使用。5.前面的叙述在于提供一般的背景信息,并不一定构成现有技术。技术实现要素:6.针对上述技术问题,本技术提供一种显示方法、智能终端及存储介质,有效提高语音和视频功能对特殊人群的友好度,提升了产品的便捷性和多样性,操作简单方便。7.为解决上述技术问题,本技术提供一种显示方法,包括:8.s10:响应于接收到针对目标界面的触发操作,确认或获取目标信息;9.s20:根据所述目标信息显示所述交互文本。10.可选地,所述s20步骤包括:11.s21:获取所述目标信息对应的情绪信息和文本信息;12.s22:根据所述情绪信息和文本信息,生成交互文本。13.可选地,所述目标信息包括图像信息和/或音频信息,所述s21步骤包括以下至少一项:14.响应于从所述图像信息中获取表情信息、肢体运动幅度、环境信息中的至少一项,确定或获取所述情绪信息;15.响应于从所述音频信息中获取语速、语音音量、预设用词中的至少一项,确定或获取所述情绪信息。16.可选地,所述目标信息包括图像信息,所述s21步骤包括:17.根据所述图像信息进行手势识别;18.根据手势识别结果生成所述文本信息。19.可选地,所述根据所述图像信息进行手势识别包括:20.识别所述图像信息中手部关键点的运动轨迹,根据所述手部关键点的运动轨迹获取手势识别结果;21.和/或,22.所述根据手势识别结果生成所述文本信息包括:根据所述手势识别结果生成分词结果;根据分词结果生成文本信息。23.可选地,所述s22步骤包括:24.根据所述情绪信息生成或确定情绪特征符号;25.根据文本信息生成或确定文字;26.根据所述情绪特征符号和文字确定所述交互文本。27.可选地,所述情绪特征符号包括表情符号和/或语气助词。28.可选地,所述s10步骤包括以下至少一项:29.响应于获取预设指令,显示目标界面;30.响应于当前用户界面属于预设界面,显示目标界面。31.本技术还提供一种智能终端,包括:存储器、处理器,其中,所述存储器上存储有显示程序,所述显示程序被所述处理器执行时实现如上述显示方法的步骤。32.本技术还提供一种存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述方法的步骤。33.如上,本技术的显示方法,应用于智能终端,包括步骤:s10:响应于接收到针对目标界面的触发操作,确认或获取目标信息;s20:根据所述目标信息显示交互文本。通过上述技术方案,提高了通信软件中语音和视频功能对特殊人群的友好度,提高了产品的用户体验。附图说明34.此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本技术的实施例,并与说明书一起用于解释本技术的原理。为了更清楚地说明本技术实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。35.图1为实现本技术各个实施例的一种智能终端的硬件结构示意图;36.图2为本技术实施例提供的一种通信网络系统架构图;37.图3是根据本技术第一实施例示出的显示方法的流程示意图;38.图4是根据本技术第二实施例示出的显示方法的流程示意图;39.图5是根据本技术第三实施例示出的显示方法的流程示意图;40.图6是根据本技术第四实施例示出的显示方法的流程示意图。41.本技术目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。通过上述附图,已示出本技术明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本技术构思的范围,而是通过参考特定实施例为本领域技术人员说明本技术的概念。具体实施方式42.这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本技术相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本技术的一些方面相一致的装置和方法的例子。43.需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素,此外,本技术不同实施例中具有同样命名的部件、特征、要素可能具有相同含义,也可能具有不同含义,其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。44.应当理解,尽管在本文可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本文范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语"如果"可以被解释成为"在……时"或"当……时"或"响应于确定"。再者,如同在本文中所使用的,单数形式“一”、“一个”和“该”旨在也包括复数形式,除非上下文中有相反的指示。应当进一步理解,术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组,但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。本技术使用的术语“或”、“和/或”、“包括以下至少一个”等可被解释为包括性的,或意味着任一个或任何组合。例如,“包括以下至少一个:a、b、c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”,再如,“a、b或c”或者“a、b和/或c”意味着“以下任一个:a;b;c;a和b;a和c;b和c;a和b和c”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时,才会出现该定义的例外。45.应该理解的是,虽然本技术实施例中的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。46.取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。47.需要说明的是,在本文中,采用了诸如s10、s20等步骤代号,其目的是为了更清楚简要地表述相应内容,不构成顺序上的实质性限制,本领域技术人员在具体实施时,可能会先执行s20后执行s10等,但这些均应在本技术的保护范围之内。48.应当理解,此处所描述的具体实施例仅仅用以解释本技术,并不用于限定本技术。49.在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或者“单元”的后缀仅为了有利于本技术的说明,其本身没有特定的意义。因此,“模块”、“部件”或者“单元”可以混合地使用。50.智能终端可以以各种形式来实施。例如,本技术中描述的智能终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(personaldigitalassistant,pda)、便捷式媒体播放器(portablemediaplayer,pmp)、导航装置、可穿戴设备、智能手环、计步器等智能终端,以及诸如数字tv、台式计算机等固定终端。51.后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本技术的实施方式的构造也能够应用于固定类型的终端。52.请参阅图1,其为实现本技术各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:rf(radiofrequency,射频)单元101、wifi模块102、音频输出单元103、a/v(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。53.下面结合图1对移动终端的各个部件进行具体的介绍:54.射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于gsm(globalsystemofmobilecommunication,全球移动通讯系统)、gprs(generalpacketradioservice,通用分组无线服务)、cdma2000(codedivisionmultipleaccess2000,码分多址2000)、wcdma(widebandcodedivisionmultipleaccess,宽带码分多址)、td-scdma(timedivision-synchronouscodedivisionmultipleaccess,时分同步码分多址)、fdd-lte(frequencydivisionduplexing-longtermevolution,频分双工长期演进)、tdd-lte(timedivisionduplexing-longtermevolution,分时双工长期演进)和5g等。55.wifi属于短距离无线传输技术,移动终端通过wifi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了wifi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。56.音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或wifi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。57.a/v输入单元104用于接收音频或视频信号。a/v输入单元104可以包括图形处理器(graphicsprocessingunit,gpu)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或wifi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。58.移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。可选地,光传感器包括环境光传感器及接近传感器,可选地,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。59.显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystaldisplay,lcd)、有机发光二极管(organiclight-emittingdiode,oled)等形式来配置显示面板1061。60.用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。可选地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。可选地,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。可选地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。61.可选地,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。62.接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(i/o)端口、视频i/o端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。63.存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,可选地,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。64.处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,可选地,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。65.移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。66.尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。67.为了便于理解本技术实施例,下面对本技术的移动终端所基于的通信网络系统进行描述。68.请参阅图2,图2为本技术实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的lte系统,该lte系统包括依次通讯连接的ue(userequipment,用户设备)201,e-utran(evolvedumtsterrestrialradioaccessnetwork,演进式umts陆地无线接入网)202,epc(evolvedpacketcore,演进式分组核心网)203和运营商的ip业务204。69.可选地,ue201可以是上述终端100,此处不再赘述。70.e-utran202包括enodeb2021和其它enodeb2022等。可选地,enodeb2021可以通过回程(backhaul)(例如x2接口)与其它enodeb2022连接,enodeb2021连接到epc203,enodeb2021可以提供ue201到epc203的接入。71.epc203可以包括mme(mobilitymanagemententity,移动性管理实体)2031,hss(homesubscriberserver,归属用户服务器)2032,其它mme2033,sgw(servinggateway,服务网关)2034,pgw(pdngateway,分组数据网络网关)2035和pcrf(policyandchargingrulesfunction,政策和资费功能实体)2036等。可选地,mme2031是处理ue201和epc203之间信令的控制节点,提供承载和连接管理。hss2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过sgw2034进行发送,pgw2035可以提供ue201的ip地址分配以及其它功能,pcrf2036是业务数据流和ip承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。72.ip业务204可以包括因特网、内联网、ims(ipmultimediasubsystem,ip多媒体子系统)或其它ip业务等。73.虽然上述以lte系统为例进行了介绍,但本领域技术人员应当知晓,本技术不仅仅适用于lte系统,也可以适用于其他无线通信系统,例如gsm、cdma2000、wcdma、td-scdma以及未来新的网络系统(如5g)等,此处不做限定。74.基于上述移动终端硬件结构以及通信网络系统,提出本技术各个实施例。75.第一实施例76.参照图3,图3为本发明显示方法的第一实施例,所述显示方法包括以下步骤:77.显示目标界面。78.可选地,ai(artificialintelligence,人工智能)辅助系统包括交互辅助功能,本实施例中的目标界面应用的是交互辅助功能选择界面,基于目标界面,可以选择交互辅助功能的输入方式和输出方式。可选地,输入方式可以是语音输入、手势输入或者文字输入等,其中,语音输入可以是采集音频信息,手势输入可以是采集图像信息,文字输入可以是采集文字信息。79.可选地,输出方式可以是语音输出、手势输出或者文字输出等,其中,语音输出可以是输出音频信息,手势输出可以是输出图像信息,文字输出可以是输出文字信息。80.可选地,语音输出由tacotron模型加hifigan的语音合成框架实现,其中,tacotron模型为端到端的语音合成模型,hifigan为拥有多尺度和多周期判别器的高效声码器。可选地,手势输出可以是虚拟人根据给手势信息,按顺序移动关键点进行输出。81.可选地,若选择语音输入和语音输出,则将语音输入对应的语言种类,转换为语音输入对应的语言种类,可选地,语言种类可以是英语、德语等,语音种类也可以是方言等,例如粤语。82.可选地,若选择语音输入和手势输出,则根据语音输入的语音信息生成手势信息并输出。可选地,在与听说障碍者进行聊天时,可以将语音信息生成手势信息,以便于与听说障碍者进行交流。83.可选地,若选择语音输入和文字输出,则根据语音输入的语音信息生成文字信息并输出,即对输入的语音信息进行语音识别。84.可选地,若选择手势输入和语音输出,则根据手势输入的手势信息生成语音信息并输出。可选地,根据预设的手势信息与语音信息的对应关系,将手势信息转换为语音信息,例如,输入的手势信息为ok手势,输出的语音信息为“好的”。85.可选地,若选择手势输入和手势输出,则根据手势输入的手势信息校正手势输出的手势信息并输出。可选地,根据手语规则,对输入的手势信息进行校正,输出校正后的手势信息。86.可选地,若选择手势输入和文字输出,则根据手势输入的手势信息生成文字信息并输出,实现手势翻译功能。可选地,根据预设的手势信息与语音信息的对应关系,将语音信息转换为手势信息,例如,输入的语音信息为“好的”,输出的手势信息为ok手势。87.可选地,若选择文字输入和语音输出,则根据文字输入的文字信息生成语音信息并输出,即对输入的文字信息进行语音合成。88.可选地,若选择文字输入和手势输出,则根据文字输入的文字信息生成手势信息并输出。在与听说障碍者进行聊天时,可以将文字信息生成手势信息,以便于与听说障碍者进行交流。89.可选地,若选择文字输入和文字输出,则根据文字输入的文字信息进行校正或者过滤,生成校正或者过滤后的文字信息并输出。可选地,根据预设模板输入的文字信息进行校正,例如,文字输入的文字信息为“拿快递”,校正后的文字输出的文字信息为“请帮忙拿一下快递”。可选地,根据预设关键词对输入的文字信息进行过滤,例如,当关键词为书信时,文字输入的文字信息为“拿快递和书信”,过滤后的文字输出的文字信息为“拿快递”。90.可选地,响应于获取预设指令,显示目标界面,可选地,预设指令可以开启交互功能的指令;和/或,响应于当前用户界面属于预设界面,显示目标界面。可选地,预设界面为预设应用的界面,如预设应用可以是紧急通话应用等。91.可选地,目标界面包括功能开关按钮、目标信息选择按钮以及交互文本选择按钮等。92.可选地,当功能开关按钮选择开启时,执行步骤s20。当功能开关按钮选择关闭时,不对采集到的目标信息进行处理。93.可选地,通过目标信息选择按钮可以选择采集的目标信息种类。可选地,目标信息可以是图像信息、音频信息中的至少一个。94.可选地,通过交互文本选择按钮可以选择交互文本的种类。可选地,交互文本的种类可以是不同语种或者不同方言等。95.s10,响应于接收到针对所述目标界面的触发操作,根据采集到的目标信息生成交互文本。96.可选地,目标信息为采集到的信息,目标信息包括图像信息和音频信息中至少一种。97.可选地,当目标信息包括图像信息时,可以获取人物的手势信息和/或肢体信息等图像或视频,当目标信息包括音频信息时,可以获取人物的语速、语音音量以及预设用词等。98.可选地,目标信息也可以是文字信息,将文字信息转换为预设语种的交互文本。99.s20步骤,显示所述交互文本。100.可选地,在预设区域中显示交互文本。可选地,例如在视频聊天场景中,预设区域可以是当前的聊天界面。101.可选地,在视频聊天等场景中,听说障碍者a和好友b聊天时,听说障碍者a通过输入手势信息表达自己的话语,通过本实施例中的方法,将手势信息翻译成交互文本或语音信息传输到好友b的终端显示,可选地,好友b可以通过文字信息进行回复,也可以通过语音回复障碍者a,通过本实施例中的方法,可以将语音内容转化成文本显示在障碍者a的终端界面上,可选地,也可以将语音内容转化为手势信息,显示在障碍者a的终端界面上,使听说障碍者能与普通人一样,与家人、朋友通过视频或者语音进行交流,同时解决了好友不懂手语的困扰,提高了沟通的便捷性。102.可选地,在紧急呼救、拨打电话等场景时,响应到用户在目标界面的触发操作,启动前置摄像头,获取包含用户的肢体动作和手势信息等内容的图像信息,通过图像识别技术将肢体动作、手势信息(手语)转化为语音信息或交互文本,传输到接收端。103.可选地,当听说障碍者和普通人沟通时,普通人使用语音或视频进行沟通的场景,可以将普通人的语音转换成文本或者手势,方便听说障碍者了解普通人想表达的意思。104.可选地,当听说障碍者用手语和普通人视频时,将手语转换为文本或语音,以便于不懂手语的普通人了解听说障碍者想表达的意思。105.在本实施例的技术方案中,显示目标界面;响应于接收到对目标界面的触发操作,根据采集到的目标信息生成交互文本,显示交互文本。通过对目标信息进行图像识别或者语音识别,确定目标信息对应的交互文本,提高了通信软件中语音和视频功能对特殊人群的友好度,提高了产品的便捷性。106.第二实施例107.参照图4,图4为本发明显示方法的第二实施例,基于第一实施例,所述s20步骤包括:108.s21,获取所述目标信息对应的情绪信息和文本信息;109.s22,根据所述情绪信息和文本信息,生成交互文本。110.可选地,根据应用场景识别目标信息对应的情绪信息。可选地,当应用场景为聊天场景时,情绪信息包括生气、焦虑、着急、开心、舒缓等信息。可选地,当应用场景为服务评价时,情绪信息包括对服务满意、不满意等信息。111.可选地,所述目标信息包括图像信息和/或音频信息。112.可选地,当目标信息包括图像信息时,例如听说障碍者做手语的图像信息,根据目标信息中用户的表情信息、肢体运动幅度、环境信息中的至少一个,获取情绪信息和文本信息。可选地,分别确定或获取用户的表情信息、肢体运动幅度、环境信息中的至少一个对应的情绪信息,将各个情绪信息进行集合,得到目标信息对应的情绪信息。113.可选地,表情信息包括五官的活动信息,根据表情信息确定或获取情绪信息,例如,表情信息为嘴巴张开,眼睛瞪大,确定或获取的情绪信息为惊讶等。114.可选地,当肢体运动幅度大于预设幅度值时,确定或获取情绪信息为激动或者着急等;当肢体运动幅度小于或等于预设幅度值时,确定或获取情绪信息为舒缓或者平静等。115.可选地,当环境信息为混乱状态时,例如房间内物品混乱摆放,确定或获取情绪信息为着急等。当环境信息为整洁状态时,确定或获取情绪信息为平静等。116.可选地,当目标信息包括音频信息时,根据目标信息中用户的语速、语音音量、预设用词中的至少一个,获取情绪信息。可选地,通过语音识别技术,获取音频信息中包含的文本信息。117.可选地,通过用户的语速、语音音量、预设用词中的至少一个获取对应的情绪信息。118.可选地,当语速大于预设速度时,确定或获取情绪信息为激动等,当语速小于或等于预设速度时,确定或获取情绪信息为平静等。119.可选地,当语音音量大于预设音量值时,确定或获取情绪信息为生气等,当语音音量小于或等于预设音量值时,确定或获取情绪信息为平静等。120.可选地,当用户的音频信息中包括预设第一用词时,预设第一用词可以为正面情绪用词,例如期待,确定情绪信息为正面情绪信息,例如心情愉悦等,当用户的音频信息中包括预设第二用词时,预设第二用词可以为负面情绪用词,例如想哭,确定情绪信息为负面情绪信息,例如心情悲伤。121.可选地,当目标信息包括音频和图像信息时,例如视频通话,根据目标信息中用户的表情信息、肢体运动幅度、环境信息中的至少一个,获取情绪信息;或者根据目标信息中用户的语速、语音音量、预设用词中的至少一个,获取情绪信息;并通过语音识别或者手势识别确定文本信息。再根据情绪信息和文本信息确定交互文本。122.可选地,根据情绪信息和文本信息,生成交互文本。例如,一般识别到文本信息是今天天气真好,但是如果感受到用户的情绪信息,如情绪信息为心情愉悦,显示的交互文本可以是“今天的天气真好啊”,加一个笑脸的表情,使得表达更生动更准确。123.在本实施例的技术方案中,响应于接收到对目标界面的触发操作,获取目标信息;获取目标信息对应的情绪信息和文本信息;根据情绪信息和文本信息,生成交互文本。通过识别目标信息对应的情绪信息,根据情绪信息和目标信息生成交互文本,提高了交互文本的准确度,将文本信息与用户情绪结合,使得最后形成的交互文本更加生动。124.第三实施例125.参照图5,图5为本发明显示方法的第三实施例,基于第一或第二实施例,所述s21步骤包括:126.s211,根据所述图像信息进行手势识别;127.s212,根据手势识别结果生成所述文本信息。128.可选地,当目标信息包括图像信息时,根据图像信息进行手势识别得到手势识别结果,根据手势识别结果生成文本信息。129.可选地,手势识别可以是手语识别,根据手语规则,将图像信息转换为文本信息。可选地,手势识别可以是预设手势识别,例如,ok手势对应的交互文本为同意,摆手手势对应的交互文本为拒绝等。130.可选地,s211步骤包括:识别图像信息中手部关键点,以及识别手部关键点的运动轨迹,根据手部关键点的运动轨迹获取手势识别结果;其中,不同的手部关键点和手部关键点的运动轨迹的组合,对应的手势识别结果不同,例如,手部关键点为食指,食指的运动轨迹为左右晃动,手势识别结果为不行,手部关键点为食指,食指的运动轨迹为指向自身,手势识别结果为作出手势的人自身。131.可选地,s212步骤包括:根据手势识别结果生成分词结果;根据分词结果生成交互文本。132.在本实施例的技术方案中,响应于接收到对目标界面的触发操作,获取图像信息;根据图像信息进行手势识别;根据手势识别结果生成文本信息。通过对目标信息进行图像识别,显示目标信息对应的交互文本,提高了沟通的便捷性和多样性。133.第四实施例134.参照图6,图6为本发明显示方法的第四实施例,基于第一至第三实施例中任一实施例,所述s22步骤包括:135.s221,根据所述情绪信息生成或确定情绪特征符号;136.s222,根据文本信息生成或确定文字;137.s223,根据所述情绪特征符号和文字确定所述交互文本。138.可选地,情绪特征符号包括表情符号和/或语气助词等。139.可选地,当情绪特征符号为表情符号时,根据情绪信息生成或确定表情符号,可选地,当情绪信息为生气时,确定表情符号为发怒表情;当情绪信息为心情愉悦时,确定表情符号为大笑表情。140.可选地,当情绪特征符号为语气助词时,根据情绪信息生成或确定语气助词,可选地,当情绪信息为困惑时,确定语气助词为“吗”;当情绪信息为惊讶时,确定语气助词为“哇”。141.可选地,根据情绪特征符号和文字确定交互文本。例如,一般识别到文本信息是今天天气真好,但是如果感受到用户的情绪信息,如情绪信息为心情愉悦,根据情绪信息生成或确定情绪特征符号,情绪特征符号包括笑脸的表情符号和语气助词“啊”,显示的交互文本可以是“今天的天气真好啊”,加一个笑脸的表情。142.在本实施例的技术方案中,根据所述情绪信息生成或确定情绪特征符号;根据文本信息生成或确定文字;根据所述情绪特征符号和文字确定所述交互文本。通过识别目标信息对应的情绪信息,根据情绪信息和目标信息生成交互文本,提高了交互文本确定的准确度,将文本信息与用户情绪结合,使得最后形成的交互文本更加生动。143.本技术还提供一种智能终端,智能终端包括存储器、处理器,存储器上存储有显示程序,显示程序程序被处理器执行时实现上述任一实施例中的显示方法的步骤。144.本技术还提供一种存储介质,存储介质上存储有显示方法程序程序,显示方法程序程序被处理器执行时实现上述任一实施例中的显示方法的步骤。145.在本技术提供的智能终端和存储介质的实施例中,可以包含任一上述显示方法实施例的全部技术特征,说明书拓展和解释内容与上述方法的各实施例基本相同,在此不再做赘述。146.本技术实施例还提供一种计算机程序产品,计算机程序产品包括计算机程序代码,当计算机程序代码在计算机上运行时,使得计算机执行如上各种可能的实施方式中的方法。147.本技术实施例还提供一种芯片,包括存储器和处理器,存储器用于存储计算机程序,处理器用于从存储器中调用并运行计算机程序,使得安装有芯片的设备执行如上各种可能的实施方式中的方法。148.可以理解,上述场景仅是作为示例,并不构成对于本技术实施例提供的技术方案的应用场景的限定,本技术的技术方案还可应用于其他场景。例如,本领域普通技术人员可知,随着系统架构的演变和新业务场景的出现,本技术实施例提供的技术方案对于类似的技术问题,同样适用。149.上述本技术实施例序号仅仅为了描述,不代表实施例的优劣。150.本技术实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。151.本技术实施例设备中的单元可以根据实际需要进行合并、划分和删减。152.在本技术中,对于相同或相似的术语概念、技术方案和/或应用场景描述,一般只在第一次出现时进行详细描述,后面再重复出现时,为了简洁,一般未再重复阐述,在理解本技术技术方案等内容时,对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等,可以参考其之前的相关详细描述。153.在本技术中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。154.本技术技术方案的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本技术记载的范围。155.通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上的一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,被控终端,或者网络设备等)执行本技术每个实施例的方法。156.在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本技术实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络,或者其他可编程装置。计算机指令可以存储在存储介质中,或者从一个存储介质向另一个存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、存储盘、磁带)、光介质(例如,dvd),或者半导体介质(例如固态存储盘solidstatedisk(ssd))等。157.以上仅为本技术的优选实施例,并非因此限制本技术的专利范围,凡是利用本技术说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域
:,均同理包括在本技术的专利保护范围内。当前第1页12当前第1页12
技术特征:
1.一种显示方法,其特征在于,所述方法包括以下步骤:s10:响应于接收到针对目标界面的触发操作,确认或获取目标信息;s20:根据所述目标信息显示交互文本。2.如权利要求1所述的显示方法,其特征在于,所述s20步骤包括:s21:获取所述目标信息对应的情绪信息和文本信息;s22:根据所述情绪信息和文本信息,生成交互文本。3.如权利要求2所述的显示方法,其特征在于,所述目标信息包括图像信息和/或音频信息,所述s21步骤包括以下至少一项:响应于从所述图像信息中获取表情信息、肢体运动幅度、环境信息中的至少一项,确定或获取所述情绪信息;响应于从所述音频信息中获取语速、语音音量、预设用词中的至少一项,确定或获取所述情绪信息。4.如权利要求2所述的显示方法,其特征在于,所述目标信息包括图像信息,所述s21步骤包括:根据所述图像信息进行手势识别;根据手势识别结果生成所述文本信息。5.如权利要求4所述的显示方法,其特征在于,所述根据所述图像信息进行手势识别包括:识别所述图像信息中手部关键点的运动轨迹,根据所述手部关键点的运动轨迹获取手势识别结果;和/或,所述根据手势识别结果生成所述文本信息包括:根据所述手势识别结果生成分词结果;根据分词结果生成文本信息。6.如权利要求2至5中任一项所述的显示方法,其特征在于,所述s22步骤包括:根据所述情绪信息生成或确定情绪特征符号;根据文本信息生成或确定文字;根据所述情绪特征符号和文字确定所述交互文本。7.如权利要求6所述的显示方法,其特征在于,所述情绪特征符号包括表情符号和/或语气助词。8.如权利要求1至5中任一项所述的显示方法,其特征在于,所述s10步骤包括以下至少一项:响应于获取预设指令,显示目标界面;响应于当前用户界面属于预设界面,显示目标界面。9.一种智能终端,其特征在于,所述智能终端包括:存储器、处理器,其中,所述存储器上存储有显示程序,所述显示程序被所述处理器执行时实现如权利要求1至8中任一项所述的显示方法的步骤。10.一种存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的显示方法的步骤。

技术总结
本申请提出了一种显示方法、智能终端及存储介质,所述方法包括:S10:响应于接收到针对目标界面的触发操作,确认或获取目标信息;S20:根据所述目标信息显示交互文本。本申请通过对目标信息进行图像识别或者语音识别,确定并显示目标信息对应的交互文本,提高了通信软件中语音和视频功能对特殊人群的友好度,提高了产品的用户体验。了产品的用户体验。了产品的用户体验。


技术研发人员:万彩艳
受保护的技术使用者:深圳传音控股股份有限公司
技术研发日:2023.05.08
技术公布日:2023/8/6
版权声明

本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

航空之家 https://www.aerohome.com.cn/

飞机超市 https://mall.aerohome.com.cn/

航空资讯 https://news.aerohome.com.cn/

分享:

扫一扫在手机阅读、分享本文

相关推荐