JP6775218B2 - Swallowing information presentation device - Google Patents
Swallowing information presentation device Download PDFInfo
- Publication number
- JP6775218B2 JP6775218B2 JP2016137063A JP2016137063A JP6775218B2 JP 6775218 B2 JP6775218 B2 JP 6775218B2 JP 2016137063 A JP2016137063 A JP 2016137063A JP 2016137063 A JP2016137063 A JP 2016137063A JP 6775218 B2 JP6775218 B2 JP 6775218B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- swallowing
- signal
- unit
- section
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Description
本発明は、嚥下情報提示装置に関する。 The present invention relates to a swallowing information presenting device.
例えば嚥下機能が低下すると、食事の際に通常よりも誤嚥を起こし易くなる。このため、例えば医療又は介護の現場では、看護者又は介護者等には、対象者の食事中において、嚥下が適切に行われていることの確認が求められる場合がある。そこで、嚥下が行われたことを容易に把握するための手段が提案されている(例えば下記特許文献1及び非特許文献1〜3参照)。
For example, when the swallowing function deteriorates, aspiration is more likely to occur when eating than usual. Therefore, for example, in the field of medical care or long-term care, a nurse or a caregiver may be required to confirm that swallowing is properly performed during the meal of the subject. Therefore, a means for easily grasping that swallowing has been performed has been proposed (see, for example,
特許文献1及び非特許文献1には、対象者の咽喉部の音をマイクで検出すると共に、検出された音をスピーカから出力する装置が開示されている。これらの装置によれば、看護者又は介護者等のユーザは、スピーカから出力される対象者の咽喉部の音を聞いて、その微妙な音の違いから嚥下が適切に行われたか否かを判断することができる。
非特許文献2には、対象者の嚥下時の音を咽喉部の複数箇所に配置された加速度トランスデューサで検出し、検出された音の音響信号に基づいて、嚥下時の音の産生部位、及び各産生部位における音響特性を解明する方法が開示されている。
In
ところで、特許文献1及び非特許文献1に記載の装置は、対象者の咽喉部の音をスピーカから単に出力する機能のみを有している。また、非特許文献2に記載の方法では、予め対象者の嚥下時の音であることが分かっている音が用いられる。
By the way, the devices described in
しかしながら、実際の咽喉部の音には、嚥下時の音だけでなく、咀嚼時、発話時の音等も含まれているため、咽喉部の音から嚥下時の音を聞き分けることは容易ではない。このため、嚥下が行われたか否かを確認することが難しい場合がある。 However, since the actual sound of the throat includes not only the sound of swallowing but also the sound of chewing and speaking, it is not easy to distinguish the sound of swallowing from the sound of the throat. .. Therefore, it may be difficult to confirm whether or not swallowing has been performed.
本発明は、上記課題に鑑みて為されたものであり、嚥下が行われたことをユーザに容易に確認させることができる嚥下情報提示装置を提供することを目的とする。 The present invention has been made in view of the above problems, and an object of the present invention is to provide a swallowing information presenting device that allows a user to easily confirm that swallowing has been performed.
本発明の嚥下情報提示装置は、対象者の咽喉部の音である咽喉音を音響信号として取得する信号取得部と、音響信号から特徴量を抽出し、対象者が嚥下を行った期間である嚥下区間を特徴量に基づいて検出する検出部と、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を知覚可能に出力するための信号に変換する生成部と、生成部によって変換された信号を出力する出力部と、を備える。 The swallowing information presenting device of the present invention is a signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal, and a period during which the subject swallows by extracting a feature amount from the acoustic signal. A detection unit that detects the swallowing section based on the feature amount, a generation unit that converts an acoustic signal in the swallowing section into a signal for perceptual output when the detection unit detects the swallowing section, and a generation unit. It includes an output unit that outputs a signal converted by.
この嚥下情報提示装置では、対象者の咽喉音の音響信号から特徴量が抽出され、特徴量に基づいて嚥下区間が検出される。このため、嚥下区間を自動的に識別することができる。また、嚥下区間が検出されたことを契機に、嚥下区間における音響信号が知覚可能に出力されるための信号に変換され、変換された信号が知覚可能に出力される。このため、看護者又は介護者等のユーザに対して、対象者が嚥下を行ったことをより確実に知らせることができる。よって、嚥下が行われたことをユーザに容易に確認させることができる。 In this swallowing information presenting device, a feature amount is extracted from the acoustic signal of the subject's throat sound, and the swallowing section is detected based on the feature amount. Therefore, the swallowing section can be automatically identified. Further, when the swallowing section is detected, the acoustic signal in the swallowing section is converted into a signal for perceptual output, and the converted signal is perceptibly output. Therefore, it is possible to more reliably notify a user such as a nurse or a caregiver that the subject has swallowed. Therefore, the user can easily confirm that swallowing has been performed.
本発明の嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換し、出力部は、第1再生信号を嚥下音として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、嚥下音を聞くことによって、嚥下が行われたことを容易に確認することができる。 In the swallowing information presenting device of the present invention, the generation unit converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound when the detection unit detects the swallowing section, and the output unit generates the first reproduction signal. , The first reproduction signal may be output as a swallowing sound. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by listening to the swallowing sound even when, for example, other work is being performed. ..
この嚥下情報提示装置では、生成部は、第1再生信号を変調信号に変調し、出力部は、変調信号を嚥下音として出力してもよい。この場合、嚥下音をより聞き取り易くして出力することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit may modulate the first reproduction signal into a modulated signal, and the output unit may output the modulated signal as a swallowing sound. In this case, since the swallowing sound can be more easily heard and output, the user can more easily confirm that the swallowing has been performed.
この嚥下情報提示装置では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal during a period including at least a part of the period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction unit. The signal may be output as a sore throat. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.
この嚥下情報提示装置では、生成部又は再生部は、嚥下音の強度と咽喉音の強度との少なくとも一方を調整可能な機能を含んでもよい。この場合、嚥下音がより聞き取り易くなるように嚥下音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit or the reproduction unit may include a function capable of adjusting at least one of the intensity of the swallowing sound and the intensity of the throat sound. In this case, since the balance between the intensity of the swallowing sound and the intensity of the throat sound can be adjusted so that the swallowing sound becomes easier to hear, the user can more easily confirm that the swallowing has been performed.
この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、予め記憶している検出音として出力するための信号に変換し、出力部は、生成部によって変換された信号を前記検出音として出力してもよい。この場合、嚥下音に代えて、より聞き取り易い検出音を出力するため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal to be output as a detection sound stored in advance when the detection unit detects the swallowing section, and the output unit. May output the signal converted by the generation unit as the detection sound. In this case, since the detection sound that is easier to hear is output instead of the swallowing sound, the user can more easily confirm that the swallowing has been performed.
この嚥下情報提示装置では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal during a period including at least a part of the period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction unit. The signal may be output as a sore throat. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.
この嚥下情報提示装置では、生成部又は再生部は、検出音の強度と咽喉音の強度との少なくとも一方を調整可能な機能を含んでもよい。この場合、検出音がより聞き取り易くなるように検出音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit or the reproduction unit may include a function capable of adjusting at least one of the intensity of the detected sound and the intensity of the throat sound. In this case, since the balance between the intensity of the detected sound and the intensity of the throat sound can be adjusted so that the detected sound can be heard more easily, the user can more easily confirm that swallowing has been performed.
この嚥下情報提示装置では、嚥下区間を除く期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal in a period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit outputs the second reproduction signal as a throat sound. You may. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.
この嚥下情報提示装置では、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal in a part of the period excluding the swallowing section and the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction signal. May be output as a throat sound. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.
この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、光として出力するための信号に変換し、出力部は、生成部によって変換された信号を光として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、出力部によって出力された光を見ることによって、嚥下が行われたことを容易に確認することができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as light when the detection unit detects the swallowing section, and the output unit is converted by the generation unit. The signal may be output as light. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by seeing the light output by the output unit even when performing other work, for example. You can check.
この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、振動として出力するための信号に変換し、出力部は、生成部によって変換された信号を振動として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、出力部によって出力された振動を感じることによって、嚥下が行われたことを容易に確認することができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as vibration when the detection unit detects the swallowing section, and the output unit is converted by the generation unit. The signal may be output as vibration. In this case, a user such as a nurse or a caregiver can easily feel that the swallowing has been performed by feeling the vibration output by the output unit even when performing other work, for example. You can check.
本発明によれば、嚥下が行われたことをユーザに容易に確認させることが可能となる。 According to the present invention, it is possible for the user to easily confirm that swallowing has been performed.
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。図1は、一実施形態に係る嚥下情報提示装置を示すブロック図である。図1に示す嚥下情報提示装置1は、対象者が嚥下を行った期間(嚥下区間)における対象者の咽喉部の音(咽喉音)である嚥下音を出力(再生)することによって、対象者が嚥下を行ったことを周囲に知らせる装置である。嚥下情報提示装置1を使用することが想定されるユーザの一例として、医療又は介護の現場における看護者又は介護者等が挙げられる。この場合、上記対象者は、ユーザから看護又は介護を受ける者等である。なお、ユーザ及び対象者は、これらの者に限定されない。
Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a swallowing information presenting device according to an embodiment. The swallowing
図1に示すように、嚥下情報提示装置1は、マイク2との間で有線又は無線によって通信を行う。マイク2は、対象者の咽喉部の音を検出して、電気信号である音響信号として嚥下情報提示装置1に出力する。マイク2は、例えば、対象者の首に固定される固定具によって当該対象者の咽喉部に保持される。なお、マイク2が対象者の咽喉部に保持される態様は特に限定されない。
As shown in FIG. 1, the swallowing
また、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4との間で有線又は無線によって通信を行う。嚥下情報提示装置1は、嚥下音として出力するための信号を第1スピーカ3に出力し、第1スピーカ3は、嚥下音を出力する。また、嚥下情報提示装置1は、咽喉音として出力するための信号を第2スピーカ4に出力し、第2スピーカ4は、咽喉音を出力する。
Further, the swallowing
図2は、嚥下情報提示装置のハードウェア構成を示すブロック図である。同図に示すように、嚥下情報提示装置1は、物理的には、CPU101、主記憶装置であるRAM102及びROM103、入力キー、タッチセンサ等の入力デバイスである入力装置104、タッチパネルディスプレイ、液晶ディスプレイ等の出力装置105、半導体メモリ等の補助記憶装置106、などを含むコンピュータシステム(情報処理プロセッサ)として構成されている。嚥下情報提示装置1の後述する処理機能は、図2に示されるCPU101、RAM102等のハードウェア上に1又は複数の所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで入力装置104及び出力装置105を動作させると共に、RAM102や補助記憶装置106におけるデータの読み出し及び書き込みを行うことで実現される。
FIG. 2 is a block diagram showing a hardware configuration of the swallowing information presenting device. As shown in the figure, the swallowing
図1に戻り、嚥下情報提示装置1の具備する機能的構成要素の詳細について説明する。嚥下情報提示装置1は、機能的構成要素として、信号取得部10と、検出部11と、生成部12と、再生部13と、遅延部14と、出力部15とを備えている。
Returning to FIG. 1, the details of the functional components included in the swallowing
信号取得部10は、マイク2によって出力される咽喉音を音響信号として取得する。信号取得部10は、取得した音響信号をA/D変換するためのA/D変換部を有する。A/D変換部の構成は特に限定されない。信号取得部10は、取得した音響信号をA/D変換し、検出部11に出力する。
The
検出部11は、音響信号から特徴量を抽出し、抽出した特徴量に基づいて嚥下区間を検出する。検出部11は、音区間検出部20と、特徴量抽出部21と、識別部22と、を有している。
The
音区間検出部20は、VAD(Voice Activity Detection :音区間検出)によって、音の信号を含む区間(期間)を判別する。本実施形態では、音区間検出部20は、具体的には、咽喉音の音響信号の内のパワー(例えば、対数パワー)が所定値以上である期間を検出し、検出した各期間を音イベントと判定する。ここで、音イベントとは、音を発生する事象を意味し、例えば、対象者による嚥下、咀嚼、発話等、又は環境音等が挙げられる。なお、音区間検出部20において用いることのできる具体的なVADの手法は、上述したものに限定されない。
The sound
特徴量抽出部21は、音区間検出部20によって検出された各音イベントにおける特徴量を抽出する。特徴量としては、例えば、MFCC(Mel-Frequency Cepstrum Coefficients:メル周波数ケプストラム係数)、及び、音響信号の位相情報を用いることができる。音響信号の位相情報は、音響信号の波形の位相の違いに関する情報である。位相情報を用いた場合には、音響信号は、パワースペクトルに差異がなくても位相によって異なる波形として扱われる。なお、特徴量抽出部21において用いられる位相情報については、「王龍標、外3名、「位相情報を利用した話者識別・照合法の評価」、社団法人情報処理学会研究報告、2008-SLP-74(30)、p.173-178」等に詳述されている。
The feature
識別部22は、識別器であり、特徴量抽出部21によって抽出された各音イベントにおける特徴量に基づいて、当該音イベントに対応するラベルを識別する。ここで、ラベルとは、各音イベントにおいて音を発生させた原因である。ラベルは、対象者による嚥下を少なくとも含み、その他に、対象者による咀嚼、発話等を含んでもよい。対応するラベルが嚥下であると識別部22によって識別された音イベントの音区間が、嚥下区間として検出される。本実施形態では、識別部22は、SVM(Support Vector Machine)を用いて構成されている。
The
生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を知覚可能に出力するための信号に変換する。具体的には、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換する。
When the
ここで、生成部12は、第1再生信号を、嚥下音として出力するための変調信号に変調する。「変調」とは、第1再生信号の振幅、周波数、及び位相の内の少なくとも一つを変化させることにより、第1再生信号の波形を変化させることを意味する。「嚥下音」とは、嚥下区間における音響信号を知覚可能な音として出力したものである。生成部12は、変調信号を出力部15に出力する。なお、生成部12は、第1再生信号を変調信号に変調し、変調信号を出力部15に出力するまでの処理に所定の時間を要する。
Here, the
また、生成部12は、出力部15によって出力される嚥下音の強度を調整可能な機能を有する調整部23を含む。なお、出力部15が嚥下音及び咽喉音を出力することについては、後述する。
Further, the
再生部13は、検出部11が嚥下区間を検出したか否かに拘らず(すなわち、嚥下区間を除く期間の一部及び嚥下区間において)、音響信号を、咽喉音として出力するための第2再生信号に変換する。「咽喉音」とは、嚥下区間に限らない期間における音響信号を知覚可能な音として出力したものである。再生部13は、第2再生信号を遅延部14に出力する。
The
遅延部14は、遅延回路によって構成され、第2再生信号を遅延させる。遅延部14は、遅延させた第2再生信号を出力部15に出力する。遅延部14が第2再生信号を遅延させる時間は、生成部12が、第1再生信号を変調信号に変調し、変調信号を出力部15に出力するまでの処理に要する時間と一致するように設定されている。
The
出力部15は、変調信号及び第2再生信号をD/A変換するためのD/A変換部を有する。D/A変換部の構成は特に限定されない。出力部15は、生成部12から入力された変調信号をD/A変換し、第1スピーカ3に出力する。また、出力部15は、遅延部14から入力された第2再生信号をD/A変換し、第2スピーカ4に出力する。これにより、出力部15は、第1スピーカ3を介して変調信号を嚥下音として出力すると共に、第2スピーカを介して第2再生信号を咽喉音として出力する。換言すると、出力部15は、第1スピーカ3及び第2スピーカ4を介して、嚥下音と咽喉音とをステレオ出力する。なお、出力部15は、嚥下音と咽喉音とを時間同期加算して、第1スピーカ3及び第2スピーカ4の両方を介して出力してもよい。
The
上述した生成部12の調整部23は、出力部15によって出力される嚥下音の強度を調整可能な機能を有する。すなわち、調整部23は、嚥下音の強度と咽喉音の強度とのバランスを調整する。例えば、調整部23は、ボリューム調整用ボタンによって実現され、当該ボタンによってバランスを調整する。或いは、調整部23は、ソフトウェアで実現される入力手段を含んでいて、当該入力手段によってバランスを調整するように構成されていてもよく、また、外部から通信等で取得されるパラメータによってバランスを調整するように構成されていてもよい。なお、調整部23は、嚥下音の強度と咽喉音の強度との両方を調整可能な機能を有していてもよく、その場合には、調整部23は、嚥下音又は咽喉音の何れか一方の強度を増大させると共に、何れか他方の強度を低下させてもよい。
The
続いて、上述した嚥下情報提示装置1の動作について、図3を参照しながら説明する。図3は、嚥下情報提示装置による嚥下情報の提示処理を示すフローチャートである。
Subsequently, the operation of the swallowing
嚥下情報の提示処理の開始の指示が受け付けられると、図3のフローチャートに示す処理が開始される。最初に、信号取得部10により出力される咽喉音の音響信号が、マイク2によって取得される(ステップS1)。そして、信号取得部10によって取得された音響信号が検出部11の音区間検出部20に出力される。
When the instruction to start the swallowing information presentation process is received, the process shown in the flowchart of FIG. 3 is started. First, the acoustic signal of the throat sound output by the
次に、音区間検出部20により、音響信号に対してVADが行われる。具体的には、音区間検出部20により、咽喉音の音響信号の内のパワー(例えば、対数パワー)が所定値以上である期間が検出され、検出された各期間が音イベントと判定される(ステップS2)。そして、特徴量抽出部21により、音区間検出部20によって検出された各音イベントにおける特徴量(例えば、MFCC、及び、各音イベントでの音響信号の位相情報)が抽出される(ステップS3)。更に、識別部22により、特徴量抽出部21によって抽出された各音イベントにおける特徴量に基づいて、対象者による嚥下に対応する音イベントが識別される(ステップS4)。このようにして識別された対象者の嚥下に対応する音イベントの音区間が、嚥下区間と判定される。
Next, the sound
次に、検出部11によって嚥下区間が検出されたことを契機に、生成部12により、嚥下区間における音響信号が第1再生信号に変換され(ステップS5)、第1再生信号が変調信号に変調される(ステップS6)。変調信号は、生成部12から出力部15に出力される。
Next, when the swallowing section is detected by the
ここで、ステップS5,S6の処理に同期して、再生部13により、音響信号が第2再生信号に変換され(ステップS7)、第2再生信号が遅延部14に出力される。第2再生信号は、遅延部14において遅延される(ステップS8)。遅延された第2再生信号は、遅延部14から出力部15に出力される。
Here, in synchronization with the processing of steps S5 and S6, the
そして、変調信号が嚥下音として出力部15によって出力されると共に、第2再生信号が咽喉音として出力部15によって出力される。このとき、嚥下音及び咽喉音は、第1スピーカ3及び第2スピーカ4を介して時間同期加算又はステレオで出力される(ステップS9)。
Then, the modulated signal is output by the
このとき、嚥下音が第1スピーカ3によって出力されている間にも、咽喉音は第2スピーカ4によって出力されている。このため、看護者又は介護者等のユーザは、第1スピーカ3によって出力される嚥下音によって、対象者が嚥下を行ったことを確認しつつ、第2スピーカ4によって出力される咽喉音から嚥下音を聞き分けることによって、検出部11が嚥下区間を正しく検出したこと(すなわち、検出部11が嚥下区間を検出することができなかった場合ではなく、且つ、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出した場合ではないこと)を確認することができる。
At this time, the throat sound is output by the
上記のステップS1〜ステップS9の処理は、嚥下情報の提示処理の終了の指示が受け付けられるまで繰り返される。 The processes of steps S1 to S9 are repeated until an instruction to end the swallowing information presentation process is received.
以上説明したように、嚥下情報提示装置1では、対象者の咽喉音の音響信号から特徴量が抽出され、特徴量に基づいて嚥下区間が検出される。このため、嚥下区間を自動的に識別することができる。また、嚥下区間が検出されたことを契機に、嚥下区間における音響信号が音として知覚可能に出力されるための信号に変換され、変換された信号が音として出力される。このため、看護者又は介護者等のユーザは、手や目を使って作業している最中であっても、耳を使って、対象者が嚥下を行ったことを確実に確認することができる。よって、ユーザが作業中であっても、嚥下が行われたことをユーザに容易に確認させることができる。
As described above, in the swallowing
また、嚥下情報提示装置1では、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換し、出力部15は、第1再生信号を嚥下音として出力する。このため、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、嚥下音を聞くことによって、嚥下が行われたことを容易に確認することができる。
Further, in the swallowing
また、嚥下情報提示装置1では、生成部12は、第1再生信号を変調信号に変調し、出力部15は、変調信号を嚥下音として出力する。このため、嚥下音をより聞き取り易くして出力することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。
Further, in the swallowing
また、嚥下情報提示装置1では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部13を更に備え、出力部15は、第2再生信号を咽喉音として出力する。このため、検出部11が嚥下区間を検出することができなかったとき、又は、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。
Further, the swallowing
また、嚥下情報提示装置1では、生成部12は、嚥下音の強度を調整可能な機能を含む。このため、嚥下音がより聞き取り易くなるように嚥下音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。
Further, in the swallowing
また、嚥下情報提示装置1では、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換する再生部13を更に備え、出力部15は、第2再生信号を咽喉音として出力する。このため、検出部11が嚥下区間を検出することができなかったとき、又は、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。
Further, the swallowing
本発明は、上述した実施形態に限定されるものではない。例えば、上記実施形態においては、生成部12は第1再生信号を変調信号に変調して出力部15に出力し、出力部15は変調信号を嚥下音として出力する。しかし、生成部12は第1再生信号を変調信号に変調せずに出力部15に出力し、出力部は第1再生信号を嚥下音として出力してもよい。
The present invention is not limited to the above-described embodiments. For example, in the above embodiment, the
また、上記実施形態においては、再生部13は、音響信号を、音として出力するための第2再生信号に変換し、出力部15は、第2再生信号を咽喉音として出力する。しかし、嚥下情報提示装置1は、再生部13を備えず、出力部15は、咽喉音を出力しなくてもよい。
Further, in the above embodiment, the
また、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、予め記憶している検出音として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を検出音として出力してもよい。この場合、嚥下音に代えて、より聞き取り易い検出音を出力するため、嚥下が行われたことをユーザに一層容易に確認させることができる。
Further, the
なお、検出音は、特に限定されるものではない。例えば、検出音は、予め録音された典型的な嚥下音であってもよく、人工的に作り出された合成音による「ごっくん」等の音(オノマトペ)であってもよく、チャイム等の既定の音であってもよい。 The detected sound is not particularly limited. For example, the detection sound may be a typical pre-recorded swallowing sound, or may be a sound (onomatopoeia) such as "gokkun" by an artificially created synthetic sound, or a default sound such as a chime. It may be a sound.
また、検出音は、嚥下区間の長さに応じて出力される長さが変えられてもよい。例えば、嚥下区間の長さ(例えば、嚥下の開始から完了までに要した時間の長さ)と同等の長さになるように、検出音の長さが変えられてもよい。そのためには、検出音の再生速度が調整されることによって検出音の長さが変えられてもよく、或いは、嚥下区間の長さと同等の長さになるまで検出音が繰り返し出力されてもよい。 Further, the length of the detected sound may be changed according to the length of the swallowing section. For example, the length of the detection sound may be changed so as to be the same length as the length of the swallowing section (for example, the length of time required from the start to the completion of swallowing). For that purpose, the length of the detected sound may be changed by adjusting the reproduction speed of the detected sound, or the detected sound may be repeatedly output until the length becomes equal to the length of the swallowing section. ..
ここで、出力部15が検出音を出力する場合においては、調整部23は、検出音の強度を調整可能な機能を有していてもよく、或いは、調整部23は、検出音の強度と咽喉音の強度との両方を調整可能な機能を有していてもよい。この場合、検出音がより聞き取り易くなるように検出音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。
Here, when the
また、調整部23は、再生部13に含まれ、出力部15によって出力される咽喉音の強度を調整可能な機能を有していてもよい。或いは、調整部23は、再生部13に含まれ、嚥下音(又は検出音)の強度と咽喉音の強度との両方を調整可能な機能を有していてもよい。
Further, the adjusting
また、上記実施形態においては、再生部13は、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換し、第2再生信号を咽喉音として出力する。しかし、再生部13は、嚥下区間を除く期間(のみ)における音響信号を、音として出力するための第2再生信号に変換し、出力部15は、第2再生信号を咽喉音として出力してもよい。この場合、検出部11が嚥下区間を検出することができなかったときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。
Further, in the above embodiment, the
また、上記実施形態においては、特徴量として、MFCC及び各音イベントでの音響信号の位相情報が用いられている。しかし、特徴量としては、これらMFCC及び位相情報に加えて、各音イベント内におけるエネルギーの平均値、各音イベントの継続長等を用いてもよく、また、咽喉音とは別に環境音を取得可能である場合においては、各音イベント内における咽喉音と環境音とのパワー及びパワー比の平均値、環境音のMFCC及びエネルギー等を更に用いてもよい。なお、特徴量としては、位相情報が用いられなくてもよい。 Further, in the above embodiment, the phase information of the MFCC and the acoustic signal at each sound event is used as the feature amount. However, as the feature amount, in addition to these MFCC and phase information, the average value of energy in each sound event, the continuation length of each sound event, etc. may be used, and the environmental sound is acquired separately from the throat sound. Where possible, the average value of the power and power ratio between the throat sound and the environmental sound in each sound event, the MFCC and energy of the environmental sound, and the like may be further used. The phase information may not be used as the feature amount.
また、上記実施形態においては、識別部22は、SVMを用いて構成されている。しかし、識別部22は、SVMに限定されず、例えば、決定木、GMM(Gaussian Mixture Model:混合ガウス分布モデル)、AdaBoost(AdaptiveBoosting)、HMM(Hidden Markov Model:隠れマルコフモデル)等を用いて構成されていてもよい。
Further, in the above embodiment, the
また、上記実施形態においては、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4との間で有線又は無線によって通信を行い、嚥下音と咽喉音とを時間同期加算又はステレオで出力している。しかし、嚥下情報提示装置1は、一つのスピーカとの間で有線又は無線によって通信を行い、嚥下音と咽喉音とを時間同期加算で出力してもよい。
Further, in the above embodiment, the swallowing
また、上記実施形態においては、信号取得部10はA/D変換部を有し、出力部15はD/A変換部を有していた。しかし、信号取得部10はA/D変換部を有していなくてもよく、出力部15はD/A変換部を有していなくてもよい。
Further, in the above embodiment, the
また、上記実施形態においては、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を音として知覚可能に出力するための信号に変換した。しかし、知覚可能な出力としては、音に限らず、ユーザの五感によって感知され得る出力であれば特に限定されない。
Further, in the above embodiment, the
例えば、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、光として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を光として出力してもよい。なお、嚥下区間における音響信号が光に変換される場合には、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4に代えて、LED等の発光装置に接続されていてもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、LEDの光を見ることによって、嚥下が行われたことを容易に確認することができる。
For example, the
或いは、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、振動として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を振動として出力してもよい。なお、嚥下区間における音響信号が振動に変換される場合には、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4に代えて、バイブレータ等の振動生成装置に接続されていてもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、バイブレータの振動を感じることによって、嚥下が行われたことを容易に確認することができる。
Alternatively, the
1…嚥下情報提示装置、2…マイク、3…第1スピーカ、4…第2スピーカ、10…信号取得部、11…検出部、12…生成部、13…再生部、14…遅延部、15…出力部、20…音区間検出部、21…特徴量抽出部、22…識別部、23…調整部。 1 ... swallowing information presenting device, 2 ... microphone, 3 ... first speaker, 4 ... second speaker, 10 ... signal acquisition unit, 11 ... detection unit, 12 ... generation unit, 13 ... reproduction unit, 14 ... delay unit, 15 ... Output unit, 20 ... Sound section detection unit, 21 ... Feature amount extraction unit, 22 ... Identification unit, 23 ... Adjustment unit.
Claims (9)
前記音響信号から特徴量を抽出し、前記対象者が嚥下を行った期間である嚥下区間を前記特徴量に基づいて検出する検出部と、
前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を知覚可能に出力するための信号に変換する生成部と、
前記生成部によって変換された信号を出力する出力部と、を備え、
前記生成部は、前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を、音として出力するための第1再生信号に変換し、
前記出力部は、前記第1再生信号を嚥下音として出力する、嚥下情報提示装置。 A signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal,
A detection unit that extracts a feature amount from the acoustic signal and detects a swallowing section, which is the period during which the subject swallows, based on the feature amount.
When the detection unit detects the swallowing section, a generation unit that converts the acoustic signal in the swallowing section into a signal for perceptual output, and a generation unit.
An output unit that outputs a signal converted by the generation unit is provided .
When the detection unit detects the swallowing section, the generation unit converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound.
The output unit is a swallowing information presenting device that outputs the first reproduction signal as a swallowing sound .
前記出力部は、前記変調信号を前記嚥下音として出力する、請求項1記載の嚥下情報提示装置。 The generator modulates the first reproduction signal into a modulated signal,
The output unit outputs the modulated signal as said swallowing sound, swallowing information presentation apparatus according to claim 1.
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項1又は2記載の嚥下情報提示装置。 A reproduction unit for converting the acoustic signal into a second reproduction signal for outputting as sound in a period including at least a part of the period excluding the swallowing section is further provided.
The swallowing information presenting device according to claim 1 or 2 , wherein the output unit outputs the second reproduction signal as the throat sound.
前記音響信号から特徴量を抽出し、前記対象者が嚥下を行った期間である嚥下区間を前記特徴量に基づいて検出する検出部と、
前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を知覚可能に出力するための信号に変換する生成部と、
前記生成部によって変換された信号を出力する出力部と、
前記嚥下区間を除く期間の一部を少なくとも含む期間における前記音響信号を、音として出力するための第2再生信号に変換する再生部と、を備え、
前記生成部は、前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を、予め記憶している検出音として出力するための信号に変換し、
前記出力部は、前記生成部によって変換された信号を前記検出音として出力し、
前記出力部は、前記第2再生信号を前記咽喉音として出力する、嚥下情報提示装置。 A signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal,
A detection unit that extracts a feature amount from the acoustic signal and detects a swallowing section, which is the period during which the subject swallows, based on the feature amount.
When the detection unit detects the swallowing section, a generation unit that converts the acoustic signal in the swallowing section into a signal for perceptual output, and a generation unit.
An output unit that outputs the signal converted by the generation unit, and
A reproduction unit for converting the acoustic signal into a second reproduction signal for output as sound in a period including at least a part of the period excluding the swallowing section is provided.
When the detection unit detects the swallowing section, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as a detection sound stored in advance.
The output unit outputs the signal converted by the generation unit as the detection sound .
The output unit is a swallowing information presenting device that outputs the second reproduction signal as the throat sound .
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項3〜6の何れか一項記載の嚥下情報提示装置。 A reproduction unit for converting the acoustic signal in a period excluding the swallowing section into a second reproduction signal for outputting as sound is further provided.
The swallowing information presenting device according to any one of claims 3 to 6 , wherein the output unit outputs the second reproduction signal as the throat sound.
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項3〜6の何れか一項記載の嚥下情報提示装置。 A reproduction unit for converting a part of the period excluding the swallowing section and the acoustic signal in the swallowing section into a second reproduction signal for outputting as sound is further provided.
The swallowing information presenting device according to any one of claims 3 to 6 , wherein the output unit outputs the second reproduction signal as the throat sound.
前記音響信号を基に音区間を検出する第2ステップと、 The second step of detecting the sound section based on the acoustic signal and
前記音響信号の前記音区間における特徴量を抽出する第3ステップと、 The third step of extracting the feature amount of the acoustic signal in the sound section, and
前記音区間における前記特徴量に基づいて、対象者が嚥下を行った音区間である嚥下区間を検出する第4ステップと、 A fourth step of detecting a swallowing section, which is a sound section swallowed by the subject, based on the feature amount in the sound section.
前記第4ステップにて前記嚥下区間が検出されたことを契機に、前記嚥下区間における前記音響信号を音として出力するための第1再生信号に変換する第5ステップと、 When the swallowing section is detected in the fourth step, the fifth step of converting the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound, and
前記第1再生信号を変調信号に変調する第6ステップと、 The sixth step of modulating the first reproduced signal into a modulated signal, and
前記音響信号を音として出力するための第2再生信号に変換する第7ステップと、 The seventh step of converting the acoustic signal into a second reproduction signal for outputting as sound, and
前記第2再生信号を遅延させる第8ステップと、 The eighth step of delaying the second reproduction signal and
前記変調信号を嚥下音として、前記第2再生信号を咽喉音として、出力する第9ステップと、 The ninth step of outputting the modulated signal as a swallowing sound and the second reproduction signal as a throat sound,
を実行する嚥下情報提示装置。A swallowing information presentation device that performs.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016137063A JP6775218B2 (en) | 2016-07-11 | 2016-07-11 | Swallowing information presentation device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016137063A JP6775218B2 (en) | 2016-07-11 | 2016-07-11 | Swallowing information presentation device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018007723A JP2018007723A (en) | 2018-01-18 |
| JP6775218B2 true JP6775218B2 (en) | 2020-10-28 |
Family
ID=60994028
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016137063A Active JP6775218B2 (en) | 2016-07-11 | 2016-07-11 | Swallowing information presentation device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6775218B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112885458A (en) * | 2021-02-04 | 2021-06-01 | 中南大学 | Swallowing capacity detection device and method and storage medium |
| WO2023127504A1 (en) * | 2021-12-27 | 2023-07-06 | 国立大学法人静岡大学 | Evaluation device, evaluation method, and evaluation program |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003111748A (en) * | 2001-10-04 | 2003-04-15 | Nippon Riko Igaku Kenkyusho:Kk | Swallowing sound obtaining device |
| EP1997428A1 (en) * | 2006-03-22 | 2008-12-03 | Konica Minolta Medical & Graphic, Inc. | Diagnosis system and program to be used in the diagnosis system |
| JP5952536B2 (en) * | 2011-07-12 | 2016-07-13 | 国立大学法人 筑波大学 | Swallowing function data measuring device, swallowing function data measuring system, and swallowing function data measuring method |
| KR101702275B1 (en) * | 2013-08-26 | 2017-02-03 | 가꼬우호우징 효고 이카다이가쿠 | Swallowing estimation device, information terminal device, and program |
-
2016
- 2016-07-11 JP JP2016137063A patent/JP6775218B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2018007723A (en) | 2018-01-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20240221718A1 (en) | Systems and methods for providing low latency user feedback associated with a user speaking silently | |
| JP4327241B2 (en) | Speech enhancement device and speech enhancement method | |
| CN110753957B (en) | Haptic communication system using skin actuators to simulate continuous human touch | |
| JP6463825B2 (en) | Multi-speaker speech recognition correction system | |
| US12230124B2 (en) | Encoding apparatus, encoding method, decoding apparatus, decoding method, transmission system, receiving apparatus, and program | |
| US9786201B2 (en) | Wearable sound | |
| US9679546B2 (en) | Sound vest | |
| KR102495888B1 (en) | Electronic device for outputting sound and operating method thereof | |
| EP1561641A3 (en) | Dummy sound generating apparatus and dummy sound generating method and computer product | |
| JPWO2018038235A1 (en) | Hearing training apparatus, hearing training method, and program | |
| TW201434600A (en) | Robot for generating body motion corresponding to sound signal | |
| WO2021153101A1 (en) | Information processing device, information processing method, and information processing program | |
| JP6775218B2 (en) | Swallowing information presentation device | |
| CN108630214A (en) | Sound processing apparatus, sound processing method and storage medium | |
| WO2016206643A1 (en) | Method and device for controlling interactive behavior of robot and robot thereof | |
| WO2024058147A1 (en) | Processing device, output device, and processing system | |
| TWI392983B (en) | Automatic control method using tone and device thereof | |
| JP6346245B2 (en) | Toy system, toy body control method, and program | |
| JP2024108036A (en) | Karaoke device | |
| KR100807778B1 (en) | Learning aids | |
| JP6918471B2 (en) | Dialogue assist system control method, dialogue assist system, and program | |
| JPH08275279A (en) | Voice pickup system | |
| US12436664B1 (en) | Method and apparatus for automatically updating a user interface | |
| CN101393429A (en) | Automatic control system and automatic control device using tone | |
| EP4603963A1 (en) | Acoustic device, acoustic control method, and acoustic control program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190612 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200529 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200616 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200811 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200915 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200924 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6775218 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |