JP6775218B2 - Swallowing information presentation device - Google Patents

Swallowing information presentation device Download PDF

Info

Publication number
JP6775218B2
JP6775218B2 JP2016137063A JP2016137063A JP6775218B2 JP 6775218 B2 JP6775218 B2 JP 6775218B2 JP 2016137063 A JP2016137063 A JP 2016137063A JP 2016137063 A JP2016137063 A JP 2016137063A JP 6775218 B2 JP6775218 B2 JP 6775218B2
Authority
JP
Japan
Prior art keywords
sound
swallowing
signal
unit
section
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016137063A
Other languages
Japanese (ja)
Other versions
JP2018007723A (en
Inventor
雅史 西村
雅史 西村
眞吾 黒岩
眞吾 黒岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shizuoka University NUC
Chiba University NUC
Original Assignee
Shizuoka University NUC
Chiba University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shizuoka University NUC, Chiba University NUC filed Critical Shizuoka University NUC
Priority to JP2016137063A priority Critical patent/JP6775218B2/en
Publication of JP2018007723A publication Critical patent/JP2018007723A/en
Application granted granted Critical
Publication of JP6775218B2 publication Critical patent/JP6775218B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、嚥下情報提示装置に関する。 The present invention relates to a swallowing information presenting device.

例えば嚥下機能が低下すると、食事の際に通常よりも誤嚥を起こし易くなる。このため、例えば医療又は介護の現場では、看護者又は介護者等には、対象者の食事中において、嚥下が適切に行われていることの確認が求められる場合がある。そこで、嚥下が行われたことを容易に把握するための手段が提案されている(例えば下記特許文献1及び非特許文献1〜3参照)。 For example, when the swallowing function deteriorates, aspiration is more likely to occur when eating than usual. Therefore, for example, in the field of medical care or long-term care, a nurse or a caregiver may be required to confirm that swallowing is properly performed during the meal of the subject. Therefore, a means for easily grasping that swallowing has been performed has been proposed (see, for example, Patent Document 1 and Non-Patent Documents 1 to 3 below).

特許文献1及び非特許文献1には、対象者の咽喉部の音をマイクで検出すると共に、検出された音をスピーカから出力する装置が開示されている。これらの装置によれば、看護者又は介護者等のユーザは、スピーカから出力される対象者の咽喉部の音を聞いて、その微妙な音の違いから嚥下が適切に行われたか否かを判断することができる。 Patent Document 1 and Non-Patent Document 1 disclose a device that detects the sound of the throat of a subject with a microphone and outputs the detected sound from a speaker. According to these devices, a user such as a nurse or a caregiver listens to the sound of the subject's throat output from the speaker and determines whether or not swallowing is properly performed based on the subtle difference in sound. You can judge.

非特許文献2には、対象者の嚥下時の音を咽喉部の複数箇所に配置された加速度トランスデューサで検出し、検出された音の音響信号に基づいて、嚥下時の音の産生部位、及び各産生部位における音響特性を解明する方法が開示されている。 In Non-Patent Document 2, a subject's swallowing sound is detected by acceleration transducers arranged at a plurality of locations in the throat, and based on the acoustic signal of the detected sound, a swallowing sound production site and a swallowing sound production site and A method for elucidating the acoustic characteristics at each production site is disclosed.

特開2003−111748号公報Japanese Unexamined Patent Publication No. 2003-111748

“ごっくんチェッカー”、[online]、株式会社リザービア、[平成28年5月28日検索]、インターネット〈URL:http://www.誤嚥性肺炎.com/〉"Cum checker", [online], Reserveia Co., Ltd., [Search on May 28, 2016], Internet <URL: http: // www. Aspiration pneumonia.com/> 中山裕司、外5名、「嚥下音の産生部位と音響特性の検討」、昭和歯学会雑誌、昭和大学昭和歯学会、平成18年、第26巻、p.163−174Yuji Nakayama, 5 outsiders, "Study of swallowing sound production site and acoustic characteristics", Showa Dental Society Magazine, Showa University Showa Dental Society, 2006, Vol. 26, p.163-174

ところで、特許文献1及び非特許文献1に記載の装置は、対象者の咽喉部の音をスピーカから単に出力する機能のみを有している。また、非特許文献2に記載の方法では、予め対象者の嚥下時の音であることが分かっている音が用いられる。 By the way, the devices described in Patent Document 1 and Non-Patent Document 1 have only a function of simply outputting the sound of the throat of the subject from the speaker. Further, in the method described in Non-Patent Document 2, a sound that is known in advance to be the sound of the subject when swallowing is used.

しかしながら、実際の咽喉部の音には、嚥下時の音だけでなく、咀嚼時、発話時の音等も含まれているため、咽喉部の音から嚥下時の音を聞き分けることは容易ではない。このため、嚥下が行われたか否かを確認することが難しい場合がある。 However, since the actual sound of the throat includes not only the sound of swallowing but also the sound of chewing and speaking, it is not easy to distinguish the sound of swallowing from the sound of the throat. .. Therefore, it may be difficult to confirm whether or not swallowing has been performed.

本発明は、上記課題に鑑みて為されたものであり、嚥下が行われたことをユーザに容易に確認させることができる嚥下情報提示装置を提供することを目的とする。 The present invention has been made in view of the above problems, and an object of the present invention is to provide a swallowing information presenting device that allows a user to easily confirm that swallowing has been performed.

本発明の嚥下情報提示装置は、対象者の咽喉部の音である咽喉音を音響信号として取得する信号取得部と、音響信号から特徴量を抽出し、対象者が嚥下を行った期間である嚥下区間を特徴量に基づいて検出する検出部と、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を知覚可能に出力するための信号に変換する生成部と、生成部によって変換された信号を出力する出力部と、を備える。 The swallowing information presenting device of the present invention is a signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal, and a period during which the subject swallows by extracting a feature amount from the acoustic signal. A detection unit that detects the swallowing section based on the feature amount, a generation unit that converts an acoustic signal in the swallowing section into a signal for perceptual output when the detection unit detects the swallowing section, and a generation unit. It includes an output unit that outputs a signal converted by.

この嚥下情報提示装置では、対象者の咽喉音の音響信号から特徴量が抽出され、特徴量に基づいて嚥下区間が検出される。このため、嚥下区間を自動的に識別することができる。また、嚥下区間が検出されたことを契機に、嚥下区間における音響信号が知覚可能に出力されるための信号に変換され、変換された信号が知覚可能に出力される。このため、看護者又は介護者等のユーザに対して、対象者が嚥下を行ったことをより確実に知らせることができる。よって、嚥下が行われたことをユーザに容易に確認させることができる。 In this swallowing information presenting device, a feature amount is extracted from the acoustic signal of the subject's throat sound, and the swallowing section is detected based on the feature amount. Therefore, the swallowing section can be automatically identified. Further, when the swallowing section is detected, the acoustic signal in the swallowing section is converted into a signal for perceptual output, and the converted signal is perceptibly output. Therefore, it is possible to more reliably notify a user such as a nurse or a caregiver that the subject has swallowed. Therefore, the user can easily confirm that swallowing has been performed.

本発明の嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換し、出力部は、第1再生信号を嚥下音として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、嚥下音を聞くことによって、嚥下が行われたことを容易に確認することができる。 In the swallowing information presenting device of the present invention, the generation unit converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound when the detection unit detects the swallowing section, and the output unit generates the first reproduction signal. , The first reproduction signal may be output as a swallowing sound. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by listening to the swallowing sound even when, for example, other work is being performed. ..

この嚥下情報提示装置では、生成部は、第1再生信号を変調信号に変調し、出力部は、変調信号を嚥下音として出力してもよい。この場合、嚥下音をより聞き取り易くして出力することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit may modulate the first reproduction signal into a modulated signal, and the output unit may output the modulated signal as a swallowing sound. In this case, since the swallowing sound can be more easily heard and output, the user can more easily confirm that the swallowing has been performed.

この嚥下情報提示装置では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal during a period including at least a part of the period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction unit. The signal may be output as a sore throat. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

この嚥下情報提示装置では、生成部又は再生部は、嚥下音の強度と咽喉音の強度との少なくとも一方を調整可能な機能を含んでもよい。この場合、嚥下音がより聞き取り易くなるように嚥下音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit or the reproduction unit may include a function capable of adjusting at least one of the intensity of the swallowing sound and the intensity of the throat sound. In this case, since the balance between the intensity of the swallowing sound and the intensity of the throat sound can be adjusted so that the swallowing sound becomes easier to hear, the user can more easily confirm that the swallowing has been performed.

この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、予め記憶している検出音として出力するための信号に変換し、出力部は、生成部によって変換された信号を前記検出音として出力してもよい。この場合、嚥下音に代えて、より聞き取り易い検出音を出力するため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal to be output as a detection sound stored in advance when the detection unit detects the swallowing section, and the output unit. May output the signal converted by the generation unit as the detection sound. In this case, since the detection sound that is easier to hear is output instead of the swallowing sound, the user can more easily confirm that the swallowing has been performed.

この嚥下情報提示装置では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal during a period including at least a part of the period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction unit. The signal may be output as a sore throat. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

この嚥下情報提示装置では、生成部又は再生部は、検出音の強度と咽喉音の強度との少なくとも一方を調整可能な機能を含んでもよい。この場合、検出音がより聞き取り易くなるように検出音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 In this swallowing information presenting device, the generation unit or the reproduction unit may include a function capable of adjusting at least one of the intensity of the detected sound and the intensity of the throat sound. In this case, since the balance between the intensity of the detected sound and the intensity of the throat sound can be adjusted so that the detected sound can be heard more easily, the user can more easily confirm that swallowing has been performed.

この嚥下情報提示装置では、嚥下区間を除く期間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal in a period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit outputs the second reproduction signal as a throat sound. You may. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

この嚥下情報提示装置では、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、出力部は、第2再生信号を咽喉音として出力してもよい。この場合、検出部が嚥下区間を検出することができなかったとき、又は、検出部が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 This swallowing information presenting device further includes a reproduction unit that converts an acoustic signal in a part of the period excluding the swallowing section and the swallowing section into a second reproduction signal for outputting as sound, and the output unit is a second reproduction signal. May be output as a throat sound. In this case, the throat sound continues to be output even when the detection unit cannot detect the swallowing section or when the detection unit erroneously detects a period other than the swallowing section as a swallowing section. ing. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、光として出力するための信号に変換し、出力部は、生成部によって変換された信号を光として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、出力部によって出力された光を見ることによって、嚥下が行われたことを容易に確認することができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as light when the detection unit detects the swallowing section, and the output unit is converted by the generation unit. The signal may be output as light. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by seeing the light output by the output unit even when performing other work, for example. You can check.

この嚥下情報提示装置では、生成部は、検出部が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、振動として出力するための信号に変換し、出力部は、生成部によって変換された信号を振動として出力してもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、出力部によって出力された振動を感じることによって、嚥下が行われたことを容易に確認することができる。 In this swallowing information presenting device, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as vibration when the detection unit detects the swallowing section, and the output unit is converted by the generation unit. The signal may be output as vibration. In this case, a user such as a nurse or a caregiver can easily feel that the swallowing has been performed by feeling the vibration output by the output unit even when performing other work, for example. You can check.

本発明によれば、嚥下が行われたことをユーザに容易に確認させることが可能となる。 According to the present invention, it is possible for the user to easily confirm that swallowing has been performed.

一実施形態に係る嚥下情報提示装置を示すブロック図である。It is a block diagram which shows the swallowing information presenting apparatus which concerns on one Embodiment. 嚥下情報提示装置のハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware structure of the swallowing information presenting apparatus. 嚥下情報提示装置による嚥下情報の提示処理を示すフローチャートである。It is a flowchart which shows the presentation processing of the swallowing information by a swallowing information presenting apparatus.

以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。図1は、一実施形態に係る嚥下情報提示装置を示すブロック図である。図1に示す嚥下情報提示装置1は、対象者が嚥下を行った期間(嚥下区間)における対象者の咽喉部の音(咽喉音)である嚥下音を出力(再生)することによって、対象者が嚥下を行ったことを周囲に知らせる装置である。嚥下情報提示装置1を使用することが想定されるユーザの一例として、医療又は介護の現場における看護者又は介護者等が挙げられる。この場合、上記対象者は、ユーザから看護又は介護を受ける者等である。なお、ユーザ及び対象者は、これらの者に限定されない。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a block diagram showing a swallowing information presenting device according to an embodiment. The swallowing information presenting device 1 shown in FIG. 1 outputs (reproduces) the swallowing sound, which is the sound of the subject's throat (throat sound) during the period (swallowing section) during which the subject swallows, and thereby the subject. It is a device that informs the surroundings that the swallowing has been performed. An example of a user who is expected to use the swallowing information presenting device 1 is a nurse or a caregiver in a medical or long-term care field. In this case, the target person is a person who receives nursing or long-term care from the user. The users and target persons are not limited to these persons.

図1に示すように、嚥下情報提示装置1は、マイク2との間で有線又は無線によって通信を行う。マイク2は、対象者の咽喉部の音を検出して、電気信号である音響信号として嚥下情報提示装置1に出力する。マイク2は、例えば、対象者の首に固定される固定具によって当該対象者の咽喉部に保持される。なお、マイク2が対象者の咽喉部に保持される態様は特に限定されない。 As shown in FIG. 1, the swallowing information presenting device 1 communicates with the microphone 2 by wire or wirelessly. The microphone 2 detects the sound of the subject's throat and outputs it to the swallowing information presenting device 1 as an acoustic signal which is an electric signal. The microphone 2 is held in the subject's throat by, for example, a fixture fixed to the subject's neck. The mode in which the microphone 2 is held in the throat of the subject is not particularly limited.

また、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4との間で有線又は無線によって通信を行う。嚥下情報提示装置1は、嚥下音として出力するための信号を第1スピーカ3に出力し、第1スピーカ3は、嚥下音を出力する。また、嚥下情報提示装置1は、咽喉音として出力するための信号を第2スピーカ4に出力し、第2スピーカ4は、咽喉音を出力する。 Further, the swallowing information presenting device 1 communicates with the first speaker 3 and the second speaker 4 by wire or wirelessly. The swallowing information presenting device 1 outputs a signal for outputting as a swallowing sound to the first speaker 3, and the first speaker 3 outputs a swallowing sound. Further, the swallowing information presenting device 1 outputs a signal for outputting as a throat sound to the second speaker 4, and the second speaker 4 outputs a throat sound.

図2は、嚥下情報提示装置のハードウェア構成を示すブロック図である。同図に示すように、嚥下情報提示装置1は、物理的には、CPU101、主記憶装置であるRAM102及びROM103、入力キー、タッチセンサ等の入力デバイスである入力装置104、タッチパネルディスプレイ、液晶ディスプレイ等の出力装置105、半導体メモリ等の補助記憶装置106、などを含むコンピュータシステム(情報処理プロセッサ)として構成されている。嚥下情報提示装置1の後述する処理機能は、図2に示されるCPU101、RAM102等のハードウェア上に1又は複数の所定のコンピュータソフトウェアを読み込ませることにより、CPU101の制御のもとで入力装置104及び出力装置105を動作させると共に、RAM102や補助記憶装置106におけるデータの読み出し及び書き込みを行うことで実現される。 FIG. 2 is a block diagram showing a hardware configuration of the swallowing information presenting device. As shown in the figure, the swallowing information presenting device 1 is physically a CPU 101, a RAM 102 and a ROM 103 which are main storage devices, an input device 104 which is an input device such as an input key and a touch sensor, a touch panel display, and a liquid crystal display. It is configured as a computer system (information processor) including an output device 105 such as, and an auxiliary storage device 106 such as a semiconductor memory. The processing function described later of the swallowing information presenting device 1 is to load one or a plurality of predetermined computer software on the hardware such as the CPU 101 and the RAM 102 shown in FIG. 2, and the input device 104 is controlled by the CPU 101. It is realized by operating the output device 105 and reading and writing data in the RAM 102 and the auxiliary storage device 106.

図1に戻り、嚥下情報提示装置1の具備する機能的構成要素の詳細について説明する。嚥下情報提示装置1は、機能的構成要素として、信号取得部10と、検出部11と、生成部12と、再生部13と、遅延部14と、出力部15とを備えている。 Returning to FIG. 1, the details of the functional components included in the swallowing information presenting device 1 will be described. The swallowing information presenting device 1 includes a signal acquisition unit 10, a detection unit 11, a generation unit 12, a reproduction unit 13, a delay unit 14, and an output unit 15 as functional components.

信号取得部10は、マイク2によって出力される咽喉音を音響信号として取得する。信号取得部10は、取得した音響信号をA/D変換するためのA/D変換部を有する。A/D変換部の構成は特に限定されない。信号取得部10は、取得した音響信号をA/D変換し、検出部11に出力する。 The signal acquisition unit 10 acquires the throat sound output by the microphone 2 as an acoustic signal. The signal acquisition unit 10 has an A / D conversion unit for A / D conversion of the acquired acoustic signal. The configuration of the A / D conversion unit is not particularly limited. The signal acquisition unit 10 A / D-converts the acquired acoustic signal and outputs it to the detection unit 11.

検出部11は、音響信号から特徴量を抽出し、抽出した特徴量に基づいて嚥下区間を検出する。検出部11は、音区間検出部20と、特徴量抽出部21と、識別部22と、を有している。 The detection unit 11 extracts a feature amount from the acoustic signal and detects a swallowing section based on the extracted feature amount. The detection unit 11 includes a sound section detection unit 20, a feature amount extraction unit 21, and an identification unit 22.

音区間検出部20は、VAD(Voice Activity Detection :音区間検出)によって、音の信号を含む区間(期間)を判別する。本実施形態では、音区間検出部20は、具体的には、咽喉音の音響信号の内のパワー(例えば、対数パワー)が所定値以上である期間を検出し、検出した各期間を音イベントと判定する。ここで、音イベントとは、音を発生する事象を意味し、例えば、対象者による嚥下、咀嚼、発話等、又は環境音等が挙げられる。なお、音区間検出部20において用いることのできる具体的なVADの手法は、上述したものに限定されない。 The sound section detection unit 20 determines a section (period) including a sound signal by VAD (Voice Activity Detection: sound section detection). In the present embodiment, the sound section detection unit 20 specifically detects a period in which the power (for example, logarithmic power) in the acoustic signal of the throat sound is equal to or higher than a predetermined value, and sets each detected period as a sound event. Is determined. Here, the sound event means an event that generates a sound, and examples thereof include swallowing, chewing, utterance, and the like by a subject, and environmental sounds. The specific VAD method that can be used in the sound section detection unit 20 is not limited to the above.

特徴量抽出部21は、音区間検出部20によって検出された各音イベントにおける特徴量を抽出する。特徴量としては、例えば、MFCC(Mel-Frequency Cepstrum Coefficients:メル周波数ケプストラム係数)、及び、音響信号の位相情報を用いることができる。音響信号の位相情報は、音響信号の波形の位相の違いに関する情報である。位相情報を用いた場合には、音響信号は、パワースペクトルに差異がなくても位相によって異なる波形として扱われる。なお、特徴量抽出部21において用いられる位相情報については、「王龍標、外3名、「位相情報を利用した話者識別・照合法の評価」、社団法人情報処理学会研究報告、2008-SLP-74(30)、p.173-178」等に詳述されている。 The feature amount extraction unit 21 extracts the feature amount in each sound event detected by the sound section detection unit 20. As the feature amount, for example, MFCC (Mel-Frequency Cepstrum Coefficients) and phase information of an acoustic signal can be used. The phase information of the acoustic signal is information regarding the difference in the phase of the waveform of the acoustic signal. When phase information is used, the acoustic signal is treated as a waveform that differs depending on the phase even if there is no difference in the power spectrum. Regarding the phase information used in the feature extraction unit 21, "Wang Ryu Mark, 3 outsiders," Evaluation of speaker identification / collation method using phase information ", IPSJ Research Report, 2008-SLP- 74 (30), p.173-178 ”and others.

識別部22は、識別器であり、特徴量抽出部21によって抽出された各音イベントにおける特徴量に基づいて、当該音イベントに対応するラベルを識別する。ここで、ラベルとは、各音イベントにおいて音を発生させた原因である。ラベルは、対象者による嚥下を少なくとも含み、その他に、対象者による咀嚼、発話等を含んでもよい。対応するラベルが嚥下であると識別部22によって識別された音イベントの音区間が、嚥下区間として検出される。本実施形態では、識別部22は、SVM(Support Vector Machine)を用いて構成されている。 The identification unit 22 is a discriminator, and identifies the label corresponding to the sound event based on the feature amount in each sound event extracted by the feature amount extraction unit 21. Here, the label is the cause of generating a sound in each sound event. The label includes at least swallowing by the subject, and may also include chewing, utterance, etc. by the subject. The sound section of the sound event identified by the identification unit 22 as the corresponding label is swallowing is detected as the swallowing section. In the present embodiment, the identification unit 22 is configured by using an SVM (Support Vector Machine).

生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を知覚可能に出力するための信号に変換する。具体的には、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換する。 When the detection unit 11 detects the swallowing section, the generation unit 12 converts the acoustic signal in the swallowing section into a signal for perceptually outputting the sound signal. Specifically, the generation unit 12 converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as a sound when the detection unit 11 detects the swallowing section.

ここで、生成部12は、第1再生信号を、嚥下音として出力するための変調信号に変調する。「変調」とは、第1再生信号の振幅、周波数、及び位相の内の少なくとも一つを変化させることにより、第1再生信号の波形を変化させることを意味する。「嚥下音」とは、嚥下区間における音響信号を知覚可能な音として出力したものである。生成部12は、変調信号を出力部15に出力する。なお、生成部12は、第1再生信号を変調信号に変調し、変調信号を出力部15に出力するまでの処理に所定の時間を要する。 Here, the generation unit 12 modulates the first reproduction signal into a modulation signal for outputting as a swallowing sound. "Modulation" means changing the waveform of the first reproduction signal by changing at least one of the amplitude, frequency, and phase of the first reproduction signal. The "swallowing sound" is an output of an acoustic signal in the swallowing section as a perceptible sound. The generation unit 12 outputs the modulated signal to the output unit 15. It should be noted that the generation unit 12 takes a predetermined time to process the first reproduction signal to be modulated into a modulated signal and output the modulated signal to the output unit 15.

また、生成部12は、出力部15によって出力される嚥下音の強度を調整可能な機能を有する調整部23を含む。なお、出力部15が嚥下音及び咽喉音を出力することについては、後述する。 Further, the generation unit 12 includes an adjustment unit 23 having a function of adjusting the intensity of the swallowing sound output by the output unit 15. The output unit 15 outputs the swallowing sound and the throat sound will be described later.

再生部13は、検出部11が嚥下区間を検出したか否かに拘らず(すなわち、嚥下区間を除く期間の一部及び嚥下区間において)、音響信号を、咽喉音として出力するための第2再生信号に変換する。「咽喉音」とは、嚥下区間に限らない期間における音響信号を知覚可能な音として出力したものである。再生部13は、第2再生信号を遅延部14に出力する。 The reproduction unit 13 is a second for outputting an acoustic signal as a throat sound regardless of whether or not the detection unit 11 has detected the swallowing section (that is, a part of the period excluding the swallowing section and the swallowing section). Convert to a playback signal. The "throat sound" is an output of an acoustic signal as a perceptible sound during a period not limited to the swallowing section. The reproduction unit 13 outputs the second reproduction signal to the delay unit 14.

遅延部14は、遅延回路によって構成され、第2再生信号を遅延させる。遅延部14は、遅延させた第2再生信号を出力部15に出力する。遅延部14が第2再生信号を遅延させる時間は、生成部12が、第1再生信号を変調信号に変調し、変調信号を出力部15に出力するまでの処理に要する時間と一致するように設定されている。 The delay unit 14 is composed of a delay circuit and delays the second reproduction signal. The delay unit 14 outputs the delayed second reproduction signal to the output unit 15. The time required for the delay unit 14 to delay the second reproduction signal coincides with the time required for the generation unit 12 to process the first reproduction signal into a modulated signal and output the modulated signal to the output unit 15. It is set.

出力部15は、変調信号及び第2再生信号をD/A変換するためのD/A変換部を有する。D/A変換部の構成は特に限定されない。出力部15は、生成部12から入力された変調信号をD/A変換し、第1スピーカ3に出力する。また、出力部15は、遅延部14から入力された第2再生信号をD/A変換し、第2スピーカ4に出力する。これにより、出力部15は、第1スピーカ3を介して変調信号を嚥下音として出力すると共に、第2スピーカを介して第2再生信号を咽喉音として出力する。換言すると、出力部15は、第1スピーカ3及び第2スピーカ4を介して、嚥下音と咽喉音とをステレオ出力する。なお、出力部15は、嚥下音と咽喉音とを時間同期加算して、第1スピーカ3及び第2スピーカ4の両方を介して出力してもよい。 The output unit 15 has a D / A conversion unit for D / A conversion of the modulated signal and the second reproduction signal. The configuration of the D / A conversion unit is not particularly limited. The output unit 15 D / A-converts the modulated signal input from the generation unit 12 and outputs it to the first speaker 3. Further, the output unit 15 D / A-converts the second reproduction signal input from the delay unit 14 and outputs the second reproduction signal to the second speaker 4. As a result, the output unit 15 outputs the modulated signal as a swallowing sound via the first speaker 3 and outputs the second reproduced signal as a throat sound via the second speaker. In other words, the output unit 15 outputs the swallowing sound and the throat sound in stereo via the first speaker 3 and the second speaker 4. The output unit 15 may add the swallowing sound and the throat sound in a time-synchronized manner and output the sound via both the first speaker 3 and the second speaker 4.

上述した生成部12の調整部23は、出力部15によって出力される嚥下音の強度を調整可能な機能を有する。すなわち、調整部23は、嚥下音の強度と咽喉音の強度とのバランスを調整する。例えば、調整部23は、ボリューム調整用ボタンによって実現され、当該ボタンによってバランスを調整する。或いは、調整部23は、ソフトウェアで実現される入力手段を含んでいて、当該入力手段によってバランスを調整するように構成されていてもよく、また、外部から通信等で取得されるパラメータによってバランスを調整するように構成されていてもよい。なお、調整部23は、嚥下音の強度と咽喉音の強度との両方を調整可能な機能を有していてもよく、その場合には、調整部23は、嚥下音又は咽喉音の何れか一方の強度を増大させると共に、何れか他方の強度を低下させてもよい。 The adjustment unit 23 of the generation unit 12 described above has a function of adjusting the intensity of the swallowing sound output by the output unit 15. That is, the adjusting unit 23 adjusts the balance between the intensity of the swallowing sound and the intensity of the throat sound. For example, the adjustment unit 23 is realized by a volume adjustment button, and the balance is adjusted by the button. Alternatively, the adjusting unit 23 may include an input means realized by software and may be configured to adjust the balance by the input means, or may adjust the balance by a parameter acquired from the outside by communication or the like. It may be configured to adjust. The adjusting unit 23 may have a function of adjusting both the intensity of the swallowing sound and the intensity of the throat sound. In that case, the adjusting unit 23 may have either the swallowing sound or the throat sound. The strength of one may be increased and the strength of either one may be decreased.

続いて、上述した嚥下情報提示装置1の動作について、図3を参照しながら説明する。図3は、嚥下情報提示装置による嚥下情報の提示処理を示すフローチャートである。 Subsequently, the operation of the swallowing information presenting device 1 described above will be described with reference to FIG. FIG. 3 is a flowchart showing a swallowing information presentation process by the swallowing information presenting device.

嚥下情報の提示処理の開始の指示が受け付けられると、図3のフローチャートに示す処理が開始される。最初に、信号取得部10により出力される咽喉音の音響信号が、マイク2によって取得される(ステップS1)。そして、信号取得部10によって取得された音響信号が検出部11の音区間検出部20に出力される。 When the instruction to start the swallowing information presentation process is received, the process shown in the flowchart of FIG. 3 is started. First, the acoustic signal of the throat sound output by the signal acquisition unit 10 is acquired by the microphone 2 (step S1). Then, the acoustic signal acquired by the signal acquisition unit 10 is output to the sound section detection unit 20 of the detection unit 11.

次に、音区間検出部20により、音響信号に対してVADが行われる。具体的には、音区間検出部20により、咽喉音の音響信号の内のパワー(例えば、対数パワー)が所定値以上である期間が検出され、検出された各期間が音イベントと判定される(ステップS2)。そして、特徴量抽出部21により、音区間検出部20によって検出された各音イベントにおける特徴量(例えば、MFCC、及び、各音イベントでの音響信号の位相情報)が抽出される(ステップS3)。更に、識別部22により、特徴量抽出部21によって抽出された各音イベントにおける特徴量に基づいて、対象者による嚥下に対応する音イベントが識別される(ステップS4)。このようにして識別された対象者の嚥下に対応する音イベントの音区間が、嚥下区間と判定される。 Next, the sound section detection unit 20 performs VAD on the acoustic signal. Specifically, the sound section detection unit 20 detects a period in which the power (for example, logarithmic power) in the acoustic signal of the throat sound is equal to or higher than a predetermined value, and each detected period is determined to be a sound event. (Step S2). Then, the feature amount extraction unit 21 extracts the feature amount (for example, MFCC and the phase information of the acoustic signal in each sound event) in each sound event detected by the sound section detection unit 20 (step S3). .. Further, the identification unit 22 identifies the sound event corresponding to swallowing by the subject based on the feature amount in each sound event extracted by the feature amount extraction unit 21 (step S4). The sound section of the sound event corresponding to the swallowing of the subject identified in this way is determined to be the swallowing section.

次に、検出部11によって嚥下区間が検出されたことを契機に、生成部12により、嚥下区間における音響信号が第1再生信号に変換され(ステップS5)、第1再生信号が変調信号に変調される(ステップS6)。変調信号は、生成部12から出力部15に出力される。 Next, when the swallowing section is detected by the detection unit 11, the generation unit 12 converts the acoustic signal in the swallowing section into the first reproduction signal (step S5), and the first reproduction signal is modulated into the modulation signal. (Step S6). The modulated signal is output from the generation unit 12 to the output unit 15.

ここで、ステップS5,S6の処理に同期して、再生部13により、音響信号が第2再生信号に変換され(ステップS7)、第2再生信号が遅延部14に出力される。第2再生信号は、遅延部14において遅延される(ステップS8)。遅延された第2再生信号は、遅延部14から出力部15に出力される。 Here, in synchronization with the processing of steps S5 and S6, the reproduction unit 13 converts the acoustic signal into a second reproduction signal (step S7), and outputs the second reproduction signal to the delay unit 14. The second reproduction signal is delayed in the delay unit 14 (step S8). The delayed second reproduction signal is output from the delay unit 14 to the output unit 15.

そして、変調信号が嚥下音として出力部15によって出力されると共に、第2再生信号が咽喉音として出力部15によって出力される。このとき、嚥下音及び咽喉音は、第1スピーカ3及び第2スピーカ4を介して時間同期加算又はステレオで出力される(ステップS9)。 Then, the modulated signal is output by the output unit 15 as a swallowing sound, and the second reproduction signal is output by the output unit 15 as a throat sound. At this time, the swallowing sound and the throat sound are output in time-synchronous addition or stereo via the first speaker 3 and the second speaker 4 (step S9).

このとき、嚥下音が第1スピーカ3によって出力されている間にも、咽喉音は第2スピーカ4によって出力されている。このため、看護者又は介護者等のユーザは、第1スピーカ3によって出力される嚥下音によって、対象者が嚥下を行ったことを確認しつつ、第2スピーカ4によって出力される咽喉音から嚥下音を聞き分けることによって、検出部11が嚥下区間を正しく検出したこと(すなわち、検出部11が嚥下区間を検出することができなかった場合ではなく、且つ、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出した場合ではないこと)を確認することができる。 At this time, the throat sound is output by the second speaker 4 while the swallowing sound is output by the first speaker 3. Therefore, a user such as a nurse or a caregiver swallows from the throat sound output by the second speaker 4 while confirming that the subject has swallowed by the swallowing sound output by the first speaker 3. By distinguishing the sounds, the detection unit 11 correctly detected the swallowing section (that is, not when the detection unit 11 could not detect the swallowing section, and the detection unit 11 detects the period other than the swallowing section. It is not the case that it is mistakenly detected as a swallowing section).

上記のステップS1〜ステップS9の処理は、嚥下情報の提示処理の終了の指示が受け付けられるまで繰り返される。 The processes of steps S1 to S9 are repeated until an instruction to end the swallowing information presentation process is received.

以上説明したように、嚥下情報提示装置1では、対象者の咽喉音の音響信号から特徴量が抽出され、特徴量に基づいて嚥下区間が検出される。このため、嚥下区間を自動的に識別することができる。また、嚥下区間が検出されたことを契機に、嚥下区間における音響信号が音として知覚可能に出力されるための信号に変換され、変換された信号が音として出力される。このため、看護者又は介護者等のユーザは、手や目を使って作業している最中であっても、耳を使って、対象者が嚥下を行ったことを確実に確認することができる。よって、ユーザが作業中であっても、嚥下が行われたことをユーザに容易に確認させることができる。 As described above, in the swallowing information presenting device 1, the feature amount is extracted from the acoustic signal of the throat sound of the subject, and the swallowing section is detected based on the feature amount. Therefore, the swallowing section can be automatically identified. Further, when the swallowing section is detected, the acoustic signal in the swallowing section is converted into a signal for being perceptibly output as sound, and the converted signal is output as sound. For this reason, users such as nurses and caregivers can use their ears to reliably confirm that the subject has swallowed, even while working with their hands or eyes. it can. Therefore, even when the user is working, the user can easily confirm that swallowing has been performed.

また、嚥下情報提示装置1では、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、音として出力するための第1再生信号に変換し、出力部15は、第1再生信号を嚥下音として出力する。このため、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、嚥下音を聞くことによって、嚥下が行われたことを容易に確認することができる。 Further, in the swallowing information presenting device 1, the generation unit 12 converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound when the detection unit 11 detects the swallowing section, and outputs the sound signal. The unit 15 outputs the first reproduction signal as a swallowing sound. Therefore, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by listening to the swallowing sound even when, for example, other work is being performed. ..

また、嚥下情報提示装置1では、生成部12は、第1再生信号を変調信号に変調し、出力部15は、変調信号を嚥下音として出力する。このため、嚥下音をより聞き取り易くして出力することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 Further, in the swallowing information presenting device 1, the generation unit 12 modulates the first reproduction signal into a modulated signal, and the output unit 15 outputs the modulated signal as a swallowing sound. Therefore, since the swallowing sound can be more easily heard and output, the user can more easily confirm that the swallowing has been performed.

また、嚥下情報提示装置1では、嚥下区間を除く期間の一部を少なくとも含む期間における音響信号を、音として出力するための第2再生信号に変換する再生部13を更に備え、出力部15は、第2再生信号を咽喉音として出力する。このため、検出部11が嚥下区間を検出することができなかったとき、又は、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 Further, the swallowing information presenting device 1 further includes a reproduction unit 13 that converts an acoustic signal during a period including at least a part of the period excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit 15 further includes a reproduction unit 13. , The second reproduction signal is output as a throat sound. Therefore, even when the detection unit 11 cannot detect the swallowing section, or when the detection unit 11 erroneously detects a period other than the swallowing section as the swallowing section, the throat sound is output. It continues to be done. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

また、嚥下情報提示装置1では、生成部12は、嚥下音の強度を調整可能な機能を含む。このため、嚥下音がより聞き取り易くなるように嚥下音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 Further, in the swallowing information presenting device 1, the generation unit 12 includes a function of adjusting the intensity of the swallowing sound. Therefore, the balance between the intensity of the swallowing sound and the intensity of the throat sound can be adjusted so that the swallowing sound can be heard more easily, so that the user can more easily confirm that the swallowing has been performed.

また、嚥下情報提示装置1では、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換する再生部13を更に備え、出力部15は、第2再生信号を咽喉音として出力する。このため、検出部11が嚥下区間を検出することができなかったとき、又は、検出部11が嚥下区間以外の期間を嚥下区間であると誤って検出したときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 Further, the swallowing information presenting device 1 further includes a reproduction unit 13 that converts an acoustic signal in a part of the period excluding the swallowing section and the swallowing section into a second reproduction signal for outputting as sound, and the output unit 15 further includes a reproduction unit 13. The second reproduction signal is output as a throat sound. Therefore, even when the detection unit 11 cannot detect the swallowing section, or when the detection unit 11 erroneously detects a period other than the swallowing section as the swallowing section, the throat sound is output. It continues to be done. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

本発明は、上述した実施形態に限定されるものではない。例えば、上記実施形態においては、生成部12は第1再生信号を変調信号に変調して出力部15に出力し、出力部15は変調信号を嚥下音として出力する。しかし、生成部12は第1再生信号を変調信号に変調せずに出力部15に出力し、出力部は第1再生信号を嚥下音として出力してもよい。 The present invention is not limited to the above-described embodiments. For example, in the above embodiment, the generation unit 12 modulates the first reproduction signal into a modulated signal and outputs it to the output unit 15, and the output unit 15 outputs the modulated signal as a swallowing sound. However, the generation unit 12 may output the first reproduction signal to the output unit 15 without modulating it into a modulation signal, and the output unit may output the first reproduction signal as a swallowing sound.

また、上記実施形態においては、再生部13は、音響信号を、音として出力するための第2再生信号に変換し、出力部15は、第2再生信号を咽喉音として出力する。しかし、嚥下情報提示装置1は、再生部13を備えず、出力部15は、咽喉音を出力しなくてもよい。 Further, in the above embodiment, the reproduction unit 13 converts the acoustic signal into a second reproduction signal for outputting as sound, and the output unit 15 outputs the second reproduction signal as a sore throat sound. However, the swallowing information presenting device 1 does not include the reproduction unit 13, and the output unit 15 does not have to output the throat sound.

また、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、予め記憶している検出音として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を検出音として出力してもよい。この場合、嚥下音に代えて、より聞き取り易い検出音を出力するため、嚥下が行われたことをユーザに一層容易に確認させることができる。 Further, the generation unit 12 converts the acoustic signal in the swallowing section into a signal for outputting as a detection sound stored in advance when the detection unit 11 detects the swallowing section, and the output unit 15 converts the acoustic signal into a signal for outputting as a detection sound stored in advance. The signal converted by the generation unit 12 may be output as a detection sound. In this case, since the detection sound that is easier to hear is output instead of the swallowing sound, the user can more easily confirm that the swallowing has been performed.

なお、検出音は、特に限定されるものではない。例えば、検出音は、予め録音された典型的な嚥下音であってもよく、人工的に作り出された合成音による「ごっくん」等の音(オノマトペ)であってもよく、チャイム等の既定の音であってもよい。 The detected sound is not particularly limited. For example, the detection sound may be a typical pre-recorded swallowing sound, or may be a sound (onomatopoeia) such as "gokkun" by an artificially created synthetic sound, or a default sound such as a chime. It may be a sound.

また、検出音は、嚥下区間の長さに応じて出力される長さが変えられてもよい。例えば、嚥下区間の長さ(例えば、嚥下の開始から完了までに要した時間の長さ)と同等の長さになるように、検出音の長さが変えられてもよい。そのためには、検出音の再生速度が調整されることによって検出音の長さが変えられてもよく、或いは、嚥下区間の長さと同等の長さになるまで検出音が繰り返し出力されてもよい。 Further, the length of the detected sound may be changed according to the length of the swallowing section. For example, the length of the detection sound may be changed so as to be the same length as the length of the swallowing section (for example, the length of time required from the start to the completion of swallowing). For that purpose, the length of the detected sound may be changed by adjusting the reproduction speed of the detected sound, or the detected sound may be repeatedly output until the length becomes equal to the length of the swallowing section. ..

ここで、出力部15が検出音を出力する場合においては、調整部23は、検出音の強度を調整可能な機能を有していてもよく、或いは、調整部23は、検出音の強度と咽喉音の強度との両方を調整可能な機能を有していてもよい。この場合、検出音がより聞き取り易くなるように検出音の強度と咽喉音の強度とのバランスを調整することができるため、嚥下が行われたことをユーザに一層容易に確認させることができる。 Here, when the output unit 15 outputs the detection sound, the adjustment unit 23 may have a function of adjusting the intensity of the detection sound, or the adjustment unit 23 may have a function of adjusting the intensity of the detection sound. It may have a function that can adjust both the intensity of the throat sound. In this case, since the balance between the intensity of the detected sound and the intensity of the throat sound can be adjusted so that the detected sound can be heard more easily, the user can more easily confirm that swallowing has been performed.

また、調整部23は、再生部13に含まれ、出力部15によって出力される咽喉音の強度を調整可能な機能を有していてもよい。或いは、調整部23は、再生部13に含まれ、嚥下音(又は検出音)の強度と咽喉音の強度との両方を調整可能な機能を有していてもよい。 Further, the adjusting unit 23 may be included in the reproducing unit 13 and may have a function of adjusting the intensity of the throat sound output by the output unit 15. Alternatively, the adjusting unit 23 may be included in the reproducing unit 13 and may have a function of adjusting both the intensity of the swallowing sound (or the detected sound) and the intensity of the throat sound.

また、上記実施形態においては、再生部13は、嚥下区間を除く期間の一部及び嚥下区間における音響信号を、音として出力するための第2再生信号に変換し、第2再生信号を咽喉音として出力する。しかし、再生部13は、嚥下区間を除く期間(のみ)における音響信号を、音として出力するための第2再生信号に変換し、出力部15は、第2再生信号を咽喉音として出力してもよい。この場合、検出部11が嚥下区間を検出することができなかったときであっても、咽喉音が出力され続けている。よって、看護者又は介護者等のユーザは、咽喉音から嚥下音を聞き分けて、嚥下が行われたことを確認することができる。 Further, in the above embodiment, the reproduction unit 13 converts an acoustic signal in a part of the period excluding the swallowing section and the swallowing section into a second reproduction signal for outputting as a sound, and converts the second reproduction signal into a throat sound. Output as. However, the reproduction unit 13 converts the acoustic signal in the period (only) excluding the swallowing section into a second reproduction signal for outputting as sound, and the output unit 15 outputs the second reproduction signal as a throat sound. May be good. In this case, even when the detection unit 11 cannot detect the swallowing section, the throat sound continues to be output. Therefore, a user such as a nurse or a caregiver can distinguish the swallowing sound from the throat sound and confirm that the swallowing has been performed.

また、上記実施形態においては、特徴量として、MFCC及び各音イベントでの音響信号の位相情報が用いられている。しかし、特徴量としては、これらMFCC及び位相情報に加えて、各音イベント内におけるエネルギーの平均値、各音イベントの継続長等を用いてもよく、また、咽喉音とは別に環境音を取得可能である場合においては、各音イベント内における咽喉音と環境音とのパワー及びパワー比の平均値、環境音のMFCC及びエネルギー等を更に用いてもよい。なお、特徴量としては、位相情報が用いられなくてもよい。 Further, in the above embodiment, the phase information of the MFCC and the acoustic signal at each sound event is used as the feature amount. However, as the feature amount, in addition to these MFCC and phase information, the average value of energy in each sound event, the continuation length of each sound event, etc. may be used, and the environmental sound is acquired separately from the throat sound. Where possible, the average value of the power and power ratio between the throat sound and the environmental sound in each sound event, the MFCC and energy of the environmental sound, and the like may be further used. The phase information may not be used as the feature amount.

また、上記実施形態においては、識別部22は、SVMを用いて構成されている。しかし、識別部22は、SVMに限定されず、例えば、決定木、GMM(Gaussian Mixture Model:混合ガウス分布モデル)、AdaBoost(AdaptiveBoosting)、HMM(Hidden Markov Model:隠れマルコフモデル)等を用いて構成されていてもよい。 Further, in the above embodiment, the identification unit 22 is configured by using an SVM. However, the identification unit 22 is not limited to SVM, and is configured by using, for example, a decision tree, GMM (Gaussian Mixture Model), AdaBoost (AdaptiveBoosting), HMM (Hidden Markov Model), or the like. It may have been.

また、上記実施形態においては、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4との間で有線又は無線によって通信を行い、嚥下音と咽喉音とを時間同期加算又はステレオで出力している。しかし、嚥下情報提示装置1は、一つのスピーカとの間で有線又は無線によって通信を行い、嚥下音と咽喉音とを時間同期加算で出力してもよい。 Further, in the above embodiment, the swallowing information presenting device 1 communicates with the first speaker 3 and the second speaker 4 by wire or wirelessly, and outputs the swallowing sound and the throat sound by time-synchronized addition or stereo. doing. However, the swallowing information presenting device 1 may communicate with one speaker by wire or wirelessly, and output the swallowing sound and the throat sound in a time-synchronized addition.

また、上記実施形態においては、信号取得部10はA/D変換部を有し、出力部15はD/A変換部を有していた。しかし、信号取得部10はA/D変換部を有していなくてもよく、出力部15はD/A変換部を有していなくてもよい。 Further, in the above embodiment, the signal acquisition unit 10 has an A / D conversion unit, and the output unit 15 has a D / A conversion unit. However, the signal acquisition unit 10 does not have to have an A / D conversion unit, and the output unit 15 does not have to have a D / A conversion unit.

また、上記実施形態においては、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を音として知覚可能に出力するための信号に変換した。しかし、知覚可能な出力としては、音に限らず、ユーザの五感によって感知され得る出力であれば特に限定されない。 Further, in the above embodiment, the generation unit 12 converts the acoustic signal in the swallowing section into a signal for perceptually outputting the sound as a sound when the detection unit 11 detects the swallowing section. However, the perceptible output is not limited to sound, and is not particularly limited as long as it is an output that can be perceived by the five senses of the user.

例えば、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、光として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を光として出力してもよい。なお、嚥下区間における音響信号が光に変換される場合には、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4に代えて、LED等の発光装置に接続されていてもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、LEDの光を見ることによって、嚥下が行われたことを容易に確認することができる。 For example, the generation unit 12 converts the acoustic signal in the swallowing section into a signal for outputting as light when the detection unit 11 detects the swallowing section, and the output unit 15 is converted by the generation unit 12. The signal may be output as light. When the acoustic signal in the swallowing section is converted into light, the swallowing information presenting device 1 may be connected to a light emitting device such as an LED instead of the first speaker 3 and the second speaker 4. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by looking at the LED light even when performing other work, for example. it can.

或いは、生成部12は、検出部11が嚥下区間を検出したことを契機に、嚥下区間における音響信号を、振動として出力するための信号に変換し、出力部15は、生成部12によって変換された信号を振動として出力してもよい。なお、嚥下区間における音響信号が振動に変換される場合には、嚥下情報提示装置1は、第1スピーカ3及び第2スピーカ4に代えて、バイブレータ等の振動生成装置に接続されていてもよい。この場合、看護者又は介護者等のユーザは、例えば他の作業を行っているようなときであっても、バイブレータの振動を感じることによって、嚥下が行われたことを容易に確認することができる。 Alternatively, the generation unit 12 converts the acoustic signal in the swallowing section into a signal for outputting as vibration when the detection unit 11 detects the swallowing section, and the output unit 15 is converted by the generation unit 12. The signal may be output as vibration. When the acoustic signal in the swallowing section is converted into vibration, the swallowing information presenting device 1 may be connected to a vibration generating device such as a vibrator instead of the first speaker 3 and the second speaker 4. .. In this case, a user such as a nurse or a caregiver can easily confirm that swallowing has been performed by feeling the vibration of the vibrator even when performing other work, for example. it can.

1…嚥下情報提示装置、2…マイク、3…第1スピーカ、4…第2スピーカ、10…信号取得部、11…検出部、12…生成部、13…再生部、14…遅延部、15…出力部、20…音区間検出部、21…特徴量抽出部、22…識別部、23…調整部。 1 ... swallowing information presenting device, 2 ... microphone, 3 ... first speaker, 4 ... second speaker, 10 ... signal acquisition unit, 11 ... detection unit, 12 ... generation unit, 13 ... reproduction unit, 14 ... delay unit, 15 ... Output unit, 20 ... Sound section detection unit, 21 ... Feature amount extraction unit, 22 ... Identification unit, 23 ... Adjustment unit.

Claims (9)

対象者の咽喉部の音である咽喉音を音響信号として取得する信号取得部と、
前記音響信号から特徴量を抽出し、前記対象者が嚥下を行った期間である嚥下区間を前記特徴量に基づいて検出する検出部と、
前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を知覚可能に出力するための信号に変換する生成部と、
前記生成部によって変換された信号を出力する出力部と、を備え
前記生成部は、前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を、音として出力するための第1再生信号に変換し、
前記出力部は、前記第1再生信号を嚥下音として出力する、嚥下情報提示装置。
A signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal,
A detection unit that extracts a feature amount from the acoustic signal and detects a swallowing section, which is the period during which the subject swallows, based on the feature amount.
When the detection unit detects the swallowing section, a generation unit that converts the acoustic signal in the swallowing section into a signal for perceptual output, and a generation unit.
An output unit that outputs a signal converted by the generation unit is provided .
When the detection unit detects the swallowing section, the generation unit converts the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound.
The output unit is a swallowing information presenting device that outputs the first reproduction signal as a swallowing sound .
前記生成部は、前記第1再生信号を変調信号に変調し、
前記出力部は、前記変調信号を前記嚥下音として出力する、請求項記載の嚥下情報提示装置。
The generator modulates the first reproduction signal into a modulated signal,
The output unit outputs the modulated signal as said swallowing sound, swallowing information presentation apparatus according to claim 1.
前記嚥下区間を除く期間の一部を少なくとも含む期間における前記音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項1又は2記載の嚥下情報提示装置。
A reproduction unit for converting the acoustic signal into a second reproduction signal for outputting as sound in a period including at least a part of the period excluding the swallowing section is further provided.
The swallowing information presenting device according to claim 1 or 2 , wherein the output unit outputs the second reproduction signal as the throat sound.
前記生成部又は前記再生部は、前記嚥下音の強度と前記咽喉音の強度との少なくとも一方を調整可能な機能を含む、請求項記載の嚥下情報提示装置。 The swallowing information presenting device according to claim 3 , wherein the generation unit or the reproduction unit includes a function of adjusting at least one of the intensity of the swallowing sound and the intensity of the throat sound. 対象者の咽喉部の音である咽喉音を音響信号として取得する信号取得部と、
前記音響信号から特徴量を抽出し、前記対象者が嚥下を行った期間である嚥下区間を前記特徴量に基づいて検出する検出部と、
前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を知覚可能に出力するための信号に変換する生成部と、
前記生成部によって変換された信号を出力する出力部と、
前記嚥下区間を除く期間の一部を少なくとも含む期間における前記音響信号を、音として出力するための第2再生信号に変換する再生部と、を備え、
前記生成部は、前記検出部が前記嚥下区間を検出したことを契機に、前記嚥下区間における前記音響信号を、予め記憶している検出音として出力するための信号に変換し、
前記出力部は、前記生成部によって変換された信号を前記検出音として出力し、
前記出力部は、前記第2再生信号を前記咽喉音として出力する、嚥下情報提示装置。
A signal acquisition unit that acquires the throat sound, which is the sound of the subject's throat, as an acoustic signal,
A detection unit that extracts a feature amount from the acoustic signal and detects a swallowing section, which is the period during which the subject swallows, based on the feature amount.
When the detection unit detects the swallowing section, a generation unit that converts the acoustic signal in the swallowing section into a signal for perceptual output, and a generation unit.
An output unit that outputs the signal converted by the generation unit, and
A reproduction unit for converting the acoustic signal into a second reproduction signal for output as sound in a period including at least a part of the period excluding the swallowing section is provided.
When the detection unit detects the swallowing section, the generation unit converts the acoustic signal in the swallowing section into a signal for outputting as a detection sound stored in advance.
The output unit outputs the signal converted by the generation unit as the detection sound .
The output unit is a swallowing information presenting device that outputs the second reproduction signal as the throat sound .
前記生成部又は再生部は、前記検出音の強度と前記咽喉音の強度との少なくとも一方を調整可能な機能を含む、請求項記載の嚥下情報提示装置。 The swallowing information presenting device according to claim 5 , wherein the generating unit or the reproducing unit includes a function of adjusting at least one of the intensity of the detected sound and the intensity of the throat sound. 前記嚥下区間を除く期間における前記音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項3〜6の何れか一項記載の嚥下情報提示装置。
A reproduction unit for converting the acoustic signal in a period excluding the swallowing section into a second reproduction signal for outputting as sound is further provided.
The swallowing information presenting device according to any one of claims 3 to 6 , wherein the output unit outputs the second reproduction signal as the throat sound.
前記嚥下区間を除く期間の一部及び前記嚥下区間における前記音響信号を、音として出力するための第2再生信号に変換する再生部を更に備え、
前記出力部は、前記第2再生信号を前記咽喉音として出力する、請求項3〜6の何れか一項記載の嚥下情報提示装置。
A reproduction unit for converting a part of the period excluding the swallowing section and the acoustic signal in the swallowing section into a second reproduction signal for outputting as sound is further provided.
The swallowing information presenting device according to any one of claims 3 to 6 , wherein the output unit outputs the second reproduction signal as the throat sound.
対象者の咽喉部の音である咽喉音を音響信号として取得する第1ステップと、 The first step of acquiring the throat sound, which is the sound of the subject's throat, as an acoustic signal,
前記音響信号を基に音区間を検出する第2ステップと、 The second step of detecting the sound section based on the acoustic signal and
前記音響信号の前記音区間における特徴量を抽出する第3ステップと、 The third step of extracting the feature amount of the acoustic signal in the sound section, and
前記音区間における前記特徴量に基づいて、対象者が嚥下を行った音区間である嚥下区間を検出する第4ステップと、 A fourth step of detecting a swallowing section, which is a sound section swallowed by the subject, based on the feature amount in the sound section.
前記第4ステップにて前記嚥下区間が検出されたことを契機に、前記嚥下区間における前記音響信号を音として出力するための第1再生信号に変換する第5ステップと、 When the swallowing section is detected in the fourth step, the fifth step of converting the acoustic signal in the swallowing section into a first reproduction signal for outputting as sound, and
前記第1再生信号を変調信号に変調する第6ステップと、 The sixth step of modulating the first reproduced signal into a modulated signal, and
前記音響信号を音として出力するための第2再生信号に変換する第7ステップと、 The seventh step of converting the acoustic signal into a second reproduction signal for outputting as sound, and
前記第2再生信号を遅延させる第8ステップと、 The eighth step of delaying the second reproduction signal and
前記変調信号を嚥下音として、前記第2再生信号を咽喉音として、出力する第9ステップと、 The ninth step of outputting the modulated signal as a swallowing sound and the second reproduction signal as a throat sound,
を実行する嚥下情報提示装置。A swallowing information presentation device that performs.
JP2016137063A 2016-07-11 2016-07-11 Swallowing information presentation device Active JP6775218B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016137063A JP6775218B2 (en) 2016-07-11 2016-07-11 Swallowing information presentation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016137063A JP6775218B2 (en) 2016-07-11 2016-07-11 Swallowing information presentation device

Publications (2)

Publication Number Publication Date
JP2018007723A JP2018007723A (en) 2018-01-18
JP6775218B2 true JP6775218B2 (en) 2020-10-28

Family

ID=60994028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016137063A Active JP6775218B2 (en) 2016-07-11 2016-07-11 Swallowing information presentation device

Country Status (1)

Country Link
JP (1) JP6775218B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112885458A (en) * 2021-02-04 2021-06-01 中南大学 Swallowing capacity detection device and method and storage medium
WO2023127504A1 (en) * 2021-12-27 2023-07-06 国立大学法人静岡大学 Evaluation device, evaluation method, and evaluation program

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003111748A (en) * 2001-10-04 2003-04-15 Nippon Riko Igaku Kenkyusho:Kk Swallowing sound obtaining device
EP1997428A1 (en) * 2006-03-22 2008-12-03 Konica Minolta Medical & Graphic, Inc. Diagnosis system and program to be used in the diagnosis system
JP5952536B2 (en) * 2011-07-12 2016-07-13 国立大学法人 筑波大学 Swallowing function data measuring device, swallowing function data measuring system, and swallowing function data measuring method
KR101702275B1 (en) * 2013-08-26 2017-02-03 가꼬우호우징 효고 이카다이가쿠 Swallowing estimation device, information terminal device, and program

Also Published As

Publication number Publication date
JP2018007723A (en) 2018-01-18

Similar Documents

Publication Publication Date Title
US20240221718A1 (en) Systems and methods for providing low latency user feedback associated with a user speaking silently
JP4327241B2 (en) Speech enhancement device and speech enhancement method
CN110753957B (en) Haptic communication system using skin actuators to simulate continuous human touch
JP6463825B2 (en) Multi-speaker speech recognition correction system
US12230124B2 (en) Encoding apparatus, encoding method, decoding apparatus, decoding method, transmission system, receiving apparatus, and program
US9786201B2 (en) Wearable sound
US9679546B2 (en) Sound vest
KR102495888B1 (en) Electronic device for outputting sound and operating method thereof
EP1561641A3 (en) Dummy sound generating apparatus and dummy sound generating method and computer product
JPWO2018038235A1 (en) Hearing training apparatus, hearing training method, and program
TW201434600A (en) Robot for generating body motion corresponding to sound signal
WO2021153101A1 (en) Information processing device, information processing method, and information processing program
JP6775218B2 (en) Swallowing information presentation device
CN108630214A (en) Sound processing apparatus, sound processing method and storage medium
WO2016206643A1 (en) Method and device for controlling interactive behavior of robot and robot thereof
WO2024058147A1 (en) Processing device, output device, and processing system
TWI392983B (en) Automatic control method using tone and device thereof
JP6346245B2 (en) Toy system, toy body control method, and program
JP2024108036A (en) Karaoke device
KR100807778B1 (en) Learning aids
JP6918471B2 (en) Dialogue assist system control method, dialogue assist system, and program
JPH08275279A (en) Voice pickup system
US12436664B1 (en) Method and apparatus for automatically updating a user interface
CN101393429A (en) Automatic control system and automatic control device using tone
EP4603963A1 (en) Acoustic device, acoustic control method, and acoustic control program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200915

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200924

R150 Certificate of patent or registration of utility model

Ref document number: 6775218

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250