主題專區
防疫技術
綠色技術
專利檢索
號碼檢索
布林檢索
進階檢索
表格檢索
智慧檢索(Beta)
標記清單
檢索歷史
登入/註冊
註冊
登入
-
-
:
-
-
:
-
-
後登出
競賽
│
English
│
行動版
很抱歉!您已逾時未操作,請重新進入
GPSS
跌倒偵測裝置系統及其偵測跌倒事件的方法
FALL DETECTION SYSTEM AND METHOD FOR DETECTING FALL EVENT BY USING THE SAME
--友善列印--
文字+全部圖式
全部圖式
文字資料
TWI766501B-跌倒偵測裝置系統及其偵測跌倒事件的方法
FALL DETECTION SYSTEM AND METHOD FOR DETECTING FALL EVENT BY USING THE SAME
第
1
/
1
筆
全文
影像
專利公報
公告說明書
公告全文
全部圖式
法律狀態
專利家族
檔卷調閱
雜項
引證圖
摘要
more
本發明係關於一種跌倒偵測裝置系統及其偵測跌倒事件的方法,包含影像擷取模組,資訊處理模組以及伺服器;影像擷取模組擷取環境影像,資訊處理模組先以人體追蹤模組追蹤影像中的個體,以姿態辨識模組辨識個體的軀幹骨架,並以跌倒辨識模組分析該軀幹骨架,以跌倒辨識模組辨識跌倒事件,再以動作辨識模組確認跌倒事件,並產生跌倒警示訊號;伺服器係接收該跌倒警示訊號,並將跌倒警示訊號傳送給接收端,警示跌倒事件的發生;藉此,本發明於偵測到跌倒事件時可即時通報家屬或照顧人員,以迅速提供跌倒個體協助並降低跌倒事件造成的傷害。
書目資料
more
申請日
20201224
公告日
20220601
申請號
TW109146030
公告號
TWI766501B
公開
TW202226172A
證書號
I766501
申請人
南臺學校財團法人南臺科技大學
臺南市永康區南台街1號 (中華民國);
SOUTHERN TAIWAN UNIVERSITY OF SCIENCE AND TECHNOLOGY
NO.1, NANTAI ST., YONGKANG DIST., TAINAN CITY (TW)
發明人
張萬榮
(中華民國);
CHANG, WAN JUNG
(TW);
蘇健平
(中華民國);
SU, JIAN PING
(TW);
楊子進
(中華民國);
YANG, TZU CHIN
(TW);
李遠龍
(中華民國);
LI, YUAN LONG
(TW);
涂御倫
(中華民國);
TU, YU LUN
(TW);
陳銘哲
(中華民國);
CHEN, MING CHE
(TW)
代理人
陳豐裕
審查委員
李志偉
引用專利
TW201329915A
;
TW202011351A
;
CN107220604A
;
CN109949544A
;
US7567200B1
引用非專利
網路文獻 管維凱 基於OpenPose骨架及LSTM/GRU模型之跌倒檢測研究 朝陽科技大學 2020年8月31日 http://ir.lib.cyut.edu.tw:8080/handle/310901800/271?itemsPerPage=50&locale=zh-TW&layout.style=mobile
公報IPC
G08B 21/04
(2006.01);
G06K 9/46
(2006.01);
G06K 9/62
(2006.01)
IPC
G08B 21/04
(2006.01);
G06K 9/46
(2006.01);
G06K 9/62
(2006.01)
公報卷期
49-16
類別碼
B
專利範圍
more
1.一種跌倒偵測裝置系統,係包含:一影像擷取模組,包含至少一鏡頭以擷取影像;一資訊處理模組,電性連接於該影像擷取模組,包含一人體追蹤模組,一姿態辨識模組,一跌倒辨識模組以及一動作辨識模組,其中人體追蹤模組使用中心追蹤法以追蹤不同時間點影像中的至少一個體,該姿態辨識模組係辨識該至少一個體的骨架的關節點、四肢位置以及四肢方向的2D矢量線,以獲得該個體的軀幹骨架的建構,並產生一軀幹骨架訊號且傳遞至該跌倒辨識模組,該跌倒辨識模組根據該軀幹骨架訊號辨識一跌倒事件,再以該動作辨識模組確認該跌倒事件,並於該跌倒事件發生時產生一跌倒警示訊號,其中該跌倒辨識模組係辨識該個體的脊椎線(Torso line)角度與地面垂直角度的偏差,辨識該個體垂直於地面的加速度值,以及該個體於影像擷取當時的長寬比,以辨識該跌倒事件,以及其中該動作辨識模組使用該至少一個體的14個關節點進行連續影像之跌倒偵測,並使用Long Short-Term Memory進行跌倒動作的辨識與確認;以及一伺服器,係電性連接於該資訊處理模組,以接收資訊處理模組傳遞之該跌倒警示訊號。
2.如請求項1所述之跌倒偵測裝置系統,其中該跌倒偵測裝置系統進一步包含至少一接收端,該接收端係電性連接於該伺服器以接收該跌倒警示訊號。
3.如請求項1所述之跌倒偵測裝置系統,其中該資訊處理模組進一步包含一人臉辨識模組,以辨識該至少一個體的身分。
4.如請求項1所述之跌倒偵測裝置系統,其中該動作辨識模組使用的14個關節點包含鼻子、脖子、雙肩、左右手肘、左右手腕、雙臀、左右膝蓋、左右腳踝與雙耳。
5.如請求項1所述之跌倒偵測裝置系統,其中該跌倒辨識模組係辨識該個體的脊椎線(Torso line)角度與地面垂直角度大於30度,辨識該個體垂直於地面的加速度值大於一門檻值,以及該個體於影像擷取當時的長寬比小於2:1時,則判定為一跌倒事件。
6.如請求項1所述之跌倒偵測裝置系統,其中該伺服器為雲端伺服器。
7.一種使用如請求項1所述的跌倒偵測裝置系統偵測跌倒事件的方法,係包括以下步驟:(A)使用一影像擷取模組擷取影像,並將擷取的一影像傳遞至一資訊處理模組,其中該影像擷取模組包含至少一鏡頭;(B)以該資訊處理模組的一人體追蹤模組、以中心追蹤法追蹤不同時間點影像中的至少一個體,再以資訊處理模處的一姿態辨識模組辨識該影像中至少一個體的骨架的關節點、四肢位置以及四肢方向的2D矢量線以獲得該至少一個體的一軀幹骨架訊號,且將該軀幹骨架訊號傳遞至該資訊處理模組的一跌倒辨識模組;以及(C)以該跌倒辨識模組辨識該軀幹骨架訊號,以辨識一跌倒事件,再藉由該資訊處理模組的一動作辨識模組確認該跌倒事件,且於確認到該跌倒事件時,以該資訊處理模組產生一跌倒警示訊號,其中該跌倒辨識模組係辨識該個體的脊椎線(Torso line)角度與地面垂直角度的偏差,辨識該個體垂直於地面的加速度值,以及該個體於影像擷取當時的長寬比,其中該動作辨識模組使用該至少一個體的14個關節點進行連續影像之跌倒偵測,以及使用Long Short-Term Memory進行跌倒動作的辨識與確認。
8.如請求項7所述的方法,其中該動作辨識模組使用的14個關節點包含鼻子、脖子、雙肩、左右手肘、左右手腕、雙臀、左右膝蓋、左右腳踝與雙耳。
9.如請求項7所述的方法,其中該步驟(C)之該跌倒辨識模組係辨識該個體的脊椎線(Torso line)角度與地面垂直角度大於30度,辨識該個體垂直於地面的加速度值大於一門檻值,以及該個體於影像擷取當時的長寬比小於2:1時,則判定為一跌倒事件。
10.如請求項7所述的方法,其中該步驟(C)之後,可再進行一步驟(D),將該跌倒警示訊號經由該伺服器傳送到至少一接收端。
詳細說明
more
【技術領域】
【0001】
本發明關於一種跌倒偵測裝置系統及其偵測跌倒事件的方法,能迅速的偵測跌倒事件的發生並產生警示訊號。
【先前技術】
【0002】
對於年長者而言,若跌倒後很容易產生巨大的傷害,例如跌倒後容易發生骨折、甚至腦出血等等的傷害;但是,有時候老人跌倒後無法被及時發現,因此也不能即時進行醫療處置,而錯過治療的黃金時間,造成不可逆的傷害。根據衛福部的調查,台灣每年有26萬名老人因為跌倒而死亡,其中85歲以上的老人因跌倒而致死的比例更高達40%,且若老人跌倒後越晚被發現,其死亡率也會越高,故若能即時偵測並通報老人的跌倒事件,並使其在黃金治療時間接受適當的醫療處置,能有效降低傷害程度,且減少整體的醫療支出。
【0003】
目前偵測跌倒事件的方法包含令使用者配戴可偵測跌倒事件的裝置,例如壓力感測鞋墊、配備有加速度計與陀螺儀的智慧衣、配戴於手腕的加速度計等等,但是該些穿戴裝置主要是偵測大幅度的動作變化,且若是使用者忘記穿戴時,也無法發揮該有的功效,因此目前仍亟需開發能有效辨識跌倒事件發生的裝置。
【發明內容】
【0004】
今,發明人有鑑於現有偵測跌倒的裝置或方法於實際使用仍有不足之處,於是乃一本孜孜不倦之精神,並藉由其豐富專業知識及多年之實務經驗所輔佐,而加以改善,並據此研創出本發明。
【0005】
本發明關於一種跌倒偵測裝置系統及其偵測跌倒事件的方法,其中跌倒偵測裝置系統包含一影像擷取模組,一資訊處理模組以及一伺服器;影像擷取模組包含至少一鏡頭以擷取影像,資訊處理模組電性連接於影像擷取模組,並包含一人體追蹤模組,一姿態辨識模組以及一跌倒辨識模組以及一動作辨識模;伺服器電性連接於資訊處理模組,以接收資訊處理模組傳遞的跌倒警示訊號。
【0006】
本發明之跌倒偵測裝置系統,係先以裝設有鏡頭的影像擷取裝置,捕捉周圍環境的畫面,並將擷取的影像傳遞至資訊處理模組;資訊處理模組的人體追蹤模組以追蹤不同時間點影像中的至少一個體,姿態辨識模組會辨識該至少一個體的軀幹骨架的建構,並產生一軀幹骨架訊號,且將軀幹骨架訊號傳遞到資訊處理模組的跌倒辨識模組;跌倒辨識模組辨識接收到的軀幹骨架訊號,以辨識跌倒事件發生與否,且於辨識到跌倒事件時,再進一步以該動作辨識模組確認該跌倒事,確認跌倒事件後,再產生一跌倒警示訊號。
【0007】
於本發明之一實施例中,跌倒偵測裝置系統進一步包含至少一接收端,接收端電性連接於伺服器以接收跌倒警示訊號。
【0008】
於本發明之一實施例中,資訊處理模組進一步包含一人臉辨識模組,以辨識該至少一個體的身分。
【0009】
於本發明之一實施例中,姿態辨識模組係辨識該個體的骨架的關節點,該個體的四肢位置以及四肢方向的2D矢量線,以獲得該個體的軀幹骨架的建構。
【0010】
於本發明之一實施例中,跌倒辨識模組係辨識該個體的脊椎線(Torso line)角度與地面垂直角度的偏差,辨識該個體垂直於地面的加速度值,以及該個體於影像擷取當時的長寬比,以辨識該跌倒事件。
【0011】
於本發明之一實施例中,伺服器為雲端伺服器。
【0012】
藉此,本發明之跌倒偵測裝置系統及其偵測跌倒事件的方法,能迅速並有效率的偵測到跌倒事件的發生,且能即時將跌倒警示訊號傳遞給跌倒個體的照護人員或是家屬,以便及早提供該跌倒個體必要的協助,降低跌倒事件的傷害或是後遺症。
【圖式簡單說明】
【0028】
第一圖:本發明跌倒偵測裝置系統的架構示意圖。
【0029】
第二圖:本發明跌倒偵測裝置系統的作用方式示意圖。
【0030】
第三圖:本發明之跌倒辨識模組的辨識方法示意圖。
【實施方式】
【0013】
為令本發明之技術手段其所能達成之效果,能夠有更完整且清楚的揭露,茲藉由下述具體實施例,詳細說明本發明可實際應用之範圍,但不意欲以任何形式限制本發明之範圍,請一併參閱揭露之圖式。
【0014】
本發明關於一種跌倒偵測裝置系統及其用於偵測跌倒的方法,能有效辨識跌倒事件,並於偵測跌倒事件後迅速發出警示訊號,以即時提供該跌倒者必要的援助。
【0015】
請參見第一圖與第二圖,本發明之跌倒偵測裝置系主要包含影像擷取模組(1)、資訊處理模組(2)與伺服器(3)。
【0016】
影像擷取模組(1)包含至少一鏡頭(11)以擷取周遭環境的影像,其中影像擷取模組(1)以及其鏡頭(11)可設置於距離地面高度2~2.5公尺,以能清楚並盡可能擷取周遭環境的影像。
【0017】
資訊處理模組(2)電性連接於該影像擷取模組(1),可直接設置於影像擷取模組(1)上,又或者影像擷取模組(1)與資訊處理模組(2)係共同設置於一裝置上;資訊處理模組(2)應用了卷積神經網路(convolutional neural network)運算的技術,且包含一人體追蹤模組(21)、一姿態辨識模組(22)、一跌倒辨識模組(23)以及一動作辨識模組(24)。
【0018】
一人體追蹤模組(21)係使用中心追蹤法(centroid tracker)以追蹤、及區分所偵測之骨架,中心追蹤法主要是計算前一次影像與現在影像中的物體中心點的歐式距離,並判斷距離最近者為同一物體。透過追蹤人體後,就能透過前後影像、並以姿態辨識模組(22)辨識出所追蹤對象的骨架,再以跌倒辨識模組(23)計算人體的姿態變化,並運用在跌倒連續動作之判別。
【0019】
姿態辨識模組(22)係辨識影像擷取模組(1)所擷取影像中,至少一個體(4)的軀幹骨架的建構,包含辨識該個體(4)骨架的關節點,以及該個體(4)的四肢位置以及四肢方向的2D矢量線,以獲得該個體(4)的軀幹骨架的建構。於本案之一實施例中,姿態辨識模組(22)為一種邊緣辨識裝置(Nvidia nano),運作時先利用MobileNetV2萃取所擷取影像的特徵圖(feature maps),接著再藉由深度學習模組(OpenPose)中的PAF(part affinity field)方法,對獲得的特徵圖進行支幹矢量預測,再將所預測之矢量,傳遞到Part Confidence Maps(PCMs)進行關節點預測,最後結合矢量以及關節點預測,並透過二分匹配法和匈牙利演算法組合成單一個體(4)或多位個體(4)的骨架資訊。
【0020】
接著,請再一併參見第三圖,資訊處理模組(2)的跌倒辨識模組(23)會再進一步分析該個體(4)的軀幹骨架的建構,以判斷是否發生跌倒事件,請一併參閱第二圖,判斷的步驟如下:(a)首先跌倒辨識模組(23)會先比較個體(4)的脊椎線(41)角度與地面垂直角度(5)的偏差,若個體(4)的脊椎線(41)角度與地面垂直角度(5)大於30度時,便會判斷該個體(4)有傾斜的動作;(b)接著,跌倒辨識模組(23)會再根據影像擷取模組(1)鏡頭(11)架設的傾角與高度、以及鏡頭(11)的焦距與最大垂直視角等等參數,計算該個體(4)距離鏡頭(11)的等距線,最後再根據所辨識出的個體(4)的腳踝位置以及等距線以判斷該個體的位置與鏡頭(11)的距離,最後再根據此距離以及鏡頭(11)的架設參數,如傾角與高度,計算出個體垂直於地面的加速度門檻值,並根據前後擷取的影像判斷個體(4)垂直於地面的加速度值是否大於該門檻值;若個體(4)垂直於地面的加速度值大於該門檻值,再進一步判斷個體(4)的長寬比,若個體(4)的長(Hight)比寬(Width)的比值小於2:1時,則判定該個體(4)可能為跌倒狀態,再進一步使用動作辨識模組(24)進行進一步的判定。
【0021】
動作辨識模組(24)是使用LSTM(Long Short-Term Memory)進行跌倒動作的辨識與確認,係先將人體骨架資料單獨提出後,進行影像大小之重整,並使用滑動窗口演算法(slide window algorithm)將人體骨架以先進先出的方式儲存於大小為之滑動窗口陣列(slide window array);因本發明使用的邊緣運算系統,其每秒影像處理張數(FPS)於完整流程下為8 FPS,而完整跌倒的動作整體時間約為2秒,因此本發明將LSTM的判斷間距設定為16 FPS,並使用14個人體關節點(鼻子、脖子、雙肩、左右手肘、左右手腕、雙臀、左右膝蓋、左右腳踝與雙耳),進行連續影像之跌倒偵測。若確定為跌倒事件發生,則資訊處理模組(2)便會產生一跌倒警示訊號(6),並將其傳遞給伺服器(3)。
【0022】
跌倒警示訊號(6)可以藉由網路或是其他的電子通訊方式,自資訊處理模組(2)傳遞到伺服器(3),例如於一實施例中,跌倒警示訊號(6)是藉由PoE網路模組傳送到伺服器(3),本案使用的伺服器(3)可為但不限於雲端伺服器;其中,跌倒警示訊號(6)亦包含了偵測到跌倒事件發生的鏡頭(11)位置以及跌倒事件發生的時間。
【0023】
接著,伺服器(3)會再將此跌倒警示訊號(6),藉由網路、無線網路或是其他的電子通訊方式,傳送給至少一接收端(7);此接收端(7)可為一電子行動裝置(71),例如為由家屬或是照謢人員攜帶的手機,當跌倒事件發生時,便可以即時接收到跌倒警示訊號(6),並得知跌倒事件發生的位置,以迅速的到達事發地點,提供跌倒者必要的援助以及送醫,以降低跌倒後造成的傷害與後遺症。
【0024】
此外,資訊處理模組(2)可進一步包含一臉部辨識模組,以於跌倒事件發生後,辨識出跌倒個體(4)的身分,再判斷跌倒警示訊號(6)的傳送對象,將跌倒警示訊號專一性的傳送到該跌倒個體(4)的照護人員或家屬。
【0025】
綜上,本發明之跌倒偵測裝置系統,係利用了卷積神經網路運算的技術,以資訊處理模組的姿態處理模組辨識個體的骨架,再藉由跌倒辨識模組辨識跌倒事件,以能即時發出跌倒警示訊號,且根據測試,本發明的辨識跌倒準確率可達到98%,辨識每秒張數(FPS)在7~8之間,辨識速度確實可以達到即時處理的效果;又本發明資訊處理模組的姿態辨識模組是利用「bottom-up」的方式辨識個體的骨架,即先找到個體的四肢枝幹,再將其拼組成骨架,與以往使用「top-down」辨識個體的技術相比,本發明的作用速度明顯提高;又,本發明跌倒辨識模組藉由同時辨識多種個體姿態的特徵,包含個體脊椎線與地面垂直線的角度、個體的加速度與長寬比等等,以判定跌倒事件的發生,亦減少誤判的機會;此外,本發明的影像擷取模組固定裝設於定點,而不需要使用者隨身配戴,因此可偵測的範圍更廣,且使用上更方便。
【0026】
綜上所述,本發明跌倒偵測模組裝置系統及其偵測跌倒事件的方法,的確能藉由上述所揭露之實施例,達到所預期之使用功效,且本發明亦未曾公開於申請前,誠已完全符合專利法之規定與要求。爰依法提出發明專利之申請,懇請惠予審查,並賜准專利,則實感德便。
【0027】
惟,上述所揭之說明,僅為本發明之較佳實施例,非為限定本發明之保護範圍;其,大凡熟悉該項技藝之人士,其所依本發明之特徵範疇,所作之其它等效變化或修飾,皆應視為不脫離本發明之設計範疇。
符號說明
more
1:影像擷取模組
11:鏡頭
2:資訊處理模組
21:人體追蹤模組
22:姿態辨識模組
23:跌倒辨識模組
24:動作辨識模組
3:伺服器
4:個體
41:脊椎線
5:地面垂直角度
6:跌倒警示訊號
7:接收端
71:電子行動裝置
縮圖尺寸
15%
35%
50%
65%
85%
100%
圖示:
主要
全部
主要
全部