近日，黑龍江大學(xué)本科生創(chuàng)業(yè)團(tuán)隊(duì)的參賽項(xiàng)目“傳情達(dá)意——讓機(jī)器手語(yǔ)翻譯不再冰冷”憑借其獨(dú)特的創(chuàng)意和系列技術(shù)突破，在第十四屆“挑戰(zhàn)杯”秦創(chuàng)原中國(guó)大學(xué)生創(chuàng)業(yè)計(jì)劃競(jìng)賽中榮獲金獎(jiǎng)。這個(gè)項(xiàng)目研發(fā)了全國(guó)首個(gè)融合面部肌電信號(hào)的手語(yǔ)翻譯技術(shù)和相關(guān)AR眼鏡設(shè)備，不僅讓手語(yǔ)被“聽(tīng)到”，還能讓聲音被“看見(jiàn)”。

團(tuán)隊(duì)通過(guò)調(diào)研發(fā)現(xiàn)，目前助聾設(shè)備普及率只有5%，且普遍價(jià)格高，適配場(chǎng)景少，準(zhǔn)確率較低。為此，團(tuán)隊(duì)決定在助聾設(shè)備方面做進(jìn)一步探索。他們歷時(shí)兩年，研發(fā)出樣品并進(jìn)行完善，目前已與徐州市特殊教育中心等機(jī)構(gòu)簽訂購(gòu)買意向書。

“我們的創(chuàng)新產(chǎn)品主要由臂環(huán)和AR眼鏡兩部分組成?！表?xiàng)目負(fù)責(zé)人、黑龍江大學(xué)電子工程學(xué)院朱銘熙說(shuō)，臂環(huán)通過(guò)收集并識(shí)別聾啞人做手語(yǔ)時(shí)的肌電信號(hào)，將其轉(zhuǎn)化為語(yǔ)音，實(shí)現(xiàn)了手語(yǔ)的“聽(tīng)覺(jué)化”。在這一過(guò)程中，電極貼片起到了關(guān)鍵作用。它們能夠捕捉肢體動(dòng)作的細(xì)微變化，將其轉(zhuǎn)化為特征向量，與預(yù)先建立的手語(yǔ)向量數(shù)據(jù)庫(kù)進(jìn)行比對(duì)，從而準(zhǔn)確識(shí)別出手語(yǔ)的含義。

然而，僅有臂環(huán)的手語(yǔ)識(shí)別并不足以達(dá)到精準(zhǔn)翻譯的目標(biāo)。朱銘熙介紹：“手語(yǔ)中面部表情所占的權(quán)重不低于40%，而人的情緒主要通過(guò)眉毛和面頰兩側(cè)的肌肉來(lái)體現(xiàn)?！?

為了提升準(zhǔn)確率，團(tuán)隊(duì)進(jìn)一步提升了設(shè)備精準(zhǔn)捕捉表情、理解情感的能力。他們將電極貼片安裝在AR眼鏡的引擎上，研發(fā)了我國(guó)首個(gè)融合面部肌電信號(hào)的手語(yǔ)翻譯技術(shù)。當(dāng)佩戴者因情緒產(chǎn)生微表情的時(shí)候，設(shè)備就能精準(zhǔn)捕捉這些微小的面部表情，并將其轉(zhuǎn)化為特征向量后與數(shù)據(jù)庫(kù)中的信息進(jìn)行比對(duì)，從而讓手語(yǔ)翻譯更加精準(zhǔn)。

同時(shí)，團(tuán)隊(duì)還擴(kuò)大了數(shù)據(jù)吞吐量，實(shí)現(xiàn)設(shè)備時(shí)延小于0.1秒，能實(shí)時(shí)完成13000余條手語(yǔ)數(shù)據(jù)的調(diào)用。正是基于這些技術(shù)，與同類產(chǎn)品相比，團(tuán)隊(duì)產(chǎn)品的實(shí)時(shí)性翻譯能力更強(qiáng)，準(zhǔn)確度更高。

朱銘熙團(tuán)隊(duì)的成果，不僅讓手語(yǔ)被“聽(tīng)到”，還讓聲音被“看見(jiàn)”?？紤]到很多聽(tīng)障人士存在識(shí)字困難，朱銘熙團(tuán)隊(duì)開(kāi)發(fā)了一個(gè)能夠顯示在AR眼鏡上的數(shù)字人。當(dāng)識(shí)別到周圍有人說(shuō)話時(shí)，文字內(nèi)容可以直接匹配到數(shù)字人的手語(yǔ)動(dòng)作上。這樣，佩戴者就能在AR眼鏡上看到數(shù)字人打手語(yǔ)，無(wú)需識(shí)字就能理解對(duì)方的意思。

這一創(chuàng)新為聽(tīng)障人士提供了極大便利，為他們打開(kāi)了一個(gè)全新的交流世界。該技術(shù)不僅可以用于個(gè)人社交活動(dòng)，也能作為聾啞學(xué)校基礎(chǔ)的教學(xué)輔助裝置。“通過(guò)讓學(xué)生佩戴臂環(huán)，我們可以檢測(cè)他們的手語(yǔ)表達(dá)是否標(biāo)準(zhǔn)，中控臺(tái)可以實(shí)時(shí)顯示結(jié)果，讓手語(yǔ)教學(xué)更直觀，也大大降低了教學(xué)成本和時(shí)間。”朱銘熙介紹。

目前，2000余位聽(tīng)障人士佩戴了團(tuán)隊(duì)研發(fā)的產(chǎn)品。河南鄭州張哥助殘服務(wù)平臺(tái)創(chuàng)始人張繼磊試用產(chǎn)品后給予高度評(píng)價(jià)：“這款產(chǎn)品能夠切實(shí)幫助聾啞人群，應(yīng)用市場(chǎng)非常廣闊，希望能繼續(xù)完善，讓更多有需要的人受益?！?

目前，團(tuán)隊(duì)正在向數(shù)據(jù)庫(kù)繼續(xù)補(bǔ)充手語(yǔ)數(shù)據(jù)，擴(kuò)大產(chǎn)品的應(yīng)用場(chǎng)景。

（編輯：映雪）