帳號:
密碼:
CTIMES / 文章 /   
超-虛實體感互動系統設計
第十三屆盛群盃HOLTEK MCU創意大賽複賽報告

【作者: 許永和老師、朱冠融、吳孟紘】   2019年01月23日 星期三

瀏覽人次:【3114】
  


遊戲畫面從以前的馬賽克進步到了現今的 3D 畫面,畫面的細緻程度連毛孔都看的清楚,遊戲的畫面也到了極點,但遊戲玩家卻無法因此滿足,玩家要的不僅是視覺上的不同,還有觸感、聽覺、味覺等的革新,因此 VR(Virtual Reality)的出現衝擊了遊戲產業。


VR(Virtual Reality)又稱虛擬實境是利用電腦運算模擬出一個三維空間,讓使用者猶如置身在虛擬世界中,可以即時且沒有限制地觀察三維空間內的事物,提供使用者感之上的變化,能直接操作及觸摸周遭環境與事物的變化,讓使用者彷彿身歷其境。


以往的遊戲是利用鍵盤滑鼠在螢幕上做操控,現在則是轉為手把及搖桿來當輸入裝置,螢幕輸出改為虛擬實境頭戴裝置,將遊戲產業提高的一個不同的層次,對遊戲玩家而言,虛擬實境遊戲雖能夠讓使用者以肉眼感受到遊戲世界,但跟現實的感知相比還是略有不足。比如身處在雪山或沙漠中感受不到冷熱,被閃電打到卻沒有被電擊的感覺等,離讓使用者身歷其境尚有一步之遙。因此,本團隊想做出能更貼近現實的裝置,利用玩家手和腳的動作來控制遊戲中人物並透過大量體感裝置將遊戲中的事件回饋給玩家,並且實現超越一般「虛實」體驗與體感互動系統設計的功能。


一般市面常見的虛擬實境裝置都是以搖桿或手把作為控制,但拿著搖桿玩部分遊戲在整體上就有點突兀,因此本團隊以手套做為雛型,並加以設計成具備互動操作的體感裝置。而本系統之手套不只擁有亮眼的外型,還能利用手部揮動的特徵姿勢,如劃出圓形,三角形或正方形的動作辨識來達到多種控制目的。


作品構思:

本作品,超-虛實體感互動系統主要是透過在手套上加入多種感測器及搭配 VR 跑步機,使手套能利用手部揮動的姿勢,實現圖形的動作辨識,另外還可感受到各種溫度、振動與麻痺等感知回饋,達到超越一般”虛實”的 VR 體驗感覺,進而更加貼近真實的互動效果。


功能性:

● 透過 Wi-Fi 做一對多傳輸,使資料更加即時


● 手部姿勢與手揮動之圖形辨識,讓玩家玩遊戲時有更多操作方式


● 手套具備手勢姿勢辨識及溫度、振動與電擊的體感互動等多重控制與互動,以及回饋功能


● HID 人機介面裝置模擬鍵盤或滑鼠, 不需安裝其他驅動,插上電腦即可使用


創意性:

● 透過體感溫度的變化、振動的觸覺與電擊的麻痺感,讓玩家體驗更佳真實的遊戲互動體驗


● 手套具備圖形辨識功能, 能分辨圓形,正方形與三角形等動作,並相對應遊戲內的操作模式


● 需要的場地空間小,讓玩家即使是在房間也能開心遊玩


● 自行設計的手套外觀,讓玩家戴上後更加亮眼


實用性:

● 高容量聚合物離電池可重複充電,能夠長時間使用適用於大部分腳踏車


● 方便穿戴,適合長時間遊玩


● 遊戲與體感互動裝置的結合,讓遊戲更加耐玩有趣


● 寫實的遊戲背景,讓玩家能更有身歷其境的感覺


工作原理

此系統使用 Unity 開發的遊戲搭配設計出來的手套來進行遊戲,其中,手套可達到手指彎曲以及手揮動的感測,並提供溫度、震動的回饋詳細功能將於下方進行介紹:


Holtek HT66F2390 MCU 使用功能

手部姿勢辨識模組

本系統之手部姿勢辨識模組分為以下兩個部分:手指彎曲辨識與手部揮動圖形之動作辨識,並將於底下詳細解說。


●手指彎曲辨識


當玩家手指彎曲時,安裝於手指上的彎曲傳感器也會隨著彎曲,彎曲的程度會影響感測器 的電阻值,藉由 Holtek 之 HT66F2390 的 ADC 中斷讀取彎曲感測器的電壓,將資料轉換後經 由 Wi-Fi 傳送給接收端之 HID 裝置,接收端之


HID 裝置接收完資料後會輸出鍵盤值做為遊戲的操作。


●手部揮動圖形之動作辨識


當玩家在用本系統玩遊戲時,手所揮動的姿勢,Holtek 之 HT66F2390 會讀取九軸傳感器之加速度並進行特徵值辨識,並完成圖形辨識, 如圓形、方形與三角形等的圖形辨識。爾後, 再將資料轉換後經由 Wi-Fi 傳送給接收端之


HID 裝置,相對地,接收端之 HID 裝置接收完資料後,會輸出鍵盤值做為遊戲的操作動作。


體感回饋模組:

當玩家在遊戲中被怪物攻擊、周遭環境的冷熱變換與電擊時,會經由 HID 裝置透過 Wi-Fi 傳送資料給接收端之具備互動操作的手套。此 時,具備互動操作的手套之 Wi-Fi 接收完資料後,而 Holtek 之 HT66F2390 會利用 GPIO 去控制不同的體感裝置。


而控制致冷晶片上的電流方向可使致冷晶片產生溫度的變化,以及控制微動馬達達到振 動的觸覺。最後,利用變壓器提高電壓,透過 高電壓低電流讓人有被電擊的麻痺感,實現超 越一般“虛實”的 VR 體驗與體感互動。


HID 人機介面裝置模組

在此,藉由 Wi-Fi 與具備互動操作的手套的Wi-Fi 做資料的交換,透過 UART 傳送給 MCU,MCU 能做模擬鍵盤裝置的功能,將接收到的資料轉換為鍵盤值經 USB HID 人機介面裝置的中斷傳輸給電腦,控制遊戲的操作。由於具備 HID 群組特性,因此,具備無須安裝驅動程式即可 操作的便利性。


UART 特性與原理

UART 是 一 種 通 用 非 同 步 收 發 傳 輸 器(Universal Asynchronous Receiver/Transmitter), 通常稱作 UART。是電腦硬體的一部分,將資料由串列通信與並列通信間作傳輸轉換。UART 通常用在與其他通訊協定(如 EIA RS-232)的連結上。在串列傳輸通訊協定的格式內容,每 一個符號由四種資料共 11 個位元所組成


而如圖 1 所示,資料透過 FIFO(First Input First Output)的方式,由最低有效位元 LSB(Least Significant Bit) 開始傳輸直至最高有效位元MSB(Most Significant Bit)(奇偶同位元(PB)可以選擇忽略不使用)。



圖1 : UART 資料傳輸格式示意圖
圖1 : UART 資料傳輸格式示意圖

I2C 特性與原理

I2C 為一串列通訊匯流排協定。I2C 使用兩條雙向漏極電路與串列時脈,並利用上拉電阻將電位預設為高準位。I2C 的設計上使用一個 7位元長度的位址空間但保留了16 個位址,此外


一組匯流排最多可和 112 個節點進行通訊。


如下圖2所示,為 I2C 的資料傳輸過程,I2C 匯流排接線只有兩條訊號線:資料線(Serial Data Line ,SDA)與時脈線(Serial Clock Line, SCL),在傳輸時主裝置需按照一定的格式進行傳輸,並接收從裝置的回應訊號。從裝置在接收到回應訊號後會依照主裝置要求的記憶體位置回傳資料,達到資料傳輸的功能。



圖2 : I2C 之傳輸過程
圖2 : I2C 之傳輸過程

I2C 具備 Wired-AND 特性,其為多裝置相連且具有 AND 閘狀態之連線方式,I2C 藉由此方式定義出 I2C 的運作方式,當有任何一端處於低準位時,其他相連的接腳同樣會處於低準位,藉此達到以下效果:


主裝置端可以自由控制匯流排輸出低準位,卻不一定能控制匯流排輸出高準位必需匯流排上的其他晶片都輸出高準位,主裝置端才能完全掌控匯流排的輸出。


九軸傳感器(MPU9250)

九軸傳感器 (MPU9250)結合兩個晶片 : MPU-6050 含有三軸陀螺儀、三軸加速計以及板載 Digital Motion Processor (DMP ? ) ;


AK8963 晶片則是三軸磁力計。


本團隊藉由陀螺儀及加速度的變化,達到手部姿勢辨識之功能。如下圖3所示,為MPU9250之結構圖。其中,我們透過I2C介面來讀取九軸傳感器的各個數值。


以下,為 MPU9250 之特性:


● 三軸角速率感測器(陀螺儀),具有每秒±250°、±500°、±1000°和±2000°的滿刻度範圍


● 三軸加速計具有可編程的 ±2 g、±4 g、±8 g和 ±16 g 滿刻度範圍


● 三軸羅盤具有 ±4800 μT滿刻度範圍


● 數位輸出溫度感測器


● 可程式化的數位濾波器的陀螺儀,加速度計,和溫度傳感器


● 可耐受 10,000g衝擊


● 400 kHz 快速模式 I2C 或高達 1 MHz SPI序列主機介面


圖3 : MPU9250 結構圖
圖3 : MPU9250 結構圖

Wi-Fi Module

Wi-Fi 為一建立於 IEEE 802.11 標準的無線局域網技術,是一種可以用於短程無線傳輸的 通訊系統,在本系統中用於作為手套端與電腦端的溝通橋樑。


本團隊選用 ESP8266 作為本系統之 Wi-Fi Module,作品中使用標準為 802.11 b/g/n 並使用在手套的內部。手套可以透過 Wi-Fi 模組與電腦端的 Wi-Fi 模組進行連線,如圖4所示,為ESP8266 之接腳圖。其中,我們透過 UART 的AT 命令即可控制 Wi-Fi 模組。以下,為 ESP8266 之相關特性:


●內建協定 TCP/IP 支持 TCP Client 連線


●支援 UART/GPIO 資料通訊界面


●提供 AP、STA 與 AP+STA 多模式使用


●超低功耗,適合使用電池電源供應應用


●使用標準為 802.11b/g/n 標準


圖4 :  ESP8266 腳位圖
圖4 : ESP8266 腳位圖

彎曲傳感器(Flex 2.2)

彎曲傳感器(Flex 2.2)長度 2.2 英吋,傳感器的彎曲程度影響電阻值的變化,彎曲越大,電阻值則越大。一般狀態下的電阻值為 25K 歐姆,當有彎曲變化時,則是在 10K 歐姆~125K 歐姆。透過 ADC 的電壓轉換後,即可了解其彎曲程度。


在作品中彎曲傳感器放置在手套手指的位 置,藉由手指的彎曲控制遊戲的操作。如下圖 5 所示,為彎曲傳感器結構圖。



圖5 :  彎曲傳感器結構圖
圖5 : 彎曲傳感器結構圖

致冷晶片

致冷晶片由二極體組成,兩面為陶瓷基板。當通以直流電後,一面發熱,另一面發冷。在作品中,致冷晶片放置在手套靠進人體皮膚的附近,結合遊戲內周邊環境的影響讓使用者能感受到溫度變化。如下圖 6 所示,為致冷晶片結構圖。


而其控制方式是透過 GPIO 輸出高態或低態來控制繼電器開關,影響電流的方向,使致冷 晶片能夠產生冷熱的變化。


圖6 :  致冷晶片結構圖
圖6 : 致冷晶片結構圖

微型振動馬達

圓柱型振動馬達機身都是圓柱的形狀,馬達的振動強度是依照擺錘的大小和轉速而定。在 作品中藉由振動馬達的振動讓使用者感受到遊 戲內震動的感覺。如下圖 7 所示,為微型振動馬達實體圖。而其控制方式是透過 GPIO 輸出的高態或低態,控制馬達的開或關。


圖7 :  微型振動馬達實體圖
圖7 : 微型振動馬達實體圖

微型振動馬達

TP4057 IC 是一款完整的鋰電池充電器,具備電池正負極反接保護,並採用恆定電流/恆定電壓線性控制。TP4057 IC 可以適合 USB 電源工作。由於採用了內部 PMOSFET 架構,加上防逆充電路,所以不需要外部檢測電阻和二極體。熱反饋可對充電電流進行自動調節,以便在大功率操作或高環境溫度條件下對晶片溫度加以限制。充滿電壓固定於 4.2V,而充電電流可通過一個電阻進行外部設置。當電池達到4.2V 之後,充電電流降至設定值 1/10,TP4057將自動終止充電。當輸入電壓被拿掉時,TP4057IC 自動進入一個低電流狀態,電池漏電流在2uA 以下。如圖 8 所示,為 TP4057 IC 周邊接腳與鋰電池充電電路圖。


圖8 :  TP4057 IC 周邊接腳與鋰電池充電電路圖
圖8 : TP4057 IC 周邊接腳與鋰電池充電電路圖

HTC Vive

HTC Vive是一款虛擬現實頭戴式顯示器, 這款頭戴式顯示器的設計利用「房間規模」的 技術,通過傳感器把一個房間變成三維空間。在虛擬世界中允許用戶自然地導航,能四處走動,並使用運動跟蹤的手持控制器來生動地操 縱物體的能力,有精密的互動,交流和沉浸式環境的體驗。如下圖 9 所示,為 HTC Vive 實體圖。



圖9 :  HTC Vive 實體圖
圖9 : HTC Vive 實體圖

Unity 軟體

Unity 軟體是一套跨平台的遊戲引擎,可開發執行於 PC、Mac OS 單機遊戲,或是 iOS、Android 手機平板電腦的遊戲。Unity 也可開發線上遊戲,只需在網頁瀏覽器安裝外掛程式後即可執行 Unity 開發的遊戲。Unity 也可用於開發 PS3、XBox360、Wii 遊戲主機上的遊戲。本團隊利用免付費的模組及資源來設計能與本系統配合之遊戲,Unity 能藉由 C#抓取鍵盤所傳送的按鍵值,因此本團隊藉由模擬鍵盤來操作遊戲中的角色,並將遊戲中的溫度、振動與電擊等,回傳到具備互動操作的手套,實現超越一般「虛實」體驗與體感互動系統設計的功能。


作品結構


圖10 : 系統架構圖
圖10 : 系統架構圖

而本系統在技術實現上,主要分為以下四個部分,分別如下,後續也依下面章節來介紹:


● 手部姿勢辨識模組


● 體感回饋模組


● Unity 遊戲構思


手部姿勢辨識模組

當電源開啟時,Wi-Fi 模組會自動連接 HID 人機介面裝置的 Wi-Fi AP,等待彎曲傳感器及九軸傳感器初始化完成後,才可開始動作。在 此,分為兩種手勢辨識,一種是手指彎曲的手 勢辨識,透過微控制器去判斷彎曲感測器經手 指彎曲後所量到的電壓值,如達到設定值將會 形成指令封包透過 Wi-Fi 模組傳送到 HID 人機介面端,如圖 11 所示,為手勢姿勢辨識裝置流程圖。



圖11 : 手勢姿勢辨識裝置流程圖
圖11 : 手勢姿勢辨識裝置流程圖

體感回饋模組

當電源開啟時,W-Fi 模組會設定為 Wi-Fi


AP,等待 HID 人機介面裝置通過 Wi-Fi 傳值, 經由微控制器的分析,利用 GPIO 控制微型振動馬達、致冷晶片與電擊片,實現超越虛實的感覺。如圖 12 所示,為體感回饋裝置流程圖。



圖12 : 體感回饋裝置流程圖
圖12 : 體感回饋裝置流程圖

Unity 遊戲構思

在遊戲開發的前置構想中,認為遊戲必須將與開發的互動裝置功能發揮到極致,透過 VR 頭戴式顯示器與 VR 跑步機,提供玩家無死角的遊戲體驗,再搭配上手套互動式裝置,讓玩家在遊玩時透過手套中的回饋電路,與手勢辨識,讓玩家與遊戲的連結毫無距離。如圖13所示,為遊戲流程圖。



圖13 : 遊戲流程圖
圖13 : 遊戲流程圖

(本文作者為許永和老師、朱冠融、吳孟紘、林奕宏)

相關文章
以雙手取代按鍵 酷手科技搶攻頭戴裝置應用
具有物聯網功能之圓孔蓋
出騎制勝
回顧與展望--5個最失望 vs. 5個最期待
基於網路實體系統之燈聯網
comments powered by Disqus
相關討論
  相關新品
Arduino Motor Shield
原廠/品牌:RS
供應商:RS
產品類別:PC Board
mbed
原廠/品牌:RS
供應商:RS
產品類別:PC Board
Arduino
原廠/品牌:RS
供應商:RS
產品類別:PC Board
  相關新聞
» 福衛七號升空 點亮台灣的太空產業供應鏈
» 聯發科發佈Helio P65手機晶片 升級遊戲與拍照體驗
» 2020年電信商在M2M領域收入將出現驚人成長
» 發射後173分鐘 福衛七號第一次成功地面站通聯
» 力旺電子NeoFuse成功導入華邦25奈米DRAM製程平台
  相關產品
» 不可能產生黴菌! igus 工程塑膠滑動軸承通過測試
» 艾訊多元創新產品在2019華南工業自動化展亮相
» 富士通將推出世界首創FRAM安全認證解決方案
» Microchip升級主動型氫原子鐘MHM-2020效能 長期提高近十倍
» 司麥德Ezi-SERVO II EtherCAT步進伺服馬達 兼顧節能及快速部署
  相關資源
» Power Management Solutions for Altera FPGAs

AD


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2019 遠播資訊股份有限公司版權所有 Powered by O3
地址:台北市中山北路三段29號11樓 / 電話 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw