A. VR中的光學定位及姿態捕捉技術難點在哪
VR定位動捕技術難點在哪看4大因素要考慮
最近有文章解析了因為追星儀和陀螺儀的出錯,加上科學家寫反噴氣代碼導致了造成了價值19億的一台名為逗瞳地的X射線太空望遠鏡被玩壞了。實際上,追星儀和陀螺儀實現的類似於VR中的光學定位及姿態捕捉。一直以來,大家都在說VR定位動捕技術難,那到底難在哪裡呢看作者系VR行業從業者,本文將會探討下這個問題。
我相信,逗瞳地真實的毀滅原因一定比文章中描述的要復雜很多,我寫這篇文章也不是為了跟大家探討逗瞳地,而是想跟大家聊一下由此事件引發的一些思考。
| 逗瞳地和VR中的光學定位及姿態捕捉
瞳的追星儀,在文章中是這樣描述的逗追星儀是衛星上一個判斷自己方位的儀器……總的來說就是一個小相機,通過跟蹤拍攝背景里一些亮的星星的位置… 用來判斷自己所指向的方位……地。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
追星儀的定位技術大概是目標物體(即瞳本身)拍攝背景中的星星,根據得到的圖像及所識別出的星星的位置來獲取自身的方位信息。而瞳的陀螺儀則用來偵測瞳自身的空間姿態。所以,追星儀和陀螺儀實際上實現的類似於VR中的光學定位及姿態捕捉。
(1) 光學定位技術
VR中的光學定位技術是利用攝像機拍攝目標物體,根據得到的目標圖像及攝像機自身的位置信息推算出目標物體的位置及姿態等信息。根據標記點發光技術不同,光學定位技術還分為主動式和被動式兩種。
具體實現流程:定位物體上布滿標記點,標記點可以自主發射光信號或者反射定位系統發射來的點信號,使得攝像頭拍攝的圖像中標記點與周圍環境可以明顯區分。攝像機捕捉到目標物上標記點後,將多台攝像機從不同角度採集到的圖像傳輸到計算機中,再通過視覺演算法過濾掉無用的信息,從而獲得標記點的位置。該定位法需要多個 CCD 對目標進行跟蹤定位,需要至少兩幅以上的具有相同標記點的圖像進行亞像素提取、匹配操作計算出目標物的空間位置。實現流程圖如下:
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
光學定位技術實現流程
目前,光學定位技術在國際上最受認可的是Optitrack。OptiTrack定位方案適用於游戲與動畫製作,運動跟蹤,力學分析,以及投影映射等多種應用方向,在VR行業有著非常大的影響力。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
(2)慣性動作捕捉
陀螺儀的工作原理是通過測量三維坐標系內陀螺轉子的垂直軸與固定方向之間的夾角,並計算角速度,通過夾角和角速度來判別物體在三維空間的運動狀態。
它的強項在於測量設備自身的旋轉運動。陀螺儀用於姿態捕捉,集成了加速度計和磁力計後,共同應用在慣性動作捕捉系統。
慣性動作捕捉系統需要在運動物體的重要節點佩戴集成加速度計,陀螺儀和磁力計等慣性感測器設備,感測器設備捕捉目標物體的運動數據,包括身體部位的姿態、方位等信息,再將這些數據通過數據傳輸設備傳輸到數據處理設備中,經過數據修正、處理後,最終建立起三維模型,並使得三維模型隨著運動物體真正、自然地運動起來。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
| VR定位動捕技術到底難在哪裡看
前文提到,逗瞳地最終沒有避免毀滅的命運,當然我們得說這次毀滅有一些人為的可避免的錯誤造成,但無法否認的事實是它耗費了人類價值19億的資源。這也從側面證實了定位及動捕技術難度之高。
當然,應用於VR行業中時,對於精度等的要求不會有逗瞳地那麼高,但為了能給使用者帶來超強沉浸感體驗,定位及動捕的精度、延遲、刷新率等也一定要達到非常高的水平。很多人知道2016年被稱為VR的元年,但是又有多少人知道VR自1963年被提出至今耗費了多少科學家、工程師的心血看
讀者可能會有疑問,大家一直在說VR定位動捕技術難,那到底難在哪裡呢看接下來筆者就來談談VR定位動捕技術的難點。
(1)人體運動復雜性
由於在現實世界裡面,逗場景地是相對靜止的,我們之所以看到眼前的東西在動,是因為我們頭部、眼部、身體等在移動,使得眼前的逗場景地形成了一個動畫。而虛擬現實就是要模擬出現實世界的這種逗動畫地,也就是說在虛擬現實的設備中,畫面要根據人的這些動作做出相應的調整才可以,而這些動作看似使用定位、陀螺儀等設備就可以解決,但其實則不然。人體的動作可以看作是復雜且有一定規律的一系列動作組合而成,為了完成一個動作,每一個完整的動都可以分解為各個肢體的動作,各個肢體之間的動作既相互獨立又相互限制。人體的各種動作是有多個自由度組成,其復雜性使得計算機追蹤時存在著很多的困難和挑戰。
這里給大家舉個例子:
在一些大家很喜歡的搏鬥或者射擊游戲中,我們經常需要作出身體快速移動,頭部快速轉動,以及高速的轉身、下蹲等動作,一方面這些動作會帶來我們實現的變化,眼前所看到的畫面也會跟隨變化,且虛實情況也有區別;
另一方面,這些動作也必須會帶來虛擬世界中的一些反饋,例如瞄準僵屍打出一顆子彈,則虛擬世界中的僵屍將受傷或者倒下。想要讓使用者有真實的體驗,那麼追蹤技術就必須可以已非常高的精度實現定位及動捕,否則就不能算是真正的虛擬現實了。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
(2)精度問題
定位及動作捕捉精度,對於VR設備非常的重要。如果定位及動作捕捉精度不夠高,會嚴重影響VR體驗效果,也失去了虛擬現實的本質。影響精度問題的因素包括遮擋、干擾以及演算法自身的限制等。
遮擋是各種定位及動捕系統最常見的工作失效原因之一。
例如光學定位系統中:當掃描光線被用戶或物體遮擋時,空間點三維重構由於缺少必要的二維圖像中的特徵點間對應信息,容易導致定位跟蹤失敗。遮擋問題可以通過多視角光學系統來減輕,但這又造成了該系統又一大缺陷——價格過於昂貴。以Optitrack為例,Optitrack是國際上非常受認可的光學定位技術,如果有足夠的攝像機,Optitrack定位及動捕技術可以很好地解決遮擋問題,具有非常高的精度。但是Optitrack攝像機的價格卻讓多添加幾個攝像機變得不那麼容易。
干擾包括外界電磁波干擾和自身設備間相互干擾。不管是光學定位還是激光定位,對外界的電磁波干擾都非常敏感,特別是當設備使用無線的方式通信時,如果存在同波段的電磁干擾,就會造成卡頓、失靈等現象,嚴重影響體驗效果。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
還有一個因素是演算法本身的限制,例如慣性式動作捕捉技術。
慣性式動作捕捉系統採用MEMS三軸陀螺儀、三軸加速度計和三軸磁力計組成的慣性測量單元(IMU, Inertial Measurement Unit)來測量感測器的運動參數。而由IMU所測得的感測器運動參數有嚴重雜訊干擾,MEMS 器件又存在明顯的零偏和漂移, 使得慣性式動作捕捉系統無法長時間地對人體姿態進行精確的跟蹤。
目前對於這個問題,G-Wearables的解決方案或許可以參考,其利用激光定位、反向動力學、慣性式動作捕捉相融合的演算法來解決,從CES Asia展會上發布的STEPVR大盒子的體驗來看,融合演算法確實較好地解決了慣性式動捕的零偏和漂移問題,實現了1:1精準的動作還原。當然,這款產品的其他方面還需要消費者們自行去體驗,與本文主題無關就不再贅述。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
(3)快速運動時的定位及動捕問題
快速運動時的定位及動捕一直是VR行業一大難題,甚至現在很多公司都放棄了快速運動時的定位及動捕,通過VR內容控制用戶不要有快速的動作來避免這一問題,但這終究無法從根源上解決問題。
那為什麼說,快速運動時的定位及動捕難呢看
對於光學定位來說,難點在於運動模糊。
如果目標物體移動過於快速,則會出現運動模糊,即由於攝像設備和目標在曝光瞬間存在相對運動而形成的一種現象。這種現象很常見,我們平時用手機拍攝人物時,如果人物快速移動(例如奔跑、迅速起身等),則我們拍攝的圖片即是模糊的,在VR的光學定位中是一樣的。
光學定位系統利用多台攝像頭拍攝目標物體,再利用所獲得的圖像信息及攝像頭的位置信息來最終推算目標的空間位置,並基於這樣的空間位置通過IK演算法或者慣性感測器等來推算目標物體的動作。那麼如果目標物體處於快速運動中,則攝像頭拍攝的圖像就存在模糊,信息不可用,也就無法實現精準的定位。因此基於光學定位的VR系統,在目標物體快速移動時會出現卡頓、跳點等現象。
為什麼總說VR定位動捕技術難,它究竟難在哪裡看
對於激光定位技術來說,難點在於兩束激光掃描存在時間間隔。
激光定位技術需要水平、垂直兩個方向上的激光扇面對整個定位空間進行掃描,目標物體綁定的感測器必須接收到水平、垂直兩個方向上的激光後方可進行定位,缺一不可。然而,這兩個方向上的激光扇面是先後掃描,也就是存在時間差,如果目標物體迅速移動,則會出現水平和垂直兩個方向上激光掃描到感測器時感測器所在的位置不一樣,也就無法定位準確,進而影響動作捕捉。
B. vr大空間定位多少錢一次
VR大空間的收費目前還是比較貴的,我店裡是按人頭計算的,一個人68一次,一專次十幾分屬鍾左右,而且一般都是兩三個人一起玩,比普通的站樁的VR還是要受歡迎一些,可以一邊玩一邊交流配合,游戲用的造夢科技的游戲。
C. VR體驗館之痛 如何選擇合適的室內定位系統
室內定位常用的定位方案,從技術上來說,主要分為WiFi定位技術、慣性導航技術、藍牙技術、RFID技術、紅外技術、超聲波技術、超寬頻技術、LED可見光技術。室內定位技術眾多,各種技術都有自己的局限性,彼此間又在一定程度上存在互相競爭。作為用戶,肯定是更傾向於選擇滿足定位精度的同時,整體方案實施難度更小,成本更可控的室內定位方案。
主要室內定位方案對比:
從實際應用看:以藍牙室內定位方案為例,基於藍牙技術室內定位方案可分為藍牙信標方案和藍牙網關方案,怎麼選擇?很簡單,您實際應用中是要實現定位功能,還是導航功能。在之前的藍牙室內定位方案介紹中,SKYLAB君就很詳細的介紹過兩者的區別:藍牙信標方案(VG01/VG02)也就是我們常說的終端側定位方案,需要依靠手機才能夠知道位置,屬於主動定位,能夠實現室內環境內的導航服務;藍牙網關方案(TD03/TD05/TD05A)也就是我們常說的網路測定位方案,旨在讓別人知道所在的位置,屬於被動定位,在很大程度上能夠滿足室內資產的定位需求。
SKYLAB的終端側定位可應用於室內定位、導航,營銷路徑規劃,反向尋車,精準位置營銷等用戶終端。而網路側定位可用於人員跟蹤定位,智能考勤,門禁系統,資產定位及客流分析等場景之中。目前,天工測控的室內定位解決方案多以定製開發為主,畢竟各個行業領域的客戶應用需求各有不同,希望能夠幫助到您。
D. 一套定位器怎麼定位兩台HTC VR頭盔
一套追蹤器追蹤多套頭盔和控制器是可以的,只是每套頭顯與控制器都各專自需要一部電腦。只要屬把頭顯與控制器放入基站的游戲區范圍,電腦就會自動捕捉了。
一套定位器可追蹤4-5套頭顯和控制器。一個定位器可追蹤前方扇形120度的空間,如下圖,若是要將兩個定位器安裝在同一面牆上,後方可能會失去追蹤,這部份還請注意。
1. 兩套Vive頭顯與手柄,可以共用一套定位器。
2. 定位器的寬間無法因此擴大,兩套頭顯和手柄還是只能在此定位器的限定寬間范圍內進行活動。
E. 定位動捕背後 VR的演算法都有哪些
1、FK演算法
運動分為正向運動和反向運動。FK是 forward kinematics的縮寫, 即正向動力學;IK是Inverse Kinematics的縮寫,即反向運動學。人體的分級結構骨架,由許多採用分級方式組的環節鏈構成,包括分級結構關節或鏈,運動約束和效應器,由效應器帶動所有部分同時運動。
例如,肩關節、肘關節、腕關節及其子骨骼就是一條環節鏈,也就是運動鏈,是整個人體運動鏈上的一條分支,而我們的身體即是利用運動鏈對運動進行控制的。已知鏈上各個關節旋轉角,求各關節的位置信息和末端效應器(end effector)的位置信息,這是正向運動學的問題;而己知末端效應器的位置信息,反求其祖先關節的旋轉角和位置,這就是反向運動學。
2、 IK演算法
接下來我給大家介紹一下IK,即反向動力學。
上文已經介紹了IK演算法所要解決的問題,我再以投球動作為例說明:如果我們知道出球的起始位置、最終位置和路徑,那麼投球者手臂等的轉動即可按反向運動學自動算出。 反向運動學方法在一定程度上減輕了正向運動學方法的繁瑣工作,是生成逼真關節運動的最好方法之一。
3、PNP
PNP准確來說是一個問題,PNP 問題是由 Fisher 和 Bolles於 1981 年提出的。
PNP 問題的具體表述如下:在已知給定n個特徵點中任意兩個特徵點之間的距離以及這兩個特徵點與光心所成的角度,來求解各特徵點與光心的距離,這就是PNP問題。 PNP的主要用處就是可以確定目標物體上的n個特徵點在攝像機坐標系下的坐標,然後根據標定獲取的攝像機內外部參數,求算出特徵點在世界坐標系下的坐標值,最終給出目標的位姿信息。
F. VR定位
現在已經有了手勢定位、頭部移動定位和眼球追蹤定位,在智壹VR網有說
G. VR定位技術是則怎麼實現的
VR最大的特點是,給我們帶來了前所未有的沉靜感.這種沉浸感一方面依賴於光學透鏡版產生了大的視場權角,包裹玩家的視野,像觀看IMAX電影一樣身臨其境,另一方面來自於你的每一個交互(頭戴設備和控制設備的移動、旋轉)都能在虛擬世界中產生相應的效果,給你」就在現場」的感覺.而這這樣的效果是離不開VR的定位追蹤技術的.
VR的定位追蹤技術主要用來解決設備的六個自由度問題。其中六個自由度(6DOF)是指剛體在三維空間中的自由運動.具體而言,剛體可以自由的在三維空間中向前/向後,向上/向下,向左/向右平移,以及三個互相垂直的軸的姿態變化,這個姿態變化我們稱為pitch,yaw以及roll
如果離開了定位追蹤技術,VR將毫無沉浸感可言。
H. 一文讀懂VR世界的「空間定位」是個什麼鬼
前不久的OC3大會上,Oculus發布了Touch手柄和-scale(房間級)空間定位方案,算上早就發布了Lighthouse系統的HTC VIVE以及帶上PS camera就能玩空間定位的PSVR,虛擬現實頭顯三巨頭都算是進入了光學追蹤定位的VR交互新時代。
說到底,光學空間定位到底是如何實現?三大頭顯廠商的定位方案又有何優劣?未來VR交互又會向什麼樣的方向發展?
青亭網采訪了專注於紅外光學追蹤研發的青瞳視覺,他們的CEO張海威向我們介紹了目前市場上主要的定位技術的優劣,並用自家產品演示了光學定位的工作原理。
三種交互方案,為什麼最看好outside-in?
目前市場上主流的VR交互有三種:inside-in、outside-in以及inside-out,對於這三種方式的優劣,張海威談了談自己的看法。
張海威先用一個比喻形象的說明了一下VR交互的命名方式。他把inside形容為「獵手」,比如記錄光學信息的攝像頭或者記錄慣性信息的陀螺儀;out則被他看作「捕獵目標」,比如光學mark點。而in和out則表示「獵手」和「目標」是否在定位對象(比如人或者VR頭顯)上面。
Inside-out方案是把相機這樣的感測器放在身上,用來感知外界的環境,這種方案廣泛應用於機器人的機械視覺以及Hololens等手勢識別上。包括SLAM等公司,把相機裝在機器人身上,對機器人周邊的光學環境進行採集、處理,再與機器人的實際位置聯系起來實現自主導航。
這種方案的好處是不需要在外界設置攝像頭,可以減少場景的限制。但是由於只能識別頭部動作,加上體積、續航等領域存在問題,因此它更適合於移動VR這種輕交互場合。
Inside-in就是指感測器和定位點都在目標身上,最典型的就是慣性動捕:讓人穿上慣性捕捉設備來記錄人體的移動,或者移動VR中頭顯、手機里的陀螺儀設備記錄頭部的六自由度移動。
這種方式的好處是不依賴於外界的設備,更加自由,但壞處就是沒有位置信息,只能記錄移動的軌跡,而目前所有的陀螺儀設備都有累積誤差,會導致人在VR中移動的時候「走偏」。
Outside-in則是包括青瞳MC1300、optitrack系列這樣,相機放在外頭,mark點在人體或者頭顯上面。這種方式精確度更高,但壞處是一方面要藉助外面的攝像頭,對空間要求更大,另一方面則是相對成本更高。
在張海威看來,目前的技術都不完美,他認為對於固定場景的VR,outside-in類型的方案目前看起來相對成熟,而隨著市場的發展,困擾這套方案最大的問題,攝像頭的成本也會逐漸降低,所以張海威也選擇用這種方案切入VR市場。
產品體驗:精度高延遲低,小問題瑕不掩瑜
在位於上海大學校園內的青瞳視覺總部,青亭網體驗了青瞳視覺的光學追蹤產品。
進入青瞳視覺的實驗室,在工作人員的幫助下,筆者戴上了上面粘著數個反光球的Oculus Rift頭顯,以及同樣粘著數個反光球的手套和一個槍型手柄。
接下來,工作人員啟動了一個青瞳自製的demo游戲——筆者進入到一個機械空間之中,游戲本身很簡單,就是用手中的激光槍和巨大的機甲戰斗。
游戲中,整個空間的穩定性,在空間中行走、躲避的實時反饋都非常精確,包括用槍射擊的時候準星也非常穩定。唯一美中不足的是,在游戲的時候,游戲中的手部有的時候會突然地丟失。
對此張海威介紹,這是因為手套的mark點都集中在手背部,翻掌或者被遮擋的情況下,攝像頭捕捉不到mark點就會丟失,在實際的商業應用中,mark點覆蓋手的兩面,就可以解決這個問題。
降低延遲,二代產品的功夫在「機內」
對於VR來說,交互系統的延遲對人們的VR體驗有著決定性的作用,對於降低光學交互系統的延遲,張海威表示其實最重要的功夫是在機內的晶元演算法里。
青瞳視覺之前推出了一代產品MC300 tracker,而經過一年多的研發,這次推出的二代產品MC1300 tracker,如上圖所示,在硬體和性能上都有了很大的進步。以FPGA為核心的帶有1GB DDR3內存的拇指大小的微型電腦,處理速度及刷新率大大的提升,降低了延遲,提升了幀率,使得二代產品可以更好的捕捉高速運動中的物體。
當然這並不代表青瞳的水平已經超過Optitrack這樣的國際一流大廠,筆者調查後發現optitrack的產品線中也有Prime 13W這樣的廣角攝像頭方案。Prime13W的水平視角為82度,與MC1300的視場角相近。
實現Lighthouse並不困難,演算法裡面的門道才是壁壘
對於自家的產品,張海威有一個非常形象的介紹:如果說虛擬現實是PC之後下一代的計算平台,那麼光學追蹤系統就滑鼠、鍵盤一樣,用來讓人和虛擬現實的世界進行交互。
青瞳自家的紅外光學方案主要分為三個部分,攝像頭、標記點以及處理系統。攝像頭上感光鏡頭周圍有一圈小的led燈泡,發出的光線照射到反光球上,經過反射被攝像頭里的感光晶元捕捉,通過內置晶元的計算,最終得出反光球在空間中的位置信息。
只要空間中能有兩個攝像頭同時捕捉到這個反光球,就可以通過演算法計算出這個反光球在空間中的三維位置。
張海威介紹,在攝像頭的「眼」中,每個小球就像是一個發亮的點。通過在一個現實中的物體上(比如VR頭顯)固定住數個不等的小球,記錄下這些小球的移動信息,再通過小球間的位置關系確定頭顯在虛擬空間中的姿態和移動,從而計算出頭顯在一定場景中六自由度的運動信息。
以頭顯為例,假設一個人在戴上頭顯之後想看旁邊的柱子,轉頭的時候會被光學追蹤系統記錄下來傳輸給電腦,電腦的CPU計算出人應該看到的畫面是柱子,GPU會渲染出相應的畫面並顯示在頭顯的屏幕。
張海威表示,青瞳也研究過Steam的Lighthouse系統,並且稱它實現起來「並不困難」,真正的技術含量是在軟體層——兩個基站即便是被遮蔽一個也能正常工作,這一點是其他包括青瞳在內的演算法做不到的。
至於Oculus的追蹤系統,張海威稱二者原理類似,但他更看好Lighthouse,因為相比Oculus的系統,前者對硬體的要求更低,成本更低,穩定性也更好。
I. VR營銷平台如何精準鎖定目標群體
VR可以應用在多領域中,工業,醫療,旅遊,教育,建築,房產等方面。定位目標看你想涉及哪個領域了。營銷平台首先肯定是自媒體微信微博以及網站搭建了。還要看你定位的是高端客戶還是中低端客戶了。
J. 大朋E3定位版可以玩哪些VR游戲
相同點:都採用outside-in方案,精準性、實時性等技術指標相較inside-out會有較大改善。專提供了更好更真實的交互體驗屬。缺點是需要外部有固定的基站作為參考。兩者都採用被評價為「殿堂級的」激光定位解決方案,優勢在於精度與實時性優異、抗干擾與遮擋能力超強、運算量小、支持空間大、天然支持多目標定位(多人互動)。缺點在於便攜性差、成本較高。大朋的Polaris激光定位技術採用經典的激光發射基站+激光接收器的傳統模式,除了保有傳統的激光定位技術的所有優點之外,最大的不同點在於他的激光基站「很大隻」,是一長條的,比vive大不少,每台基站裡面有3個發射單元,比vive的2個發射單元多了50%,並且一長條的基站擴大了發射單元的間距。發射單元數量的增加以及發射單元間距變大,意味著激光接收器的數量可相應減少,解算空間定位的時候仍能得到相同數量的方程組,於是就能達到和Vive一樣的定位效果。優點在於降低了頭盔的重量,減少了對臉部的壓迫感。缺點在於基站的安置更為復雜(因為基站變大變重了)。