計算機和計算系統幾乎影響了現代生活的方方面面。例如,計算機通常涉及工作、娛樂、醫療保健、交通和娛樂,而甚至家庭和商業經營現在都可以利用計算機,比如說借助物聯網(IOT)設備。
事實上,物聯網設備正變得越來越普遍,據估全球有數十億臺。隨著物聯網設備的廣泛普及,跟蹤和監控所述物聯網設備在環境中的位置變得越來越必要,但同時越來越困難。例如,眾多物聯網設備易于攜帶,可以相對輕松地從一個位置移動到另一個位置,而由于其便攜性,一般很難跟蹤和監控物聯網設備的位置,以及它們監控的條件或狀態或狀態。所以,存在改善物聯網設備“重新定位”的實質性需求
在早前一份名為“Dynamically changing a fiducial marker for iot device identification”的專利申請中,微軟就介紹了一種支持MR頭顯來有效識別和定位物聯網設備的方法。日前,美國專利商標局又公布了一份類似與MR頭顯+IOT設備相關的發明。
延伸閱讀:微軟專利分享如何用HoloLens 2識別物聯網設備,構建AR/VR與AIoT的連接
“Mapping sensor data using a mixed-reality cloud”主要描述了一種用于重新定位物聯網設備的改進技術。
在一個實施例中,接收以數字方式表示由物聯網(IOT)設備監控的一個或多個條件的傳感器數據。作為響應,訪問傳感器讀數映射,其中所述映射與物聯網設備相關聯。映射同時以數字方式表示物聯網設備的環境,并且包括表示物聯網設備在環境中的位置的數據。映射同時包括表示由物聯網設備監控的條件的數據。另外,通過將傳感器數據附加到映射來更新映射。
在一個實施例中,頭戴式設備接收由物聯網設備生成的傳感器數據。所述數據描述/表示物聯網設備在環境中運行時監控的特定條件。頭顯訪問環境的數字表示,并將傳感器數據與數字表示相關聯。傳感器數據用于環境中的特定區域。將傳感器數據與數字表示關聯的過程包括將傳感器數據與對應于特定區域的數字表示的一部分關聯或鏈接。然后,頭顯呈現虛擬圖像,以可視化傳感器數據。頭顯配置為在可穿戴顯示器顯示復雜的虛擬圖像,并且進一步配置為響應于任何數量或類型的非預期外部刺激來更新虛擬圖像。
在一個實施例中,服務器計算機系統重新定位物聯網設備,并且更新物聯網設備的操作覆蓋區域的映射,以響應物聯網設備的位置變化。所以,服務器計算機系統接收描述環境中的物聯網設備的第一位置的傳感器數據。服務器確定物聯網設備沒有改變位置,并主動避免更新記錄物聯網設備的操作覆蓋區域的覆蓋映射。隨后,服務器接收:描述或數字表示物聯網設備的第二位置;或至少指示物聯網設備可能已移動的新傳感器數據。服務器將新傳感器數據與覆蓋映射進行比較,以確定物聯網設備已更改位置。服務器更新覆蓋映射以反映新的第二位置,并確定物聯網設備相對于第二位置的新操作覆蓋區域。服務器更新覆蓋映射,以反映新的覆蓋區域。
請注意圖3A和3B。圖3A示出了用于從物聯網設備收集傳感器數據,并使用傳感器數據更新與物聯網設備相關聯的傳感器讀數映射的示例方法300。方法300A可以由服務器執行,尤其可以由在服務器操作的MR服務執行。
首先,方法300包括從在環境中運行的物聯網(IOT)設備動作300A:接收描述由物聯網設備監控的一個或多個條件的傳感器數據。傳感器數據可以包括來自物聯網設備的傳感器的測量數據、來自物聯網設備的攝像頭的圖像數據,以及來自物聯網設備的IMU的IMU數據。
響應于接收傳感器數據,方法300包括訪問與IOT設備相關聯的傳感器讀數映射的動作300B。這里,傳感器讀數映射出環境,或者更確切地說是數字表示環境,并包括代表物聯網設備在環境中的位置的信息。另外,傳感器讀數映射記錄,或者說包括指示或代表由物聯網設備監測的條件的數據。
然后,方法300包括通過將傳感器數據附加、鏈接或以其他方式關聯到傳感器讀數映射來更新傳感器讀數映射的動作300C。通過這種方式,傳感器讀數映射能夠跟蹤和監控物聯網設備捕獲的傳感器數據。作為更新傳感器讀數映射以包括傳感器數據的結果,傳感器讀數映射更新以包括由物聯網設備生成的測量數據。另外,作為操作的結果,服務器計算機系統包括關于物聯網設備的感測操作條件的更新信息,例如物聯網設備感測的當前溫度、當前輻射水平、當前狀態或狀態等。
圖4示出了傳感器讀數映射400的示例,如結合方法300所述。傳感器讀數映射400描繪了物聯網設備當前所在環境的可視化。具體而言,物聯網設備位于具有地板布局405的家庭(或建筑物)內,并且傳感器讀數映射400可以提供地板布局405的視覺描述,即映射的顯示向用戶呈現地板布局的可視化。
在這種情況下,樓層布局405包括多個房間,例如房間A、B、C、D、E、F、G、H、I、J和K。在這里,物聯網設備是一個溫度傳感器,目前位于樓層布局405的房間A中。因此,IOT設備正在測量、檢測或以其他方式觀察房間A的溫度條件、狀態或參數。房間A同時顯示為包括前面描述的蒸煮鍋,但不需要顯示地板布局405。
如傳感器讀數410所示,傳感器讀數映射400目前提供了房間A中當前溫度梯度的視覺描述,即溫度梯度的可視化)。在這里,房間A包括一個噴出熱蒸汽的鍋125。熱蒸汽導致房間A中出現溫度梯度。溫度梯度在傳感器讀數圖400中直觀顯示。在更接近鍋125的位置提供更高的溫度。隨著距離鍋125的距離增加,溫度降低。物聯網設備能夠監控和檢測房間A中的溫度。通過從物聯網設備獲取傳感器數據,MR服務能夠以傳感器讀數映射圖400的形式繪制,或以其他方式直觀地記錄所述傳感器數據。除了IOT設備的傳感器數據的視覺再現之外,傳感器讀數映射400同時可以包括詳細說明傳感器數據的數字和/或文本記錄。因此,可以執行圖3A的方法300來生成和/或更新IOT設備的傳感器讀數映射。
在一個實施例中,可以向用戶提供視覺時間戳或其他指示。例如,假設第一個用戶繪制出一個給定的房間。在這里,可以將時間戳附加或以其他方式鏈接到房間的掃描數據,以指示掃描何時開始或何時完成。隨后,當第二用戶進入房間時,第一次掃描的時間戳可以直觀地顯示給第二用戶。通過顯示時間戳,第二用戶可以知曉之前掃描房間的時間,以及掃描數據的新舊程度。新舊程度取決于一系列的因素。例如,掃描具有眾多能夠移動對象的環境可能只在相對較短的時間內屬于新數據。相比之下,對于幾乎沒有或根本沒有能夠移動對象的環境,掃描數據可能會在相對較長的時間內屬于新數據。所以,新舊程度可能取決于環境的屬性或特征,包括位于環境中的對象。
現在轉到圖3B,其示出了可由頭顯執行示例方法305的流程圖。最初,方法305包括接收由物聯網設備生成的傳感器數據的動作305A。
然后,方法305包括動作305B,其中頭顯訪問環境的數字表示。數字表示可以是由頭顯本身生成的3D數字表示。頭顯可以包括任意數量的掃描傳感器,例如深度攝像頭或其他深度傳感器,并用于繪制環境的三維幾何形狀、形狀和/或輪廓。生成的映射數據可用于生成環境的三維數字表示。三維數字表示可以包括三維表面重建網格、三維點云和/或代表環境的任何數量或其他類型的深度映射。
接下來,方法305包括將傳感器數據與環境的數字表示相關聯的動作305C。值得注意的是,傳感器數據與環境中的特定區域相關聯。參考圖4,傳感器數據與包括房間A到K的環境的地板布局405內的房間A相關聯。
將傳感器數據與數字表示關聯包括將傳感器數據與對應于特定區域的數字表示的一部分關聯、鏈接、關聯或以其他方式附加。例如,數字表示可以包括描述來自圖4的樓層布局405的至少房間A的三維數據和/或二維數據。數字表示同時可以描述包括在樓層布局405中的其他房間(即房間B到K)。所以,因為數字表示至少描述了房間A,所以傳感器數據可以與專門對應于房間A的數字表示的數據相鏈接或關聯。
回到圖3B,響應于:1.確定頭顯在物理上接近特定區域;或2.確定由頭顯渲染的場景正在可視化特定區域,方法305包括在頭顯渲染虛擬圖像的動作305D。其中,虛擬圖像代表傳感器數據。因此,頭顯可以顯示與物聯網設備監控的一個或多個條件相對應的可視化。圖5中提供了在方法305中執行的處理的示例。
具體而言,圖5顯示了頭顯500,頭顯500顯示為包括視場505。圖5同時示出了物聯網設備510。在圖中,鍋515將熱蒸汽釋放到房間中。
如圖3B的方法305所述,頭顯500已接收到由IOT設備510生成的傳感器數據。傳感器數據可以從MR服務接收,或者傳感器數據可以直接從IOT設備接收,而不經過MR服務。
響應于從外部物聯網設備接收傳感器數據,頭顯500隨后呈現與物聯網設備510的傳感器讀數相對應的虛擬圖像520。例如,圖5示出了頭顯500如何呈現罐515周圍的溫度梯度。相對靠近鍋515的區域視為更熱(例如虛擬圖像520中較暗的區域),而相對遠離鍋515的區域則視為較冷(例如鍋515周圍逐漸變亮的區域)。因此,頭顯500能夠可視化由IOT設備510生成的傳感器數據,并且可以用于可視化由IOT設備510監控的條件、參數或因素。
在一個實施例中,物聯網設備以預定頻率傳輸其傳感器數據。頻率的例子可以是每隔幾秒鐘、幾分鐘、幾小時、幾天、幾周甚至幾個月。在一個實施例中,物聯網設備根據一個或多個觸發條件傳輸其傳感器數據。觸發條件可包括檢測其監測條件之一發生變化。例如,物聯網設備可配置為連續或周期性地獲取傳感器數據。傳感器數據可以存儲在物聯網設備的緩沖區、緩存或內存中。
如果傳感器數據的值在一次迭代到另一次迭代(即從一次傳感器數據捕獲到另一次傳感器數據捕獲)期間沒有變化,則可能不需要將冗余或重復數據傳輸到MR服務(或頭顯)。所以在一個實施例中,物聯網設備僅響應于其所監測的條件中檢測到的變化而發送數據。當然,條件可以是任何受監控的條件。
例如,物聯網設備可以響應溫度、濕度、操作環境的變化,甚至物聯網設備自身位置的變化(例如通過IMU數據的變化和/或物聯網設備攝像頭捕捉的圖像記錄變化)而傳輸其傳感器數據。因此,在至少一個示例中,可以由MR服務和/或由頭顯響應于IOT設備的位置變化來接收傳感器數據。
除了顯示三維虛擬圖像,頭顯500同時能夠顯示圖4中傳感器讀數映射400的二維版本。頭顯500可以在視場505內同時顯示傳感器讀數映射400和虛擬圖像520。例如,傳感器讀數映射400可以顯示為視場505內的迷你映射。
可選地,頭顯500可以配置為在顯示傳感器讀數映射400和虛擬圖像520之間切換,以便在任何時間僅顯示一個。可以響應命令(例如語音激活命令、虛擬按鈕操作或物理按鈕操作)來執行這兩種可視化之間的切換。
相關專利:Microsoft Patent | Mapping sensor data using a mixed-reality cloud
名為“Mapping sensor data using a mixed-reality cloud”的微軟專利申請最初在2021年11月提交,并于日前由美國專利商標局公布。