時間:2021年07月07日 分類:電子論文 次數:
摘要:醫生通過內窺鏡觀察的人體內腔顯示為二維圖像,不能立體地展現內腔環境中病灶、血管及鄰近組織的關系,而內腔三維重建及可視化技術能夠清晰、全面地展現病灶及其他組織的三維形態,更好地輔助醫生進行精準的手術判斷。在人體內腔環境中的三維重建技術分為主動式測量方法、被動式測量方法兩種方式,進而分類綜述了基于結構光、飛行時間、雙目立體視覺、單目視覺的內腔三維重建技術及發展現狀。然后,針對同時定位與地圖構建(simultaneouslocalizationandmapping,SLAM)的內腔三維重建法,分析對比了內腔環境下的特征點檢測與匹配的發展、方法及特點,最后對人體內腔三維重建的難點和未來發展趨勢進行了展望。
關鍵詞:內腔三維重建;結構光;飛行時間;雙目視覺;單目視覺;特征點檢測;特征點匹配
三維重建隨著時間的發展,經過大量科學家的研究。已經取得了長足的進步。基于視覺的三維重建技術是計算機視覺的一個重要領域,該技術首先通過使用相關儀器來獲取場景物體的數據圖像,并對獲取的數據信息進行分析處理,把真實場景刻畫成符合計算機邏輯表達的數學模型,重建出真實環境中物體的三維信息。該技術目前大量應用于人工智能、自動駕駛、虛擬現實、安防監控、運動目標監測、行為分析和重點人群監護等領域,同時因其具有速度快、顯示清晰、實時性好等優點,可以對如文物保護、游戲開發、建筑設計、臨床醫學等研究起到輔助的作用。微創手術是利用現代醫療器械設備穿過人體表面的微小創口在人體內施行多人間接眼手協作的手術新技術[1]。
和傳統外科手術或早期的微創手術相比,現代微創手術具有操作精準、出血量較少、患者術后恢復的速度較快等優勢,因此日益受到歡迎,廣泛應用在內腔手術中。但是,外科醫生通過內窺鏡視頻流的可視顯示找到目標并執行復雜的手術,偶爾容易迷失方向、手眼失調,難以通過將腹腔鏡視野與術前圖像進行經驗匹配來確定病灶部位,易引起術中失誤。近些年,微創手術逐漸和計算機技術相融合,外科醫生利用手術經驗與圖像處理技術相結合,使用內窺鏡系統對病灶區域進行立體定位,打破了傳統手術的局限性[2]。
面對微創手術特殊復雜的環境以及臨床微創手術中實時性的要求,同時定位與地圖構建(simultaneouslocalizationandmapping,SLAM)技術逐漸應用于內窺鏡視覺領域[35],由數字化成像設備采集到的人體內腔信息,通過計算機建立三維內腔模型,結合醫生視角、內腔三維模型、患者體表三維形貌,生成內腔圖像,能夠更準確、真實地反映內腔結構及空間關系。在不影響醫生及手術環境的前提下,滿足普通微創手術中醫生對內腔輔助觀察的需求。該技術在一定程度上降低心跳、呼吸、手術因素對非剛性內腔表面的振動影響,進而提高特征信息選擇和配準的準確度。再進一步,醫務人員可以利用內腔先驗知識,從生物力學角度建立內腔器官的運動與形變模型,減少術中操作失誤,提高手術的準確性與科學性。
因此,本文根據近年來的國內外研究現狀對內腔三維重建技術中的常用方法進行了分類,重點針對內腔環境下基于計算機視覺領域的三維成像方法的優缺點和實際應用中的局限性等問題,分析不同方法的重建效果與應用場景,探究未來內腔環境中的三維重建技術的發展方向。
最后,本文重點闡述了單目視覺SLAM技術1內腔三維重建三維重建技術是對三維物體或者場景圖像描述的逆過程,利用數學公式根據二維影像恢復出物體表面三維信息的一種計算機技術。基于視覺的三維重建技術是利用相關設備獲取單視圖或者多視圖的圖像的圖像信息,結合圖像處理技術對其進行處理、操作和分析,最后綜合視覺計算等技術獲取物體的三維信息[6]。因為具有成本低廉,真實感強,全自動或半自動建模速度較快等優勢,該技術成為一個極具潛力的熱門領域,在諸多方面有著很重要的應用。
三維重建技術在醫學影像領域中,主要通過三維測量和實時重建將內腔環境呈現給醫護人員,輔助醫護人員術中判斷,目前主要應用在虛擬手術、術前規劃、牙科治療、整形及假肢外科、病灶診斷等醫學方面。內腔三維測量技術可分為非接觸式測量與接觸式測量。接觸式測量的典型方法為探針法,即使用探針接觸物體表面進行重建,但會對所接觸的物體表面造成一定的破壞或帶來組織變形等危險情況,無法應用到醫學微創手術當中。鑒于人體內腔三維建模技術需要針對狹小、特征缺乏的內腔空間快速三維重建,有較多限制,目前主要應用的是非接觸式測量,可分為主動式測量與被動式測量兩大類。二十世紀以來,國內外研究者逐步根據光學三維測量技術的硬件配臵簡單、測量精度高、點密度高、速度快、成本低等優點,設計了主動測量法對人體內腔進行三維重建。
主動式測量方法是將光源投射到內腔器官表面,然后通過內窺鏡采集器官表面圖像并獲得掃描數據,通過接收返回的光波來獲取物體的三維信息,從而重建內腔三維模型。主要包括結構光法、飛行時間法(timeofflight,TOF)等。被動式測量可以根據系統使用的攝像頭數量分為單目、雙目、三目等。在待測物體周圍的光照條件下,單目系統只利用一個攝像頭獲取待測物體的表面信息,以特征點為匹配基元進行兩幀圖像間的匹配,為三維重建的過程做鋪墊。由于受人體內腔復雜環境的限制,基于單目視覺法的三維重建技術成為主流研究方法。
2主動式測量方法
主動式三維測量方法主要包括編碼結構光法和飛行時間法,前者是將特定的光線進行投影,攝像機在待測物體表面探測到相同形狀光線的三維圖像,進而通過光線的二維畸變信息得出人體內腔表面的三維數據;后者通過待測量物體在固定介質中飛行一定距離所消耗的時間,從而進一步獲得人體內腔表面信息。
2.1基于編碼結構光的內腔三維重建
基于編碼結構光法的三維重建運用光學三角法的原理是將一幅或多幅編碼圖案投影到人體內腔中,由內窺鏡采集內腔中投影得到的編碼圖像,結合三角法的數學原理將投影圖像與編碼圖案對應點聯系起來,得到人體內腔的三維信息。大量學者聚焦編碼方法以提高內腔三維重建的測量精度、速度和準確度。
3被動式測量方法
雖然TOF相機操作簡單,處理速度快,在遠距離測量環境中具有較高的精度,但由于硬件條件的制約,目前市場上TOF相機易受高低溫、真空等內腔環境因素的影響,三維重建的穩定性不高。同時TOF相機讀取圖像不清晰會導致還原內腔深度圖像精度較差。同時TOF相機應用成本較高,故在內腔環境下利用飛行時間法進行三維重建的應用較少。
雙目立體視覺系統模仿人類雙眼視覺的原理,通過放臵兩臺相機從不同的視角對目標物體進行觀測,捕獲同一個位臵下的左右兩側圖像,運用三角測量原理獲得圖像特征的深度等信息進行三維模型的建立。與其他三維重建技術相比,雙目立體視覺法不需要過于復雜的硬件條件,通過相對便捷的操作方法即可實現三維重建,在醫學圖像處理、機器人視覺、物理科學和物體參數提取等領域中占有重要的地位,是當下三維重建技術中的熱點之一。 在實現雙目視覺法的整個過程中,立體匹配算法起到了關鍵作用,在內窺鏡的應用場景中,通過在兩個或多個觀察點之間尋找對應關系,進而獲得不同點之間的視差,實現內腔三維信息投影,獲得內腔三維模型。
2004年,Lau等人[29]針對傳統局部匹配算法的費時且精度不高的不足,開發了一種表面跟蹤算法,通過調整局部曲面結構的數值信息,從而直接推斷出心臟的三維結構。該算法既具有強穩定性且計算效率較高。同年,Stoyanov等人[3031]針對軟組織高光變形部分提出一種3D深度恢復方法,將圖像校正與約束視差配準相結合,得到了腹腔的深度信息,同時保證了立體腹腔鏡運動穩定性。
特征匹配算法具有較強的抗干擾性、計算量小、速度快的優點。20102013年,Stoyanov等人[3基于特征匹配通過結構傳播對心臟表面稀疏重建。該算法首先組建特征點對的集合,然后獲得點對之間的視差數據,然后估計每一幀的立體視差和連續幀之間的運動信息,對軟組織表面鏡面反射和手術器具遮擋的影響具有較好的魯棒性。但是該方法得到稀疏的視差場,需要進一步通過復雜的插值計算才能得到較為稠密的心臟表面重建場景。
2014年,Totz等人[35]在稀疏場景重建的基礎上提出采用迭代金字塔法進行序貫局部匹配傳播,進而得到準稠密立體匹配的重建方法。與其他順序處理圖像金字塔方法相反,該方法從金字塔頂端開始垂直遍歷至底端,并從左到右進行特征匹配以提高圖像分辨率。2016年,Penza等人[36]提出基于滑窗和Census變換特征的軟組織稠密三維重建方法,利用超像素方法對視差圖進行細化。
該方法有效應用于腹腔微創手術增強可視化,同時簡化了術前模型與術中部位之間的配準過程。 基于特征匹配算法由于缺少致密的特征點,無法重建出稠密的內腔場景。基于特征區域的匹配算法通過在局部區域內提取目標進而獲得致密的深度場景,但是匹配過程中目標搜索策略速度低、耗時較長。2018年,Bilel等人[37]提出一種基于小波分析的雙目視覺法,將小波分析應用到了內腔圖像分析中,在立體匹配環節大大減小了計算量,提高了圖像的傳播速度,改善了圖像的分辨率。該方法通過小波分析處理左右視圖的小波子帶,根據雙目視覺法的原理對立體內窺鏡圖像的局部特征進行增強處理,為內腔重建出更致密的三維圖像打下了基礎。
但是所提出的增強方法會增加鏡面反射分量,同時在立體內窺鏡圖像受到較大的遮擋的情況下,可能會影響重建效率。在圖像特性不連續的區域中常出現圖像周圍特性有階躍變化的邊緣特征,特征匹配解決了抗噪與非連續區域處的誤匹配問題。2018年,Wang等人[38]提出一種基于高斯加權變換的特征匹配算法實現了內腔三維重建。該算法針對邊緣和不連續區域,利用圖像熵和區域增長提取了遮擋導致的失配像素,與經典的立體匹配算法相比,立體匹配的平均相對誤差縮小至8.48%,長度測量的平均相對誤差減少至3.22%,可以有效地利用內窺鏡對人體內腔進行測量與重建。
雙目立體視覺技術具有抗干擾性能強、對環境要求不高、深度信息計算簡單的優點,從而在人體內腔三維重建中得到應用。但由于雙目立體視覺技術需要兩個攝像頭,并且對內窺鏡直徑的大小有較高要求,同時在內腔環境中可能出現遮擋器官或者視角受限等問題。視覺匹配和視差求取一直是雙目立體視覺的研究熱點,在匹配的過程中得到的特征點較為稀疏且特征點匹配耗時長。所以目前主要是在工業內窺鏡中得到廣泛應用,在醫用手術內窺鏡中的應用有限。
運用CT技術進行臨床診斷可較快定位患者病灶,進行及時有效的治療,因而將常規CT與三維重建技術相結合,有利于更加準確的定位病灶位臵,揭示病灶特征與組織之間的關系。進一步,將內窺鏡三維重建技術與CT三維影像重建信息的融合,在圖像處理平臺進行進一步的優化處理,使診斷的準確率得到有效提升,對疾病的發現與診斷具有重要意義,對術前完整性評估具有良好價值。
4.優化三維重建算法運算量
運算量大是人體內腔三維重建技術現在面臨的主要難題,過大的運算量占用了較長的時間,導致三維重建的效率低下。例如,雙目視覺方法由于受光照、圖像特征等因素的影響,在潮濕、昏暗的內腔環境下對特征匹配的要求更加嚴格。為了優化后續的位姿估計,需要剔除誤匹配點對,造成算法計算量劇增,對實時應用場景提出較大挑戰。由于曝光不均、噪聲等因素通常會引起的病灶區數據漏檢、邊界模糊等問題,進行3D重建前通常會通過精確超分辨率重建進行預處理,也需要大量運算進行迭代計算等等。人體內腔三維重建技術的運算量過大對重建的實時性造成很大影響,如何合理利用計算機技術,采用GPU計算、網絡云計算等多種方式,節省時間,提高運行速度及效率是解決該問題的關鍵。
計算機論文范例:應用計算機視覺數據探究大棚作物生長趨勢
5結束語
人體內腔三維重建技術已經得到廣泛的應用,并隨著科學技術的進步在不斷的更新迭代,其方法對臨床醫學產生了深遠影響。醫學圖像的三維重新在臨床診斷中發揮著越來越重要的作用,也在一定程度上加速了臨床醫學的發展進程。本文在分類介紹了人體內腔環境下的三維重建方法并給出相應的評析,此外本文還闡述當前三維重建算法存在的問題并對未來的研究工作進行了展望,但是這些方法想要應用到實際中都還要更進一步的研究和考察。因此,人體內腔三維重建領域中,結合優化算法進行病灶精確定位、結合多傳感器融合圖像信息進行內腔表面精準三維重建、將三維重建方法與已有技術相結合等研究方向,都需要進行更加深入細致的研究。
參考文獻:
[1]M.Rosen,J.Ponsky.Mininmallyinvasivesurgery[J].Endoscopy,2001,33(4):358364
[2]費保蔚.計算機輔助外科手術(CAS)的方法和進展[J].國外醫學生物醫學工程分冊2015,20(4):624631FeiBaowei.ThemethodanddevelopmentofcomputeassistedSurgery[J].JBiomedEng.2015,20(4):62431.
作者:吳海濱,徐若彤,王愛麗,,于曉洋,巖堀祐之,趙藍飛,劉赫