全球首個(gè)百億級(jí)遙感解譯基礎(chǔ)模型發(fā)布
日前從中國科學(xué)院空天信息創(chuàng)新研究院（以下簡稱“空天院”）獲悉，空天院付琨研究員團(tuán)隊(duì)聯(lián)合鵬城實(shí)驗(yàn)室正式發(fā)布自主研制的百億級(jí)遙感解譯基礎(chǔ)模型——“空天·靈眸”3.0版，這是迄今為止全球首個(gè)百億參數(shù)級(jí)空天一體遙感解譯基礎(chǔ)模型。
“空天·靈眸”是我國首個(gè)面向多模態(tài)遙感數(shù)據(jù)生成式基礎(chǔ)模型，也是首個(gè)專為遙感領(lǐng)域打造的行業(yè)基礎(chǔ)模型。自2022年首次推出后，空天院研究團(tuán)隊(duì)在“基礎(chǔ)模型+下游任務(wù)”計(jì)算范式積累上持續(xù)探索。今年3月起，研究團(tuán)隊(duì)與鵬城實(shí)驗(yàn)室深度合作，基于中國算力網(wǎng)“鵬城云腦Ⅱ”樞紐節(jié)點(diǎn)，采用512張昇騰910顯卡，歷時(shí)數(shù)月攻關(guān)完成了在4億張國產(chǎn)化多模態(tài)空天遙感數(shù)據(jù)樣本上的預(yù)訓(xùn)練，基礎(chǔ)模型參數(shù)規(guī)模首次超過百億。
中國科學(xué)院空天信息創(chuàng)新研究院研究員孫顯說：“我們?nèi)绻鸦A(chǔ)模型看作一個(gè)機(jī)器人，那么，‘參數(shù)’就相當(dāng)于它的‘記憶細(xì)胞’和‘知識(shí)細(xì)胞’。如果參數(shù)規(guī)模小，則它能記住和處理的信息就相對(duì)有限，只能做一些比較簡單的任務(wù)。參數(shù)規(guī)模越大，這兩種細(xì)胞就越多，它就能捕捉、記憶和處理更復(fù)雜的信息，從而更加準(zhǔn)確、精細(xì)地完成更困難、更復(fù)雜的任務(wù)。”
“空天·靈眸”3.0版內(nèi)核工作架構(gòu)是聯(lián)合團(tuán)隊(duì)基于熱傳導(dǎo)，自主研發(fā)的一套小而精的原創(chuàng)性架構(gòu)——受傳熱學(xué)物理思想啟發(fā)，聯(lián)合團(tuán)隊(duì)將場景目標(biāo)間視覺語義傳播建模為熱能擴(kuò)散過程，從而使該架構(gòu)有效突破了遙感模型推理的性能和速度瓶頸，計(jì)算速度較傳統(tǒng)結(jié)構(gòu)模型提升2.4倍以上。
孫顯介紹，這一架構(gòu)實(shí)現(xiàn)了模型數(shù)據(jù)學(xué)習(xí)、推理等速度的大幅提升。例如，原來訓(xùn)練1000萬張數(shù)據(jù)樣本，需要大約300多塊顯卡，現(xiàn)在只需要1/3的數(shù)量，處理速度還提升了約2.4倍。
“空天·靈眸”3.0版目前已表現(xiàn)出極為優(yōu)秀的泛化解譯性能，在可見光、合成孔徑雷達(dá)、熱紅外、多光譜等多傳感器衛(wèi)星數(shù)據(jù)基礎(chǔ)上，拓展至航空遙感飛機(jī)、無人機(jī)等不同航空平臺(tái)觀測數(shù)據(jù)的自動(dòng)化、高精度解譯處理。孫顯說：“尤其是航空大傾角成像過程中，極易出現(xiàn)畸變、遮擋、缺失等干擾，模型對(duì)此依然可以保持高精度的識(shí)別能力。”
目前，“空天·靈眸”3.0版在覆蓋場景分類、目標(biāo)檢測、語義分割、變化檢測等6大類任務(wù)的23個(gè)國際基準(zhǔn)數(shù)據(jù)集上測試，相較于當(dāng)前的主流模型，精度平均提升4%至10%，指標(biāo)均達(dá)到領(lǐng)先水平，并已在應(yīng)急、國土、海洋、住建等多個(gè)行業(yè)部署試運(yùn)行，特別是在最具挑戰(zhàn)性的復(fù)雜要素精細(xì)分類、運(yùn)動(dòng)小目標(biāo)連續(xù)跟蹤等任務(wù)上性能卓越，為天臨空地一體化應(yīng)用提供了一套行之有效的解決方案。未來，研究團(tuán)隊(duì)將持續(xù)推動(dòng)“空天·靈眸”3.0版在國民經(jīng)濟(jì)各個(gè)行業(yè)的落地應(yīng)用。
-江蘇?，m機(jī)械制造有限公司，化工泵，皮托管泵，旋噴泵，Ni-Hard材質(zhì)，零汽蝕余量泵，江蘇利工集團(tuán)有限公司，?，m機(jī)械，慶祝中華人民共和國成立75周年，包銀高鐵，獨(dú)庫公路，燃油附加費(fèi)，返程國慶，華為，潘功勝，A股,股市，華為鴻蒙，三星，碳市場，碳市場，神舟十九號(hào)，只此青綠，國家勛章，國慶檔，全國民族團(tuán)結(jié)進(jìn)步表彰大會(huì)，中國登月服，世界互聯(lián)網(wǎng)大會(huì)，大熊貓比力，中國商飛C919，渝昆高鐵，包銀高鐵，第21屆中國-東盟博覽會(huì)，長江口二號(hào)古船，珠海隧道，哈伊高速鐵路，愛國主義是中華民族精神的核心，文旅“大餐”點(diǎn)燃多彩假期，吞噬星空，詭秘之主，一世獨(dú)尊，凡人歌，學(xué)爸，朗逸、埃爾法，原神、王者榮耀，《志愿軍:存亡之戰(zhàn)》，《危機(jī)航線》，ChatAI，ChatGPT，冶金供應(yīng)部鋼鐵研究總院靖江不銹鋼泵閥廠，江蘇利工集團(tuán)有限公司，耐磨耐腐蝕Ni-Hard，904L，2205，2507，Ti合金等材質(zhì)。更多資訊，敬請(qǐng)百度查詢江蘇?，m機(jī)械制造有限公司網(wǎng)站：263188.cn 和江蘇?，m機(jī)械制造有限公司中國微博、微信，抖音，百度，谷歌，搜狗。
