主頁 > 移動端開發 > AR空間音頻能力,打造沉浸式聲音體驗

AR空間音頻能力,打造沉浸式聲音體驗

2022-11-11 08:04:16 移動端開發

隨著元宇宙的興起,3D虛擬現實廣泛參考,讓數字化資訊和現實世界融合,目前大家的目光主要聚焦于視覺互動層面,為了在虛擬環境中更好的再現真實世界的三維空間體驗,引入聽覺層面必不可少,空間音頻孕育而生,

空間音頻是一種音頻體驗,會讓用戶更容易體驗到聲音的立體感和深度,將環繞聲更準確地定位在合適的方位,讓用戶在生理上獲得更身臨其境的環繞效果,目前主要應用在AR、VR、語音視頻聊天室、在線會議、在線游戲、虛擬演唱會等,以及物件音頻制作等場景,

針對開發者的需求,華為HMS Core AR Engine XR Kit在AR展示(ARSceneView)中新增空間音頻能力,在已經加載的模型上添加音頻后,XR Kit內部根據設備和模型的空間位置變化,模擬真實世界中音頻的發聲,提升聽覺體驗,不佩戴耳機,只能感受音頻的聲音大小變化,佩戴耳機后,可以同時感受音頻的聲音大小及方位變化,空間音頻效果體驗更佳,

技術原理

利用聽音辨位的雙耳效應原理,依靠雙耳間的音量差、時間差和音色差判別聲音方位的效應,也就是說空間中音源的聲波從不同的方向傳播到左右耳的路徑不同、時間不同,以及耳廓中的折射、反射、吸收等,從而導致音量、音色、延遲等在左右耳會產生不同的變化,這些聲波變化程序就是聲波的空間傳遞函式,

空間音頻是預先測量記錄在模擬的消音室環境中全方位聲音傳到人耳的變化程序HRTF(Head Related Transfer Functions頭部相對傳輸函式),然后上層傳入的聲源和聽者的空間資訊(三維位置資訊和三維旋轉資訊),以計算出聽者和聲源的相對空間資訊,并根據HRTF資料庫得到當前相對空間資訊下的兩個聲道的HRTF回應脈沖函式,與當前雙聲道音頻資料進行卷積計算渲染出左右耳的聲音直傳雙耳,從而可以實作聽音辨位,

華為HMS Core AR Engine XR Kit未來將根據開發者的述求,逐步開放空間音頻引擎的更多能力,針對開放幾何空間,將開放多普勒效應、距離衰減、回聲等技術,提升在開放空間中相對運動時的空間音效體驗;針對密閉幾何空間,將引入房間聲學,例如實作遮擋、透射、反射、吸收、回聲等基礎音效演算法,更好的實作密閉幾何空間的3D聲效,還原真實聽感,

開發步驟

1. 開發環境要求:

在華為終端設備上的應用市場下載XRKit服務端APK(需在華為應用市場,搜索“華為XRKit”)并安裝到終端設備,

JDK 1.8.211及以上;

安裝Android Studio 3.0及以上:

minSdkVersion 27及以上

targetSdkVersion 29(推薦)

compileSdkVersion 29(推薦)

Gradle 6.1.1及以上(推薦)

測驗應用的設備:參見AREngine特性軟硬體依賴表,

如果同時使用多個HMS Core的服務,則需要使用各個Kit對應的最大值,

2. 開發準備

在開發應用前需要在華為開發者聯盟網站上注冊成為開發者并完成實名認證,具體方法請參見帳號注冊認證,

參見創建專案和在專案下創建應用完成應用的創建,配置如下:

“選擇平臺”:選擇“Android”,

“支持設備”:選擇“手機”,

“應用分類”:選擇“應用”或“游戲”,

華為提供了Maven倉集成方式的XRKit SDK包,在開始開發前,您需要將XRKit SDK集成到您的開發環境中,特別注意的是XRKit的Android版本要是1.6.0.0及其以上,

Android Studio的代碼庫配置在Gradle插件7.0以下版本、7.0版本和7.1及以上版本有所不同,請根據您當前的Gradle插件版本,選擇對應的配置程序,

以7.1版本為例:

打開Android Studio專案級“build.gradle”檔案,添加Maven代碼庫;

在“buildscript > repositories”中配置HMS Core SDK的Maven倉地址:

buildscript {
     repositories {
        google()
        jcenter()
        maven {url "https://developer.huawei.com/repo/" }
    }
}

打開專案級“settings.gradle”檔案,配置HMS Core SDK的Maven倉地址,

pluginManagement {
     repositories {
         repositories {
             google()
             jcenter()
             maven {url "https://developer.huawei.com/repo/" }
         }
     }
}
dependencyResolutionManagement {
     repositoriesMode.set(RepositoriesMode.FAIL_ON_PROJECT_REPOS)
         repositories {
         repositories {
             google()
             jcenter()
             maven {url "https://developer.huawei.com/repo/" }
         }
     }
}

在專案應用級的“build.gradle”檔案中“dependencies”添加編譯依賴,

dependencies {
     implementation 'com.huawei.hms:xrkitsdk:{version}'
}

3. 應用開發

3.1 模型檔案制作

在使用XRKit能力之前,您需要準備模型檔案,用于在虛擬現實中展示,模型檔案制作規范請參見模型檔案規范說明,

3.2 運行前驗證

檢查當前設備是否安裝了XRKit,若已經安裝則正常運行,具體實作代碼如下:

if (!XrKitFeatureFactory.isXrKitExist(getApplicationContext())) {
Toast.makeText(this, "XRKit is not available ", Toast.LENGTH_SHORT).show();
return false;
}

3.3 創建AR場景

使用XRKit特性組件工廠類XrKitFeatureFactory,實體化特性組件管理物件xrKitFeature并設定特性事件監聽,特性事件監聽用來獲取XRKit服務端上報的必要特性事件,xrKitFeature可根據需求創建不同AR場景,本例創建的是AR展示場景(ArSceneView),

try {
     if (xrKitFeature == null) {
     xrKitFeature = XrKitFeatureFactory.createXrKitFeature(getApplicationContext());
     }
     // Register a feature listener.
     xrKitFeature.setFeatureEventListener(this);
     // Create arSceneView.
     sceneView = xrKitFeature.createArSceneView(getApplicationContext());
} catch (XrKitUnavailableServiceApkTooOldException e) {
     Toast.makeText(this, "XRKit Service is Too Old, Please upgrade!",
Toast.LENGTH_SHORT).show();
     return false;
}

3.4 系結視圖到應用布局

獲取當前場景的視圖,系結視圖到應用的UI布局當中,

layout.addView(sceneView.getView(), 0, new ConstraintLayout.LayoutParams(
     ViewGroup.LayoutParams.MATCH_PARENT,
ViewGroup.LayoutParams.MATCH_PARENT));

3.5 選擇模式

Ar展示場景(ArSceneView)有AR模式和3D模式兩種模式,可根據需求選擇AR模式或3D模式,

AR模式:即虛實結合,您可以構建能在用戶環境中回應的影像(如家具或產品包裝)的AR應用,

3D模式:虛擬影片,您可以利用此功能構建展示影片的AR應用,

// AR模式
sceneView.setArMode(true);
// 3D模式
sceneView.setArMode(false);

3.6 設定場景

加載虛擬模型、設定3D場景的背景、設定AR場景下平面的可見性,

sceneView.loadModel(GONGCHENGSHI, "gongchengshi");
sceneView.setBackground(IMG_BLACK);
sceneView.setPlaneVisible(true);

在activity的onResume方法中呼叫sceneView的resume方法,啟動sceneView場景,

protected void onResume() {
     Log.d(TAG, "activity resume.");
     super.onResume();
     if (sceneView != null) {
        sceneView.resume();
     }
}

3.7 添加空間音頻

在模型處添加音頻,若此時空間音效引擎未做初始化,會實施初始化的動作,目前只支持MP3和WAV(PCM)格式音頻,標識音頻的全域唯一ID需要您根據業務需求指定,傳入重復的ID,不會覆寫已經添加的音頻,添加的音頻在設備與模型的距離小于等于5米時生效,

model.attachSoundToModel(String soundId, String soundUrl)  // 在模型處添加音頻
    String soundId,   例如:“Sound_Chariots_Repeat”
    String soundUrl,  例如: “assets://sounds/chariots.mp3”
model.detachSoundFromModel(String soundId)            // 從模型中洗掉音頻,
model.playSound(String soundId, int playMode)                 // 開始播放音頻,
    playMode有兩種模式(參考IModel):
    int PLAY_MODE_ONCE                         // 播放一次音頻,
    int PLAY_MODE_REPEAT                       // 回圈播放音頻, 
model.pauseSound(String soundId)                               // 暫停播放音頻,

了解更多詳情>>

訪問華為開發者聯盟官網
獲取開發指導檔案
華為移動服務開源倉庫地址:GitHub、Gitee

關注我們,第一時間了解 HMS Core 最新技術資訊~

轉載請註明出處,本文鏈接:https://www.uj5u.com/yidong/531538.html

標籤:其他

上一篇:[一句話說iOS]dispatch如何造成死鎖

下一篇:[一句話說iOS]dispatch如何造成死鎖

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【從零開始擼一個App】Dagger2

    Dagger2是一個IOC框架,一般用于Android平臺,第一次接觸的朋友,一定會被搞得暈頭轉向。它延續了Java平臺Spring框架代碼碎片化,注解滿天飛的傳統。嘗試將各處代碼片段串聯起來,理清思緒,真不是件容易的事。更不用說還有各版本細微的差別。 與Spring不同的是,Spring是通過反射 ......

    uj5u.com 2020-09-10 06:57:59 more
  • Flutter Weekly Issue 66

    新聞 Flutter 季度調研結果分享 教程 Flutter+FaaS一體化任務編排的思考與設計 詳解Dart中如何通過注解生成代碼 GitHub 用對了嗎?Flutter 團隊分享如何管理大型開源專案 插件 flutter-bubble-tab-indicator A Flutter librar ......

    uj5u.com 2020-09-10 06:58:52 more
  • Proguard 常用規則

    介紹 Proguard 入口,如何查看輸出,如何使用 keep 設定入口以及使用實體,如何配置壓縮,混淆,校驗等規則。

    ......

    uj5u.com 2020-09-10 06:59:00 more
  • Android 開發技術周報 Issue#292

    新聞 Android即將獲得類AirDrop功能:可向附近設備快速分享檔案 谷歌為安卓檔案管理應用引入可安全隱藏資料的Safe Folder功能 Android TV新主界面將顯示電影、電視節目和應用推薦內容 泄露的Android檔案暗示了傳說中的谷歌Pixel 5a與折疊屏新機 谷歌發布Andro ......

    uj5u.com 2020-09-10 07:00:37 more
  • AutoFitTextureView Error inflating class

    報錯: Binary XML file line #0: Binary XML file line #0: Error inflating class xxx.AutoFitTextureView 解決: <com.example.testy2.AutoFitTextureView android: ......

    uj5u.com 2020-09-10 07:00:41 more
  • 根據Uri,Cursor沒有獲取到對應的屬性

    Android: 背景:呼叫攝像頭,拍攝視頻,指定保存的地址,但是回傳的Cursor檔案,只有名稱和大小的屬性,沒有其他諸如時長,連ID屬性都沒有 使用 cursor.getInt(cursor.getColumnIndexOrThrow(MediaStore.Video.Media.DURATIO ......

    uj5u.com 2020-09-10 07:00:44 more
  • Android連載29-持久化技術

    一、持久化技術 我們平時所使用的APP產生的資料,在記憶體中都是瞬時的,會隨著斷電、關機等丟失資料,因此android系統采用了持久化技術,用于存盤這些“瞬時”資料 持久化技術包括:檔案存盤、SharedPreference存盤以及資料庫存盤,還有更復雜的SD卡記憶體儲。 二、檔案存盤 最基本存盤方式, ......

    uj5u.com 2020-09-10 07:00:47 more
  • Android Camera2Video整合到自己專案里

    背景: Android專案里呼叫攝像頭拍攝視頻,原本使用的 MediaStore.ACTION_VIDEO_CAPTURE, 后來因專案需要,改成了camera2 1.Camera2Video 官方demo有點問題,下載后,不能直接整合到專案 問題1.多次拍攝視頻崩潰 問題2.雙擊record按鈕, ......

    uj5u.com 2020-09-10 07:00:50 more
  • Android 開發技術周報 Issue#293

    新聞 谷歌為Android TV開發者提供多種新功能 Android 11將自動填表功能整合到鍵盤輸入建議中 谷歌宣布Android Auto即將支持更多的導航和數字停車應用 谷歌Pixel 5只有XL版本 搭載驍龍765G且將比Pixel 4更便宜 [圖]Wear OS將迎來重磅更新:應用啟動時間 ......

    uj5u.com 2020-09-10 07:01:38 more
  • 海豚星空掃碼投屏 Android 接收端 SDK 集成 六步驟

    掃碼投屏,開放網路,獨占設備,不需要額外下載軟體,微信掃碼,發現設備。支持標準DLNA協議,支持倍速播放。視頻,音頻,圖片投屏。好點意思。還支持自定義基于 DLNA 擴展的操作動作。好像要收費,沒體驗。 這里簡單記錄一下集成程序。 一 跟目錄的build.gradle添加私有mevan倉庫 mave ......

    uj5u.com 2020-09-10 07:01:43 more
最新发布
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:40:31 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:40:11 more
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:39:36 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:39:13 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:16:23 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:16:15 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:15:46 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:14:53 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:14:08 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:08:34 more