巴延興

深圳開鴻數字產業發展有限公司

資深OS框架開發工程師

以下內容來自嘉賓分享，不代表開放原子開源基金會觀點

一、簡介

媒體子系統為開發者提供一套接口，方便開發者使用系統的媒體資源，主要包含音視頻開發、相機開發、流媒體開發等模塊。每個模塊都提供給上層應用對應的接口，本文會對音視頻開發中的音視頻播放框架做一個詳細的介紹。

二、目錄

foundation/multimedia/media_standard

├── frameworks                        #框架代碼
│ ├── js
│ │ ├── player
│ ├── native
│ │ ├── player                    #native實現
│ └── videodisplaymanager         #顯示管理
│     ├── include
│     └── src
├── interfaces
│ ├── inner_api                     #內部接口
│ │ └── native
│ └── kits                          #外部JS接口
├── sa_profile                        #服務配置文件
└── services
  ├── engine                        #engine代碼
  │ └── gstreamer
  ├── etc                           #服務配置文件
  ├── include                       #頭文件
  └── services
    ├── sa_media                  #media服務
    │ ├── client                #media客戶端
    │ ├── ipc                   #media ipc調用
    │ └── server                #media服務端
    ├── factory                   #engine工廠
    └── player                    #player服務
     ├── client                 #player客戶端
      ├── ipc                    #player ipc調用
└──server#player服務端

三、播放的總體流程

?

四、Native接口使用

OpenHarmony系統中，音視頻播放通過N-API接口提供給上層JS調用，N-API相當于是JS和Native之間的橋梁，在OpenHarmony源碼中，提供了C++直接調用的音視頻播放例子，在foundation/multimedia/player_framework/test/nativedemo/player目錄中。

void PlayerDemo::RunCase(const string &path)
{
    player_ = OHOS::CreatePlayer();
    if (player_ == nullptr) {
        cout << "player_ is null" << endl;
        return;
    }
    RegisterTable();
    std::shared_ptr cb = std::make_shared();
    cb->SetBufferingOut(SelectBufferingOut());


    int32_t ret = player_->SetPlayerCallback(cb);
    if (ret != 0) {
        cout << "SetPlayerCallback fail" << endl;
    }
    if (SelectSource(path) != 0) {
        cout << "SetSource fail" << endl;
        return;
    }
    sptr producerSurface = nullptr;
    producerSurface = GetVideoSurface();
    if (producerSurface != nullptr) {
        ret = player_->SetVideoSurface(producerSurface);
        if (ret != 0) {
            cout << "SetVideoSurface fail" << endl;
        }
    }
    SetVideoScaleType();
    if (SelectRendererMode() != 0) {
        cout << "set renderer info fail" << endl;
    }
    ret = player_->PrepareAsync();
    if (ret !=  0) {
        cout << "PrepareAsync fail" << endl;
        return;
    }
    cout << "Enter your step:" << endl;
    DoNext();
}

首先根據RunCase可以大致了解一下播放音視頻的主要流程，創建播放器，設置播放源，設置回調方法（包含播放過程中的多種狀態的回調），設置播放顯示的Surface，這些準備工作做好之后，需要調用播放器的PrepareASync方法，這個方法完成后，播放狀態會變成Prepared狀態，這時就可以調用播放器的play接口，進行音視頻的播放了。 RegisterTable()方法中，將字符串和對應的方法映射到Map中，這樣后續的DoNext會根據輸入的命令，來決定播放器具體的操作。

void PlayerDemo::DoNext()
{
    std::string cmd;
    while (std::cin, cmd)) {
        auto iter = playerTable_.find(cmd);
        if (iter != playerTable_.end()) {
            auto func = iter->second;
            if (func() != 0) {
                cout << "Operation error" << endl;
            }
            if (cmd.find("stop") != std::npos && dataSrc_ != nullptr) {
                dataSrc_->Reset();
            }
            continue;
        } else if (cmd.find("quit") != std::npos || cmd == "q") {
            break;
        } else {
            DoCmd(cmd);
            continue;
        }
    }
}


void PlayerDemo::RegisterTable()
{
    (void)playerTable_.emplace("prepare", std::bind(&Player::Prepare, player_));
    (void)playerTable_.emplace("prepareasync", std::bind(&Player::PrepareAsync, player_));
    (void)playerTable_.emplace("", std::bind(&Player::Play, player_)); // ENTER -> play
    (void)playerTable_.emplace("play", std::bind(&Player::Play, player_));
    (void)playerTable_.emplace("pause", std::bind(&Player::Pause, player_));
    (void)playerTable_.emplace("stop", std::bind(&Player::Stop, player_));
    (void)playerTable_.emplace("reset", std::bind(&Player::Reset, player_));
    (void)playerTable_.emplace("release", std::bind(&Player::Release, player_));
    (void)playerTable_.emplace("isplaying", std::bind(&PlayerDemo::GetPlaying, this));
    (void)playerTable_.emplace("isloop", std::bind(&PlayerDemo::GetLooping, this));
    (void)playerTable_.emplace("speed", std::bind(&PlayerDemo::GetPlaybackSpeed, this));
}

以上的DoNext方法中核心的代碼是func()的調用，這個func就是之前注冊進Map中字符串對應的方法，在RegisterTable方法中將空字符串""和"play"對綁定為Player::Play方法，默認不輸入命令參數時，是播放操作。

五、調用流程

? ?

左右滑動查看更多

本段落主要針對媒體播放的框架層代碼進行分析，所以在流程中涉及到了IPC調用相關的客戶端和服務端，代碼暫且分析到調用gstreamer引擎。 首先Sample通過PlayerFactory創建了一個播放器實例（PlayerImpl對象），創建過程中調用Init函數。

int32_t PlayerImpl::Init()
{
    playerService_ = MediaServiceFactory::GetInstance().CreatePlayerService();
    CHECK_AND_RETURN_RET_LOG(playerService_ != nullptr, MSERR_UNKNOWN, "failed to create player service");
    return MSERR_OK;
}

MediaServiceFactory::GetInstance()返回的是MediaClient對象，所以CreateplayerService函數實際上是調用了MediaClient對應的方法。

std::shared_ptr MediaClient::CreatePlayerService()
{
    std::lock_guard lock(mutex_);
    if (!IsAlived()) {
        MEDIA_LOGE("media service does not exist.");
        return nullptr;
    }


    sptr object = mediaProxy_->GetSubSystemAbility(
        IStandardMediaService::MEDIA_PLAYER, listenerStub_->AsObject());
    CHECK_AND_RETURN_RET_LOG(object != nullptr, nullptr, "player proxy object is nullptr.");


    sptr playerProxy = iface_cast(object);
    CHECK_AND_RETURN_RET_LOG(playerProxy != nullptr, nullptr, "player proxy is nullptr.");


    std::shared_ptr player = PlayerClient::Create(playerProxy);
    CHECK_AND_RETURN_RET_LOG(player != nullptr, nullptr, "failed to create player client.");


    playerClientList_.push_back(player);
    return player;
}

這個方法中主要通過PlayerClient::Create(playerProxy)方法創建了PlayerClient實例，并且將該實例一層層向上傳，最終傳給了PlayerImpl的playerService_變量，后續對于播放器的操作，PlayerImpl都是通過調用PlayerClient實例實現的。

int32_t PlayerImpl::Play()
{
    CHECK_AND_RETURN_RET_LOG(playerService_ != nullptr, MSERR_INVALID_OPERATION, "player service does not exist..");
    MEDIA_LOGW("KPI-TRACE: PlayerImpl Play in");
    return playerService_->Play();
}


int32_t PlayerImpl::Prepare()
{
    CHECK_AND_RETURN_RET_LOG(playerService_ != nullptr, MSERR_INVALID_OPERATION, "player service does not exist..");
    MEDIA_LOGW("KPI-TRACE: PlayerImpl Prepare in");
    return playerService_->Prepare();
}


int32_t PlayerImpl::PrepareAsync()
{
    CHECK_AND_RETURN_RET_LOG(playerService_ != nullptr, MSERR_INVALID_OPERATION, "player service does not exist..");
    MEDIA_LOGW("KPI-TRACE: PlayerImpl PrepareAsync in");
    return playerService_->PrepareAsync();
}

對于PlayerImpl來說，playerService_指向的PlayerClient就是具體的實現，PlayerClient的實現是通過IPC的遠程調用來實現的，具體地是通過IPC中的proxy端向遠端服務發起遠程調用請求。 我們以播放Play為例：

int32_t PlayerClient::Play()
{
    std::lock_guard lock(mutex_);
    CHECK_AND_RETURN_RET_LOG(playerProxy_ != nullptr, MSERR_NO_MEMORY, "player service does not exist..");
    return playerProxy_->Play();
}

int32_t PlayerServiceProxy::Play()
{
    MessageParcel data;
    MessageParcel reply;
    MessageOption option;


    if (!data.WriteInterfaceToken(PlayerServiceProxy::GetDescriptor())) {
        MEDIA_LOGE("Failed to write descriptor");
        return MSERR_UNKNOWN;
    }


    int error = Remote()->SendRequest(PLAY, data, reply, option);
    if (error != MSERR_OK) {
        MEDIA_LOGE("Play failed, error: %{public}d", error);
        return error;
    }
    return reply.ReadInt32();
}

proxy端發送調用請求后，對應的Stub端會在PlayerServiceStub::OnRemoteRequest接收到請求，根據請求的參數進行對應的函數調用。播放操作對應的調用Stub的Play方法。

int32_t PlayerServiceStub::Play()
{
    MediaTrace Trace("binder::Play");
    CHECK_AND_RETURN_RET_LOG(playerServer_ != nullptr, MSERR_NO_MEMORY, "player server is nullptr");
    return playerServer_->Play();
}

這里最終是通過playerServer_調用Play函數。playerServer_在Stub初始化的時候通過PlayerServer::Create()方式來獲取得到。也就是PlayerServer。

std::shared_ptr PlayerServer::Create()
{
    std::shared_ptr server = std::make_shared();
    CHECK_AND_RETURN_RET_LOG(server != nullptr, nullptr, "failed to new PlayerServer");


    (void)server->Init();
    return server;
}

最終我們的Play調用到了PlayerServer的Play()。在媒體播放的整個過程中會涉及到很多的狀態，所以在Play中進行一些狀態的判讀后調用OnPlay方法。這個方法中發起了一個播放的任務。

int32_t PlayerServer::Play()
{
    std::lock_guard lock(mutex_);


    if (lastOpStatus_ == PLAYER_PREPARED || lastOpStatus_ == PLAYER_PLAYBACK_COMPLETE ||
        lastOpStatus_ == PLAYER_PAUSED) {
        return OnPlay();
    } else {
        MEDIA_LOGE("Can not Play, currentState is %{public}s", GetStatusDescription(lastOpStatus_).c_str());
        return MSERR_INVALID_OPERATION;
    }
}


int32_t PlayerServer::OnPlay()
{
    auto playingTask = std::make_shared>([this]() {
        MediaTrace::TraceBegin("PlayerServer::Play", FAKE_POINTER(this));
        auto currState = std::static_pointer_cast(GetCurrState());
        (void)currState->Play();
    });


    int ret = taskMgr_.LaunchTask(playingTask, PlayerServerTaskType::STATE_CHANGE);
    CHECK_AND_RETURN_RET_LOG(ret == MSERR_OK, ret, "Play failed");


    lastOpStatus_ = PLAYER_STARTED;
    return MSERR_OK;
}

在播放任務中調用了PlayerServer::Play()

int32_t PlayerServer::Play()
{
    return server_.HandlePlay();
}

在Play里面直接調用PlayerServer的HandlePlay方法，HandlePlay方法通過playerEngine_調用到了gstreamer引擎，gstreamer是最終播放的實現。

int32_t PlayerServer::HandlePlay()
{
    int32_t ret = playerEngine_->Play();
    CHECK_AND_RETURN_RET_LOG(ret == MSERR_OK, MSERR_INVALID_OPERATION, "Engine Play Failed!");


    return MSERR_OK;
}

六、總結

本文主要對OpenHarmony 3.2 Beta多媒體子系統的媒體播放進行介紹，首先梳理了整體的播放流程，然后對播放的主要步驟進行了詳細地分析。 媒體播放主要分為以下幾個層次：

（1）提供給應用調用的Native接口，這個實際上通過OHOS::CreatePlayer()調用返回PlayerImpl實例。

（2）PlayerClient，這部分通過IPC的proxy調用，向遠程服務發起調用請求。

（3）PlayerServer，這部分是播放服務的實現端，提供給Client端調用。

（4）Gstreamer，這部分是提供給PlayerServer調用，真正實現媒體播放的功能。

更多熱點文章閱讀

• 玩嗨OpenHarmony：基于OpenHarmony的智能助老服務機器人
• 玩嗨OpenHarmony：基于OpenHarmony的智慧農業環境監控系統
• 基于OpenHarmony的智慧牧場方案：生物姿態檢測篇
• 基于OpenHarmony的智慧牧場方案：生物心率檢測篇
• 使用ADS1115擴展ROC-RK3568-PC開發板ADC功能
  

提示：本文由電子發燒友社區發布，轉載請注明以上來源。如需社區合作及入群交流，請添加微信EEFans0806，或者發郵箱[email protected]。