1. 人臉關(guān)鍵點(diǎn)簡介

人臉關(guān)鍵點(diǎn)的檢測有許多重要的應(yīng)用場景。

人臉姿態(tài)對齊：人臉識別等算法都需要對人臉的姿態(tài)進(jìn)行對齊從而提高模型的精度。

人臉美顏與編輯：基于關(guān)鍵點(diǎn)可以精確分析臉型、眼睛形狀、鼻子形狀等，從而對人臉的特定位置進(jìn)行修飾加工，實(shí)現(xiàn)人臉特效美顏，貼片等娛樂功能。

人臉表情分析與嘴型識別：基于關(guān)鍵點(diǎn)可以對人的面部表情進(jìn)行分析，從而用于互動娛樂，行為預(yù)測等場景。

本人臉98關(guān)鍵點(diǎn)算法的，關(guān)鍵點(diǎn)位置如下圖所示：

算法效果在數(shù)據(jù)集的表現(xiàn)：

基于EASY-EAI-Nano硬件主板的運(yùn)行效率：

2. 快速上手

2.1 開發(fā)環(huán)境準(zhǔn)備

如果您初次閱讀此文檔，請閱讀《入門指南/開發(fā)環(huán)境準(zhǔn)備/Easy-Eai編譯環(huán)境準(zhǔn)備與更新》，并按照其相關(guān)的操作，進(jìn)行編譯環(huán)境的部署。

在PC端Ubuntu系統(tǒng)中執(zhí)行run腳本，進(jìn)入EASY-EAI編譯環(huán)境，具體如下所示。

cd ~/develop_environment
./run.sh

2.2 源碼下載以及例程編譯

在EASY-EAI編譯環(huán)境下創(chuàng)建存放源碼倉庫的管理目錄：

cd /opt
mkdir EASY-EAI-Toolkit
cd EASY-EAI-Toolkit

通過git工具，在管理目錄內(nèi)克隆遠(yuǎn)程倉庫

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-C-Demo.git

注：

* 此處可能會因網(wǎng)絡(luò)原因造成卡頓，請耐心等待。

* 如果實(shí)在要在gitHub網(wǎng)頁上下載，也要把整個(gè)倉庫下載下來，不能單獨(dú)下載本實(shí)例對應(yīng)的目錄。

進(jìn)入到對應(yīng)的例程目錄執(zhí)行編譯操作，具體命令如下所示：

cd EASY-EAI-Toolkit-C-Demo/algorithm-face_landmark98/
./build.sh cpres

注：

* 若build.sh腳本帶有cpres參數(shù)，則會把Release/目錄下的所有資源都拷貝到開發(fā)板上。

* 若build.sh腳本不帶任何參數(shù)，則僅會拷貝demo編譯出來的可執(zhí)行文件。

* 由于依賴庫部署在板卡上，因此交叉編譯過程中必須保持adb連接。

2.3 模型部署

要完成算法Demo的執(zhí)行，需要先下載人臉檢測算法模型。

百度網(wǎng)盤鏈接為：https://pan.baidu.com/s/1cxnx1T0ldJvoqkyTk1RmUg(提取碼：0b6h )。

也要下載人臉98關(guān)鍵點(diǎn)算法模型。

百度網(wǎng)盤鏈接為:https://pan.baidu.com/s/1BUI4Go6IJGCfF8m6fK_iHw (提取碼：2zqi )。

然后需要把下載的人臉檢測算法模型和人臉識別算法模型復(fù)制粘貼到Release/目錄：

再通過下方命令將模型署到板卡中，如下所示。

cp ./Release/*.model /mnt/userdata/Demo

2.4 例程運(yùn)行

通過按鍵Ctrl+Shift+T創(chuàng)建一個(gè)新窗口，執(zhí)行adb shell命令，進(jìn)入板卡運(yùn)行環(huán)境。

adb shell

進(jìn)入板卡后，定位到例程上傳的位置，如下所示：

cd /userdata/Demo

運(yùn)行例程命令如下所示：

./test-face-landmark98 test1.jpg

2.5 運(yùn)行效果

face-landmark98的Demo執(zhí)行效果如下所示:

再開一個(gè)窗口，在PC端Ubuntu環(huán)境通過以下命令可以把圖片拉回來:

adb pull /userdata/Demo/result.jpg .

結(jié)果圖片如下所示：

API的詳細(xì)說明，以及API的調(diào)用（本例程源碼），詳細(xì)信息見下方說明。

3. 人臉檢測API說明

3.1 引用方式

為方便客戶在本地工程中直接調(diào)用我們的EASY EAI api庫，此處列出工程中需要鏈接的庫以及頭文件等，方便用戶直接添加。

3.2 人臉檢測初始化函數(shù)

設(shè)置人臉檢測初始化函數(shù)原型如下所示。

int face_detect_init(rknn_context *ctx, const char *path)

具體介紹如下所示。

3.3 人臉檢測運(yùn)行函數(shù)

設(shè)face_detect_run原型如下所示。

int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector &result)

具體介紹如下所示。

3.4 人臉檢測釋放函數(shù)

人臉檢測釋放函數(shù)原型如下所示。

 int face_detect_release(rknn_context ctx)

具體介紹如下所示。

4. 人臉98個(gè)關(guān)鍵點(diǎn)API說明

4.1 引用方式

為方便客戶在本地工程中直接調(diào)用我們的EASY EAI api庫，此處列出工程中需要鏈接的庫以及頭文件等，方便用戶直接添加。

4.2 人臉98個(gè)關(guān)鍵點(diǎn)初始化函數(shù)

設(shè)置人臉檢測初始化函數(shù)原型如下所示。

 int face_landmark98_init(rknn_context *ctx, const char * path)

具體介紹如下所示。

4.3 人臉98個(gè)關(guān)鍵點(diǎn)運(yùn)行函數(shù)

設(shè)face_landmark98_run原型如下所示。

int face_landmark98_run(rknn_context ctx, cv::Mat *face_image, std::vector *keyPoints)

具體介紹如下所示。

4.4 人臉98個(gè)關(guān)鍵點(diǎn)釋放函數(shù)

人臉98個(gè)關(guān)鍵點(diǎn)釋放函數(shù)原型如下所示。

 int face_landmark98_release(rknn_context ctx)

具體介紹如下所示。

5. 人臉98個(gè)關(guān)鍵點(diǎn)算法例程

例程目錄為Toolkit-C-Demo/algorithm-face_landmark98/test-face-landmark98.cpp，操作流程如下。

參考例程如下所示。

#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 

#include 

#include 
#include 
#include "face_detect.h"
#include "face_alignment.h"
#include "face_landmark98.h"

using namespace std;
using namespace cv;

int main(int argc, char **argv)
{

	if( argc != 2)
	{
		printf("./test-face-landmark98 xxx.jpg n");
		return -1;
	}

	struct timeval start;
	struct timeval end;
	float time_use=0;

	rknn_context detect_ctx, landmark_ctx;
	std::vector result;
	int ret;

	cv::Mat src;
	src = cv::imread(argv[1], 1);

	face_detect_init(&detect_ctx, "./face_detect.model");

	/* 人臉關(guān)鍵點(diǎn)定位初始化 */
	ret = face_landmark98_init(&landmark_ctx, "./face_landmark98.model");
	if( ret < 0)
	{
		printf("face_mask_judgement_init fail! ret=%dn", ret);
		return -1;
	}

	face_detect_run(detect_ctx, src, result);

	printf("face num:%dn",result.size());

	for (int i = 0; i < (int)result.size(); i++)
	{
		int x = (int)(result[i].box.x);
		int y = (int)(result[i].box.y);
		int w = (int)(result[i].box.width);
		int h = (int)(result[i].box.height);
		int max = (w > h)?w:h;

		// 判斷圖像裁剪是否越界
		if( ((x +max) > src.cols) || ((y +max) > src.rows) )
		{
			continue;
		}
		

		cv::Mat roi_img, reize_img;
		roi_img = src(cv::Rect(x, y, max,max));
        roi_img = roi_img.clone();

		resize(roi_img, reize_img, Size(256,256), 0, 0, INTER_AREA);
		float ratio;
		ratio = (float)max/256;

		gettimeofday(&start,NULL); 

		std::vector keyPoints;
		face_landmark98_run(landmark_ctx, &reize_img, &keyPoints);
		
		gettimeofday(&end,NULL);
		time_use = (end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒
		printf("time_use is %fn",time_use/1000);

		for(int n = 0; n < 98; n++)
		{
			//cout