QQ小程序 圖像安全審核

2020-07-10 14:43 更新

圖像安全審核提供鑒黃、鑒政、鑒暴恐等多種類型的敏感內(nèi)容審核服務(wù),有效識別違禁圖片,規(guī)避違規(guī)風(fēng)險(xiǎn)。

功能特性

審核類型 描述
涉黃識別 檢測色情、性感內(nèi)容,有效降低人工審核成本,適用于各類社交平臺、即時(shí)通訊應(yīng)用,幫助平臺規(guī)避涉黃風(fēng)險(xiǎn)
涉暴恐識別 識別圖片中的恐怖分子、邪教組織、槍支彈藥、血腥暴力等恐怖主義內(nèi)容,幫助平臺規(guī)避法律風(fēng)險(xiǎn)
涉政識別 通過人臉識別、圖片泛化等技術(shù)檢測圖片涉政內(nèi)容,幫助平臺及時(shí)響應(yīng)法律法規(guī)要求,規(guī)避輿論風(fēng)險(xiǎn)
廣告識別 通過廣告引導(dǎo)類圖片的識別,幫助平臺屏蔽廣告信息

  • 注意:您不僅在云函數(shù)中可以使用該擴(kuò)展能力,也可以在客戶端使用,文件讀寫權(quán)限策略與云存儲一致,減去您額外的權(quán)限管理工作。

前置要求

  • 已經(jīng)開通云開發(fā)。
  • 云環(huán)境已安裝圖像安全審核擴(kuò)展,點(diǎn)擊此處 查看安裝情況

使用說明

  1. 安裝擴(kuò)展 SDK 到項(xiàng)目

npm install --save @cloudbase/extension-ci@latest

2. 注冊擴(kuò)展到Cloud對象

小程序中

const extCI = require('@cloudbase/extension-ci');


// 初始化環(huán)境
qq.cloud.init({
    env:"test-x1dzi"
})


// 注冊云開發(fā)擴(kuò)展
qq.cloud.registerExtension(extCI);

云函數(shù)中

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化環(huán)境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})
// 注冊云開發(fā)擴(kuò)展
cloud.registerExtension(extCI);

3. 調(diào)用擴(kuò)展 SDK

Cloud.invokeExtension(extensionName: String, options: Object): Promise

參數(shù)說明

參數(shù) 類型 是否必須 說明
extensionName String 擴(kuò)展名,傳CloudInfinite
options Object 擴(kuò)展參數(shù),說明見下方

options參數(shù)

名稱 類型 是否必須 說明
action String 操作類型,傳:ImageProcess
cloudPath String 文件的絕對路徑,與cloud.uploadFile中一致
fileContent ArrayBuffer或Buffer 文件內(nèi)容, 有值,表示上傳時(shí)處理圖像;為空,則處理已經(jīng)上傳的圖像
operations Object 圖像處理參數(shù)

operations節(jié)點(diǎn)內(nèi)容

名稱 類型 是否必須 說明
type String 審核類型支持:porn(涉黃識別)、terrorist(涉暴恐識別)、politics(涉政識別)、ads(廣告識別),可選擇多種識別類型,如porn,ads

返回內(nèi)容

參數(shù)名稱 類型 描述
RecognitionResult Object 內(nèi)容識別結(jié)果

RecognitionResult 節(jié)點(diǎn)內(nèi)容:

|參數(shù)名稱|類型|描述| |PornInfo|Object|鑒黃審核信息| |TerroristInfo|Object|鑒暴恐審核信息| |PoliticsInfo|Object|鑒政審核信息| |AdsInfo|Object|廣告審核信息

審核信息(PornInfo、TerroristInfo、PoliticsInfo、AdsInfo)中包含如下內(nèi)容:

參數(shù)名稱 類型 描述
Code Int 錯(cuò)誤碼,0為正確,其他數(shù)字對應(yīng)相應(yīng)錯(cuò)誤。詳情請參見 錯(cuò)誤碼
HitFlag Int 是否命中:0(未命中),1(命中),2(疑似)
Score Int 審核分值:0 - 60分(正常),60 - 90分(疑似敏感),90 - 100分(確定敏感)
Label String 識別出的圖片標(biāo)簽

調(diào)用示例

小程序使用:

const extCI = require('@cloudbase/extension-ci');
qq.cloud.init({
    env:"test-x1dzi"
})
// 注冊云開發(fā)擴(kuò)展
qq.cloud.registerExtension(extCI);

云函數(shù)中使用:

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化環(huán)境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})


// 注冊云開發(fā)擴(kuò)展
cloud.registerExtension(extCI);

您可以根據(jù)需要選擇在【客戶端】或【云函數(shù)】中使用,再按照如下代碼調(diào)用:

async function demo() {
  try {
    const res = await cloud.invokeExtension('CloudInfinite',{
      action:'DetectType',
      cloudPath: "ab.png", // 需要分析的圖像的絕對路徑,與cloud.uploadFile中一致
      operations: {
        type: "porn"
      }
    })
    console.log(JSON.stringify(res.data, null, 4));
  } catch (err) {
    console.log(JSON.stringify(err, null, 4));
  }
}
以上內(nèi)容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號