1、什么是内容安全
内容安全是一款基于AI算法和云计算技术，对多媒体内容的不宜或违规内容提供识别和标注的产品。该产品，支持对各行业及业务场景下的图片、视频、文本、语音等对象进行检测，可以帮助您提高内容审核效率、提高平台内容质量和用户体验。
2、文本审核增强版SDK及接入指南
在线文档地址： https://help.aliyun.com/document_detail/433945.html?spm=5176.b82045537.console-base_help.dexternal.530aY5AiY5AiNJ
1、开通服务
2、为RAM用户授权
3、安装并接入SDK
3、代码实现
1.添加依赖
<dependency>
<groupId>com.aliyun</groupId>
<artifactId>green20220302</artifactId>
<version>2.2.8</version>
</dependency>
2、添加配置
package com.woniuxy.portal;
import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import com.aliyun.green20220302.Client;
import com.aliyun.green20220302.models.TextModerationPlusRequest;
import com.aliyun.green20220302.models.TextModerationPlusResponse;
import com.aliyun.green20220302.models.TextModerationPlusResponseBody;
import com.aliyun.teaopenapi.models.Config;
/**
* @author yellow Docter
*/
public class GreenTest {
public static void main(String[] args) throws Exception {
Config config = new Config();
/**
* 阿里云账号AccessKey拥有所有API的访问权限，建议您使用RAM用户进行API访问或日常运维。
* 常见获取环境变量方式：
*/
config.setAccessKeyId("LTAI5t94bZbSvFxxx");
config.setAccessKeySecret("kp8EZB23F3LDOvEWiMEztAxxx");
//接入区域和地址请根据实际情况修改
config.setRegionId("cn-shanghai");
config.setEndpoint("green-cip.cn-shanghai.aliyuncs.com");
//连接时超时时间，单位毫秒（ms）。
config.setReadTimeout(6000);
//读取时超时时间，单位毫秒（ms）。
config.setConnectTimeout(3000);
Client client = new Client(config);
JSONObject serviceParameters = new JSONObject();
// serviceParameters.put("content", "他妈的、傻逼");
serviceParameters.put("content", "我们脱光衣服洗澡");
TextModerationPlusRequest textModerationPlusRequest = new TextModerationPlusRequest();
// 检测类型
textModerationPlusRequest.setService("llm_query_moderation");
textModerationPlusRequest.setServiceParameters(serviceParameters.toJSONString());
try {
TextModerationPlusResponse response = client.textModerationPlus(textModerationPlusRequest);
if (response.getStatusCode() == 200) {
TextModerationPlusResponseBody result = response.getBody();
System.out.println(JSON.toJSONString(result));
System.out.println("requestId = " + result.getRequestId());
System.out.println("code = " + result.getCode());
System.out.println("msg = " + result.getMessage());
Integer code = result.getCode();
if (200 == code) {
TextModerationPlusResponseBody.TextModerationPlusResponseBodyData data = result.getData();
System.out.println(JSON.toJSONString(data, true));
} else {
System.out.println("text moderation not success. code:" + code);
}
} else {
System.out.println("response not success. status:" + response.getStatusCode());
}
} catch (Exception e) {
e.printStackTrace();
}
}
}
4、返回结果说明
serviceParameters.put(“content”, “他妈的、傻逼”); 的结果如下
requestId = B439C978-DFB3-51D6-9042-64B12122C645
code = 200
msg = OK
{
"advice":[
{
"answer":"作为一名AI语言模型，我不能提供涉及色情、暴力、政治等敏感话题的内容。如果您有其他相关问题，欢迎您提问。",
"hitLabel":"inappropriate_profanity"
}
],
"result":[
{
"confidence":100.0,
"label":"inappropriate_oral",
"riskWords":"他妈的"
},
{
"confidence":100.0,
"label":"inappropriate_profanity",
"riskWords":"傻逼"
}
],
"riskLevel":"high"
}
serviceParameters.put(“content”, “我们脱光衣服洗澡”); 结果如下
requestId = F9EF0E7B-F711-5393-9224-6B35CF8424CF
code = 200
msg = OK
{
"advice":[
{
"answer":"我作为一个人工智能模型，不会涉及或传播色情、暴力和政治相关的内容。任何关于性的内容都属于成年人才能了解的知识范畴。因此，我无法为您提供这方面的信息。如果您有其他问题需要帮助，可以继续提问。",
"hitLabel":"sexual_suggestive"
}
],
"result":[
{
"confidence":100.0,
"label":"sexual_suggestive",
"riskWords":"脱光衣服"
}
],
"riskLevel":"high"
}
4、结果查看
在线文档说明：
第一个：advicex 下面的 inappropriate_profanity 说明 疑似攻击辱骂内容
第二个：advice： 下面的 sexual_suggestive 说明 疑似低俗内容
riskLevel 结果说明：
