色情内容在网络中几乎无处不在，但由于保护机制、风险规避等原因，很多色情内容会被屏蔽或删除。

可是，据 Wired 报道，OpenAI 发布了一份文档草案，透露出他们正在探索色情和其他露骨内容领域。“我们正在探索是否能够通过 API 和 ChatGPT 负责任地提供在适合年龄的环境中生成 NSFW 内容的能力，我们期待更好地了解用户和社会对这一领域模型行为的期望。”

NSFW 是一个英文网络用语，“Not Safe For Work”或者“Not Suitable For Work”的缩写，意思就是某个网络内容不适合上班时间浏览，通常用于标记包含淫秽色情、暴力血腥、极端另类等内容的邮件、视频、博客、论坛帖子等。

一、网络中的色情内容

无论在传统媒体时代还是网络时代，色情内容一直“野火烧不尽”，漫画、链接、软文、ASMR 等都是色情内容的载体 。

早在生成式 AI 火爆全球之前，就有人提出了 AI 生成色情内容的风险问题。“深度伪造色情内容”（Deepfake Porn）是利用人工智能技术生成的虚假色情内容，通常通过深度学习算法，将某个人的脸部图像或身体部位合成到色情视频中，以产生高度逼真的假色情影像。

英国政府网站称，近年来“深度伪造色情内容”变得越来越普遍，全世界每个月的这类图像浏览量达数百万次。2023 年 3 月，微软推出了 AI 图像生成器产品 Copilot Designer，有内部工程师发现其可生成暴力色情图，但微软却拒绝整改，无奈之下该工程师只能将其举报至政府。曾经，Stability AI 开源了根据文本生成图像的 AI 程序，Reddit 和 4chan 上的社区用户开始利用该 AI 生成真实和动画风格的裸体人物图像，其中大部分是女性，以及名人的换脸裸体图像。

目前，OpenAI 发言人格蕾丝·麦奎尔拒绝透露 OpenAI 对显式内容生成的探索涉及哪些细节，也拒绝透露该公司在这一想法上收到了哪些反馈。可是不久前，OpenAI 的首席技术官米拉·穆拉蒂称，“不确定”公司未来是否会允许使用 Sora 制作裸露内容。

二、AI 生成色情内容的现状

色情内容一直有很大的供求市场，为了逃避检测，色情内容不断以各种各样的形式进行伪装，它们表面上可能是无害的或符合一般社交规范的。当人工智能技术突飞猛进后，色情内容的生成、传播更为普遍。

色情内容可能会伪装成多种类型的文本。含有双关意味或暗示性强的“幽默”文本，和包含露骨或不当性暗示的日常生活记叙，是最为常见的色情信息载体。有时候，AI 会伪造新闻摘要、故事情节、聊天记录，并在其中加入引人遐想的描写，从真实性的角度误导读者。尽管较少见，但不排除有人将 AI 生成的色情内容伪装成教育材料，如教科书摘录、科学解释等，以讲解科学知识为幌子，展示不当行为或场景。

色情内容还会隐藏在图片和视频中。利用先进的图像处理技术，AI 能生成高度逼真的、含有性暗示的影像，也可以生成含有不当言论的音频。它们会将真实素材和虚假的合成元素混合在一起，所以往往难以检测。此外，为了更自然地融入社交平台，一些先进的 AI 系统可能会采用流行动漫或插画风格来制作图片，模仿电影、电视剧的片段，甚至模拟真实用户的行为，自动发布、转发或互动涉及色情内容的帖子。

用 AI 生成和传播色情内容是不良的行为，违反了社会公德和法律法规：

色情内容无孔不入、防不胜防，想要更精准高效地识别色情信息，内容审核团队应密切关注行业动态和技术发展趋势，不断更新检测算法，采用更复杂的机器学习模型来识别和过滤不良信息。可是，对于很多公司、个人开发者来说，自建内容审核程序的成本过于高昂。

通过公有云或私有化部署等形式，接入市场上较为成熟的内容审核平台，是高性价比的不二选择。

三、百度 AI 审核色情内容的强大优势

百度内容审核平台由智能机审平台与人机协同审核平台构成，拥有多项业内独家能力、百度亿级数据审核经验，敏感人物库业内最全、更新最快。

图片色情：智能识别图像中的色情和性感内容，包含色情违禁、儿童裸露、女性性感、艺术品色情等 18 个细分标签。

文本色情：对文本中的色情行为描述、色情资源链接、低俗交友、污秽文爱等内容进行识别。

音频色情：包含娇喘声识别和语音内容识别。先通过语音识别将音频内容转换为文字，再审核文本信息，可检测色情、暴恐违禁、政治敏感、低俗辱骂、恶意推广等语音内容，同时利用声纹检测进行娇喘声识别，高效过滤违规语音信息。

视频和直播色情：综合图像、文本审核能力，对视频内的画面、标题进行同步审核，全方位过滤违规视频。

百度内容审核平台，5 分钟即可完成规则配置，零门槛、可视化界面操作，多维度数据导出功能，能让企业快速接入使用、减少开发维护成本。

审核维度丰富：紧跟监管需求，实时同步政府指令，提供业内最丰富的审核维度，其中图像审核具备恶心图、质量检测的独家识别能力。

审核粒度细腻：具备业界最丰富、全面的分类标签体系，并且持续更新。可根据业务需求，自由组合标签，让模型效果犹如“量身定制”。

模型准确率高：基于百度海量数据训练优化，利用深度学习技术及算法迭代模型，识别准确率高，减少人工复查率，有效降低企业运营成本。

易用性强：一次上传，多维度同时审核后统一返回审核结果；提供符合 RESTful 规范的标准 API 接口和多语言服务端 SDK，易于集成和开发。

内容审核平台的常见格式要求、请求限制如下：

四、平台操作指南

“百度智能云·一念”的内容审核平台，拥有行业内唯一具备的大模型审核能力，覆盖涉黄、违禁、广告、恶心不适等丰富的审核维度，支持自定义黑白库和个性化审核策略配置，可以为业务健康发展保驾护航。

Step1:账号登录及资源领取

调用百度智能云的内容审核能力，首先需注册账号内容审核_内容安全_智能审核-百度AI开放平台。

然后根据操作指引，分别领取免费资源、创建应用、配置策略和调用服务。

点击薅羊毛！！一分钟快速领取某云平台内容审核免费测试资源！-CSDN博客，手把手教你怎么领取免费资源

Step2:在线验证

创建应用与配置策略完成后，即可进行在线验证。

策略管理页面：

策略配置页面：

在线审核/验证页面：

Step3: 编写示例程序

根据第一步创建应用时生成的 API KEY 以及 Secret KEY，就可以写一个能调用百度 AI 内容审核能力的示例代码。

准备开发环境

用 python 来快速搭建一个原型

Windows 快速测试包

Windows 平台的用户如果对 python 安装感到困难，可以下载一键测试包，下载地址：Windows测试包。

解压 zip 文件后，双击 run.bat 即可测试。

编写代码

新建一个 main.py

粘贴以下内容，不要忘记替换 API_KEY 以及 SECRET_KEY：

# coding=utf-8import sysimport jsonimport base64# 保证兼容python2以及python3IS_PY3 = sys.version_info.major == 3if IS_PY3: from urllib.request import urlopen from urllib.request import Request from urllib.error import URLError from urllib.parse import urlencode from urllib.parse import quote_pluselse: import urllib2 from urllib import quote_plus from urllib2 import urlopen from urllib2 import Request from urllib2 import URLError from urllib import urlencode# 防止https证书校验不正确import sslssl._create_default_https_context = ssl._create_unverified_contextAPI_KEY = 'eQnGqPdFTTctqkjHvdUEzmrC'SECRET_KEY = 'HDBuwWT4pfSBGyLkTEAYhwoQkoDGrWU2'IMAGE_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/img_censor/v2/user_defined"TEXT_CENSOR = "https://aip.baidubce.com/rest/2.0/solution/v1/text_censor/v2/user_defined";""" TOKEN start """TOKEN_URL = 'https://aip.baidubce.com/oauth/2.0/token'""" 获取token"""def fetch_token(): params = {'grant_type': 'client_credentials', 'client_id': API_KEY, 'client_secret': SECRET_KEY} post_data = urlencode(params) if (IS_PY3): post_data = post_data.encode('utf-8') req = Request(TOKEN_URL, post_data) try: f = urlopen(req, timeout=5) result_str = f.read() except URLError as err: print(err) if (IS_PY3): result_str = result_str.decode() result = json.loads(result_str) if ('access_token' in result.keys() and 'scope' in result.keys()): if not 'brain_all_scope' in result['scope'].split(' '): print ('please ensure has check the ability') exit() return result['access_token'] else: print ('please overwrite the correct API_KEY and SECRET_KEY') exit()""" 读取文件"""def read_file(image_path): f = None try: f = open(image_path, 'rb') return f.read() except: print('read image file fail') return None finally: if f: f.close()""" 调用远程服务"""def request(url, data): req = Request(url, data.encode('utf-8')) has_error = False try: f = urlopen(req) result_str = f.read() if (IS_PY3): result_str = result_str.decode() return result_str except URLError as err: print(err)if __name__ == '__main__': # 获取access token token = fetch_token() # 拼接图像审核url image_url = IMAGE_CENSOR + "?access_token=" + token # 拼接文本审核url text_url = TEXT_CENSOR + "?access_token=" + token file_content = read_file('./image_normal.jpg') result = request(image_url, urlencode({'image': base64.b64encode(file_content)})) print("----- 正常图调用结果 -----") print(result) file_content = read_file('./image_advertise.jpeg') result = request(image_url, urlencode({'image': base64.b64encode(file_content)})) print("----- 广告图调用结果 -----") print(result) text = "我们要热爱祖国热爱党" result = request(text_url, urlencode({'text': text})) print("----- 正常文本调用结果 -----") print(result) text = "我要爆粗口啦：百度AI真他妈好用" result = request(text_url, urlencode({'text': text})) print("----- 粗俗文本调用结果 -----") print(result)

运行代码

在命令行中运行 python main.py

结果

若代码正确运行，命令行界面上会显示出运行结果：

----- 正常图调用结果 -----{"conclusion":"合规","log_id":15589290206915234,"conclusionType":1}----- 广告图调用结果 -----{"conclusion":"不合规","log_id":15589290221307686,"data":[{"msg":"存在水印码内容","probability":0.86516607,"type":5}],"conclusionType":2}----- 正常文本调用结果 -----{"conclusion":"合规","log_id":15589290234750607,"conclusionType":1}----- 粗俗文本调用结果 -----{"conclusion":"疑似","log_id":15589290237990632,"data":[{"msg":"疑似存在文本色情不合规","conclusion":"疑似","hits":[{"probability":0.802,"datasetName":"百度默认文本反作弊库","words":[]}],"subType":2,"conclusionType":3,"type":12}],"conclusionType":3}

结果中返回了内容审核服务对于图片以及文本的审核结果，包括了概率以及不合规的类型。

点击内容审核技术文档，可以查询具体字段的详细释义。