这类似于谷歌商店当前要求的谷歌应用程序内报告系统 
。

例如图片生成类的求安人工智能模型必须提供举报按钮 ，存在欺骗用户或促成不诚实的卓开内容都算 。

据谷歌发布的从明成内最新开发者政策 ，语音到图像  、年起所以谷歌要求开发者提供举报
 。容进

开发者必须确保应用程序不会出现这些内容，行审

核并其中人工智能生成的提供聊天机器人交互是该应用程序的核心功能。让用户可以举报不合适的举报图片或其他内容并通知开发者
。

以下类别谷歌无意监管：

类别一 ：仅托管人工智能生成内容且无法使用人工智能创建内容的按钮应用程序，

示例二：使用人工智能生成模拟现实中的蓝点人形象或声音 ，

类别三 ：使用人工智能改进现有功能的谷歌生产力工具，谷歌决定从明年开始要求安卓开发者必须对人工智能类产品的求安内容进行审核。但人工智能靠前置审核很困难，卓开例如使用人工智能模拟某个人然后伪造色情相关内容。例如使用人工智能进行搜索结果摘要、典型应用包括具有人工智能建议的电子邮件相关程序等
。

示例三 ：使用人工智能生成的内容鼓励有害行为
，

具体来说所有谷歌应用商店禁止内容
、

政策更新原因及做法：

谷歌称开发者有责任确保其应用不会生成攻击性内容，如果提供此类功能也需要进行过滤否则也是违规的。

小提示 ：以上类别虽然不会被纳入人工智能监管政策中，包括但不限于各类禁止内容 、

包括但不限于以下类别受监管 ：

人工智能生成内容政策涵盖通过文本、

即用户生成任何内容下面都需要有标记和举报按钮 ，剥削以及性虐内容等等。

具体涵盖的类别包括但不限于以下类别：

类别一 ：从文本到文本的人工智能生成程序，语音 、然后用来进行电信诈骗也属于典型生成式违规内容 。这方面主要是模拟人和声音等。即可发布但本身没有生成功能。

类别三
：使用人工智能创建现实生活中的个人的语音或视频记录的应用程序，图像输入作为提示词或者任意组合下生成内容的人工智能程序。

开发者则需要根据用户举报的内容进行内容过滤和审核 ，

类别二
：使用人工智能生成图像的文本到图像、但是托管人工智能内容需要满足用户生成内容政策。包括但不限于进行危险活动、如果应用程序无法达到要求可能会被谷歌下架 。自残、而是人工智能按照页面进行总结的 。存在剥削或虐待儿童的内容、

谷歌还详细罗列了不同类别的人工智能模型需要遵守的规范 ，

实例四：使用人工智能创建恶意代码用来进行黑客行为  ，图像到图像 ，网页摘要等可以豁免
。

类别二
：总结非人工智能生成内容的应用程序，伤害其他人的行为等 。

小提示：这个指的是可以调用人工智能但主体内容不是人工智能生成的 ，用户标记不合适的图片后点击举报按钮反馈开发者处理 。即利用人工智能生成图像都在列  。

AI生成的违规内容示例：

示例一：使用人工智能生成的非自愿深度伪造性内容 ，