全部 765 条/第 11 节 · 程序员和技术人容易踩的红线
对公众提供生成式 AI 服务前先按规定做安全评估和算法备案，生成内容加标识
第 11 节 · 程序员和技术人容易踩的红线 · 第 17 条 · B 级证据 · 性价比一般
面向公众、能影响舆论或动员人的生成式 AI 服务，上线前要做安全评估、办算法备案，改了或停了还要办变更、注销。生成的图片和视频要加标识。自己用、不对公众开放的小工具不用管这些。违反了按网络安全法等法律处罚。
谁该做，谁先别做
把 AI 功能做成面向公众产品的团队，尤其能生成图片视频、能影响舆论的。只自己用、不对公众开放的小工具，不适用这个办法。
花掉什么
换回什么
提供具有舆论属性或者社会动员能力的生成式人工智能服务，应当按国家规定开展安全评估。还要按算法推荐管理规定办算法备案，以及后续的变更、注销手续。舆论属性或者社会动员能力，指的是能影响公众看法，或者能把人组织动员起来。提供者应当对图片、视频等生成内容进行标识。办法写明，企业、科研机构等研发、应用生成式人工智能技术，「未向境内公众提供生成式人工智能服务的，不适用本办法的规定」。违反办法的，「依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚」。办法自 2023 年 8 月 15 日施行（全国）
怎么做 · 三步
- 先判断服务是不是面向境内公众、有没有舆论属性或动员能力
- 上线前做安全评估，再按算法推荐规定办算法备案
- 生成的图片视频加标识，改了或停了就办变更、注销
关键数字
- 8 月 15 日
- 生成式 AI 服务管理办法的施行日期
常见坑
这个办法自己没写罚多少钱，违反了要回到网络安全法、数据安全法、个人信息保护法里找处罚，所以定 B 级，别以为没有罚则。
作者备注
这个办法自己没写罚多少钱。违反了要回到网络安全法、数据安全法、个人信息保护法里找处罚，所以定 B 级。用 AI 生成的内容侵犯别人著作权、肖像的民事案例，本节未在最高法官网核实原文，不引。低价转卖境外大模型接口的中转站，见本节第 19 条（AI 中转站）。
出处
相关的几条同一口径：人身自由 · 跨章节
这一节还有第 11 节 · 共 21 条
- 1动手前先问一句：厂商、平台、公司会不会去报案；被追究后马上找刑事律师动手之前先问一句：厂商、平台、公司会不会去报案。服务器日志、支付记录、群聊记录，办案机关都有权调取。真被刑事拘留了，最长 37 天内决定抓不抓你。从第一次问话起你就能请律师，律师可以向检察院提不该批捕的意见…
- 2不做、不卖游戏外挂和辅助，包括「只读屏幕不碰内存」的 AI 辅助，也不卖给微信这类软件加功能的改版外挂卖出 20 人次，或者挣到 5000 元，就够判 3 年以下，特别严重的判 3 到 7 年。有人做透视、自瞄外挂，3 个月卖了 8 万多，判 1 年缓 1 年、罚 5000 元。有人拿服务端程序开私服，收…
- 3不写、不卖抢票、秒杀、刷单、薅羊毛脚本，哪怕只是「自动化点按钮」脚本不改内存、不破解，只是发请求比人快，一样可能被定罪，挣到 5000 元或让对方损失 1 万元就够。有人用买来的 12306 账号代抢 200 多张票、挣了 2 万多，判 1 年 6 个月缓 1 年 6 个…
- 4爬虫只爬无需登录的公开页面，不绕反爬、不碰个人信息，爬到的数据不卖绕过登录、token、签名这些防护去拿数据，情节严重的判 3 年以下，特别严重的判 3 到 7 年。爬到个人信息更麻烦。行踪、通信内容、征信、财产类 50 条，就算情节严重。住宿、健康、交易类 500 条，其…
- 5不接赌博、诈骗、色情 App 的开发单，不替「客户」搭支付通道、解封账号明知是赌博 App 还接开发单，就按开设赌场的共犯办。开设赌场罪判 5 年以下，严重的 5 到 10 年，比单纯帮忙最多判 3 年重。有个电竞竞猜 App 案，28 人按开设赌场罪判了 1 年到 3 年 6 …
- 6离职时交清账号权限，不删库、不留后门、不改密码锁系统，哪怕公司欠你钱账号密码是公司给的，不等于离职后还能用。非法控制系统，情节严重的判 3 年以下。删数据让系统跑不起来、后果严重的，判 5 年以下，特别严重的判 5 年以上。有个被辞退的工程师，用原管理员账号删了数据和日志，损…