千问App被指可生成淫秽小说？客服回应，严禁违规内容，已加强审核
摘要：有用户反映，某智能问答App“千问”存在生成淫秽小说内容的风险，引发社会关注，针对这一情况，记者第一时间联系了“千问”App官方客服，对方明确表示，平台严禁生成任何违法违规、涉及淫秽色情的内容，已建立多重审核机制，并对此类行为采取“零容忍”态度，用户质疑：AI生成“擦边球”内容，监管存漏洞？据了解，…
有用户反映，某智能问答App“千问”存在生成淫秽小说内容的风险，引发社会关注，针对这一情况，记者第一时间联系了“千问”App官方客服，对方明确表示，平台严禁生成任何违法违规、涉及淫秽色情的内容，已建立多重审核机制，并对此类行为采取“零容忍”态度。
用户质疑：AI生成“擦边球”内容，监管存漏洞？
皇冠代理登录 据了解，部分用户在测试“千问”App的功能时，尝试通过输入模糊或具有诱导性的提示词，要求生成涉及情色、暴力等元素的“小说片段”，有用户截图显示，App确实返回了部分描写露骨、情节低俗的文字，尽管内容较为简短，但已触碰法律与道德的红线，此类现象引发担忧：随着AI生成技术的普及,是否会出现利用工具传播淫秽内容的新漏洞？
“我只是想测试AI的创作边界，没想到真的能生成这种内容。”一位不愿具名的用户坦言，他原本以为平台会有明确的过滤机制，结果却感到失望，也有网友担心，若此类App被滥用，可能成为传播不良信息的“温床”,对青少年群体造成负面影响。
客服回应：严禁违规内容，已升级审核模型 万利官网娱乐
针对用户质疑，“千问”App客服在接受采访时表示，平台严格遵守国家相关法律法规及内容安全规范，始终将“内容合规”放在首位。“我们绝不允许用户利用App生成或传播淫秽色情、暴力恐怖等违法违规信息。”客服强调，对于用户输入的提示词，系统会进行实时预审核,对涉嫌违规的请求会直接拒绝或终止生成。
客服进一步解释，此次用户反馈的情况可能是个别案例，或因模型在理解复杂提示词时存在误差，导致生成内容出现偏差。“我们已经对审核模型进行了紧急升级，优化了对模糊、诱导性提示词的识别能力，同时加强了对生成内容的二次筛查。”客服透露，平台还设立了用户举报通道，一旦发现违规内容,将第一时间下架并封禁相关账号。
专家观点：AI发展需“技术+伦理”双轨并行
随着ChatGPT等AI工具的兴起，国内各类智能问答、生成类App如雨后春笋般涌现，但技术进步的同时，内容安全问题也日益凸显，中国社科院社会学研究所研究员李炜认为，AI本身没有“善恶”，但其生成内容的合规性取决于平台的管理机制。“企业不能仅追求技术先进性，而忽视社会责任，建立覆盖‘输入-生成-输出’全流程的审核体系，是AI应用落地的底线。”
法律专家提醒，根据《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等规定，提供AI服务的平台需对生成内容承担主体责任，若放任淫秽信息传播，将面临法律责任，用户也应自觉遵守法律法规,不利用AI工具从事违法违规活动。
亚星游戏会员登录入口 行业反思：AI内容安全需多方共治
此次“千问”App事件并非孤例，它折射出AI技术在快速发展中面临的内容治理挑战，业内人士指出，解决AI生成内容的合规问题，需要企业、监管部门、用户及社会多方共治：企业需加大技术研发投入，提升审核精准度；监管部门应完善相关法规标准，加强常态化监管；用户则需提高媒介素养,主动抵制不良信息。
“千问”App已表示将持续优化内容安全体系，并计划引入第三方机构进行合规评估，技术是中性的，如何让AI在合规轨道上服务社会，仍是所有从业者需要深思的课题，在享受AI带来便利的同时，守住法律与道德的底线,才能让技术创新真正行稳致远。
