男子意外发现千问App可生成淫秽小说 AI内容管控引争议

许先生在使用千问AI软件时发现，输入相关词汇后居然能生成淫秽小说，这让他感到非常惊讶。他质疑千问App是否对色情内容不设防。

40岁的许先生是一名大车司机，平时对AI软件很感兴趣。2026年1月5日，他尝试用千问软件了解牌九的玩法。然而，千问多次将牌九误认为麻将，并详细解释麻将规则。许先生失去耐心后输入脏话，发现这些内容未被过滤，反而引发了他对其他大尺度词汇的好奇心。最终，千问生成了各种淫秽小说情节。

许先生对此感到困惑，因为他经常使用AI软件解决生活中的问题，但从未遇到过这种情况。他改用其他AI软件测试，发现这些软件会阻止脏话和淫秽内容的生成。于是，许先生向千问客服反馈问题，对方表示已进行修复和优化，但无法提供详细的报告或保证未来不会再次发生类似情况。

无奈之下，许先生联系了上海市12345反映问题，但没有得到明确的处理结果。千问客服称，生成的内容是基于概率的，具有不可预测性，不算漏洞。许先生保存了录屏证据，希望有关部门依法依规处理此事。

事发两小时后，许先生发现千问不再生成同类内容。记者尝试在其他软件中输入类似指令，均未生成相关内容。千问App客服表示，产品有严格的安全管控，不应出现这类问题，并承诺核查此事。