近日，一款在线生成专业质感大片的AI相机“妙鸭”掌握了引爆社交圈的流量密码，只需9.9元，上传21张照片，用户可以生成一套可媲美某真蓝、某马体的AI写真，并可将图片上传微信朋友圈、微博等社交平台。
上线不足半月，妙鸭相机团队发布公告，近期网络上出现多个假冒“妙鸭相机”的产品、仿造“妙鸭相机”官方渠道的账号、软件和小程序，给消费者造成严重的信息安全隐患。同时，用户发现，随着使用人数增多，用户生成照片时间需等待数小时，妙鸭相机的火爆可见一斑。
火速蹿红之后，妙鸭相机遭遇“隐私”争议，争议背后，是网民对于个人隐私安全的担忧：用户上传的照片如何处理？应用方是否会将用户照片挪作他用？若上传的照片被用于AI模型训练，那用户的一些面部特征是否会出现在其他地方的生成图片？而这些不仅仅是妙鸭相机，也是更多需要上传照片的相机应用所面临的问题。
收费9.9元，数千人排队
近半年来，以ChatGPT为代表的大模型产品甚嚣尘上，国内企业也掀起“百模大战”，在此背景下，妙鸭相机于6月开始内测，打出的口号是“让每个人拥有一个属于自己的AI摄影师”。
打开妙鸭相机小程序，首先需要上传一张正面照片，随后补充至少20张照片，在该步骤，系统会提示照片是否达标，已上传照片的质量超过多少百分比的用户，用户可以选择补充更多照片，让“数字分身”效果更棒。上传照片后，用户需关注妙鸭相机公众号，完成付费流程，标准价是29.9元，限时特惠9.9元，一旦购买成功，不支持退款。
从用户的分享来看，上传照片后，用户可以得到不同风格的写真，如商务写真、时尚海报、证件照、旅游大片等，生成的照片均带有水印，想要下载高清照片或照片原图需支付额外费用。而当记者试用该程序后，发现生成照片预计需要3小时25分钟，前面有1308人。
随着使用用户的增多，等待时间较长被付费用户诟病，用户对需上传21张照片、模板效果不是很好也略有不满。有网友指出在晚上高峰期间，曾碰到4000至5000人排队，等待时间需十几个小时，另有网友表示：“美颜美到不像本人，但又依稀有本人的影子。”
在记者的朋友圈，一位关注互联网行业的研究员分享了自己的三点体会：“一是妙鸭相机后台算力算法应该一般，用时长、精度差；二是模板少，尤其对于男性而言，参与度低，但这应该是一个未来很好的应用场景；三是经过这一波走红，妙鸭积累了数据与收入，未来可以继续讲故事融资。”
针对网友的声音，妙鸭相机曾在7月17日表示，写真的效果还远没达到团队的理想状态，会继续优化“提香”的能力；妙鸭相机并不是摄影师的敌人，将很快开启对摄影师邀请制的内测合作，通过妙鸭，摄影师可以将自己的风格和审美制作成模板，从而让更多人享受到他们的创意。
妙鸭相机的背后公司是谁？
天眼查App显示，妙鸭相机的主体公司是成立于2006年的未序网络科技（上海）有限公司，该公司是一家从事软件和信息技术服务为主的企业，注册资本为5520万美元，其法定代表人张龙名下有多家公司，张龙也是优酷视频（西安）传媒科技有限公司的法定代表人、执行董事兼总经理；而未序网络科技（上海）有限公司的监事冯云乐也同时担任了多家阿里系公司的监事。
未序网络科技（上海）有限公司与阿里有何关系？一位阿里文娱方面人士告诉记者：“是（阿里）大文娱参投的创业团队。”
据记者了解，该创业项目组从今年1月开始做妙鸭相机，7月份完成妙鸭的1.0版本，随着妙鸭相机的走红，团队在开心的同时希望保持“低调”。
是否保障用户隐私和数据安全引发争议
妙鸭相机的走红，让用户再次讨论起AI软件所带来的风险问题。有安全研究员曾告诉记者，类似于AI换脸软件从用户处获得的信息主要是肖像图片，从技术角度而言，它并不比其他上传照片的App有更多风险，但若该类软件向用户索取了更多的肖像使用授权，这意味着用户会暴露更多的风险。
对于妙鸭相机， 国内知名白帽子公司KEEN公司联合创始人、独立安全研究员宋宇昊告诉记者，看一项应用是否正规，可以从两个方面来看，一是用户上传的照片是否会被存储、存储多久、照片和用户信息在传输和存储过程中，是否存在泄露风险；二是上传的照片是否会被用于AI模型训练。
“第一种情况，一旦由于外部攻击或内部不法人员导致泄露，那么用户的照片与相关的用户信息可能流入黑产，被用于针对性的诈骗，或者其他犯罪行为。第二种情况，如果用户的照片在用户不知情的情况下，被用于模型训练，那么用户的一些面部特征可能会出现在其他地方的生成图片中，这可能是用户不希望发生的。”宋宇昊说。
记者查看妙鸭相机的隐私政策发现，对于储存期限，隐私政策并没有直接给出明确的时间期限，而是“我们只会在达成本政策所述目的所需的期限内保留您的个人信息，除非法律有强制的留存要求”。
妙鸭相机指出，在中华人民共和国境内产生或收集的个人信息，存储在中国境内的服务器。除非取得用户的单独同意，或为了履行与用户订立的合同，或为了遵循法律法规规定的义务，应用方不会向境外提供用户的任何个人信息。
值得关注的是，此前有网友在社交平台指出，在妙鸭相机最初版本的用户协议中，用户需授权妙鸭相机在全世界（包括元宇宙等虚拟空间）范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可，使得妙鸭相机可以任何形式、任何媒体或技术（无论现在已知或以后开发）使用用户的内容。这一“霸王条款”引发网友不满。
对此，妙鸭相机团队7月20日发布回应：“已经收到用户关于妙鸭用户协议的反馈，原协议内容有误，我们第一时间根据妙鸭的实际情况进行了修改，在这里郑重地向大家承诺，您所上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。”
即便如此，一位不愿具名的安全人士向记者表示，其在使用妙鸭小程序时，在第一步就已决定不使用该程序。“我在使用中发现，首先要上传的图片要求是五官清晰的正面，这几乎是证件照的要求水平，社交媒体上，我们都没有上传过如此高清无码的照片；其次，未来，AI技术会越来越强大，你不知道以后一张照片会被利用到什么程度，也不知道对方或好或坏的目的；最后，我对新生的公司做的这种应用，持非常谨慎的态度，不会上传自己的高清照片，更何况该小程序此前就有‘霸道协议’。”
据记者了解，对于互联网应用在用户隐私保护、用户信息保存方面已有诸多规定。比如，《中华人民共和国网络安全法》规定，网络产品、服务具有收集用户信息功能的，其提供者应当向用户明示并取得同意；涉及用户个人信息的，还应当遵守本法和有关法律、行政法规关于个人信息保护的规定；《中华人民共和国个人信息保护法 (草案)》明确个人信息处理者的合规管理和保障个人信息安全等义务，要求其按照规定制定内部管理制度和操作规程，采取相应的安全技术措施，并指定负责人对其个人信息处理活动进行监督；《中华人民共和国消费者权益保护法》规定， 经营者及其工作人员对收集的消费者个人信息必须严格保密，不得泄露、出售或者非法向他人提供。经营者应当采取技术措施和其他必要措施，确保信息安全，防止消费者个人信息泄露、丢失。
此外，《生成式人工智能服务管理暂行办法》将于2023年8月15日起施行，该《办法》既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要，其中明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。
不过，有法律人士向记者指出：“以上规定只是作为参考，相关法规的适用需要根据具体情况进行判断。”
来源 | 央视网综合澎湃新闻
