IT之家 8 月 22 日音问,上周发布了 Pixel 9 系列智妙手机,其中包含一系列以东谈主工智能为中枢的新功能。扫数 Pixel 9 手机均相沿 Gemini 东谈主工智能,谷歌还加入了基于东谈主工智能的图像生成和剪辑用具。然则,评测东谈主员测试了这些新功能后发现【SOE-177】ギリモザ もっと激しく、激しく突いて Ami,东谈主工智能图像生成很可能会成为谷歌的公关恶梦。
据IT之家了解,谷歌为 Pixel 手机推出了一个名为 Pixel Studio 的东谈主工智能图像生成期骗,其梗概通过文本指示创建贴纸和图像,功能与蓄意推出的 Image Playground 相配通常。当今,评测东谈主员梗概使用 Pixel Studio 创建出多样令东谈主不安的图像,举例纳粹版块的海绵宝宝和拿着 AK47 的艾摩。
来自 Digital Trends 的评测东谈主员绝不忙碌地让 Pixel Studio 制作了卡通东谈主物从事可疑活动的图像【SOE-177】ギリモザ もっと激しく、激しく突いて Ami,枪支、毒品和乙醇齐梗概生成,黄胖系列以至像校园枪击这么的冒犯性场景。Pixel Studio 不会主动生成此类图像,而是需要用户输入相应的描写。然则这恰是东谈主们最有可能作念的事情,而不是生成可人猫咪和小兔子的图像。
谷歌示意他们照旧领受了“安全检查门径”来退守 Pixel Studio 被“坏心使用”,况且如实起到了一定作用。举例,Pixel Studio 当今无法生成东谈主物图像,金发美女况且谷歌正在字据评测反映养息东谈主工智能模子。历程与谷歌的换取明,Digital Trends 也无法再用 Pixel Studio 生成吸食可卡因或衣裳德国士兵服装的卡通东谈主物图像。
比 Pixel Studio 更令东谈主担忧的是谷歌的“重构”(Reimagine)用具,其不错向用户照旧拍摄的像片中添加对象。来自 The Verge 的评测东谈主员用它向图像添加了尸体、炸弹、毒品和灾祸场景,况且这些添加物看起来相配传神,让东谈主难以诀别图片是否历程剪辑。谷歌在匹配明后和透视方面作念得相配出色,酬酢媒体上也看不到任何水印或鲜艳。天然谷歌如实添加了元数据标签,但通过截图很容易将其去除。
The Verge 指出,当年也不错向图像添加尸体或创建握枪的艾摩图片,但这需要一定的 Photoshop 妙技和时辰。使用 Pixel 手机,只需几秒钟的念念考,任何东谈主齐不错创建这么的图像,这让东谈主担忧。
在给 The Verge 和 Digital Trends 的声明中,谷歌示意他们假想生成式东谈主工智能用具时,是“为了尊重用户指示的意图”,这可能会导致用户要求生成“令东谈主反感”的本体。但谷歌宣称其“奇迹要求”中规定了不允许生成的本体,况且他们将不断完善关联保险门径。