AI技術は急速に進歩しており、人間が作成したものと見分けが付かない文章や画像を生成できるAIなどが複数開発されています。新たに、TikTokの運営企業であるByteDanceの研究チームが文章で指示するだけでムービーを編集できるAI「MagicEdit」を開発しました。MagicEditではムービーの一部だけを置き換える編集も可能なほか、ムービーの映っていない部分を継ぎ足すことも可能です。

Our pixel-perfect Background Removal Service provides flawless results using a powerful blend of human expertise and AI. From e-commerce product shots to

Ferramenta de IA generativa de imagens MagicEdit sofre vazamento que expõe diversos registros com deepfake e pornografia

An AI image generator startup left more than 1 million images and videos created with its systems exposed and accessible to anyone online, according to new research reviewed by WIRED. The “overwhelming majority” of the images involved nudity and were “depicted adult content,” according to the researcher who uncovered the exposed trove of data, with some appearing to depict children or the faces of children swapped onto the AI-generated bodies of nude adults. Multiple websites—including MagicEdit and DreamPal—all appeared to be using the same unsecured database, says security researcher Jeremiah Fowler, who discovered the security flaw in October.

MagicEdit: High-Fidelity Temporally Coherent Video Editing - GitHub - magic-research/magic-edit: MagicEdit: High-Fidelity Temporally Coherent Video Editing

近期，一个AI图像生成初创公司因数据库配置失误，导致超过百万张由其系统生成的图像和视频暴露于互联网，可被任何人访问。安全研究员Jeremiah Fowler于10月发现此漏洞，当时数据库每日新增约10,000张图像。 暴露的数据中，“压倒性多数”为成人内容，部分图像涉及将儿童面孔合成到AI生成的裸体成人身体上。此外，还存在大量未经授权的真实人物照片，被“脱衣”或面部替换，用于生成性内容。研究者指出，核心问题在于无辜者，特别是未成年人，其图像被未经同意用于制作色情内容。这是该研究员今年发现的第三个配置错误的AI图像生成数据库，均包含非自愿的露骨图像，包括年轻和儿童群体。 此次事件发生之际，AI图像生成工具被恶意用于制造露骨内容的现象日益普遍。“脱衣”服务利用AI移除照片中的衣物，主要针对女性，利用社交媒体照片进行P图，已成为一种骚扰形式。同时，利用AI制作儿童性虐待材料的报告在过去一年中翻倍。涉事公司DreamX（运营MagicEdit和DreamPal）表示，已将这些担忧“极其认真地对待”，并声明与数据库相关的营销公司SocialBook是独立运营实体，不参与数据库的管理和内容生成。 查看消息来源