尽管OpenAI将其最新的iPhone应用Sora描述为视频生成工具，但更准确地说，它是让任何人都能轻松创建深度伪造内容的一种方式。
你确实可以选择是否允许他人使用你的客串形象（即你的肖像），但最初你几乎无法控制他们能用它做什么。可以预见，这带来了问题，因此该公司现在推出了一项新的安全工具……
OpenAI的Sora应用
OpenAI将Sora描述为一种将想法转化为超现实视频的方式。
将你的想法转化为具有超现实动作和声音的视频。从一个提示开始或上传一张图片，即可创建具有前所未有真实感的任何风格的视频：电影感、动画感、照片级真实感或超现实感。
该应用迅速登上美国和加拿大App Store的榜首，目前它是仅在这两个国家可用。
客串形象
当你使用自己的面部创建Sora视频时，你可以选择是否允许他人在他们的视频中使用它——这被称为客串形象。然而，一旦你授予许可，你几乎无法控制他们能用它做什么。
这使得人们可以创建让你表达与你自身观点截然相反的政治立场的客串视频，以及其他更多内容。
该公司确实通过叠加一个在屏幕上弹跳的水印来标记由Sora创建的视频，但有些人很快找到了移除水印的方法。
Sora客串形象控制
OpenAI的Sora负责人比尔·皮布尔斯表示，公司现已迅速推出了控制措施。
从今天开始，你可以向Sora发出指令，限制他人使用你的客串形象可以生成的内容类型。例如，“不要将我放入涉及政治评论的视频中”或“不要让我说这个词”。访问路径：编辑客串形象 > 客串偏好 > 限制。
他表示，公司正在努力使该安全功能更加健全，为你提供更多选项来控制你的客串形象可以被如何使用。
此外，该公司表示未来将使水印更清晰、更明显。目前尚不清楚该公司将采取何种措施来防止水印被移除。
