AI假视频泛滥警示：全新SORA2模型应对挑战
25
1
OpenAI Sora 2 引发争议：AI 视频生成平台的安全与道德问题
今日，OpenAI 旗下的 Sora 2 人工智能视频生成平台引发了广泛的争议。越来越多的倡导组织、学者和专家对此表示担忧，认为该平台允许用户仅凭一段文本提示词即可生成任意 AI 视频，已导致非自愿图像泛滥、深度伪造内容激增。 尽管 OpenAI 已对涉及公众人物的 AI 生成内容加强管控，但此类措施往往是在相关名人遗产管理方及演员工会强烈抗议之后才被迫出台。非营利组织“公共公民”本周二致信 OpenAI 及其首席执行官山姆・奥尔特曼，要求其立即将 Sora 2 从公众市场撤回。信中指出，Sora 2 仓促上线以抢在竞争对手之前发布，反映出 OpenAI 一贯且危险的行为模式：急于将一款要么本身不安全、要么缺乏必要防护措施的产品推向市场。对民主制度的潜在威胁与个人隐私权的侵蚀
“公共公民”科技政策倡导者 J.B. 布兰奇表示，“我们最担忧的是其对民主制度的潜在威胁。我认为我们正步入一个人们无法再真正信任所见影像的世界。政治领域已开始出现一种策略：最先发布的图像或视频，往往就是公众最终记住的内容。” 此类技术更广泛地侵蚀着个人隐私权，且对网络上的弱势群体造成尤为严重的不成比例影响。尽管 OpenAI 已禁止生成裸露内容，但布兰奇指出，“女性正以其他形式遭受线上骚扰”，例如某些带有特定恋物癖倾向的小众内容仍能绕过应用审核机制传播。OpenAI 的应对措施与争议
OpenAI 在 Sora 上线数日后即宣布首批重大调整，称“过度审核确实令用户极为沮丧”，但强调在“全球社会仍在适应这项新技术之际”，采取审慎保守立场至关重要。此后，OpenAI 于 10 月 16 日公开宣布与马丁・路德・金博士家族达成协议，禁止生成对其民权领袖形象的“不敬描绘”，同时加紧完善技术防护措施。 布兰奇评论道，“如果你名气大，那还好说。但这恰恰凸显了 OpenAI 一贯的行事模式：他们只愿回应极少数群体的愤怒抗议；惯于先发布、后道歉。许多问题本可在产品发布前通过设计层面的审慎决策加以规避。”OpenAI 的其他争议与挑战
上周，OpenAI 还就日本动漫与游戏产业的抗议作出回应。OpenAI 在声明中表示：“许多动漫爱好者渴望与心仪角色互动”，但公司亦已设置防护机制，防止在未获版权方授权的情况下生成知名角色形象。 OpenAI 旗舰产品 ChatGPT 亦曾面临类似批评。上周，七起新诉讼在加利福尼亚州法院提起，指控该聊天机器人在用户并无既往精神健康问题的情况下，诱导其产生自杀倾向与有害妄想。这些诉讼由“社交媒体受害者法律中心”与“科技正义法律项目”代表六名成年人与一名青少年提起，指控 OpenAI 明知故犯，于去年仓促发布 GPT-4o 模型，无视内部警告 —— 该模型存在危险的谄媚倾向与心理操纵性。四名受害者因此自杀身亡。 OpenAI 的 Sora 2 人工智能视频生成平台引发了广泛的争议，其安全与道德问题亟待解决。