上周，在位于卡尔弗城的亚马逊MGM影业工作室举办了一场名为“AI on the Lot”的技术大会，专注于人工智能与电影制作的结合。近2500名与会者从摄影棚到影院，纷纷参与学习人工智能如何助力好莱坞创作。虽然大会的讨论多聚焦于技术本身，但我特别在场外与多位AI领域代表进行了深入交流，重点探讨了人类创造力、意图、身份及影响力等核心话题。
其中，最令我印象深刻的是与Loti AI首席执行官Luke Arrigoni的对话。Loti AI是一家专门在互联网上搜寻并删除未经授权的深度伪造内容（包括名人及普通人形象）的公司。如果你想保护自己的网络形象，Luke无疑是最佳联系人。
深度伪造指的是通过数字技术伪造某人的面貌、声音或整体形象，制作出照片、视频或音频等内容。作为美国影视演员工会（SAG-AFTRA）成员，我深知2024年工会罢工的背后原因之一就是担忧生成式AI未经许可使用演员形象，侵犯权益。
深度伪造的影响远不止演艺圈。社交媒体上的AI工具也成为虚假信息传播和未经同意的图像篡改的温床，比如今年早些时候埃隆·马斯克的Grok AI工具就引发了争议。
Luke Arrigoni曾入选2021年《福布斯》Next 1000榜单。他在卡尔弗剧院外与我交谈，穿着利落的西装外套和休闲衬衫，态度既亲切又严肃，令我对这场对话充满期待。我们避开大会的喧嚣，深入探讨了他的公司业务、AI带来的恐惧以及如何设立必要的防护措施以避免技术毁灭人类——这是他的观点。
以下是经过编辑的访谈内容：
你们公司具体做什么？
Arrigoni：我们主要做两件事。第一是防御：我们扫描整个互联网，利用面部和声音识别技术寻找未经授权出现的你，然后将其删除。可以理解为“搜索、发现、摧毁”。无论是未经授权的深度伪造、色情内容、诈骗，还是有人在T恤上PS假标志，我们都能精准定位并迅速处理。
第二是进攻：如果任何生成式AI公司想要生成你的形象或作品，他们必须遵守我们的规则和定价。对方会先提交申请，我们实时审核，批准后才允许生成，否则我们会删除相关内容。
你们的产品更像是AI时代保护用户的“护栏”，而不仅仅是AI工具？
Arrigoni：没错，我们是用火攻火。通过面部识别和AI模型来判断内容是否合规，决定是否删除。我们本质上是人类的工具，是一套轨道系统，帮助人们安全地被生成，也让生成式AI平台合规并参与更大的市场。
假设我是演员，发现网上有假冒我的视频，我需要通过执法机关和传票才能让你们处理吗？
Arrigoni：不需要。你注册后，10分钟内我们就开始在网上为你搜寻相关内容。
是什么促使你开始这项工作？
Arrigoni：我们最初是做报复性色情内容的删除。后来SAG-AFTRA罢工，我联系了CAA、WME等经纪公司，询问他们是否需要系统性地处理这类问题，大家都觉得这是必需的，于是我们开始大规模清理网络内容。
你对AI未来的发展是感到希望还是担忧？
Arrigoni：AI生成的内容会越来越多，人们最终会厌倦这些中庸的作品，真正的艺术家和创作者依然会脱颖而出。AI无法超越人类创作顶尖内容的原因在于，它只能基于大量数据预测平均水平，而数据质量参差不齐，难以达到顶尖水平。
能用简单的话解释吗？
Arrigoni：比如你喜欢克里斯托弗·诺兰或乔丹·皮尔那种独特风格的电影，这类作品短期内不会被AI取代。但普通内容的竞争会非常激烈。
你认为深度伪造技术会达到真假难辨的程度吗？
Arrigoni：大概在未来一两年内，辨别真假将变得极其困难。
这对公众如何与媒体互动意味着什么？
Arrigoni：这是一个教育问题，至少需要一代人时间来解决。关键是降低批判性思维的门槛，让普通人更容易识别真假信息，这应该从幼儿园开始教育。
听起来有些悲观，你怎么看？
Arrigoni：我对自己能做的事情很乐观，虽然对现状不那么乐观。我相信当生态系统出现大问题时，我能利用手中的工具去修复它。我既有恐惧，也有期待。
你刚才提到技术可能会消除人性和防护措施，这是什么意思？
Arrigoni：技术喜欢不断优化，直到去除人性、谨慎和防护措施。很多推荐算法就是极端技术的体现。我们在Loti努力阻止走到那一步，虽然市场希望我们继续前进，但我和投资人都坚持不走那条路。更多人需要意识到，虽然下一步更赚钱，但会毁掉人类。
这听起来很极端。
Arrigoni：是的，但现实如此。
很多人用AI做不该做的事，比如用ChatGPT作弊、当“医生”等，你怎么看？
Arrigoni：我有个15岁的孩子，我告诉他作弊是可能的，但努力学习会让你的人生更轻松。虽然无法阻止他，但努力会让你更有知识、更有吸引力、更容易找到工作和建立联系。家长需要从人类最原始的防护措施做起，确保孩子不至于迷失。
最后谈谈奇点问题，你认为AI会成为超越人类的催化剂吗？
Arrigoni：如果用现有技术，那将很糟糕，就像最普通的人无处不在一样，那真的很糟。
