观点
PDF观点
当策展变成创作
算法、微内容以及平台和创作者之间逐渐消失的界限
刘乐奇，迪伦·哈德菲尔德-梅内尔，以及扎卡里·C·利普顿
自从互联网上的社交活动开始从开放网络的荒野迁移到所谓的平台（想想 Myspace、Facebook、Twitter、YouTube 或 TikTok）建立的围墙花园以来，关于这些平台应该承担的责任的争论就一直激烈。然而，尽管新闻媒体和愤怒用户的基层运动进行了密切关注，但从法律角度来看，平台仍在最友好的条款下运营。
你可能会说，今天的平台享受着“鱼与熊掌兼得，而且还附赠冰淇淋”的待遇。它们同时受益于：（1）广泛的自由裁量权，可以随意组织（和审查）内容；（2）强大的算法，用于根据他们希望的任何目的，策展几乎无限量的用户发布的微内容；以及（3）免除几乎所有与该内容相关的责任。
这种有利的监管环境源于当前的法律框架，该框架区分了中介机构（例如，平台）和内容提供商。这种区分不适用于现代社交媒体格局，在现代社交媒体格局中，平台部署强大的数据驱动算法（所谓的AI）在塑造人们看到的内容方面发挥着越来越积极的作用，而用户则提供不连贯的原始内容片段（推文、照片等）作为素材。
具体而言，根据 1996 年《电信法》第 230 条，“互动计算机服务”免于对“信息内容提供商”制作的信息承担责任。虽然这项条款最初旨在保护电信公司和互联网服务提供商免于对其管道中仅仅通过的内容承担责任1，但现在的指定涵盖了 Facebook、Twitter 和 YouTube 等积极塑造用户体验的服务。
除了有义务删除特定类别的内容（例如，儿童色情制品和侵犯版权行为）外，今天的平台有权将他们喜欢的任何内容货币化，在符合其企业目标时进行审核，并随意策展其内容。
审核方面的先例
塔勒顿·吉莱斯皮在他的 2018 年著作《互联网的守护者》3中，通过内容审核的视角审视了平台，突出了一个明显的矛盾：平台不断地（并且可以说是必须）涉足规范领域，就允许哪些内容做出政治决策；然而，由于其所谓的中立性，它们在没有责任的情况下运作。
吉莱斯皮始终保持公正，对平台的困境表示同情。它们必须进行审核，所有主流平台都这样做。没有审核，平台很容易被骚扰者和机器人接管；然而，没有哪项审核政策是价值中立的。
审核辩论的焦点包括多年来对 Facebook 将母乳喂养照片归类（后来又取消归类）为“淫秽”内容的政策的抗议；Facebook 备受争议的政策，即撤下淫秽但具有历史意义的图像，例如因其在改变公众对越南战争的看法方面发挥的作用而闻名的普利策奖获奖照片“Napalm Girl”；以及在 1 月 6 日国会山骚乱之后，席卷 Twitter、Facebook、亚马逊甚至 Pinterest 的账号暂停浪潮。
在所有这些案例中，平台都面临着市场上的后果，以及品牌管理方面的挑战。然而，从法律角度来看，它们的自主权很少受到挑战。
最后，吉莱斯皮促使读者重新考虑是否应该将不可避免地具有政治性并影响我们所有人的决定委托给平台。通过审核的视角分析平台，引发了关于当前法规是否充分的根本性问题。然而，审核的视角很少迫使我们质疑中介机构与创作者之间区分的有效性。
内容创作到底是什么？
本文认为，用于策展内容的技术以及用户内容本身的性质的重大变化正在迅速侵蚀中介机构与创作者之间的界限。
首先，机器学习算法和智能组装底层内容以形成策展体验的系统的突破，使公司能够以前所未有的控制力来决定不仅可以看到什么，而且实际上会被看到什么，以服务于公司认为符合其业务目标的任何指标。
其次，与用于共享整个文章链接的传统公告板网站或用于共享文章长度思考的博客平台不同，现代社交媒体巨头（如 Facebook 和 Twitter）主要（并且越来越多地）交易微内容——孤立的文本和照片片段单点漂浮在它们的生态系统中。
第三，最大的平台以如此巨大的规模运营，以至于它们的内容几乎包含任何事实断言（真或假）、几乎任何规范性断言（无论多么极端）以及几乎任何照片（真实或虚假），这些内容都在时代精神中传播。
平台现在拥有巨大的表达能力，可以为其用户创建媒体产品，仅受可用原子内容以及其算法能力的限制，而这两者都分别由于规模经济和技术进步而迅速发展。
我们并非第一个提出策展从根本上改变了平台和创作者之间区别的人。在美国众议员安娜·G·埃肖（加利福尼亚州民主党）和汤姆·马利诺夫斯基（新泽西州民主党）最近提出的第 230 条修正案中，出于更务实的监管考虑，最近提议将那些“使用算法、模型或其他计算过程来排名、排序、推广、推荐、放大或类似地改变信息交付或展示”的“互动计算机服务[机构]”（平台）重新归类为“信息内容提供商[机构]”（创作者）。2
为了明确这些法律术语的解释忠实于第 230 条的原始含义，以下是官方定义
信息内容提供商一词是指对通过互联网或任何其他互动计算机服务提供的信息的创建或开发全部或部分负责的任何个人或实体。
撇开眼前的法律目标不谈，为什么要针对（算法）内容策展？乍一看，互联网服务因策展内容而不仅承担一定程度的责任，而且还承担与底层内容创作者相同的地位（在责任方面），这似乎很荒谬。然而，这种区分实际上可能并非如此牵强。
类似的辩论也出现在艺术领域。谁可以声称对大量采样现有音频的流行歌曲负责？野兽男孩乐队是Paul's Boutique的创作者，还是原始片段的创作者对这种区分拥有独家权利？贾斯珀·约翰斯能否被视为他的版画和拼贴画的创作者，这些版画和拼贴画重新包装和并置了以前的艺术作品（他自己和其他人的）？
对于此类衍生作品，对创作者身份、战利品权利和责任的主张不必相互排斥。这个先例至少表明，在生活的某个领域，人们似乎可以接受这样的观点，即那些制作微内容的人和那些将其组装成更大规模作品的人可以共享创作者的称号。
当然，界限必须划在某个地方。DJ 创作音乐的方式与野兽男孩乐队不同。艺术画廊创作艺术的方式与贾斯珀·约翰斯不同。在整洁的法律类别之下，存在着一系列混乱的创意活动。
策展何时变成创作？
回到网络平台的活动，让我们考虑策展-创作谱系上的两个极端。首先，让我们看看典型的聚合网站（例如德鲁吉报道）的活动，其内容完全由指向互联网上其他地方存在的完整文章的出站链接组成。可以说，德鲁吉扮演了 DJ 的角色，创作的东西更像是播放列表而不是歌曲。
现在考虑典型的在线博主或在线时代的典型工作过度的记者，他们提供评论或综合，但不是原创报道。他们在互联网上搜寻内容，组装词语、短语、整句引语和照片，所有这些都可以在其他地方找到，以制作文章或帖子。大多数读者无疑会同意这属于创作。事实上，它与 Twitter 和 Facebook 用户是他们发布内容的创作者意义相同。
现在考虑中间地带，有人通过组装既不是整篇文章，也不是单个单词，而是单个句子来塑造内容，这些句子来自整个互联网，剥夺了其原始语境，并组装起来以呈现围绕任何主题的讨论的任何期望图景。
法律学者和政治家可以辩论这种中间地带是否应被官方归类为创作而不是策展。然而，很难否认这些行为确实构成了一个谱系，并且句子策展人与单词策展人的相似之处大于文章策展人。
今天的平台一直在沿着这个谱系稳步前进。从最早的日子，当相对微不足道的内容库以倒序时间顺序呈现时，到现代时代的黑匣子系统，这些系统为 Twitter 和 Facebook 的新闻提要提供动力，行为者的面貌正在发生转变，他们越来越不像乐于运输出现在其管道中的任何内容的冷漠的公用事业机构，而越来越像媒体产品的积极创作者。
可以肯定的是，即使在单个平台内，沿着这个谱系的活动也不是统一的。以 Twitter 为例：虽然默认的新闻提要确实根据不透明的过程进行定制，但内容主要由您关注的个人（或转发的）最近帖子组成。另一方面，Twitter 的“探索”屏幕与句子策展人的中间地带惊人地相似。它们都呈现了一组热门话题，每个话题都根据一些未知的过程进行标题，并且它们从（通常）关于某个话题的数百万条推文中策展出一组选定的推文来代表故事。
在一个传统媒体上出现的许多新闻文章由松散地通过叙述和解释联系起来的精选推文集合组成的时代，中介机构与创作者之间的界限已经变得如此之薄，以至于暗示可能已经存在双重标准。
我们下一步该怎么做？
虽然这里的重点是平台为呈现内容而采取的行动，但这并不是它们影响用户消费信息的唯一方式。Twitter 和 Facebook 等平台经常跨语言翻译消息。Instagram 和 Snapchat 等图像共享平台对照片应用算法转换。
随着技术的进步，策展与创作之间模糊的界限可能会变得更不清晰，而不是更清晰。
未来，平台可能不仅会跨语言翻译，还会跨方言释义5或提供内容摘要。7它们可能会超越应用可爱的滤镜，并渲染整个合成图像以满足规范。4也许为了安抚对网络毒性感到震惊的用户，Twitter 和 Facebook 可能会提供使消息更礼貌的功能。6
制定平衡企业责任、经济活力和个人言论自由权的相互竞争的需求的政策是困难的。本文并不试图将策展-创作谱系上的某个点标榜为唯一正确的截止点。它也不声称对以这种区分为前提的系统的可行性提供明确的指导。
相反，这里的目标是阐明策展与创作之间确实存在一个谱系。此外，技术进步为平台提供了强大、多样化且不断增长的工具集，用于构建存在于“互动计算机服务”和“信息内容提供商”之间灰色地带的产品。
监管互联网这个具有影响力且不断增长的领域需要认识到问题的本质是灰度性质，并且我们需要避免将所有在线行为者塞进简单的分类系统中的简化监管框架。
在某种程度上，现代平台对用户体验日益增长的影响必须伴随着更大的责任。很难确定平台应该承担责任的中介机构-创作者谱系上的确切点。埃肖和马利诺夫斯基众议员提出的法案表明，这样的点已经达到。当然，Facebook 的法律团队会不同意。然而，显而易见的是，今天的平台在创建媒体产品方面发挥着越来越大的作用，任何连贯的监管框架都必须适应这一现实。
参考文献
1. 电子前沿基金会。CDA 230：立法历史； https://www.eff.org/issues/cda230/legislative-history。
2. 埃肖，A. G. 2020。众议员埃肖和马利诺夫斯基提出法案，追究科技平台对算法推广极端主义的责任； https://eshoo.house.gov/media/press-releases/reps-eshoo-and-malinowski-introduce-bill-hold-tech-platforms-liable-algorithmic。
3. 吉莱斯皮，T. 2018。《互联网的守护者：平台、内容审核以及塑造社交媒体的隐藏决策》。耶鲁大学出版社。
4. 科，J. Y.，鲍德里奇，J.，李，H.，杨，Y. 2021。基于细粒度用户注意力的文本到图像生成。载于《IEEE/CVF 计算机视觉应用冬季会议论文集》，237-246； https://openaccess.thecvf.com/content/WACV2021/html/Koh_Text-to-Image_Generation_Grounded_by_Fine-Grained_User_Attention_WACV_2021_paper.html。
5. 刘易斯，M.，加兹维尼内贾德，M.，戈什，G.，阿加亚尼扬，A.，王，S.，泽特尔莫耶，L. 2020。通过释义进行预训练。载于《神经信息处理系统进展》33； https://proceedings.neurips.cc/paper/2020/hash/d6f1dd034aabde7657e6680444ceff62-Abstract.html。
6. 马丹，A.，塞特勒，A.，帕雷克，T.，波乔斯，B.，纽比格，G.，杨，Y.，萨拉赫丁诺夫，R.，布莱克，A. W.，普拉布莫耶，S. 2020。礼貌转移：一种标记和生成方法。载于《第 58 届计算语言学协会年会论文集》，1869-1881； https://www.aclweb.org/anthology/2020.acl-main.169.pdf。
7. 王，X.，于，C. 2019。通过学习使用问答对新闻文章进行摘要。载于《国际语义网会议》，698-715； https://research.google/pubs/pub48295/。
刘乐奇是卡内基梅隆大学机器学习系博士生。此前，她获得了布林莫尔学院计算机科学学士学位和哈弗福德学院数学学士学位。她关心人工智能和机器学习中以人为本的问题。特别是，她希望构建能够从人类行为中推断人类偏好、做出符合人类价值观的决策以及即使在人类具有适应性、情绪化和战略性时也能与人类互动的机器学习系统。
迪伦·哈德菲尔德-梅内尔是麻省理工学院人工智能与决策制定助理教授。他致力于人工智能中的价值对齐问题，并努力设计算法，使其能够学习和追求用户、设计者和整个社会的预期目标。他最近的工作重点是人工智能系统中（过度）优化代理指标的风险。
扎卡里·蔡斯·利普顿是卡内基梅隆大学运筹学和机器学习 BP 初级讲席助理教授，也是亚马逊 AI 的访问科学家。他指导着大约正确机器智能 (I) 实验室，该实验室的研究涵盖核心机器学习方法、临床医学和自然语言处理的应用以及自动化对社会系统的影响。当前的研究重点包括分布偏移下的稳健性、决策制定、因果思维在抵抗程式化因果模型的实际高维环境中的应用以及人工智能伦理。他是 Approximately Correct 博客 (approximatelycorrect.com) 的创始人，也是《Dive Into Deep Learning》的合著者，这是一本完全通过 Jupyter 笔记本起草的交互式开源书籍。可以在 Twitter (@zacharylipton)、GitHub (@zackchase) 或他的实验室网站 (acmilab.org) 上找到他。
版权 © 2021 归所有者/作者所有。出版权已授权给 。
最初发表于 Queue vol. 19, no. 3—
在 数字图书馆 中评论本文
更多相关文章
文尼·多纳蒂 - 推动组织可访问性
在本文中，我们将探讨微软如何在整个组织中推动可访问性，并且我们将仔细研究促进包容性文化的基本框架和实践。通过检查诸如意识建设、战略发展、可访问性成熟度建模等各个方面，我们旨在为开始其可访问性之旅的组织提供指南。我们的想法是分享我们学到的知识，希望您可以采纳它，对其进行调整以适合您公司的目标，并以一种不仅仅是打勾活动而是真正融入您文化的方式来培养可访问性。
沙塔布·瓦希德 - 设计系统是可访问性交付工具
设计系统是为消费者（即从事应用程序的设计师和开发人员）构建的基础设施。一个成功的设计系统可以让组织中的消费者快速扩展跨应用程序的设计和开发，提高生产力并建立一致性。然而，许多消费者没有准备好为可访问性而构建。组织能否使应用程序的可访问性支持构建变得可扩展、高效且一致？本文探讨了设计系统如何成为支持可访问性的重要工具。
胡安米·斯宾塞 - 移动应用程序的可访问性考虑因素
在创建移动应用程序时，考虑可访问性至关重要，以确保尽可能广泛的受众可以使用和享受它们。与桌面体验相比，移动可访问性具有独特的考虑因素，但它为那些在日常活动中依赖移动设备的用户提供了巨大的价值。通过牢记这些考虑因素，移动产品开发团队可以更好地支持和改善所有用户的生活。本文探讨了移动应用程序的一些关键可访问性考虑因素，并重点介绍了 Bloomberg Connects 应用程序如何在产品和流程中支持可访问性的几种方式。
克里斯·弗莱扎克，杰弗里·P·比格姆 - 系统级可访问性
本文通过我们使用 VoiceOver 屏幕阅读器使 iPhone 能够以非视觉方式使用的工作来说明系统级可访问性。我们重新构想了非视觉使用的触摸屏输入，引入了适用于屏幕阅读器控制的新手势，对于输出，我们添加了对合成语音和可刷新的盲文显示器（输出触觉盲文字符的硬件设备）的支持。我们添加了新的可访问性 API，应用程序可以采用这些 API，并使我们的用户界面框架默认包含它们。最后，我们添加了一个可访问性服务，以桥接这些新的输入和输出与应用程序之间的联系。
© 保留所有权利。