五年后，Instagram和Pinterest被英国当局叫停。Instagram母公司meta的健康与健康政策总监伊丽莎白·拉贡(Elizabeth Lagone)和Pinterest的社区运营全球总监贾德·霍夫曼(Jud Hoffman)于10月初在英国一家法院作证。两家技术公司共同参与与用户自杀相关的法律程序尚属首次。
律师兼法医安德鲁·沃克说:“(莫莉·拉塞尔)她死于自杀，当时她患有抑郁症和网络内容的负面影响。”北伦敦区的高级验尸官)。在联合王国，这一数字有权发起独立调查，确定人们的死亡原因。沃克没有将这一事件归为自杀:法学家认定互联网“对他的精神健康产生了负面影响，并促成了他的死亡。”
公司不会面临罚款或处罚。他们不是被传唤参加刑事或民事审判，而是被传唤参加法医会议。但关于他们在某些自杀案件中的共同责任的争论已经开始，这是以前从未发生过的。霍夫曼通过电子邮件向EL PAÍS保证:“我们与莫莉的家人以及其他受到自杀或自残影响的家庭同在。”“莫利的故事对我们来说是一个重大的改变，我们将继续努力为我们的Pinterest用户创造一个安全、积极的地方。”
Frances Haugen在一年前指出了这一方向。由于内部文件的泄露，这位meta的前员工导致公司陷入了最严重的生存危机，引发了对《华尔街日报》的大规模新闻调查。在这位工程师披露的众多信息中，有一条产生了特殊的影响:Instagram的高管在知情的情况下向年轻人提供有毒内容，因为这些内容更容易让人上瘾，更能赚钱。一份工作报告显示，13%的英国女孩和6%的美国女孩曾有过自杀念头，多亏了上述社交网络，她们培养了自杀欲望。
皮尤研究中心(Pew Research Center)的数据显示，在美国，父母们认为社交网络算法对他们的孩子造成了身体伤害，由此提起的诉讼正在增加。今年到目前为止，meta、Snap (Snapchat的所有者)、字节跳动(TikTok的母公司)和谷歌因沉迷社交网络而导致青少年焦虑、抑郁、饮食失调或睡眠不足，已被提起70多起诉讼。据《彭博商业周刊》报道，这些过程中至少有7个来自自杀子女的父母。
珍妮特·马吉夫斯基(Janet Majewski) 14岁的女儿自杀了，她在8月起诉TikTok、Snapchat和meta，声称上述社交网络要为这位年轻女子走上一条不归路负责。她在接受《彭博商业周刊》采访时表示:“他们必须改变给孩子们看的东西，修改算法，以免把他们带入黑暗。”
社交网络面临的诉讼要求他们为其产品的有害影响承担责任，就像30年前烟草公司所发生的一样。“科技公司认为这不是他们的问题。Padres 2.0协会的发言人艾伯特·吉梅诺(Albert Gimeno)表示:“他们的商业文化并不真正反对可能鼓励自杀的内容传播。”该协会专门研究网络欺凌、技术成瘾或数字暴力等问题。他补充称:“他们为消除有害内容而采取的措施和组建的团队，不仅要处理大量需要审查的信息，还要与公司自身的其他与之背道而驰的部门打交道，如营销、广告、销售或传播等。”
社交网络对年轻人的生活有着巨大的影响。“具有某些个性特征和情感脆弱的青少年群体接触到的环境中，他们可以表现出痛苦、绝望和与传统接触渠道的脱节”，心理学家和心理治疗师路易斯·费尔南多López解释道，他是ISNISS项目的联合主任和马德里心理学家官方学院“让我们谈谈自杀”项目的协调技术人员。“这些人在社交网络上被发现，是因为他们觉得自己与关心的问题密切相关，他们保持一定的匿名性，他们认为自己属于一个群体，他们有不被评判和拒绝的安全感。他们从公共交流开始，然后发展到私人环境，在那里，自我伤害或自杀的想法开始发展，”他描述道。在西班牙，自2006年以来，儿童自杀人数增加了两倍。
吉梅诺并不知道，在西班牙，针对社交网络的诉讼正在激增，就像在美国一样。他也不相信他们的旅程有多大，更不相信他们解决了问题。他解释说:“家长们自己、政府部门、教育中心、其他互联网用户以及其他技术和通信公司也要发挥作用。”
算法和人工监督
根据咨询公司Domo的数据，每分钟有240万张照片上传到Snapchat上，170万张照片上传到Facebook上，6.6万张照片上传到Instagram上。筛选所有这些信息的技术方法结合了自动和模拟手段。霍夫曼指出:“Pinterest目前针对自残的政策提供了一份详细的删除和限制传播内容的列表，屏蔽列表上有超过2.5万个词条。”“当内容违反我们的政策时，我们会通过人工和自动化流程采取行动。如果用户搜索与自杀或自残有关的内容，不应该向他们显示结果，而应该向他们显示一条通知，指示他们在遇到问题时向专家求助。
Instagram的回应更为灵活。一方面，他们为青少年所看到的内容建立了家长控制工具。他们还禁止宣传自杀或自残的广告。meta的一位发言人说:“在我们被告知之前，我们发现并删除了98%的内容。”另一方面，该公司允许人们谈论自己的感受，分享与自杀有关的内容，只要他们不宣传自杀。
这种混合方法将自动问题材料检测工具与人工内容审核相结合，主导了该行业。例如，TikTok就其标准的遵守情况发布季度报告。在最近的一份报告中，涵盖了今年4月至7月，显示有1.138亿个视频被删除，约占发布视频总数的1%。这家社交网络的所有者字节跳动的消息人士表示:“其中，6.1%的人因为未能遵守与自杀和危险挑战相关的政策而被淘汰。”
另一项更有漏洞的指标是准入的最低年龄，因为它可以被伪造，但科技公司对此非常重视。Facebook、TikTok、Instagram、Pinterest和Snapchat不接受13岁以下的儿童;在YouTube上，你需要14个。谷歌屏蔽某些搜索，并向那些对自残或自杀相关内容感兴趣的人提供帮助热线。TikTok也是如此，它正开始取代谷歌，成为年轻人首选的搜索引擎。
你可以在Facebook和Twitter上关注THE COUNTRY TECHNOLOGY，或者在这里注册接收我们的每周通讯。
订阅有限公司ntinue阅读
阅读没有限制
