top of page
Search
Writer's pictureIYP

沉默的佩奇、虚假权衡、声音的枷锁、深度造假 - Newsletters(03.28.2019)

如果你不小心怀孕了,或者你吃伟哥才能上床,这些小秘密你希望被全球人都知道吗?不仅是知道,而是被不断地转售,以实时竞价的方式 …广告并不是烦人这么简单?;为什么有人能拥有私人停机坪,就在多数人甚至无法拥有基本卫生保健权利的社会里?允许亿万富翁与极端贫困同时存在的制度是不道德的;猪瘟疫情在世界各地引起激烈的抗议,农民威胁将大粪扔进议会,但是,中国猪瘟疫情却没有任何社会反响,为什么?;我们介绍过声纹识别有多可怕,为什么有些地方正在强行收集人们的声音数据?这篇报告应该能提醒警惕,关于什么时候你不应该说话;造假并非新鲜事,它在人类历史上具有深远的影响,但是如今,高科技支持的深度造假真的是一场真相已死的危机吗?我们如何化解这场危机?



&1

Privacy Groups Claim Online Ads Can Target Abuse Victims. Ryan pointed to a sample bid request on Google’s blog for developers, which showed the person’s latitude and longitude, zip code, device details, and tracking ID.


【广告并不是烦人这么简单】欧洲隐私权倡导者指出,在线行为广告背后复杂的招标过程威胁着消费者的隐私。为了在网页上放置广告,公司就肯定要广泛传播他们对访问该页面的用户的了解,包括有关人们观看、收听或阅读的内容类型等潜在的敏感数据。我们演示过如何通过浏览历史记录挖掘一个人的心内全景图,详见《⚠️ 浏览历史记录曝光你的内心全景图:OSINT 开源调查演示


最近波兰、英国和爱尔兰监管机构提交的新文件称,在将广告与广告位匹配的过程中处理个人数据的方式不符合欧盟的一般数据保护条例。


虽然多数匹配类别都是良性的,如“特斯拉电机”或“小工具”,但是,有些类别非常敏感。例如,互动广告局(一个建立行业规范的贸易组织)商定的标签清单包括乱伦/虐待、同性恋生活、仇恨内容、药物滥用、和艾滋病等类别。


以 Brave 为首的倡导团体指出,随着时间的推移,这些标签可以链接到用户身份并通过cookie和其他跟踪用户网络浏览的技术整合到配置文件中。“关于你所阅读和在线观看的标签长期被储存着,”Brave 首席政策官 Johnny Ryan 援引英国智库新经济基金会12月发表的一份报告称,行业公司每天164次分享关于英国互联网用户的个人资料。隐私倡导团体表示,这些档案然后由互联网广告生态系统中的玩家继续传递,而不考虑 GDPR 严格的隐私规则。


在发给监管机构的电子邮件中,代表 Brave 的律师 Ravi Naik 表示,IAB 的一些指导原则还“建议关于设备的人类用户个人识别码”、“用户”属性等。IAB 的清单还包括针对特殊需求人群,如自闭症、尿失禁和不孕症的标签,以及伊斯兰教、印度教和其他宗教的宗教类别。


Google 也维护了一个类似的列表,为了把你卖掉。它是 Google Authorized Buyer 计划的一部分,该计划以前的名字叫 DoubleClick Ad Exchange(也称为AdX)。谷歌的类别不包括性虐待,但是,它们确实包括滥用药物历史,包括类固醇和提高性功能的药物,以及药物治疗史和饮酒史。其他类别还包括身体和面部毛发状态、性传播疾病、男性阳痿、和右翼和左翼政治。


发行商可以选择退出 Google 的名为“发行商垂直广告”的列表,该列表会根据网页上的关键字自动生成,用于内容相关广告,根据您所在的网页而非个人信息进行定位。它还用于帮助广告客户避免某些内容,例如,如果一家酒类公司不想向孕妇展示广告,或者广告客户想要避开任何政治网站。在实时竞价中,Google 使用这些类别向投标人提供广告空间拍卖的指示。


Ryan 和另外两人最初在9月份对英国和爱尔兰的在线广告系统提出了投诉,指控该流程可能会暴露用户的位置和跟踪标识符,这些标识符可用于构建长期被保存的配置文件。投诉称,这些配置文件还可以与离线数据相结合,例如用户的收入范围、社交媒体影响力、性别、政治倾向和性取向


为了演示竞价请求如何包含类别,Ryan 在 Google 博客上为开发人员指出了一个竞价请求的样本,其中甚至显示了该人的经纬度、邮政编码、设备详细信息和跟踪ID。


一月份,法国隐私监管机构已经因违反 GDPR 而罚款谷歌5700万美元。



&2

Alexandria Ocasio-Cortez: A system that allows billionaires to exist alongside extreme poverty is immoral: Are we comfortable with a society where someone can have a helipad while [New York City] is experiencing the highest rates of people experiencing homelessness since the Great Depression?"


【允许亿万富翁与极端贫困同时存在的制度是不道德的】众议员 Alexandria Ocasio-Cortez 同意“允许亿万富翁存在的制度”是不道德的。


在纽约举行的小马丁路德金日的活动上,女议员肯定地回答了这个问题,此时世界上许多亿万富翁正聚集在一起开始达沃斯年度经济论坛,而经济不确定性和民粹主义正在抬头。


“我认为这并不一定意味着所有亿万富翁都是不道德的,”她引用比尔盖茨和沃伦巴菲特这两位主要的慈善家说。预计盖茨今年将再次参加达沃斯论坛。


但她特别指出,亿万富翁可以在一个国家里与“阿拉巴马州那样地方共存,那里的人甚至无法获得公共卫生服务”,这样的制度是不道德的。


在纽约市哈林区附近的河滨教堂举办的 MLK Now 活动中,Ocasio-Cortez 在与记者和作家 Ta-Nehisi Coates 的对话中反对经济不平等。


“我们是否应该适应一个极少数人可以拥有直升机停机坪、而[纽约市]正经历着自大萧条以来无家可归者最高比率的社会?”她询问亚马逊首席执行官杰夫贝索斯在该公司新总部提出的直升机停机坪计划。


Ocasio-Cortez 解决严重贫富差距的方法之一就是70%的边际税率,这一政策提案已经在华盛顿掀起巨大波澜。这项税收适用于每年收入超过1000万美元的人,这一群体目前的边际税率上限为37%。


Ocasio-Cortez 成为有史以来最年轻的女性议员,作为一个自我认同的民主社会主义者,她致力于通过激进手段减少经济不平等的承诺。



&3

Log-free email provider Posteo: 'You must log user IP addresses', court rules. German Constitutional Court says email service needs to store its users' IP details for law enforcement.


【“必须收集用户隐私”】Posteo 是一家德国电子邮件提供商,提供加密通信,而且至关重要的是,它不会记录其用户的IP地址。


所以公司对德国宪法法院的决定感到愤怒也就不足为奇了,因为德国宪法法院表示,它必须记录IP地址,以便在被警方问及时可以提供出来。


这项裁决涉及斯图加特当局企图监视涉嫌违反麻醉品和武器法规的人。


2016年,当地一家法院向 Posteo 出示了逮捕令,要求提供与嫌疑人电子邮件帐户相关的所有数据。Posteo 接受了对帐户监控的要求,但是告诉警察,因为它没有记录流量数据,所以在这方面没有任何东西可以分享。


检察官抱怨 Posteo 拥有IP地址但拒绝提供,但 Posteo 反驳称自己从未拥有过这些数据,因为它使用了网络地址转换(NAT)技术。


当地法院告诉 Posteo 收集所有未来的IP地址。Posteo 拒绝的理由是系统转换成本过高。但是,地区法院不同意并以轻微罚款的形式打击了 Posteo,案件最终落到了宪法法院。


在其裁决中,宪法法院承认,因不收集IP地址罚款 Posteo“干扰了申诉人自由职业权利”,但表示这在宪法上是可以接受的,因为德国的电信法案(TKG)确实允许监控IP地址。


德国的电信监视条例(TKÜV)要求提供商“提供进行电信监视所需的技术基础设施,并采取必要的措施,以确保监视能够毫不拖延地实施”。TKÜV 的2017年更新明确提到服务提供商需要收集IP地址信息,但并未提出新要求


在博客文章中 Posteo 说它仍然在试图弄清楚是否还有任何法律选择。但如果没有,它也将“选择一个不会损害客户安全和权利的解决方案”。


“直截了当地说,我们不会开始记录我们尊敬的客户的IP地址,”帖子写道,Posteo 只会收集与监视授权有关的邮箱的IP地址。


那么 Posteo 提出的建议会满足法院的要求吗?根据柏林 Reusch Law 的信息隐私律师 Carlo Piltz 的说法,可能会。“宪法法院的裁决不会产生或支持无限制数据保留的义务,”Piltz 说。


不过他还说,“当然,似乎有点奇怪的是,一项特别关注数据保护和隐私的服务现在被迫存储数据,仅用于刑事起诉”。


“我们得出的结论是,公共当局几乎无法理解高度复杂、安全的系统架构及其好处,”Posteo 抱怨说,指出德国最近发生的大规模数据泄漏是为什么最好不要存储数据的一个教训。



&4

The politics of pigs: In most countries, a swine-fever epidemic would cause mass protests. Not in China. Whether swine fever smoulders or blazes across China's farm-country, it has already exposed the striking political weakness and isolation of the country's small farmers.


【沉默的佩奇:面对流行疫情中国人为什么不反抗】中国农村正处于长期恐惧的灾难之中,这是一种叫非洲猪瘟(asf)的流行病。中国的第一例病例于2018年8月3日得到确认。它可能会毁掉数百万养猪小农。


1月25日粮食及农业组织,一个联合国机构,已确认104个 asf 爆发疫情在中国导致淘汰了 916,000 头猪。虽然这种疾病对人类没有太大威胁,但是也没有治愈感染猪的方法,没有针对它的疫苗。该机构驻中国特使 Vincent Martin 表示,根除“可能在短期内不可行”,特别是如果野猪充当了病毒载体。


俄罗斯的案例为未来提供了不祥的线索。控制 asf 的11年斗争导致猪肉产量下降近一半,而能够负担得起严格生物安全控制的大型农场实际上增加了产量。这种转变将改变中国农村,在中国每年生产近5亿头猪,其中约40%是在母猪少于30头的小型农场养殖的


透明度是一项急于进行的工作。就在十几年前,中国政府出面与外国同事交谈,有时甚至拒绝大声说出疾病的名字,羞怯地哀叹“疾病x ”在“ y省” 的到来。目前中国已经告诉联合国关于禁止生猪运输和市场关闭的疫情和检疫区,宣布了禁止用垃圾食物喂养猪的新禁令。但中国也打算尽量减少危机。随着新年期间厨师们忙于策划猪肉盛宴,中国农业部于1月16日向公众保证,asf 对市场的影响“有限”。


香港城市大学的兽医和传染病专家 Dirk Pfeiffer 称中国努力控制 asf。他指出,即使是富裕的欧洲国家也在为之奋斗。尽管如此,他仍然担心为什么中国的疫情爆发会分散在整个地图上而不是集中在某些地区,正如人们所期望的那样。


但是,猪瘟已经暴露了中国小农的惊人政治弱点和孤立。


在欧洲,农民拥有超大的政治影响力,asf 的传播被归咎于政府拙劣,引发了部长辞职的呼吁。从罗马尼亚到波兰、比利时和爱沙尼亚,要求补偿和对野猪实行更严格控制的养猪户都在不断反抗,用拖拉机封锁高速公路,并威胁要将粪便倾倒在议会上


政府已经抓紧安抚他们。“我是你们中的一员,”一位波兰部长恳求抗议者时说。为了让农民放心,丹麦正在修建围栏以阻止来自德国的野猪过境。1月25日,法国表示将动员部队杀死野猪。欧洲农民已经习惯于受到尊重。他们经常享有地理上集中的投票权。选民们将他们视为珍惜传统的捍卫者。


中国的饲养者也会举行抗议活动,例如当腐败官员偷窃土地时。但是,虽然 asf 威胁了许多金融灾难,但不会造成明显的抗议。在某种程度上,这是因为政府努力阻止公民团结起来。而对于舆论来说,中国农民往往是独立的


经济学人在沿海省份福建拜访了一位姓何的农民。这位57岁的老人抱怨卫生检查员的“麻烦”。“我们并不害怕猪瘟,我们担心政府的管理层会变得过于严格,”何先生说,他饲养了大约150头猪。何先生的猪每公斤利润高达30元(4.46美元),但是不足以支付官员安排的生物安全措施。他认为 asf 无止境危机。“似乎我们也无能为力。”他说他并不感到困惑,但是他的孩子不想要他的农场:因为政府只“补贴大农场,而不是小农场”。



&5

The false trade-offs of personal data protection: Nor should they have to refrain from taking advantage of internet-connected devices that promise convenience and safety if they want to avoid being surveilled.


【虚假权衡】数据创新中心最近的一项调查显示,当被要求考虑某些权衡时,人们对减少在线收集个人信息量的支持就会显著下降。


我们之前已经看到过这些说法,并且在 Facebook / Cambridge Analytica 丑闻的刺激下,被国会议员提出并不是巧合,有关谷歌侵入式位置跟踪和其他破坏隐私权暴行的报道已经铺天盖地,数据保护立法已经吸引了越来越多人的兴趣。


但是,向调查受访者提供的权衡取舍是错误的:例如,问他们是否希望 Facebook 和谷歌等巨头能够收集更少的关于他们的数据,如果这意味着他们看到的广告比以前更多了。


当然,很多人回答了“不” - 毕竟谁想要看更多广告呢?但是,并没有理由假设使用人们的个人信息来更准确地弄清楚他们感兴趣的内容会就减少广告。


事实上,如果公司认为这样做可以提高他们操纵人们接受数据收集的能力,那么就可以轻松地产生更多的广告,而不是更少。


根据他们目前在线查看的内容向个人投放广告可能是有效的,并且远低于依赖随时间通过在线和离线多方面收集有关个人活动私密信息的那种隐私侵犯性,后者跨设备跨平台追踪所有人,以便实时的分析他们。


如果广告商可以在人们的大脑中植入芯片之类的设备以阅读每个人的想法,那么他们肯定会这么做,以便更准确地定位广告。但作为公共政策问题,我们需要划清界限。


广告商应该去适应为他们设定的规矩,正如他们在去年生效的通用数据保护条例出现时在欧洲所做的那样。如果他们很聪明,就应该可以弄清楚如何推广自己的产品和服务,而不会过度侵犯人们的隐私,或者用无用的广告轰炸人们。


值得注意的是,调查已经明确显示,人们更关心自己的隐私,而不是关注广告的实用性 - 近四分之三的受访者强烈或赞同地表示他们希望谷歌和 Facebook 等在线服务收集较少的数据即使这样做导致人民看到不太有用的广告


调查发现最高级别的分歧是,当受访者被问及他们是否想要收集更少的个人信息时,如果这意味着他们必须每月支付订阅费,以获得他们现在能免费获得的东西。


再一次,完全可以想像很多人说不愿意 - 当然,谁会不喜欢免费呢?但是,世上真的没有免费的午餐。人们一直在使用自己最私密的个人信息以“付费”这些服务,这些信息可以随意被使用和共享,几乎不受限,以人们无法评估的方式被转售,更不用说在成本与收益方面进行比较了。


由于缺乏限制,整个监控行业已经极速发展,为什么人们必须在使用优质产品服务和牺牲隐私人权之间做出选择?这不公平。


正如宾夕法尼亚大学的 Joe Turow 教授和他的同事在调查报告中所指出的那样,“The Tradeoff Fallacy: How Marketers are Misrepresenting American Consumers and Opening Them Up to Exploitation”,大多数人并不认为付出自己的数据以获得折扣是“一个公平的交易。”


相反,他们这样做只是因为他们已经学会服从,即使他们对此并不满意。他们觉得在保密个人信息方面无能为力。如果你告诉人们,想要保护自己的隐私,就不应该使用社交媒体、搜索引擎或手机,这是不现实或不公平的


即便人们想要避免被监视,也不应该被要求放弃使用互联网设备,倡导者应该追求让这些设备保证方便和安全。


消费者联合会组织与其他消费者、民权和隐私团体正在一起呼吁建立一个立法框架,让人们有权期望他们的个人信息得到公正和公平的对待。不应该强迫人们做出错误的选择。



&6

Prisons Across the U.S. Are Quietly Building Databases of Incarcerated People’s Voice Prints: Securus’s voice recognition program can also identify the voices of people outside prisons, both former prisoners and those who have never been incarcerated but communicate with people inside.


【强行收集声纹】大约六个月前,在纽约的 Sing Sing 监狱,John Dukes 和同伴们一起被带到一个惩教官那里。他回忆说,她给了他一张带有一些短语的纸,还有一个奇怪的选择:要么对着那台机器读出纸上写的单词,要么接受被剥夺打电话的权利。


Dukes 不知道为什么要他做出这样的选择,他感到很困惑,因为他听到其他人正在对着那台机器说话,重复着惩教官给他们的那些短语。


“我在考虑,'我应该这样做吗?我不想让我的声音出现在这台机器上,“他回忆说。“但我仍然需要联系我的家人,即使我的刑期只剩下几个月了。”


所以轮到他的时候,他走到电话旁,拿起话筒,然后出现了一系列自动指示。“指示说,'读出这句话,等等,等等,等等',如果你没有说清楚,指示就会说,'再重复这句话',就像'猫'或'我是美利坚合众国公民这类的词。“”Dukes 说他重复这些短语大约用了一两分钟。然后指示音告诉他这个过程已经完成。


10月份被释放的 Dukes 说,他从未被告知这个声音收集的目的是什么。但是,The Appeal 与 The Intercept 合作获得的纽约新监狱电话系统的合同文件以及对监狱当局的后续采访表明,Dukes 的怀疑是正确的:他的音频样本正在被收集以纳入新的语音监控系统


在纽约和全国其他州,当局正在获取这项新技术,将被监禁人员的声音提取并数字化为独特的生物识别签名,称为声纹。监狱当局已悄悄将数十万被监禁的人的声纹登记到大型生物识别数据库中。然后,计算机算法利用这些数据库来识别发声者的身份。一些项目甚至分析监狱外呼叫接收者的声音,以跟踪那些与囚犯交流的人。


代表德克萨斯州、佛罗里达州和阿肯色州的惩教官员,以及亚利桑那州的 Yavapai 和 Pinal 县、 佛罗里达州阿拉楚阿县、德克萨斯州特拉维斯县,也都确认他们正在积极使用语音识别技术。对合同文件的审查确定了其他获得类似声纹功能的司法管辖区:康涅狄格州和佐治亚州的惩教官员也签署了该技术合同(康涅狄格州没有回应多次采访的请求;格鲁吉亚拒绝回答有关此事的问题) 。


公民自由倡导者强调,这种生物识别的积累既不透明也不自愿。例如,在某些司法管辖区如果人们拒绝加入语音识别系统,就会被限制打电话的权利,而其他司法管辖区则在人们完全不知情的情况下收集这些数据。这些数据一旦存在就会被其他机构使用,而公众没有任何发言权。



近年来,语音识别技术已经与消费者产品相关联,如亚马逊的 Alexa 和 Apple 的 Siri,但是,该技术最初是为军事和情报应用而开发的。十多年前,正如 The Intercept 报道的那样,美国情报机构开始使用语音识别程序来识别基地组织高级官员在其在线音频中发出的声音。


同样,监狱电信公司 Securus Technologies 的特定语音软件(称为 Investigator Pro)背后的算法和结构部分是通过国防部拨款5000万美元开发的。该软件已获得 Securus 于2014年收购的 JLG Technologies 的许可。根据 Securus 2017 年针对纽约的提议,该技术的开发是因为“国防部需要每天从美国拨打的数百万电话中识别出声音的身份。


但是,不久之后,像 Securus 和 Global Tel Link 这样的主要监狱技术公司开始向美国司法管辖区推销该技术,这些司法管辖区正在寻求提取和存储与被监禁人员相关的声纹。“IPRO [Investigator Pro] 在全国​​243个州、县和当地惩教机构中提供了10年的全国精确语音辨析能力记录,”Securus 在 Pinal County 合同中表示。


Michael Lynch 是佛罗里达州北部 Alachua 县监狱的情报协调员,他证实了他的县最近同意购买 Securus 的语音识别计划。Lynch 表示,该计划制作的声纹将永久存档于 Securus 位于德克萨斯州的工厂。他说,“语音[生物识别技术]将告诉我们谁在拨打电话。”


人权倡导者指出,惩教机构一直在建立大规模的声纹数据库,公众或被监禁的人及其家人很少知情:“每次签订新合同时,都会有新的监控,但我从未见过当局发布关于新的监控更新通知或告知家人的公告。”


保持计划不透明使当局能够悄悄地向被监禁人施压,以令其放弃他们的生物识别数据 - 或者在他们不知情的情况下收集数据。“很多人都不懂技术,他们已经在那里待了这么久,他们有人甚至从来没有听说过谷歌。”声纹收集程序被视为“他们能有机会跟家人交流的前提条件”。



&7

Deep Fakes: Let's Not Go Off The Deep End. Instead, deep fakes simply represent the newest technique in a long line of deceptive audiovisual practices that have been used throughout history. So long as we understand this fact, we can be confident that society will come up with ways of mitigating new harms or threats from deep fakes on its own.


【深度造假真的是一场真相已死的危机吗?我们如何化解这场危机?】在短短几个月内,“深度造假”已经引起了技术专家和立法者的恐慌。已有立法提案、法律评论文章、国家安全评论以及数十篇意见书指出了这种新的深度伪造技术 —— 使用人工智能制作逼真的模拟视频 —— 将彻底终结真相。


我们也介绍过这一问题,详见:《当恶意者掌握技术:信息战的未来究竟有多可怕?


很多人对深度造假的恐惧源于这样一种假设,即 这是一种人类以前从未面临过的一种全新的、改变游戏规则的技术。但是,深度造假真的不是什么新鲜事,历史上充满了欺骗性的做法 —— 从汉尼拔的假战营到威尔罗杰斯,“真实地”模仿杜鲁门总统,斯大林从历史资料中抹去所有敌人。社会对最近流行的另一种媒体欺骗技术工具 - 数码照片编辑和 Photoshop - 的反应已经体现了重要的经验教训,可以洞察深度造假可能对社会造成的影响。


在1990年,Adobe 发布了开创性的 Adobe Photoshop,这项技术以及其无数竞争对手允许用户以数字方式改变上传到该程序中的真实照片。虽然竞争服务需要一些专业知识才能使用,但Adobe 设计的 Photoshop 是格外用户友好的,任何人都可以制作。


新功能引发了新的担忧。同年,“新闻周刊”发表了一篇名为“当照片撒谎 ”的文章。正如“新闻周刊”所预测的那样,摄影操控技术上升的后果可能是灾难性的:“以中国领导人为例,去年他们曾试图阻止摄影师揭露北京大屠杀。将来,中国人或其他有意撒谎的政权甚至不会再担心摄影师曝光真相了。“


这些担忧并非完全没有价值。Fred Ritchin,前纽约时报杂志的图片编辑,现在是国际摄影学院的荣誉退休人员,他说,由于照片编辑技术,过去几十年来对摄影的信任已经受到侵蚀。


确实,“相机永远不会说谎”的说法再也无法持续了 - 当最终产品被操纵时,相机可以并且经常会撒谎。然而,Ritchin 和新闻周刊所预言的真相危机还没有实现。


为什么?因为社会适应了这项技术。


回想一下1994年6月,时代杂志在月刊的封面上刊登的 OJ辛普森的照片,事实上他们已经明显编辑了这张照片,使辛普森的肤色显得比实际上更暗。更糟糕的是,“新闻周刊”刊登的是未经编辑的照片,两本杂志并排放在超市货架上。虽然时代为这一所谓的“艺术选择”做了辩护,称没有任何种族意味,但明显编辑过的照片引发了大规模的公众抗议。


警惕造假只是公众意识日益增强的一部分。多年来,时尚杂志普遍采用欺骗手段来改变封面模特的外观。封面上具有更具吸引力模特的杂志通常比那些吸引力较弱的杂志卖得好,因此编辑会修饰照片以使其更吸引公众。不幸的是,这种做法在社会中创造了一种不切实际的美丽形象,一旦被发现,卫生组织就开始公开警告这种现象所造成的危险 - 最明显的是饮食失调的流行。由于随后公众的强烈抗议,全国各地的家庭开始意识到了照片编辑技术及其能力。


社会警惕性是否意味着没有人会因照片造假而被欺骗并作出错误的选择了?当然不是。但是,照片造假并非造成了真相的死亡,而是对新技术的认识鼓励人们采取新的指标 - 例如来源的可信度 - 以做出关于所呈现的图像是否真实的明智决定。


结果,新闻媒体和其他照片出版商继续制定政策并就他们使用的图像做出规定,着眼于赢取受众的信任。例如,2003年,洛杉矶时报迅速解雇了一名记者因为编辑们意识到发布的一张被编辑过的图像会明显降低读者对报纸真实性的看法,这名记者对伊拉克战争的照片进行了数字化改造。


然而,现在,随着新的人工智能和机器学习技术进入市场,再次引发了“真相已死”的担忧 - 主要是在假新闻和虚假信息泛滥的背景下。想想看,如果有人在选举前发布了一个候选人正在收受贿赂的深度造假作品该怎么办?或者造假称美国总统宣布即将发生导弹袭击?正如斯坦福大学国际安全与合作中心国际安全研究员 Andrew Grotto 所预言的那样,“这项技术......将不可抗拒地导致民族国家攻击者在虚假宣传活动中使用,以操纵公众舆论,欺骗公众并破坏对我们机构的公信力。 “


也许更大的问题是,如果社会无法区分假视频和真实视频,那么任何人都可能对他们在视频上所做或所说的任何事采取否认:这都变成了一切皆为假新闻


但是,谁能肯定社会对深度造假的反应不会像曾经人们对PS照片的回应那样发展?


现在,深度造假技术远非完美无缺。虽然一些假货可能看起来非常逼真,但其他假货却有明显的纰漏,可以提醒观众他们伪造的性质。与之前的 Photoshop 和数码照片编辑一样,通过手机应用程序产生的制作不良的假货可以教育观众了解这种技术的存在。当公众意识到,深度假货造成的伤害将无法实现到预期的程度。


事实上,围绕使用这项技术的新争议同样也提高了公众对该技术可以做些什么的认识。例如,“深度造假”这个词实际上来自一个 Reddit 用户,他最初开始使用这种技术来制作逼真的名人假色情视频。这种类型的内容很合理地引发了对隐私权侵犯的警惕。随着公众的强烈抗议开始加剧,该平台公开禁止深度造假社区及其网站上的任何非自愿色情内容。


与使用 Photoshop 创建不切实际的裸体图像所引起的公众强烈抗议一样,使用深度造假技术创建不恰当和彻头彻尾的令人震惊的内容将反过来使公众更加了解该技术,从而避免造成伤害。


也许最重要的是,许多政策制定者和私营公司已经开始采取措施教育公众了解深度造假的存在和其污蔑的能力。著名的立法者,如弗吉尼亚州的马克·沃纳和内布拉斯加州的本·萨斯,最近提出了一些重要的话题。Facebook 最近宣布它正在投入大量资源进行针对深度造假的识别和检测。由于非常注重教育公众关于这种技术的存在和使用,只要公众能提高认识,恶意行为者成功传播有害的深度造假视频就将更加困难


这绝并不是说深度造假不会造成任何新的伤害或威胁。与 Photoshop 不同,如今任何拥有智能手机的人都可以使用深度造假技术,这意味着可以生成和共享更多的逼真的假货。与20世纪90年代不同的是,今天有更多人使用互联网分享新闻和信息,以极快的速度在全球范围内传播内容,正因此,大多数观众来不及思考,只是为了寻求视觉刺激,给了假冒以广泛的空间


但是,如果我们不采取措施来规范技术,我们就不应该认为社会会陷入欺骗和虚假信息的深渊。这项技术可以提供许多重要的好处,例如几十年前失踪儿童的成长后照片,或者为课堂上的学生们创造逼真的历史人物版本图像。立法者不应急于起草立法,而应该回顾过去,并认识到深度造假并非一些前所未有的问题。相反,深度假货仅仅代表了历史上一直使用的一系列欺骗性视听实践中的最新技术。


只要我们理解了这一事实,我们就可以确信社会会想出一些方法来减轻隐患和威胁。⚪️


感谢帮助 iYouPort!

PayPal 捐赠渠道已开通 https://paypal.me/iyouport

44 views0 comments

コメント


bottom of page