Search
  • IYP

撒旦之手、无处可藏、算法的面纱、BS“国家安全” - Newsletters(03.27.2019)

#News #privacy #facebook #Transparency #DNA #Surveillance

  • 许多人安装广告拦截器或其他工具来阻止被网站跟踪,但是现在谷歌要削弱这一自我保护饿努力,他们是怎么做的?;

  • 这是一场振奋人心的审判:阻止警察对活动家实施间谍行为不是一件容易事,我们分享法庭的回应以帮助活动家了解如何反驳所谓的“国家安全”声称;

  • 政府利用科学和技术的飞跃实现全知全能的上帝一般不可思议的权力。国家 DNA 数据库是怎么来的?从你一出生就开始了。为什么?;

  • 知识产权原则会阻止公民权利充分应对技术挑战,从而导致新一代公民权利完全停滞不前,怎么办?;

  • 许多组织都开发了一些工具,让公众可以了解 Facebook 用户如何成为了广告商的目标。但是,facebook 正在禁止这项透明度运动,为什么?



#1

Google's Proposed Changes to Chrome Could Weaken Ad Blockers. Ultimately, the changes would mean content blockers would have less fine-tuned control over how a page is rendered.


【谷歌要削弱广告拦截器】许多人安装广告拦截器或其他工具来阻止被网站跟踪。根据身份管理公司 Janrain 的一项调查,71%的受访者使用广告拦截器或其他工具来控制自己的在线体验。


广告拦截器通常是第三方软件,可以作为附加组件或“扩展”安装到您的 Web 浏览器。这些扩展将网络浏览体验的掌控权交给读者手中,而不是发布者。


但是,谷歌开源浏览器 Chromium 的改进建议将破坏许多现有的广告拦截器和其他阻止或更改在线内容的工具。如果建议的更改已合并到 Chrome 中,仍然可以屏蔽广告,但开发人员需要重写其 Chrome 扩展。许多开发人员都在抗议该提案,认为这些更改会对用户造成伤害。


谷歌的提议显示了这些扩展对广告巨头决策的依赖程度。Chrome 是世界上最受欢迎的浏览器,根据 StatCounter- up ,62%的网络用户使用 Chrome,一年前这一比例为 56%。上个月,微软宣布其 Edge 浏览器使用 Chromium 内核,从而为谷歌带来更多影响力。


表面上看,这些更改旨在提高 Chrome 和 Chromium 的安全性和性能。例如,Chrome 扩展程序现在可以访问您的浏览历史记录。这意味着一个恶意行为者可以提供一个暗中监视你的广告拦截器。(关于浏览记录有多可怕:《浏览历史记录曝光你的内心全景图:#OSINT 开源调查演示》)


谷歌建议切断扩展程序对浏览历史记录的访问权限,并提供了一个界面。但广告拦截公司 Ghostery 在其声明中表示,Google 提议的更改可能会阻止扩展程序拦截某些类型的侵犯隐私内容,例如网络跟踪器。“无论谷歌这样做是为了保护他们的广告业务,还是仅仅为了强迫他人遵守自己的规则,对其他所有人来说这都不过是另一个滥用其市场主导地位的案例,”广告拦截公司 Ghostery 在一份声明中说,“如果实现了这一点,我们将考虑提出反托拉斯投诉。”


受欢迎的广告拦截扩展程序 uBlock Origin 的开发人员 Raymond Hill 也公开表示反对,他写道:这些变化“使得无法想出新颖的过滤引擎设计”。


广告拦截器制造商 Bickham 也同意 Google 提议的更改可能会使内容拦截工具的灵活性降低。他说,该提议的更改可能会强制扩展阻止整个 JavaScript 文件,这可能会导致网站工作方式出现问题,或者不会阻止任何代码。


最终,这些变化意味着内容拦截器对页面呈现方式的控制会变少。换句话说,最终用户对其浏览体验的控制会变少。



#2

NY Court Tells NYPD It Can't Hide Surveillance Of Protesters Behind A Glomar Response. FOIL is not about blind trust -- it is about holding government officials accountable. That principle is fundamental to a democratic society and cannot be set aside so easily.


【振奋人心的审判:阻止警察对活动家实施间谍行为】由于纽约警察局对受第一修正案保护的社会运动进行隐秘的监视,另一起诉讼仍在继续。Black Lives Matter 组织提出信息请求,要求详细说明纽约警察局对抗议者使用的监视方法,这些监视目前为止依旧严重不透明。


纽约警察局和往前一样继续抛出 FOIL 豁免权以阻止信息披露。并且拒绝确认或否认所寻求记录的存在。


幸运的是,主持案件的法官阿琳·布鲁斯(Arlene Bluth)没那么软弱。由于纽约警察局不断拒绝透明度请求,法官在14页的裁决[PDF]中反复称之为BS。


原告正在寻求与 NYPD 使用针对手机的监控技术相关的记录。众所周知,纽约警察局拥有并可以使用 Stingray 监听设备。这些记录将显示的是以非目标方式使用黄貂鱼行为 —— 要么不加选择地收集手机标识符、要么只是在抗议期间对所有参与者进行钓鱼监控。


NYPD 已向原告提供了 Glomar 回应 - 这一术语源于联邦一级的所谓国家安全努力。可以部署Glomar 有几个很好的理由,但它们都无法支持 NYPD 全面拒绝确认或否认这些记录之存在的狡辩逻辑。


虽然这份宣誓书提供了足够的理由说明为什么 FOIL 要求所谓的反恐信息可能值得 Glomar 式的答复,但是,没有对它如何适用于此案提供任何解释。Miller 没有表明这些抗议者与他在宣誓书中列出的所谓恐怖主义分子有任何关联。事实上,Miller 并未声称这些抗议者从事任何与恐怖主义有关的行为。


纽约警察局还声称 Glomar 的回应是“有效的”,因为所描述的针对抗议者的黄貂鱼部署本身非法。我不知道NYPD如何想象这种畸形的论点可能会在法庭上发挥作用,但我确信它不会进一步削弱其对 Glomar 的回应。这是法院对这个断言到底是什么的评论:


Miller 似乎暗示,刻意使用这种技术干扰抗议者的手机会违反法律。如果是这种情况那么,被告应该能够否认记录的存在,因为被告承认不能干涉合法的抗议。当然,如果被告使用了针对抗议者的监视技术,并且由于他自己的说法 - 违反了法律,那么它就无法再通过 Glomar 回应以隐藏这一事实。


法院指出,存在可能涵盖这些文件内容的其他豁免,但即便如此,也需要提供比 NYPD 目前提供的更多的理由。


法院承认,被告不必披露其如何进行刑事调查。但是,监视抗议者并不属于刑事调查或反间谍活动。这是因为抗议者声称他们的手机在抗议期间突然失灵。被告正在干扰抗议者彼此沟通的能力,这正是需要使用 FOIL 解释的严重问题


FOIL 旨在揭示阴暗的政府行为,而 Glomar 回应的概念(拒绝确认或否认记录的存在)与 FOIL 下披露的目的相矛盾。


这项裁决还引发了另一个绕避透明度的漏洞:纽约警察局在其最初的 Glomar 回应后提供了超过一年的“商业机密”豁免。法庭认为:


如果价格和产品特征是商业机密,那么政府机构签订的每份合同都将被免除 FOIL。因为每份合同都包含有关定价的信息、包括在哪里购买的,合同中可能还包含有关产品的详细信息。它可以列出产品的用途、功能是什么、以及如何使用,这些都不是什么商业机密......


并且更重要的是,法庭指出:滥用“国家安全”概念是不可接受的


法庭说:与恐怖主义有关的问题不能用于证明在每个 FOIL 背景下使用 Glomar 反应的合理性。这里的受害人是抗议者,他们从事的是第一修正案保护的活动。抗议者和恐怖分子之间的唯一联系似乎是两个团体都使用手机。但恐怖分子和抗议者以及普通纽约市居民全部使用手机和电脑以及社交媒体和其他各种技术。在恐怖分子可能使用与抗议者或纽约市居民相同的技术的每一种情况下,都不能使用 Glomar 的回应。


在这里接受使用 Glomar 的回应将关闭所有的公开调查,无法要求被告承责。这一概念违背了信息自由法规的目的。 [...] FOIL 不是盲目信任 - 而是关于让政府官员承担责任。这一原则对民主社会至关重要,不能轻易放弃



#3

Uncle Sam Wants Your DNA: The FBI’s Plan to Create a Nation of Suspects. The government acting in a way that is not only illegal but immoral becomes less a question of “if” and more a question of “when.


【当政府想要你的 DNA】随着越来越多的数据通过生物识别传感器从您的身体和大脑流向智能机器,企业和政府机构将很容易了解你的一切,操纵你并代表你做出决策。更重要的是,它们可以破译所有身体和大脑的深层机制,从而获得策动生命的力量。如果我们想要阻止小精英垄断这种神圣的力量,如果我们想要阻止人类被分裂成生物种姓,关键需要知道:谁拥有这些数据?关于我的 DNA、我的大脑和生命的数据是属于我的,还是属于政府、公司或者人类集体?”—— Yuval Noah Harari 教授


实际上,如果政府掌握了你的 DNA,就能把你塞进他们的魔掌。


人们应该做好准备了,因为政府 - 已经在国会的帮助下,通过立法允许警方在逮捕人员后立即收集和测试 DNA ,特朗普很快会将该法案签署为法律,法院已经裁定警方可以定期从被逮捕但尚未被定罪的人那里采集 DNA 样本,并且当地警察机构正在努力获取这一权力 —— 他们所有人正在开展一场恶魔般的运动 —— 以创建一个庞大的国家 DNA 数据库


正如“纽约时报” 报道:“这已经不是科幻小说中描述的未来。警方可以迅速从垃圾箱的汽水罐和烟头中找出他们想要的任何人。2017年,特朗普签署了 “快速DNA法案”,该法案从今年开始,将获得几个州的批准,允许警察将他们的 Rapid DNA 机器连接到国家 DNA 数据库联合索引系统 Codis。


被称为“魔法盒子”的这些 Rapid DNA 机器 —— 便携式,大小与台式打印机相当,而且速度足够快,可以在不到两小时内生成 DNA 配置文件 —— 允许警察使用任何可能的社交工程手段获取 DNA 样本。


警方从来怀疑社会所有人。


我们所见过的每一部反乌托邦科幻电影都突出描述了当下这个时刻,政府利用科学和技术的飞跃实现全知全能的上帝一般不可思议的权力


通过利用您的电话线和手机通信,政府知道您私下说的每一句话都是什么


通过扫描上传的所有电子邮件、阅读 Facebook 帖子和短信,政府知道你写的都是什么


通过使用车牌阅读器,监控摄像头和其他跟踪设备监控您的行动,政府知道您要去哪里


通过翻阅你生活中的所有碎片 —— 你读到的是什么、你去了哪里、你说的是什么 —— 政府可以预测你将要做什么


通过映射大脑中的突触,政府很快就会知道你记得什么


通过访问你的 DNA,政府很快就会知道连你自己都可能还不知道的关于你的其他事:你的家庭图谱、你的祖先、你的健康史、你是否会倾向于服从、以及绘制你人生的全部路线,等等。


当然,这些技术都不是万无一失的。


它们也并非不会受到篡改、骇客攻击或用户偏见的影响。


尽管如此,它们已成为政府代理人手中的便利工具,使宪法的隐私权要求失效,宪法禁止这种不合理的搜查和扣押。


因此,我们不再能说自己“除非被定罪否则就是无辜的”,面对将我们置于犯罪现场的 DNA 证据,行为传感技术将我们的体温和面部抽搐解释为可疑,政府监视系统将交叉检查我们所有人的生物识别数据、牌照证件和 DNA。


近年来,政府获取和使用 DNA 的问题已经受到了公众广泛严厉的反驳。直到最近,政府还要求警方至少遵守一些基本限制,以限制何时、何地以及如何获取某人的 DNA。然而,这一切都被最高法院的各种裁决所取代,这些裁决无疑为搜查铺平了道路,预示着所有人正在细胞层面失去基本的隐私人权


自从2013年最高法院对 Maryland v. King 案的裁决之后,试图保护我们的隐私就已经被证明是很困难的,他们将 DNA 收集比作采集嫌疑人指纹那样正当,从而允许政府可以从任何人那里采集 DNA 样本。


法官 Antonin Scalia 在此案中的陈述应该被每个人熟知,帮助你深刻理解如何用第四修正案保护自己,揭露警察国家以所谓“安全”为借口对公民基本权利的每一次侵犯:


“解决肇事犯罪是一个崇高的目标,但它在整体目标中依旧占据较低的位置,保护我们的人民免受可疑的执法搜查才是民主的最高目标......毫无疑问:作为如今完全可预测的后果,如果您被捕,无论是对还是错,无论出于何种原因,您的 DNA 都可以被带入国家 DNA 数据库永久保存。可以肯定的是,搭乘飞机的任何人都会被获取 DNA 样本,只因运输安全管理局需要知道乘客的身份;甚至申请驾驶执照或就读公立学校也是如此。这是一种基因圆形监狱。我怀疑那些写下我们自由宪章的前辈们是否会愿意张开嘴接受 DNA 检查。“


虽然指纹技术已经为警察行为历史创造了一个分水岭,但 DNA 技术现在被执法机构誉为解决犯罪的灵丹妙药。


警方喜欢称其为“ 现代指纹”。


然而,与指纹不同,DNA 揭示了“ 我们是谁,我们来自哪里以及我们将成为谁”的一切。


有了这样一个强大的工具,政府收集的 DNA 将不可避免地成为政府入侵所有人基本权利的开端。


所有50个州现在都拥有自己的 DNA 数据库,尽管收集协议因州而异。越来越多的本地数据库中的数据已经被上传到联邦调查局(联合DNA索引系统),这是联邦调查局最庞大的DNA数据库,已经成为识别和跟踪任何人从出生到死亡的基本方法。


甚至医院也通过储存新生婴儿的 DNA 来加入这场游戏,通常是在婴儿的父母完全不知情或不同意的情况下采集的。这是政府对新生儿进行强制性基因筛查的一部分。然而,在许多州,DNA 被无限期地储存。


这对于今天出生的所有人来说意味着一降生就被装入了一个政府数据库中,该数据库包含关于他们是谁、他们的祖先是谁、以及所有几乎一切私密信息,甚至包括他们是否具有作为追随者、领导者或麻烦制造者的倾向。


正如科学家 Leslie A. Pray 所说:


我们都遗落了自己的 DNA,几乎在我们去过的任何地方留下了关于我们身份的痕迹。法医科学家使用留在烟头、电话、手柄、键盘、杯子和许多其他物体上的 DNA,更不用说体液中的遗传信息,如血液和精液。事实上,你扔在路边的垃圾都是 DNA 的潜在金矿。所有这些遗落的DNA 都是免费的,对当地警方调查人员来说。它们都可疑被包含在一个秘密的通用 DNA 数据库中。


这意味着,如果你不幸在任何犯罪行为发生的地方遗留了你的 DNA 痕迹,那么,你已经被装入了某个数据库中。


正如 Forensic 杂志报道的那样,“随着官员们越来越意识到 DNA 的潜力,他们会越来越多地使用它。不幸的是,一些[警察]在处理犯罪现场时没有足够的选择性。相反,他们已经处理了现场的任何信息,提交150个或更多的样本进行分析。“


今天,在机器人技术和自动化的帮助下,DNA 处理、分析和报告花费的时间已经非常少,可以在极短的时间内提供各种信息。令人难以置信的是,一家公司专门根据来自未知“嫌疑人”的DNA样本为警察创建“大头照”,然后将其与具有相似遗传特征的个体进行比较。


简单说,在被证实有罪之前,我们再也不能认为自己是无辜的了。


同样令人不安的是:如果如已经报道的消息那样,科学家能够使用 DNA 跟踪数百平方英里的溪流和河流中的鲑鱼,那么政府间谍就不仅可以知道我们到过的每个地方,而且可以知道我们在每个地方待了多久。


尽管政府机构坚持认为 DNA 是“绝对可靠的”,但“纽约时报”记者 Andrew Pollack 已经提出了一个明确而令人信服的案例,即 DNA 证据实际上可以捏造。以色列科学家“制造的血液和唾液样本含有来自血液和唾液供体以外的人的 DNA,” Pollack 说,“他们还表明,如果他们能够访问数据库中的 DNA 配置文件,他们就可以自己构建一个与该配置文件相匹配的 DNA 样本,而无需从该人那里获得任何样本。”


科学家 Dan Frumkin 也警告,犯罪现场可以使用捏造的 DNA 进行栽赃


政府以不仅非法而且不道德的方式行事的可能性已经不再是“如果”,而是“何时”的问题。



#4

A new vehicle search system for video surveillance networks


【无处可藏】⚠️ JD AI Research 和北京大学的一组研究人员最近开发了一种用于视频监控网络的渐进式车辆搜索系统,称为 PVSS。他们的系统在预先公布在 arXiv 上的一篇论文中提出,据称可以有效地搜索出现在监控录像中的特定车辆。


车辆搜索系统可以实现更自动的监控。例如,这样的系统可以允许用户输入查询车辆、搜索区域和时间间隔,以在白天的不同时间找出车辆所处的位置。


现有的车辆搜索方法通常使用视觉属性或车牌号来识别这些图像内的目标车辆。这些方法主要关注匹配,也称为车辆重新识别(Re-Id)


近年来,手工描述符和卷积神经网络(CNN)极大地增强了这些方法。尽管如此,由于不同摄像机的实例内变化和类似车辆之间的实例间差异,仅基于属性识别特定车辆可能是非常具有挑战性的任务。在某些情况下,由于低分辨率和噪音问题,车牌也可能在监控图像中被误识别。


“一个完整的车辆搜索系统应该考虑车辆检测、索引、存储、匹配等诸多问题,”研究人员在他们的论文中解释道, “此外,由于不同摄像机的内部变化和极不确定的环境,基于属性的搜索无法准确找到同一车辆。”


PVSS 是研究人员开发的渐进式车辆搜索系统,据称能解决当前方法的局限性。该系统由三个关键模块组成:车辆数据爬行器、基于多粒度特征的车辆索引器、和渐进式车辆搜索器。


“为了保证搜索过程中的高精度和高效率,我们为车辆搜索系统设计了一系列的数据结构,”研究人员在他们的论文中写道。 “在爬行器中,不仅可以从监控网络中提取视觉内容,还可以提取相关联的环境信息。然后,基于深度学习的模型利用多模态数据来获得车辆的辨别力和稳健性,然后由多层次组织。在搜索过程中,以渐进的方式搜索车辆,包括特征域中的从粗到精的搜索和在物理空间中的从近到远的搜索。


本质上,车辆爬行器组件检测并跟踪监控视频中的车辆,将捕获的车辆图像、元数据和其他相关环境信息传输到云或服务器。随后,车辆索引器组件提取并索引车辆的多粒度属性,例如视觉特征和车牌指纹。


研究人员在 VeRi 数据集上评估了他们的渐进式车辆搜索系统,该数据集包含从实际环境中的20个监控摄像头收集的 50,000 多张图像。在这些测试中,PVSS 获得了显著的成果,优于所有仅仅外观的搜索方法和与之相比的多模态方法


如果您关心监视问题,请回顾我们曾经介绍过的两部分反监视方法,一是对于普通逃逸,二是对于社会运动,其中都强调了车辆的敏感性。您应该知道这些研究给公民行动自由带来的危险:《隐身游戏:如何在监视遍地的社会里让自己完全消失》;《集会参与者有必要了解的基本安全措施



#5

How to lift the veil off hidden algorithms? In the absence of rules around algorithms, activists, lawyers, and tech workers are hacking transparency through other means.


【如何揭开隐藏算法的面纱】2012年,新奥尔良警察局悄悄与数据采矿公司 Palantir 合作,实施了“少数派报告”那种预测性警务系统。六年来,市议会和法院都没有被告知公民的数据被开采以产生警察“目标名单”。关于该计划的适当性、合法性或价值的问题从未得到解决。


今年3月,新奥尔良官员表示,与 Palantir 的合同不会续签,但是,这种关系暴露了政府如何使用算法和数据的更深层问题,必需被更广泛关注


新软件正在进入公共部门,帮助识别罪犯、匹配学生身份、指导刑事判决、并帮助确定社会福利。但很少有公民知道这些技术的存在,或者它们是如何被使用的。公众应该意识到,所谓的商业秘密和保密协议可以完全阻止公众了解技术是如何运作的


“这些公司的行为是出于私人利益,但他们的决定具有相当大的公共影响,”加州大学戴维斯分校的法律教授 Elizabeth Joh 在2017 年写道,“这种危害影响包括对第四修正案的歪曲、设计责任的破坏以及对透明度规范的削弱。


在即将发表的一篇论文中,伯克利法律和技术中心的联合主任 Sonia Katyal 认为,保护政府购买软件的知识产权法正在悄然超越民权问题。“在人工智能的背景下,我们看到一个世界,有时,知识产权原则会阻止公民权利充分应对技术挑战,从而导致新一代公民权利完全停滞不前,” 她写道。


纽约大学教学研究员 Amanda Levendowski 表示,在透明度失效的情况下,活动家、律师和技术工作者正在转向采取越来越多的策略以对算法和其他技术进行更多的监督。


“如果我们不知道人工智能系统被如何用来监视我们 - 或者我们不了解技术本身,公众就不可能就人工智能系统是否公平、负责、透明或道德进行任何讨论,“她说。


透明度的一个重大障碍是所谓的“计算机欺诈和滥用法案”,该法案于1984年写成,旨在保护政府机构的计算机系统免受黑客攻击。ACLU Washington 的技术和自由项目总监 Shankar Narayan 说,私营部门公司能够避免对其系统进行外部审计 —— 无法了解其偏见或其缺陷 -——他们经常引述该法案声称审计是一种未经授权的访问形式。CFAA 必须改革才能支持民间社会针对不透明的算​​法系统进行独立审计


在没有关于算法的重要法律的情况下,一些市政当局正在为公共部门算法实施自己的透明度规则。2017 年,纽约市议会通过了一项算法问责制法律,创建了一个工作组,就城市机构如何分享与自动决策系统相关的信息提供建议,分析这些机构如何处理危害公民的情况。


在法案听证会上,“发起人 James Vacca 甚至不知道每个使用算法的机构都是谁、或他们如何使用这些算法,”Levendowski 说,他过去五年一直在跟踪监控技术的采购。这些机构的一些代表本身也不知道这一问题。“如果这些人都不知道,公众就很难弄明白这一点了。”


加利福尼亚州的一些城市已经通过了一些最严格的监管技术采购法令。圣克拉拉县于2016年通过了监管法令,要求各政府机构制定一项政策,披露“可收集的信息/数据,数据访问,数据保护,数据保留,公共访问,第三方数据共享,培训和监督机制。“


去年,伯克利市通过了一项法律,为购买快速增长的监控设备提供了更加透明的流程,如面部识别设备、Stingray 蜂窝基站模拟器、社交媒体分析软件、和车牌阅读器。奥克兰紧随其后。西雅图和马萨诸塞州的剑桥也是少数几个通过了监管条例的城市。


当礼貌要求透明度不成功时,律师和活动家已经成功地辩称,商业秘密和 NDAs 侵犯了正当程序的个人权利。一般来说,正当程序允许人们捍卫美国法律赋予他们的权利,并对政府的行动提出异议。


透明度工具包中的其他法律操作也包括信息自由法案请求,并在必要时提起诉讼以强制执行。


2016年6月,纽约大学法学院 Brennan 司法中心向纽约警察局提出了“信息自由法”(FOIL) 请求,“寻求与预测性警务技术的获取、测试和使用相关的记录。”在纽约警察局根据商业秘密和警方保密的 FOIL 请求采取了抵制后,Brennan 中心于2017年9月提起诉讼,并指出纽约市已经花费近250万美元用于 Palantir 制造的预测性警务软件


该诉讼还透露,该部门测试了 KeyStat 公司和 PredPol 公司的另外两个预测性监管平台。与此同时,NYPD 文件显示,该机构没有严格的隐私政策来管理其使用预测性警务软件,也无法生成显示已进行强制审计的记录。


2017年12月,法官驳回了纽约警察局的诉讼请求。虽然法院驳回了 Brennan 中心对用于训练预测性警务算法的数据的要求,但它命令警察部门提供与供应商的电子邮件通信、测试的输出数据以及 NYPD 数据分析助理专员的说明。


“公民有权了解监管其社区的执法机构使用的工具、成本和标准做法,” 布伦南中心的律师 Rachel Levinson-Waldman 写道。“在这种情况下,花了一年半的时间和一场诉讼,最终得到了应该在一开始就向公众提供的部分信息。”


上周,纽约警局在争夺保密的斗争中又输了一次。一群 Black Lives Matter 活动人士在2014年的一次抗议活动中被警方监视电子设备。法院驳斥了纽约市警察局的声称,该裁决要求纽约警察局披露与其使用 Dataminr 相关的记录 —— 这是一种社交媒体监控软件包,以及用于中断手机服务的技术记录


伯克利教授 Katyal 认为,由于关于新技术的关键民权问题存在于私人领域,而非公共领域,“如果我们只关注国家来解决算法问题,那肯定是错误的方向“。


她说,软件透明度的一个潜在强大力量必须来自公司内部。去年,技术人员开始打破沉默,他们解释了很多活动都集中在政府合同上。在一些员工签名的信函中,工作人员引用了对算法偏差和使用算法的整体道德的担忧,并且在某些情况下,要求他们的公司完全退出政府合同。


去年春天,有 3,100 名谷歌员工抗议该公司收购 Project Maven,这是一个利用 AI 分析无人机视频的五角大楼项目。该公司表示,它将放弃赢得合同的努力并制定一套人工智能原则。


受到谷歌员工的启发,微软员工也奋起反抗,呼吁公司制定人工智能原则,为产品开发和销售流程带来透明度。“一开始就建立并维护这些服务的工人如何知道我们的工作是用来帮助进行剖析、监视还是杀人?”员工写道。


在他们最近的报告中,AI Now 研究人员强调了科技工作者在要求透明度方面的新兴重要性,因为许多工程人员“具有相当大的辩论能力,并且具有独特的优势,可以要求雇主进行变革。”


该报告呼吁科技公司在董事会中提供员工代表,并要求公司建立外部道德咨询委员会以及独立的第三方监督和透明度工作。微软、谷歌和 Facebook 已宣布旨在评估其软件的社会影响的内部道德项目,去年,身体相机和电子枪制造商 Axon 也推出了道德委员会。董事会由外部顾问组成 - 包括伦理学家、警察官员和坚决反对公司面部识别野心的律师 —— 但是,董事会对公司的建议不具约束力


在这里看到视频:https://youtu.be/8fHHdFfU4Sk



举报人也证明了揭露高度争议性技术的关键,包括谷歌的中国 Dragonfly 项目,该项目试图将其服务的审查版本带入中国。员工在8月份向 The Intercept 披露该项目之后,据报道,广泛的员工抗议和公众抗议导致该公司搁置了该项目。


尽管如此,公司高管尚未公开表示他们将停止 Dragonfly 的发展。1月3日,著名的谷歌工程师Liz Fong-Jones 表示, 她将在工作了11年后辞去互联网巨头公司的职务,因为她对自己的方向不满意,“这里缺乏问责和监督”。


展望未来,员工在确保透明度和问责制方面的价值可能会增长。除了鼓励举报人说出来之外,主要的挑战还在于如何通过政府法律或公司政策,在科技行业著名的保密文化中为这些举报人提供保护 —— 保护他们免于因说真话而遭受巨头的迫害。


“幸运的是,我们开始看到研究人员、活动家、律师、有关技术工作者和民间社会组织之间建立新的联盟,以支持 AI 系统的监督、问责和透明度,”AI Now 报告说。



#6

Facebook Moves to Block Ad Transparency Tools — Including Ours. Our tool had let the public see exactly how users were being targeted by advertisers. The social media giant urged us to shut it down last year.


【Facebook 阻止透明度工具】包括 ProPublica 在内的许多组织都开发了一些工具,让公众可以了解 Facebook 用户如何成为了广告商的目标。但是,


现在,Facebook 已悄然改变了其网站,以阻止这些保护隐私的努力。


ProPublica,Mozilla 和 Who Targets Me 最近都注意到了他们的工具已经失效。“这非常令人担忧,”支持“诚实广告法案”的参议员 Mark Warner 说,该法案要求 Facebook 广告具有透明度。“像 ProPublica 这样的调查小组需要访问这些信息,以便跟踪和报告在线广告的不透明的且经常是欺骗性的世界。”


在过去一年半的时间里,ProPublica 一直在构建一个可搜索的政治广告数据库,这些广告商正在付费以达成定向宣传的目标。通过招募数千名安装了Web浏览器扩展的志愿者来实现这一数据库。该工具揭示了用户看到的广告以及 Facebook 有关用户定位目标的详细信息。


在致 ProPublica 的一份声明中,Facebook 声称这一变化只是“为了执行其服务条款”。Facebook 在此之前已经做了一些小调整,以打破了这些透明度工具。但这一次,Facebook 直接阻止了自动提取广告定位信息的功能。


最新举措是在 Facebook 高管敦促 ProPublica 关闭其广告透明度项目后的几个月。


8月,Facebook 广告产品管理总监 Rob Leathern 承认 ProPublica 的项目“服务于一个重要目的。”但他同时说,“我们将开始执行我们现有的服务条款。”


Facebook 推出了“美国政治广告档案”,该公司称它是 ProPublica 工具的替代品。但是,Facebook 的广告档案仅在三个国家/地区提供,未能披露重要的定位数据,甚至不包括在美国投放的所有政治广告。⚪️


感谢帮助 iYouPort!

PayPal 捐赠渠道已开通 https://paypal.me/iyouport


0 views

© 2023 by ENERGY FLASH. Proudly created with Wix.com

This site was designed with the
.com
website builder. Create your website today.
Start Now