Oasis Labs 创始人：建立一个数据隐私的在线世界

原文作者：纽约时报-Craig S. Smith（前《泰晤士报》记者，目前是播客节目 Eye on A.I 的主理人。）
原文翻译：区块律动 BlockBeats-HQ

计算机安全和可信赖的人工智能专家宋晓冬正在努力实现这一愿景。

美国加州大学伯克利分校教授 宋晓冬（Dawn Song），是计算机安全和可信赖人工智能领域的专家，也是 Oasis Lab 的创始人。

数据是有价值的，Facebook、谷歌和亚马逊等公司，比大多数消费者更早意识到这一点。但计算机科学家们一直在研究替代模型，尽管公众已经厌倦了大公司使用和滥用他们的数据。

美国加州大学伯克利分校（University of California，Berkeley）教授宋晓冬，是世界上计算机安全和可信赖人工智能领域中最杰出的专家之一，她设想了一种新的模式，即人们能够控制自己的数据，并能够因为企业使用数据而获得补偿。虽然也有很多人建议建立这样一个系统，但宋晓冬教授是真将平台搭建起来了，使之成为现实。

宋晓冬教授最近在她旧金山的办公室里说：「当我们把数据比作是新的石油时，开发出能够以隐私保护的方式利用数据的技术尤为重要。」。

对于宋晓冬教授来说，这是一个看起来不太可能的发展轨迹，她在中国大连长大，大连是位于中国东北辽宁省的一个海港城市。她是两个没有任何计算机背景的当地公务员的女儿。她在高中是一个优秀的学生，当时她的梦想是成为一名国家地理风格的自然摄影师。她的一位老师，也是她的一位导师，温和地劝阻了她。

她的母亲想让她学习商科，并替她申请了一所知名的商学院。然后，就在高考前不久，她的导师再次出面干预，让她的母亲相信，她的女儿在科学领域的未来会更加光明。宋晓冬教授转而申请进入了中国顶尖的理工科大学——清华大学——学习物理专业。毕业之后，她继续在康奈尔大学学习物理，后转学到卡内基梅隆大学（CMU），并在那里她获得了计算机科学硕士学位，然后在伯克利定居，最终完成了她的计算机科学博士学位。自此以后，她专注在计算机安全领域发展。

宋在伯克利攻读研究生时，就引起了人们的注意，她具有开创性的研究工作表明，机器学习算法，可以根据窃听网络时某人的按键时间，来推断出这个人正在输入的内容。从那时起，她一直处于可信赖的人工智能领域的前沿，包括提高机器学习模型本身的弹性，即学习识别用户产生数据模式中的递归计算机代码块。


机器学习模型，虽然在识别从 X 光图像中的肿瘤到含糊不清的语言中的单词等所有方面，表现都很惊人，但该模型仍然会令人不安地容易被愚弄。宋教授和她的学生们，是第一批证明计算机视觉系统是可以被愚弄的，通过简单地在停车标志上贴上一些无害的标签，就可以将停车标志识别为时速 40 英里的限速标志。伦敦科学博物馆展出了这些被改变过的交通标志的案例。

意大利卡利亚里大学（University of Cagliari）助理教授 Battista Biggio，是最早研究此类系统漏洞的人之一，他说：「宋教授在停车标志方面的工作，是第一批在物理领域制作对抗性示例的人之一，而不仅仅是在计算机上操纵图像像素。」。

宋教授在伯克利任教了十几年，她一直致力于技术和系统的开发，不仅可以为计算机系统提供安全性，还可以保护隐私。她设想构建一个安全的网络世界，在那里个人控制他们的个人数据，甚至可以从中获得收入。她认为今世界，是人类历史上人们对财产权没有明确概念的时代。她指出，一旦这些权利制度化并得到保护，就会导致经济发生革命性的变化。

她最近创办了一家名叫 Oasis Labs 的区块链公司，该公司正在开发一个平台，让人们能够控制自己的数据，并审核数据的使用情况。她认为，一旦数据被视为财产，就能以前所未有的方式推动全球经济的发展。「可以在此基础上建立新的商业模式」，她说。

当然，数据不像物理对象。如果一个人给了一个朋友一个苹果，那么其他人就不能拥有那个苹果了。但数据是不同的，科学家将这个属性称之为非竞争性（nonrivalry），即人们可以提供（或出售）他们想要的任何数量的数据副本。

大多数人都会把自己的数据分发出去，仅仅是通过点击「接受」将其提供给使用数据的公司，但他们甚至懒得去阅读这些细则。现状是，要么人们在线接受这些条款、并参与数字世界，要么他们拔掉电源，但这对身处全球经济中的任何人来说，都不是一个真正可操作的选择。大量财富建立在这些数据之上，并使少数企业家致富。


另外一家建立去中心化私人计算协议的公司 Enigma 的联合创始人兼首席执行官 Guy Zyskind 说：「我们的数据面临的风险从未如此之大，我们对新型可靠隐私解决方案的需求也从未如此迫切」。

当人们上网时，数据被收集并存储在易遭受攻击的中心化服务器上。但 Song 教授和她的同事认为，通过结合专业的计算机芯片和区块链技术，他们可以开发出一个提供更强大可扩展性和隐私保护的系统。


一些计算机芯片，例如大多数手机中的芯片，已经包含了一个安全区域，称为可信执行环境，保护软件免受大多数类型的攻击。宋教授的小组，正在通过开发一个开源的安全飞地——Keystone，来加强这些区域的安全性。在这个安全飞地中，计算机代码的位，被称为智能合约，允许数据所有者控制谁可以访问他们的数据、以及如何使用数据。


宋教授说：「实际上，你可以拥有由区块链账本所提供的完整性，也可以拥有安全飞地所提供的由智能合约执行的隐私或保密性」，她语速很快，似乎在追赶跟上自己的思路，「没有中心化服务器可以看到这些数据」。

Oasis Labs 一直在开发一个支持企业和开发人员的平台。他们已经开始在 Nebula Genomics 进行试点，这是一家直接面向消费者的基因测序公司，每周提供有关血统、健康和遗传特征的全面基因组测序报告。使用 Oasis Labs 的隐私保护工具，Nebula 的客户将保留对其基因组数据完全的控制权和所有权，同时能够使 Nebula 在不泄漏底层信息的情况下，对数据进行特定的分析。


另一个名为 Kara 的应用程序，是与斯坦福大学医学院的 Robert Chang 博士合作开发的，Kara 能够让眼科病患者选择与研究人员共享视网膜扫描和其他医学数据，研究人员可以利用这些数据，训练机器学习模型来识别疾病。

Kara 项目的一部分，是研究什么样的激励措施，能够让患者贡献他们的数据进行医学研究，并获得意义的回报。

Chang 博士说：「她的方法与其他数据聚合器不同「，这个项目实际上是在提出一个重要的问题：即谁真正拥有这些数据？」


宋教授相信，总有一天，人们会从他们的个人数据中获得收入。这些收入放在每月甚至每年的维度上来看，可能并不重要，但从使用个人数据的公司中积累一生的费用，可能会对人们退休储蓄有帮助，例如。或者从人群中获得的收入，可以用来资助特定的事业。与此同时，数据的解锁，可以为消费者提供更好的服务。

宋教授说：「如今，企业把用户的数据作为一种产品来使用，并将其货币化。如果用户能够保持对数据的控制、并从中获得收入，世界可能会大不相同」。

作者：纽约时报-Craig S. Smith （前《泰晤士报》记者，目前是播客节目 Eye on A.I 的主理人。）

翻译：区块律动BlockBeats-HQ

原文链接：https://www.nytimes.com/2019/11/10/technology/artificial-intelligence-dawn-song.html

—-

编译者/作者：区块律动BlockBeat

玩币族申明：玩币族作为开放的资讯翻译/分享平台，所提供的所有资讯仅代表作者个人观点，与玩币族平台立场无关，且不构成任何投资理财建议。文章版权归原作者所有。