LOADING...
LOADING...
LOADING...
当前位置: 玩币族首页 > 行情分析 > 人工智能监管进入倒计时?美国各界两极分化

人工智能监管进入倒计时?美国各界两极分化

2023-05-15 AIcore 来源:区块链网络

来源:钛媒体App,作者 : Craig Smith,编辑: 林志佳

图片来源:由无界 AI工具生成

随着超17亿月访问的 AI 聊天机器模型ChatGPT风靡全球,产品体验令人惊叹,但与此同时,这也引发美国各界对 AI 技术风险的担忧。

近日,美国联邦贸易委员会(FTC)接到人工智能和数字政策中心(CAIDP)的投诉,要求对OpenAI及其产品GPT-4进行调查。CAIDP在一份公开信中称,OpenAI违反FTC法案规定和 AI 治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险,该机构要求FTC对OpenAI展开调查,并暂停GPT产品商业部署,直到符合FTC法案规定。目前该信已获得超过20000个签名。

在此之前,亿万富翁马斯克(Elon Musk)、苹果联合创始人Steve Wozniak以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

另外,5月4日,美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO,讨论 AI 潜在风险。美国总统拜登(Joe Biden)则明确表示,这些 AI 企业必须在推出产品之前确保其安全性,“你们正在做的事不仅有巨大的影响力,还将带来巨大的危害。”

不过,尽管美国从拜登到学术界、产业界集体表达对 AI 技术监管和暂停的提议,但多份信息显示,目前美国各界对此仍有分歧。Meta AI 实验室首席科学家LeCun直言反对暂停任何 AI 开发,他认为应该继续进行研究并负责任地开展 AI 研究工作。

无论结果如何,这场 AI 监管风暴即将打响。包括ChatGPT在内的全球 AI 新热潮正在迎来技术监管倒计时。

在此之前,欧洲和中国已抢先下场调查和监管。

3月31日,意大利打响调查ChatGPT第一枪,要求暂时禁止使用ChatGPT,并对OpenAI公司展开调查;随后法国、爱尔兰、西班牙跟进,欧洲数据保护委员会则成立专门工作组开展调查;4月11日,中国下发《生成式人工智能服务管理办法(征求意见稿)》的通知,并向社会公开征求意见。直到4月末,OpenAI宣布ChatGPT恢复在意大利的访问。此外,加拿大、德国和澳大利亚当局也在推进调查和规范 AI 发展。

几乎是同一天,美国也加入到了这场这场围剿 ChatGPT 的 AI 监管风暴中。

3月30日,CAIDP向联邦贸易委员会提交了一份长达 46 页的投诉信,投诉呼吁放慢生成式 AI 模型的发展,并实施更严格的政府监管。

诉讼全文截图

CAIDP称,OpenAI违反了 FTC法案第5节,该条禁止不公平和欺骗性的贸易行为,而且违反AI治理规则,存在偏见、欺诈,并对隐私和公共安全构成风险。CAIDP要求FTC对OpenAI展开调查并暂停GPT产品的商业化部署。

作为上述这封2万多名签署的控诉信之一,非营利性机构CAIDP总裁兼总法律顾问Marc Rotenberg表示,OpenAI根本不符合FTC的指导方针,他声称担心GPT模型是不公平的和具有欺骗性的。

“FTC之前已经宣布, AI 的使用应该‘透明、可解释、公平,并且在经验上合理,同时促进问责制’。我们认为FTC应该密切关注OpenAI和GPT-4。”Rotenberg表示,G??PT-4不满足这些要求,FTC应该对OpenAI展开调查,并确保建立必要规范以保护消费者、企业以及商业市场。

实际上,Rotenberg并不仅是一个机构负责人,他还是乔治城大学法学院教授、隐私法专家和AI政策倡导者,而且是《AI政策手册》的编辑、OECD AI专家小组的成员。他此前成功参与 FTC 与Meta(原Facebook)和谷歌之间的监管过程。

2010年,他通过另一个非营利组织电子隐私信息中心(EPIC),曾指控谷歌于2010年推出的Google Buzz社交网络服务违反用户隐私规定,未经用户同意自动共享他们的电子邮件联系人。随后FTC调查此事,并在2011年与谷歌公司达成和解协议,谷歌同意实施全面的隐私计划并接受为期20年的定期隐私审计,并全面关停Google Buzz服务;此外,Rotenberg还曾向FTC指控 Facebook 侵犯用户隐私权,致使Facebook与FTC在2019年达成50亿美元和解协议,是该机构迄今为止实施的最大罚款之一。

因此种种迹象表明,Rotenberg并不是普通的反对者,而是能够参与拜登政府监管科技公司的一个关键性人物,一定程度上可以影响美国在 AI 技术监管与规范的走向。

如今,Rotenberg对准GPT-4大模型和它的OpenAI公司。他认为,AI 创新和基本权利保护可以通过监管策略实现两者平衡。Rotenberg强调,这项行动并不是“反OpenAI”。

图灵奖得主、深度学习领域另一位先驱Yoshua Bengio也同意暂停 AI 大模型技术发展。Bengio表示,一年前他可能不支持暂停,但是ChatGPT已经跨越了“图灵测试”的重要阈值,因此这可能会以非常危险的方式被利用,从而威胁到更多的人。

“然而,我不认为它应该只针对OpenAI,也不认为它应该只在美国进行。”Bengio警告称。

但截至发稿前,美国FTC官网并没有对外公布对于OpenAI的管控措施,以及未对上述控诉信发表评论,只承认正在调查此事。

“我们已经要求国会向联邦贸易委员会施压,了解我们的控诉进展情况。”Rotenberg强调,美国将会对 AI 行业公布规范措施与监管。

不过,尽管部分美国人认为OpenAI应受到更严格的审查和监督,但另一波人则对此反对,OpenAI及其支持者们认为这样做可能会扼杀 AI 行业快速发展和技术创新,而是应该努力开发可信赖、有益于整个人类的 AI 系统。

“我们应该迅速行动并构建事物,不要因为有很多好处和价值可以创造而暂停,”著名 AI 专家、斯坦福人工智能实验室主任、前百度首席科学家吴恩达 (Andrew Ng),与AI先驱、Meta首席科学家Yann LeCun就此问题进行的讨论中这样表示。

LeCun称反对“暂停 AI 技术开发6个月”这种说法,而是应该继续进行并负责任地开展 AI 技术研究工作,包括考虑伦理影响。吴恩达则直言,AI 研究暂停6个月,才是真正巨大的伤害。应该受监管的是AI产品,而不是背后的研究。

华盛顿大学 AI 研究员、《终极算法》作者Pedro Domingos则在邮件中表示:“我认为暂停函是一个可怕的想法,而这个控诉更糟糕。应该被嘲笑出庭。”

总的来看,无论是支持,还是反对ChatGPT和 AI 大模型发展,毫无疑问的是,AI 技术的发展速度比任何人预期的都快,令很多机构措手不及,同时也让FTC等各国机构开始加速 AI 技术监管。

随着谷歌、微软、Meta、阿里等科技巨头陆续发布 AI 大模型,这就像在潮湿的地方出现的蘑菇一样,这类工具正逐步广泛分布在社会当中。正如阿里云CTO周靖人所言,未来每一家企业都将拥有自己的专属 GPT大模型。

而这种大模型、大数据背后的安全性有待质疑。据Vice Motherboard 5月12日报道,一名诈骗犯利用 AI 生成了仿冒美国R&B歌手Frank Ocean的歌曲,并在互联网音乐收藏社区和聊天社区Discord上以9722美元的价格售出,每首歌赚了约3000至4000美元。报道指,这些曲目全部由 AI 制作,并在一个地下音乐社区中作为泄露曲目出售。

无独有偶。据某地警方公众号5月8日消息,“AI换脸”新型诈骗频发,诈骗分子通常使用他人真实姓名及照片,冒充他人身份添加被害人微信,再利用“AI换脸”技术和被害人进行短暂视频通话,博取被害人信任后实施诈骗,日前,福州一市民也遇到了此事,被骗走48000元。

当 AI 变得更加聪明时,医生、律师、会计师、工程师等职位似乎会被取代,IBM已经宣布 AI 将替代7800名员工职位。但同时,如果发生了错误,谁会对这场错误负责。比如自动驾驶,一旦出现事故到底是乘客责任还是 AI 软件的责任。

AI 最终的守门人是医生、律师或其他人等等。这些问题似乎目前没办法得到回答,需要时间的不断推移、技术的不断进步、法律法规的不断健全、AI 技术会朝着安全可控的方向发展等。

如今,人类开始迷思,面对不可阻挡的技术发展趋势,我们是否要摧毁 AI 技术进步。

—-

编译者/作者:AIcore

玩币族申明:玩币族作为开放的资讯翻译/分享平台,所提供的所有资讯仅代表作者个人观点,与玩币族平台立场无关,且不构成任何投资理财建议。文章版权归原作者所有。

知识 AI
LOADING...
LOADING...