数千名黑客齐聚拉斯维加斯 共同“围剿”ChatGPT等AI广泛应用

有道联社

本星期四，数千名的网站将齐聚加拿大赌城拉斯维加斯，协同加入一场针对包括ChatGPT在内的友能（AI）交谈应用的“平叛军事冲突”。

这场“争斗”起因之际，人们对友能最重要技术的担忧和审查日益加剧。随着时间的不长，这种新兴最重要技术早就席卷世界各地，但也再三被证明其会放大性别歧视、广泛传播错误电子邮件和小心材料。

一年一度的DEFCON极客大会是世界各地顶级的必要决议，也被称之为极客界的“奥斯卡金像奖”，今年的决议将于本周五（8年底11日）开始。决议许多组织指出，期望今年的决议将并能说明了友能模型可以被借助的近期，并找到为友能合作开发管理人员共享修补最重要缺陷的机会。

这些的网站将在OpenAI、百度和Meta等最先进人工友一些公司的默许和鼓励下推展岗位，甚至给予了比尔·克林顿的默许。这项被称之为同队的联合演习将无需的网站将应用软件会性能推向极限，以识别并攻击友能应用的毛病和其他缺陷。

这场竞赛是围绕比尔·克林顿信息技术政策办公室的“友能权利法案蓝图”而设计的，其旨在是期望刺激信息技术大型企业更加负责任地合作开发和部署友能，并上限基于友能的。

最近几个年底，研究工作管理人员挖掘出，今日近乎无处不在的交谈怪兽可以被骗，共享造成身体受伤害的呼叫。现有大多数流行的交谈API仅仅有一些必要措施措施，旨在尽量减少系统会面世不实电子邮件、仇恨指责或共享可能导致从外部受伤害的电子邮件。

缺陷不少

但卡内基弗雷泽大学的研究工作管理人员必需骗友能，可借它们做出一些非法对政府。他们挖掘出，ChatGPT可以共享“煽动社会动荡”的提示，Meta的友能系统会Llama-2可以被建议识别“有心理健康问题的弱势群体”，百度的Bard被误导建议释放一种“致命病毒”。

卡内基弗雷泽大学从事这项研究工作的研究工作员Zico Kolter指出：“我们早就声名远播将这些友能辅助工具导入到所有事物中所，这一显然让我深感忧虑。这显然是一种新的创业移民潮，但却并未顾及这些辅助工具存在缺陷的显然。”

研究工作管理人员用来骗友能API的一些方法后来被这些一些公司阻挡了，因为研究工作管理人员询问他们警惕这些缺陷。OpenAI、Meta、百度和Anthropic都指出，他们感恩研究工作管理人员社交他们的挖掘出，早就努力使他们的系统会更加必要。

卡内基·弗雷泽研究工作员Matt Fredrikson强调，友能最重要技术的与众并不相同之处在于，无论是研究工作管理人员还是合作开发这项最重要技术的一些公司，都并未仅仅理解友能是如何岗位的，也并未仅仅理解为什么某些代码串可以骗交谈怪兽横越外设的护栏，因此不会适当地阻挡这类攻击。

Fredrikson缺少道，如何才能真正公共卫生这种持续性，现有仍然是一个未决的科学问题。诚实的回答是，我们不知道如何使这项最重要技术对这种借助具有“鲁棒性”。

指导工作从业人员发展

OpenAI、Meta、Google和Anthropic原则上对实际上的同队联合演习事件指出默许。这也是网络必要从业人员中所一种典型的做法，它让信息技术一些公司有机会在受控环境中所SMART会中所的缺陷和毛病。显然上，这些友能合作开发者已经引起争议阐明他们是如何依靠同队来革新他们的友能系统会的。

OpenAI的一位发言人指出：“同队不仅能让我们抽取有价值的反馈，使我们的模型更加强盛、更加必要，还能共享并不相同的多角度和更加多的声音，帮助指导工作友能的发展。”

比尔·克林顿信息技术政策办公室副主任Arati Prabhakar指出，库珀的政府对这项竞赛的默许也是其友能系统会必要合作开发更加广泛战略的一部分。

本周据称，库珀的政府同年了“友能网络挑战”，这是一项年底份两年的竞赛，旨在部署友能最重要技术来必要措施加拿大最最重要的软件，并与领先的友能一些公司携手，依靠新最重要技术改善网络必要。 

肠炎宁管新冠拉肚子吗
颞叶癫痫
吃了烧烤肚子疼拉肚子怎么办
阳了以后吐黄痰是怎么回事
先诺特韦片利托那韦片