Facebook正在用AI模仿用户的不良举动

据外媒The Verge报道，Facebook的工程师们开拓了一种新要领，辅佐他们辨认和防备有害举动，好比用户撒播垃圾邮件、诈骗他人或交易兵器和毒品。他们此刻可以行使人工智能驱动的呆板人来模仿不良举动者的举动，让它们在平行版本的Facebook上自由勾当。然后，研究职员可以在模仿中研究呆板人的举动，并试验阻止它们的新要领。

这个模仿器被称为WW，发音为 "Dub Dub"，是基于Facebook的真实代码库。该公司在本年早些时辰颁发了一篇关于WW的论文（之以是这么叫，是由于这个模仿器是WWW（万维网）的删减版），但在最近的一次圆桌集会会议上分享了更多关于这项事变的信息。

这项研究由Facebook工程师Mark Harman和该公司位于伦敦的人工智能部分研究职员率领。Harman对记者说，WW是一个很是机动的器材，可以用来限定网站上的各类有害举动，他还举了一个例子，即操作模仿开拓新的防止法子来搪塞骗子。

在实际糊口中，骗子凡是会从彷徨在用户的挚友群中探求隐藏的方针开始事变。为了在WW中模仿这种举动，Facebook的工程师们建设了一组 "无辜 "的呆板人作为方针，并实习了一些 "坏 "呆板人，这些呆板人在收集中试探，试图找到他们。然后，工程师们实行了差异的要领来阻止"坏 "呆板人，引入了各类限定前提，好比限定呆板人每分钟可以发送的私信和帖子数目，看看这对它们的举动有什么影响。

Harman将这项事变与都市筹划者试图镌汰忙碌阶梯上超速行驶的事变举办了较量。在这种环境下，工程师在模仿器中模仿交通流量，然后试验在某些街道上引入减速带等对象，看看它们有什么结果。WW模仿让Facebook可以做同样的工作，但工具是Facebook用户。

“我们将‘减速带’应用于我们的呆板人所能执行的举措和调查，并云云快速地试探我们也许对产物做出的改变，以克制有害举动，而不危险正常举动，”Harman说。“我们可以将这个局限扩大到数万或数十万个呆板人，因此，并行地搜刮很多很多差异的也许...束缚向量。”

模仿想要研究的举动是呆板进修中足够常见的做法，但WW项目之以是引人注目，是由于该模仿是基于真实版本的Facebook。Facebook将其要领称为 “基于收集的模仿”。“与传统的模仿中全部的对象都是模仿出来的差异，在基于收集的模仿中，动作和调查现实上是通过真实的基本办法产生的，因此它们越发真实。”Harman说。

不外他夸大，尽量行使了这种真实的基本办法，但呆板人无法与用户举办任何方法的互动。他说：“它们现实上无法通过布局，与其他呆板人以外的任何对象举办互动。”

值得留意的是，这个模仿并不是Facebook的视觉拷贝。不要想象科学家们研究呆板人的举动，就像你在Facebook群里看人与人之间的互动一样。WW并没有通过Facebook的GUI发生功效，而是将全部的互动记录为数字数据。

此刻，WWW还处于研究阶段，该公司用呆板人举办的模仿试验都没有给Facebook带来实际糊口中的变革。Harman暗示，他的小组仍在举办测试，以搜查模仿与实际糊口中的举动是否有足够高的保真度来证明实际糊口中的变革。但他以为这项事变将在本年年底前对Facebook的代码举办修改。

虽然，模仿器也有范围性。譬喻，WW无法模仿用户意图，也无法模仿伟大的举动。Facebook暗示，呆板人会搜刮、提出挚友哀求、留下评述、发帖和发送信息，但这些举动的现实内容（好比，对话内容）并没有被模仿出来。

不外Harman暗示，WW的强盛之处在于它可以或许举办大局限的操纵。它可以让Facebook运行数千次模仿来搜查网站的各类渺小变革，而不影响用户，并从中发明新的举动模式。他暗示：“我以为，大数据带来的统计手段仍未被充实熟悉。”

这项事变较量冲感民气的一个方面是，WW有也许通过呆板人的动作发明Facebook架构中的新瑕玷。呆板人可以通过各类方法举办实习。偶然会给它们明晰的指令，汇报它们怎样动作；偶然会要求它们仿照实际糊口中的举动；偶然只是给它们必然的方针，让它们本身抉择动作。正是在后一种环境下（一种被称为无监视呆板进修的要领），也许会呈现意想不到的举动，由于呆板人找到了工程师没有猜测到的到达方针的要领。

“今朝，首要存眷的是实习呆板人仿照我们知道的平台上产生的工作。但无论在理论上照旧在实践中，呆板人都可以做一些我们早年没有见过的工作。”Harman说。“这着实是我们想要的对象，由于我们最终是想走在不良举动的前面，而不是不绝地追赶。”

哈曼暗示，该团队已经看到了呆板人的一些意想不到的举动，但拒绝分享任何细节。他暗示，他不想给诈骗者提供任何线索。