点击上方蓝色字体“灰色生产圈”关注并置顶本公众号
简介：
随着互联网的发展，无数的公司和个人依靠互联网创造了一个又一个故事，而这
在这些故事中，我们不能忽视的是一些不为大众所接受，利用互联网获取大量财富，打造庞大帝国的“网络海军”。
从论坛时代开始，互联网大军在各大论坛蛰伏，随时准备开战，然后随着微博时代的到来，他们从微博阵营转向，直到微信时代，水军一直处于舆论的风口浪尖。
这样一群人，游荡在各个平台，通过付费删除、发帖、灌水、阅读等方式获取非法利益，被外界称为“互联网水军”。根据灰产圈的调查，在“互联网水军”的黑色产业链中，3000元左右就可以在微信上做一篇所谓的“10万+”热文，部分平台甚至出现了AI。 “海军”……
一.芝加哥研究人员发表论文：AI海军时代即将到来！
人工智能技术的不断发展是为了服务社会，推动社会进步。而一些科学家和研究人员总是对一些未知的、不好的创新技术非常好奇，他们必须深入研究。
最近，芝加哥大学的研究人员发表了一篇题为“在线评论系统中的自动化众包攻击和防御”的论文，指出人工智能将有能力生成大量虚假和复杂的评论信息，甚至机器和读者无法察觉。并辨别其真伪。
也就是说，AI海军正式到来了，这无疑更让人为“海军”头疼。
芝加哥大学的研究人员使用神经网络来训练 AI 海军，该海军可以自动在 Amazon、Yelp 和其他网站上生成虚假评论。它不仅可以绕过机器检测，还可以模仿普通人的真实评论。以假乱真。
研究人员使用互联网上已有的大量真实评论作为材料，训练了递归神经网络 (RSS)，并使用语言模型来预测下一个单词生成新文本的概率。这种技术生成的评论不是简单地从现有材料中复制而来，因此机器无法检测到它们。
这是 AI 生成的评论。
我来这里已经好几年了，每次都是一次很好的体验。很棒的服务！这里的人非常友好。我一定会回来的！
这个地方很棒！调酒师很棒。意大利面很好，我喜欢他们的甜点，太棒了。我也喜欢这里的早餐，工作人员很友好，价格也很合理。没有任何不好的经历。一定会再来的！
我喜欢这个地方。和我哥哥一起去的，我们点了素食意大利面，很好吃。啤酒也很棒，服务也很好。我一定会向其他人推荐这个地方，非常适合那些想找个地方吃早餐的人。
这些虚假评论不仅绕过了系统的检测，甚至被很多用户点击“有用”。研究人员将 AI 生成的评论与真实评论进行了比较，让不同的人评价它们的有用性。在 1-5 的范围内（最没用 - 最有用），最终的真实评论得分为 3.28，AI 生成的评论为 3.15。
这意味着AI navy生成的虚假评论与真实评论接近，会影响用户的消费行为。
人工海军的存在极大地影响了网络信息的真实性，而AI海军将无限放大这种情况。
AI 对文字评论的模仿相对容易实现。因为每条评论内容简短，主题统一简单，表达也没有那么严格。最重要的是，这些虚假评论隐藏在众多真实评论中，人们不会以怀疑的态度看待它们。
大部分人都会刷大量的信息，这些虚假的评论被重复无数次后，会对人产生潜移默化的影响。
“谣言反复多次才成真”，这就是虚假信息带来的误导。
这篇评论乍一看没有什么奇怪的，里面有一些具体的建议和可信的描述，最后一句话虽然有点奇怪，但整体还是人的表达。
其实这句话是由一种叫做RNN（Recurrent Neural Network）的深度学习技术生成的。这个 RNN 网络是使用数千条真实的在线评论进行训练的。
研究人员表示，人工智能生成的评论是“真实的”，一项针对 600 名用户的调查显示，这些虚假评论不仅无法被发现，而且被用户认为是“有用的”。
“有用”是一个更可怕的东西：它表明虚假评论已经可以影响人类。
Anti-plagiarism软件 对这些虚假评论也无能为力，因为这些评论是逐字生成的，而不是简单地替换现有评论中的单词。
如果采用反抄袭软件测试，不仅虚假评论难以检测，还会“误伤”大量真实评论。 RNN 不仅仅是现有评论的重复。
二.歌手尚雯婕公开表态要买海军，深挖灰产圈发现惊天内幕
附：尚文杰发的微博
歌手尚雯婕近日在微博发文，直言经纪团队有购买“互联网海军”增加流量的行为。
灰色生产圈调查发现，“互联网水军”的地下产业链在被多次曝光后依然活跃，甚至还雇佣了AI“水军”。
“5 美分 = 1 个粉丝”
灰产圈在网上搜索关键词“水军”，搜索结果最高的都是自称能产生流量的“水军公司”，只是为了掩盖庐山的真面目，这些像“互联网水军”一样，他也给自己穿上了马甲，称其为“互联网营销公司”。
Gray Production Circle 采访了一位知情人 KK。据他介绍，“互联网海军”历史悠久，在网络空间几乎无处不在。随着近几年新的网络社区的出现，“互联网海军”也一路大踏步前进，不断入侵新平台。“每个平台都有百万级的‘互联网海军’，加起来可能超过一千万。
涵盖微博、微信公众号、豆瓣、知乎、百度贴吧、各大论坛、新闻网站、直播平台，以及热门今日头条、小红书、快手、抖音@ > 等等。”
灰产圈以“买水军”的名义，与一家“网络营销公司”取得了联系。公司谢经理介绍，他们“工作了三年多”，目前的业务范围很广，只要能想到可以“刷”的平台。
以微信公众号刷流量为例，他向灰产圈引述，“我们一般微信公众号的阅读量是按‘一万’来计算的，现在刷一万个阅读量差不多300元，比如你以前有10000个读数，现在我给你10000个，变成20000个。”
这意味着，在“互联网海军”的黑色产业链中，3000元左右就能搞定一篇所谓的“10万+”爆款。另外，微信公众号刷评论1元1篇。
有趣的是，在微信公众号刷粉被问及丝号的价格时，谢经理回答：“你需要查一下，因为这个价格每天都在波动，就像蔬菜的价格一样，手工刷赞（粉丝） 价格目前是5毛钱一个，如果是刷赞的话，价格暂时无法确定，因为刷赞的账号可能被系统后台屏蔽了，所以有不确定性。
但是机器刷牙一般比人工刷牙便宜很多。 "
对此，kk解释说，目前成熟的“网络海军”可以分为两种，一种是机器人账户，一种是真实账户。机器人账号一般在各大网络社区成立初期就注册，网络黑行业从业者通过邮箱和手机号注册。一些平台甚至出现了AI“水军”，这无疑将考验后台的防作弊和风控系统。 .
另一类真实账户多由一些兼职网络人员在幕后操作，数量非常庞大。靠着这个所谓的人数优势，谢经理向灰产圈强调：“任何金额都可以刷，只有下限，没有上限。比如微信公众号有10000个真正的粉丝，我们可以在一个下午完成它。”
三.AI 海军在你不知不觉中渗入你的生活！
在某宝上，淘了上千条好评，买了又买，以为找到了宝物，结果发现真货很烦。
一条评论，“好吃到哭”和“强烈推荐”给了你数百条好评，但是当你进入商店时，你会发现深色食物，难吃到呕吐和腹泻的地步。
某明星热评区，“XX是最好的，我们永远相信你爱你”瞬间刷屏，点赞，霸屏。
失望、困惑、愤怒、疲倦和不被爱？ - 都是因为虚假评论。
而幕后的同谋可能是AI海军。
你能分辨真假评论吗？
AI海军叫你来接。
以下7条评论，有的是AI navy的杰作，有的是人工评论，你能分辨出来吗？
1。 “我喜欢这个地方。我和我哥哥一起去的，我们点了纯素意大利面，味道很好。啤酒很好，服务很好。推荐这个地方，早餐的好地方。小地方但生意大”。
2。我最喜欢去的意大利餐厅。喜欢这种食物，一切都很棒。我推荐芦笋生牛肉。可惜现在这么有名，黄金时段订位越来越难了。
3。我们全家都是这家餐厅的忠实粉丝。工作人员非常好，食物也很棒。鸡肉很好吃，蒜酱也很完美。上面有水果的冰淇淋也很好吃。强烈推荐！
4。我每年圣诞节都来这里，喜欢意大利面！物有所值！
5。非常好的比萨饼、烤宽面条和最好的扇贝之一。甜点又大又好吃。
6。食物很棒而且份量很大。芝士百吉饼做得完美，新鲜可口！服务很快。毫无疑问，我们最喜欢的地方！我们会回来的！
7。我已经在这里吃了一年半了，除了好吃我什么也说不出来。我总是点披萨，意大利牛肉很好吃，给我留下了深刻的印象。服务非常好。我见过的最好的餐厅服务。强烈推荐。
不仅是人话，也是义话，你有答案吗？
600 名接受调查的用户没有看到 AI 评论
提前剧透，上面第一个是AI海军的代表作之一。有人猜对了吗？
“我喜欢这个地方。我和哥哥一起去的，我们点了素食意大利面，味道很好。啤酒很好，服务很好。推荐这个地方，早餐的好地方。地方虽小，但很重要。”
与一些懒癌患者的评论相比，这个AI评论要复杂得多，而且人类的话语似乎比很多真实的人类评论还要真实。难怪这些评论设法从裂缝中溜走，避开了 600 名接受调查的用户的眼睛，并被认为是“有用的”。
这些虚假评论是使用称为“循环神经网络”的深度学习技术生成的。通过学习上千条真实的在线评论，这个循环神经网络分析句子中的语言结构，建立相应的模型，然后生成新的语言表达，但它并不是简单地替换现有评论中的单词。
打造一个AI海军不需要太长时间，硬件很容易买到，而且需要的评测库在网上也很容易获得，所以成本可以说是很低了。如果传统的人工水军价值5美分，AI水军不到一分钱就能瞬间产生上千条评论。
而且，这些AI海军一直潜伏在微博、微信、知乎、贴吧等社交平台，一旦需要，他们可以随时占领各个高地，展现他们的存在感和能力。
p>
根据互联网安全公司 IMPV 的 2016 年机器流量报告：通过对全球 100,000 条域名网站访问记录的分析，大约 52% 的互联网流量来自“自动化程序”或机器人。平均而言，访问每个网站的用户中有三分之一是机器人。
四.互联网大军冲刺下的互联网可靠性越来越低
其实，在当今复杂的互联网环境中，有时我们不得不依赖网络海军。看来，网络海军已经成为很多互联网公关公司不可或缺的职业和重要的营销工具。应用于各行各业。
为了达到一定的营销目的，甚至一些巨头公司也不得不动用水军，比如早年影响力很大的3Q大战，加多宝与王老吉、魅族与小米之战等，没有例外，他们会使用水军。
除了一些使用海军的巨头公司，一些电影或电视剧在上映前就有很大的气势和宣传。一些选秀节目和娱乐圈会使用海军蓝。 2005年，幸福女声，有传言说李宇春是冠军。因为有海军和包装。
但是，网络海军不仅可以成为“推手”，还可以成为“网络打手”。这让一些广告主，甚至是那些因为被网络海军托起的虚假信息和广告而被骗的网名，都恨之入骨。
格雷兄弟有一个朋友在保健品行业。大家都知道，保健品是一个有点灰色的行业。不允许使用传统广告。您只能选择在线广告。年初，由于公众号的广告市场非常好，几乎所有的保健品企业都选择在公众号上投放广告。然而，到了下半年，市场开始混乱。海军刷了阅读量，导致很多广告主投钱，但是没有效果，也不知道是什么原因。
因此，广告商后来对许多在线广告平台变得谨慎和不信任。
五.深入网络海军内部组织：分工明确，买单就行！
下图为灰产圈和水军QQ群截图
网络海军运作流程图：
海军需求——海军平台（住八界.散打哈.淘宝.QQ群或百度找到的官网）——网络营销公司——海军领导——下级小水军领导—— — 海军（全职或兼职）
其实，新浪微博的“热搜榜”此前因“扫一扫”而被正式下架。一些公司和娱乐经纪公司聘请“互联网海军陆战队”刷新榜单，以获得关注和话题。 ，让自己的产品或艺人登上热搜。
微博负责人还接受了“北京市互联网信息办公室”的采访，要求网站进行自我审查，禁止传播误导性猜测、低俗色情、种族歧视等违法有害信息。
上述案例完全按照网络海军的运作流程图。
包括今日微博热门榜首：谢娜微博粉丝过亿！
附件：微博截图
1亿粉丝中有多少是被“水军”刷过的“僵尸粉”？
你可以通过查看评论、转发和点赞看到它！五分之一的铁粉就够了。
六.结束：
水军之所以泛滥，是因为它利用了信息不对称，而对于商家来说，造假成本极低，但效果却很明显。
灰产圈认为，AI海军和人类海军本质上没有区别。最大的不同是，AI海军效率极高，隐蔽性越来越强。人类海军以数量取胜，通过大量的人影响网络舆论和各种评论。
AI海军可以用一个人的力量瞬间覆盖所有信息空间，占领舆论制高点；同时，如果过去更容易识别僵尸粉丝和海军，现在，仅仅依靠评论，高排名的内容越来越难以识别。
最终，真实的声音越来越容易被淹没。
随着虚假的声音变得越来越强大，我们如何相信我们看到的每个单词都是真的还是假的？
延伸阅读：
【灰产圈】高端社区小程序开启，2018最值得社区！
点击加入【灰产圈】高端社区
