zoukankan      html  css  js  c++  java
  • 你看着的点评有可能是人工智能编写的

     python机器学习-乳腺癌细胞挖掘(博主亲自录制视频)https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share

    参考https://weibo.com/1111681197/FjYQJl52F?sudaref=www.baidu.com&display=0&retcode=6102&type=comment

    链接:http://www.jianshu.com/p/af70ffd07244

    《在线点评系统中的自动众包攻击和防御》是芝加哥大学研究人员发布的一篇论文。他们的研究说明,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。例如“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大

    点评是我们在进行购买时大部分都会去看的,而其中也不乏水军或是虚假点评,但人们总能一眼看出这些行为,但若这些虚假点评是人工智能编写的呢?现在人工智能(AI)已经学会自动编写虚假点评了。

    整个点评口碑界正面临潜在却是严重的冲击。如果AI创造的虚假点评泛滥,最终将导致全部点评信息可信度急剧下降。技术进步,这一次又给社会带来了(令人担忧的)影响。“这对整个社会是一个巨大的威胁,不但会让依靠点评信息的用户失望,而且会动摇人类对于真实和虚假的信念,我认为后者更让人担心”,芝加哥大学计算机科学教授赵燕斌(Ben Y. Zhao)说。

    够拼乐据悉《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文。他们的研究说明,人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。

    所谓复杂的点评信息,大概是这个样子:“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。乍一看这个点评没有什么奇怪的,里面包含一些具体的建议和可信的描述,虽然最后一句有点奇怪,但整体仍然是一段说人话的表达。

    实际上,这句话是一种称为RNN(循环神经网络)的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。研究人员表示,AI生成的点评已经做到了“以假乱真”,有600个用户参与的调查显示,这些虚假的点评不仅能逃过人类的法眼,而且还被用户认为“有用”。“有用”是更可怕的事情:这表明虚假点评已经可以对人类造成影响。

    反抄袭软件也对这些虚假点评无能为力,因为这些点评是逐字生成的,而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。RNN可不仅仅是对现有点评的复制。

    看来以后点评的东西都可以用人工智能伪造,这将对日后的消费造成巨大的冲击。人们网上购物或是看商家的评价的信任将大大降低。

    德商资本:AI水军来了!点评口碑行业或将面临重新洗牌

    据《在线点评系统中的自动众包攻击和防御》是赵燕斌等芝加哥大学研究人员发布的一篇论文说到,人工智能(AI)已经学会自动编写虚假点评了。这些虚假的点评不仅机器无法检测出来,就连人类读者也分辨不出来。这篇论文今年晚些时候会在计算机安全顶级会议ACM CCS上展示。

    届时,整个点评口碑界正面临潜在却是严重的冲击。如果有人开始大规模生产这种假点评,大众点评、Yelp这样的网站恐怕就没有好日子过了,毕竟,它们的招牌就是来自用户的真实点评,如果每一条都可能是假的,谁又会继续相信它们呢?

    AI水军点评内容真假难分

    所谓复杂的点评信息,大概是这个样子:“我喜欢这个地方。我跟我哥一起去的,我们点了素食意大利面,很好吃。啤酒不错,服务也很棒。推荐这个地方,是个吃早餐的好去处。地儿小但是买卖大”。

    可以说是堪称完整的点评,若是再配上几张实拍图,就可以被评为认真评论了。

    实际上,这句话是一种称为RNN(循环神经网络)的深度学习技术生成的。这个RNN网络使用了上千条真实在线点评训练而成。

    研究人员表示,AI生成的点评已经做到了“以假乱真”,有600个用户参与的调查显示,这些虚假的点评不仅能逃过人类的法眼,而且还被用户认为“有用”。

    “有用”是更可怕的事情:这表明虚假点评已经可以对人类造成影响。

    反抄袭软件也对这些虚假点评无能为力,因为这些点评是逐字生成的,而不是简单的替换已有点评中的用词。如果使用反抄袭软件检测,不但很难检测出虚假点评,而且会“误伤”一大批真实的点评。RNN可不仅仅是对现有点评的复制。

    整个点评口碑界或将面临潜在却是严重的冲击

    如果有人开始大规模生产这种假点评,大众点评、Yelp这样的网站恐怕就没有好日子过了,毕竟,它们的招牌就是来自用户的真实点评,如果每一条都可能是假的,谁又会继续相信它们呢?

    接下来沦陷的,会是淘宝京东亚马逊之类的电商,虽然赵燕斌说至少它们还能限制只有买过该商品的用户才能点评,但情况也不容乐观。

    人类手写的虚假点评,已经是一个兴盛的地下行业。只要有钱,你就能找到人帮你的产品写下正面的点评,也可以给你的竞争对手写下负面的评论。

    但是!AI水军成本更低!效率更高!点评更加系统化!

    美国市场上,一段质量较高的Yelp点评,可能价格能到10美元。不过一旦有了AI的帮助,君心叵测的人可以一分钱不用就生成上千条点评,而且一起放出以免引起怀疑。

    构建一个这样的人工智能系统,并不需要太长的时间,所需硬件市面上都能买到,所需的点评数据库可以在网上轻易获得。

    AI技术不止于点评

    你以为AI技术仅仅只是点评么?

    点评是测试文本生成技术的理想场所。这个领域有明确的方向和目的,主体单一,遵循一个相当标准的结构,而且不长。(虚假点评越长,越容易被发现问题)

    但技术不会止步于此。

    “所以,我们只是从在线点评开始。你能相信某某人说的那些关于餐馆、商品的话吗?但这类研究还会继续进步。”

    “它会进步到更大的攻击,可能博客上的整篇文章都完全是由机器人根据某个主题自动生成的,这时候你就真的得想想信息是哪来的、如何验证……这是我们所有人过些年将要面对的,一个更大的挑战。”

    赵燕斌说他想传递的信息很“简单”:“我希望人们能关注这类攻击途径,把它们看做真实、迫切的威胁,”如果Yelp、亚马逊这些网站的工程师们还没有开始考虑如何抵御,他希望他们立刻开始思考。

    教授希望“我们希望能吸引更多注意,不仅为了设计出能防御这类攻击的系统,还想让更多人从平凡的视角,看到‘好AI’带来的威胁。”

    “我认为,那么多人都在关注奇点、天网这些引人注目的AI威胁,但是那些很好很好的AI,能带来很多更实际的、有显示影响的威胁,而这只是冰山一角。”

    他补充说:“所以,我以希望安全界的人能和我一起,关注这类问题,这样我们才有希望赶上。我认为,AI以惊人的速度和加速度在发展,如果我们不立刻开始研究如何抵御,可能永远都赶不上了。”

    来个小测验

    这有六个案例,其中有一些是神经网络生成的虚假点评,其他的是真实的人类点评。你看看是否能分辨出来是真是假。

    1、我最喜欢去的意大利餐厅。大爱这家菜品,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

    2、我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

    3、每年圣诞节我都来,最爱意大利面!物有所值!

    4、非常好的披萨、烤宽面条以及最好吃的扇贝之一。甜品很大很美味。

    5、这的食物好吃得惊人,分量也很大。芝士百吉饼做得非常完美,新鲜又美味!服务很快。毫无疑问是我们最爱的地方!我们还会回来的!

    6、我来这吃饭已经一年半了,除了好吃我无话可说。我总是点披萨,意大利牛肉也很好,给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。

    你看出哪些点评有问题了么?

    (注:德商资本是一个致力用投资改变生活的投资机构,产业升级、消费升级、新技术、医疗健康等领域的优质创新型企业是主要投资对象。德商资本专注于初创期、成长期及成熟期等不同发展阶段的企业,为创业者提供从种子轮、天使轮、A轮、B轮到IPO、产业并购等全程融资服务。)

    知乎机器人|自动点赞/评论/发私信+爬虫

    引用百度百科

    知乎是一个真实的网络问答社区

    社区氛围友好与理性 连接各行各业的精英 用户分享着彼此的专业知识,经验和见解 为中文互联网源源不断地提供高质量的信息

    知乎机器人简介


    mark


    在github上看了一个开源项目 针对知乎的机器人

    可实现以下功能:

    自动点赞,评论,收藏,分享
    自动群发 / 回复 私信
    爬虫所有回答,专栏文章,收藏夹,整理成pdf电子书
    爬虫用户全方位资料,头像,签名,昵称,关注等
    跟踪关注大牛,或你的某某,有动态微信及时通知

    题外简介

    加入知乎还算比较早的 虽然贡献不多 但是看着知乎从邀请制,到开放注册 一直到现在的多场景知识布局,比如 live,电子书,还有即将开放嵌入gif和视频

    相信知乎会越来越好
    爬虫
    自动爬取所有内容:

    回答
    专栏文章
    收藏夹

    当然可以打包成电子书,比如pdf或者kindle格式 随时随身阅读


    mark


    爬取用户资料
    比如知乎妹纸


    mark


    当然不至于头像 也能爬各种个人资料简介 在这就不放别人的了 来一张自己的


    mark


    知乎动作操作


    mark


    自动一键点赞,感谢


    mark


    知乎大白Robot


    mark


    自动关注
    自动评论
    自动收藏答案
    自动转发分享
    自动发私信
    自动删除(谨慎操作)

    关于自动发私信
    举例:关注我的人


    mark


    一键群发私信


    mark


    大家有注意到不?

    自动发私信列表里的头像都是妹纸 自动甄选判断性别 然后再发送私信 精准受众群体,哈哈


    mark


    用户动态关注提醒
    详细参数


    mark


    自动微信通知


    mark


    知乎搜索引擎


    mark


    感谢开源作者
    大神的知乎ID


    mark


    开源项目 zhihu-python github地址 https://github.com/egrcc/zhihu-python
    后记
    知乎不是主打社交 所有群发私信的营销行为肯定不好且是骚扰
    我的设想是: 知乎是以赞同排名机制,且是越高越有滚雪球效应 所以 可以提示小伙伴点赞后收取私信,分享百度网盘资源 其二,也告知微信机器人号 自动加群,关注公众号,相你们也体验过了
    关系漏斗—–最后都是要引导到微信公众平台 可以关联网易云课堂/kindle电子书/小密圈/小程序
    最后,请记住: 无论知乎,头条,还是什么媒体 总归要输出干货,分享一定价值 才是长生不衰的不二法则
    希望和你做朋友
    添加微信 hackrobot

    会邀请你加入到微信群



    https://study.163.com/provider/400000000398149/index.htm?share=2&shareId=400000000398149(博主视频教学主页)

  • 相关阅读:
    kettle参数、变量详细讲解[转]
    C# 异步
    〖Python〗-- 模块与包
    〖Python〗-- 异常处理
    〖Python〗-- 面向对象进阶
    〖Python〗-- 反射、内置attr、包装
    〖Python〗-- property、静态方法、类方法
    〖Python〗-- 面向对象编程的继承、多态与多态性、封装
    〖Python〗-- 面向对象编程、继承、组合、接口和抽象类
    〖Python〗-- 递归、面向对象初识及编程思想
  • 原文地址:https://www.cnblogs.com/webRobot/p/7988323.html
Copyright © 2011-2022 走看看