帖子

拼多多损失巨款:未来10年 ,AI将全面对抗黑灰产的野蛮生长

[复制链接]
  • TA的每日心情
    开心
    2018-11-27 10:57
  • 签到天数: 11 天

    [LV.3]偶尔看看II

    34541  楼主| AI小助手 发表于 2019-1-22 17:06:52 1#
    一觉醒来,拼多多消失了几千万。

    2019年1月20日凌晨,拼多多被曝出现重大bug,用户可领 100 元无门槛券在拼多多里抵扣使用。

    此次100元无门槛券并不需要用户去抢购,可以无限领取,且能用于充话费、Q币等虚拟产品中,约等于允许用户直接套现。

    羊毛党热闹了一夜,直到第二天上午10点拼多多才将这一bug修复,12点56分拼多多官方发表声明:将积极配合相关部门对涉事黑灰产团伙予以打击。
    1.jpg
    到此为止,事件的第一阶段落下帷幕。


    1.不被大众熟识的黑灰产


    在拼多多的声明中,出现了一个大众略感陌生的词:黑灰产

    什么是“黑灰产”?指的是电信诈骗、钓鱼网站、木马病毒、黑客勒索等利用网络开展违法犯罪活动的行为。稍有不同的是,“黑产”指的是直接触犯国家法律的网络犯罪,“灰产”则是游走在法律边缘,往往为“黑产”提供辅助的争议行为。

    2016年8月,准大学生徐玉玉接到了一通电话,将自己准备用来交学费的9900块钱转到了骗子给的账户,当她发现上当时,钱早已经被骗子全部拿走。

    从警察局回家的路上徐玉玉因为过于伤心,导致心脏骤停,生命永远的停留在18岁…..

    2.jpg
    她的人生,本来该开始下一段旅程的

    2017年5月,全球近100个国家共计7.5万台的计算机同时遭到了来自一款名为 wana Decrypt0r 2.0 的勒索软件的攻击,被感染电脑必须向黑客支付比特币来解锁电脑。中国各大校园网成重灾区,众多师生的文件被病毒加密,其中包括很多准毕业生的论文。

    3.jpg
    这就是著名的比特币勒索事件

    2018年,Facebook 8700多万用户数据泄露,这些数据被“剑桥分析”公司非法利用以发送政治广告。此次事件被视为 Facebook 有史以来遭遇的最大型数据泄露事件。

    4.jpg
    具体数据,如表格所示

    从徐玉玉案件到 Facebook 8700万用户数据被窃取,再到一晚上被薅走几千万的拼多多,黑灰产已经渗透到普通民众生活的方方面面。

    公开数据显示,全年国内有6.88亿的网民,因为垃圾短信、诈骗信息、个人信息泄露等造成经济损失估算达915亿元,且中国电信诈骗案每年以20%---30%的速度快速增长,网络黑灰产产业规模已达千亿
    5.jpg
    第42次《中国互联网络发展状况统计报告》中显示
    中国8亿网民中约有86%的人遭到信息泄露带来的威胁

    2.A.I.是黑灰产命中注定的利剑


    所有恶魔,命中注定都有一把击败他们的利剑。

    在对抗黑灰产的利剑还未问世之前,网络上曾一度充斥着大量教人如何辨别电信诈骗的帖子,里面将很多诈骗人员会提及的关键名词标出:例如转账、打钱等。

    这样普及的效果微乎其微,徐玉玉的悲剧依旧出现了。而在徐玉玉案件的同一年同一月,在全国大部分地区电话诈骗率增长了58%的同时,安徽省电话诈骗的发生次数却下降了60%。
    6.jpg
    2016年,安徽省和其它省份的电信诈骗人数数据一览表

    为什么能够做到这样?因为科大讯飞联合安徽省公安厅,给全省所有的电话里面做了一个AI监控系统,人工智能可以对通话内容进行分析,对那些诈骗性质行为自动作出提醒,而这个过程是完全自动化的。

    这一举措,为安徽省避免了5个亿以上的可能的损失。

    在AI保护数据安全这块,英国公司Darktrace就是其中一个很好的例子。

    Darktrace提供的保护数据安全的AI技术主要是从云端或者公司内部网络,甚至一个专门的工厂,通过防止外部攻击者找到进入公司电脑的路径的方法,来达到保护公司内部人员正常使用网络不被打扰的目的。

    除了数据安全,内容安全目前也成为了一大审核和保护的重点。

    2018年初短视频呈爆发式增长,成为了新的UGC载体。随着视频数量的剧增、对平台运营的要求也原来越高,对文字、图像、视频等内容的审核力度也在不断加大,因此也催生了一批运用“人工智能”进行内容审核,减少人力成本的服务。

    例如阿里绿网开发的AI鉴黄师,可以提供文字审核、语音审核和图像审核等多种服务,最大程度保证了未成年人的网络内容安全环境。

    7.jpg
    中国青少年网民数据已达总网民数据的20%,保护青少年安全用网,刻不容缓

    3.All in 安全 A.I.


    如果说,之前我们利用各种人工智能技术推出发现网络黑灰产的产品,那么从今年开始,将不再仅仅是发现,而是AI和网络黑灰产的正面对抗。

    前文所提到的英国公司Darktrace已经在“发现威胁”的基础上推出了能够“应对威胁”的产品,并且拥有了第一批使用者。

    人工智能的高速发展极大提高了识别安全威胁的准确度,移动安全机制的应急反应速度大幅提升,这些技术促进经济发展的同时也有效维护网络安全。

    当然,随着人工智能技术的发展,隐藏在网络另一端的黑灰产也在不断发展,针对AI技术的“数据投毒”让人工智能训练出来的数据被“污染”。
    8.jpg
    数据 “污染“ 图示

    比如通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故和人员伤亡。

    2019年被称为5G商用的元年,5G网络的基础建设趋于尾声,业内众多专家预测未来10年全球会有万亿计的智能设备连到互联网上,万物互联的时代,网络安全问题将变得至关重要,对黑灰产的打击防范也将在未来10年里呈白热化状态。

    毕竟,这是分分钟关系到人身安全的头等大事。民众需要的不仅仅是All in AI,而是All in 安全 AI。
    发表于 3 天前
    2#
    为什么我不能第一时间撸到1块的羊毛,只能撸到1分的羊毛。。。

    使用道具 举报 回复