ai是黑客还是红客_AI被黑客滥用

文章栏目:

• 1、人工智能人脸识别并不是百分百安全，该如何扭转目前人脸识别被滥用的现状?
• 2、人工智能真的会危害人类吗？
• 3、人工智能十宗罪
• 4、AI产业发展面临的三大难题有什么？
• 5、真人认证视频百元一套，能通过APP验证！该如何避免AI被滥加利用？
• 6、智能家居遭黑客入侵突然说话，对AI类发展有什么影响？

人工智能人脸识别并不是百分百安全，该如何扭转目前人脸识别被滥用的现状?

人脸识别技术的滥用已经相当普遍。去年有媒体报道，部分客户带头盔看房是为了防止被精明的房地产开发商的隐藏人脸识别系统锁定，无法通过不同渠道获得更大的折扣。当时很多人都把这当成笑话。现在大家都知道了，不知不觉中，他们的脸已经被“偷”了，但是在315党的影响下，这个圈子里所有人都知道而看不到的“潜规则”被摆了出来。人脸识别一直被认为是一种基于生物特征的高安全性身份认证方法。而且由于在信息采集、分析判断过程中对用户的干扰相对较小，需要用户做特殊的动作或停顿，所以这种便利性受到青睐。正是因为这些特点，当刷脸变成“偷脸”的时候，让人觉得很吃力——因为用户的生物特征的唯一性和安全性，经常被作为身份认证的最高安全等级选项，所以这种生物特征被无限制的收集和滥用，背后的安全隐患是巨大的。为了扭转人脸识别的滥用，我们需要探索这种情况的原因。事实上，人脸识别技术的快速发展路径完全符合一种典型新技术早期发展的曲线。这一技术市场的起源可以追溯到2017年推出的苹果iPhone X，它将用户认证从触控ID指纹识别升级为Face ID人脸识别，也将这一应用于专业领域的传统技术带入了消费产品，经受住了市场的考验。从此，人脸识别市场的后来者蜂拥而至，与AI这一热门概念的结合，使其市场一路上扬。根据《2019年计算机视觉人脸识别市场研究报告》，中国计算机视觉人脸识别市场将从2018年的151.7亿元快速攀升至2021年的530亿元，年均复合增长率为53%。

人工智能真的会危害人类吗？

1956年，“人工智能”这一学术术语首次被提出，“人工智能”也正式成为了一门新兴学科。但在随后的几十年里，”人工智能“给我们的印象更多地是在实验室以及电影里。但在2013年前后，以谷歌(微博)、微软、Facebook为代表的科技巨头接连入局人工智能领域，再加上鸿海等厂商计划利用机器人工作，“人工智能“逐渐走进了我们的生活。

面对科技界一股前所未有的”人工智能大潮“，马斯克、盖茨等科技大佬坐不住了。2014年8月，马斯克在Twitter发布一条状态：“Bostrom撰写的《超级智能》一书值得一读，我们必须对人工智能超级谨慎，它的潜力可能比核弹还危险。” 比尔•盖茨 也在最近的一次活动上表示，机器将取代人类从事各种工作，如果我们能够处理得好，它们应该能发挥积极作用。可是数十年后，人工智能将发展到足以令人担忧的程度。

人工智能的隐患：或冲击现有社会体系

2月初，致力于“降低人类面临的现存风险”的生命未来研究所（Future of Life Institute）的数百名顶尖科学家在一封公开信中签名，公开信呼吁科技界在推动人工智能发展的同时，彻底审视人工智能的发展将对人类社会产生怎样的影响。

这封信的作者承认，人工智能在语音识别、图像分类、自动驾驶汽车、机器翻译和答疑系统等领域取得了显著成功，并认为这些研究有助于消灭疾病和贫困。但他们坚持认为，“人工智能系统必须做我们希望它做的事情”，科学界应确立 “有助于最大限度提高人工智能社会效益”的研究目标。

公开信强调，未来的人工智能可能在计算机安全、经济、法律和哲学等领域影响社会，但就是这种无处不在的潜在性，可以引发多方面的危机。例如，科学家们认为，如果未来经济的某些部分变得自动化，工人以及工人工资会受到很大影响，人工智能专家们不得不要重视。人工智能应该正视下列问题：致命的自动化武器是否符合人道主义法？ 当人工智能系统从监控摄像头、电话线路和电子邮件中收集数据时，如何避免侵犯隐私权？

来自英国牛津大学的一群学者去年在一篇博客文章中写道：“当一台机器发生错误，其错误方式可能比人的失误更有戏剧性，可能会带来更多不可预知的结果。简单算法在很大程度上是可预测的，但在不寻常的情况下，它可能作出离奇的决定。”

与这些比较现实的问题相比，知名科学家霍金想的更为长远。霍金在接受BBC采访时表示，如果技术具有与人类类似的能力，“它将脱离控制，并以加速度重新设计自己。更可怕的是，由于生物学意义上的限制，人类无法赶上技术的发展速度。“霍金对人类的未来表示担忧：“人类由于受到缓慢的生物进化的限制，无法与机器竞争，并会被取代。全人工智能的发展可能导致人类的终结。”

从这些科学家的言论中，我们可以看到，科技界、科学界对人工智能的担忧主要来自两方面：一方面是人工智能对人类工作、生活方式的改变，可能影响到现有的法律体系、道德标准以及利益分配的模式等等，而人类做出改变的速度未必能跟的上人工智能的发展速度，这就会对社会现有的体制造成冲击，从而引发混乱；另一方面是，人工智能让人类越来越缺乏思考，而其自身则有可能越来越聪明，从而威胁到人类的生存。

预言成真？“毁灭论“有些危言耸听

对于马斯克、盖茨、霍金等人的言论，谷歌董事长施密特率先发起反驳。施密特的身份很特殊，作为谷歌的董事长，他曾亲身参与许多世界上最复杂的人工智能系统的研发，从自动驾驶汽车到谷歌的预测性搜索引擎等，谷歌去年甚至还推出了自己的内部机器人实验室。施密特认为，所有对机器将抢走人类工作、占领世界的恐惧都毫无根据，并且希望人们能够意识到：机器人会成为我们的朋友。

施密特说：“对于人工智能的担忧，都是正常的。但是回顾历史你会发现，这些绝对是错误的。我们只是希望能通过更多机械化的方式，能让我们穿上更好的衣服，而且历史的经验已经证明，过去的经济繁荣时期，大多数是因为采用新技术而引发的。”

IBM全球副总裁王阳也曾对腾讯科技表示，当科技取得突飞猛进的成果时，总是让人感到害怕，但真正重要的是掌握技术的人。“总是有邪恶的人用新技术来捣蛋”，技术的发展是势不可挡的，比如在好莱坞大片中，经常可以看到邪恶势力滥用高科技技术，但人类必须尽快掌握这些以抵抗非正义者的侵略。总之，对于新技术的发展，难免会存在争论，但科学的进步总归是为人类带来更美好的未来。“

托尼•科恩是英国利兹大学自动推理教授。他说，完全的人工智能“还有很长的一段路要走，从现在发展的速度来看，我认为仍然需要几近上百年。”科恩认为，说尽管识别程序和语音识别取得了长足进步，在开放混乱的环境里，机器人表现很差，人工智能最终面临的最大障碍是“机器毕竟是机器“。

从多数的人观点来看，“人工智能毁灭人类”的论断似乎有些夸张，现有的科学技术只能让机器从事一些较为基础的事情，例如生产线上的一些固定动作等等，甚至连无人驾驶汽车上的智能系统都并不完善，更谈不上人工智能具有思维、情感，能够对人类的生存造成威胁。但是有一点却不能忽视，随着科学技术的进步，自动化的人工智能会越来越多地出现在我们的工作、生活，机器代替人类工作很有可能在不远的将来成为现实。

无人驾驶汽车算是最接近我们的一种人工智能，但除了技术因素外，它还面临很多挑战。例如，谷歌无人驾驶汽车出了车祸，造成了严重的后果，是车主、谷歌，还是驱动汽车的算法、感应器以及所有控制系统来负责交通事故？很遗憾，现有的法律系统未能跟上现代社会、企业或机器人发展的步伐，根本给不出明确的答案。

我们还应该想到，当机器人让大批工人失业时，我们该怎么办？当机器人误操作引发事故，现有法律如何厘清责任？当黑客借助人工智能犯罪时，我们又该如何防范？这些都应该是我们现在需要正视的问题。

人工智能十宗罪

人工智能十宗罪

人工智能（AI）已经成为科学前沿最热点的研究领域，它构成许多光怪陆离的科幻故事，人们醉心其中。

然而，一些著名科学家和科技先驱，却认为人工智能的终极影响非常不好，将给人类带来十大危害。

No.10 致人大量失业

近年来，机器代替人，已成事实。大到汽车制造，小至自助服务终端，都有这种趋势。

当机器配上人工智能，它就能自动更新，人类被代替的趋势，愈演愈烈。这将造成失业工人大量涌现，只有少数人从中受益，比如智能机器的制造者、使用者和升级者。

No.9 陷入道德窘境

如果人工智能控制一辆汽车，载着几名乘客，在公路上行驶。突然发现路上有一麻袋垃圾，智能汽车会怎么办？它会转弯避开垃圾，撞向旁边造成车祸而伤人呢？还是会径直撞向垃圾？我们都希望是后者。

但是，假如路上的不是一麻袋垃圾，而是一只病狗，或者一个婴儿呢？智能汽车会认为一只动物不值得去救，或者一个婴儿远不及几个乘客的生命宝贵，而直接撞上去吗？

如果人开车，马上就能做出正确决定，但汽车自动驾驶的话，估计会酿成悲剧。不管机器有多智能，它和人始终有差距，它做不出道德判断！

No.8 方便黑客入侵

未来的冰箱、烤箱、电灯、汽车等，日常用品都将联网。方便我们自己，同样也方便了黑客。

Siri是苹果iOS系统的智能语音助手。未来，它将浓缩进一个小盒子，接入网络，全天候工作，自动更新，自动记录，保存你所有信息。Siri一旦被黑客攻取，后果非常严重。

由人工智能储存保护个人信息，你能放宽心吗？

No.7 差错不曾减少

最初，人类以为机器按事先编好的程序工作，效率提升，不会出差错。

实际上，机器频频出错，由此带来的烦恼不胜枚举。它误听语音指令，它无动于衷，它错误识别命令，它反应过激，等等。这与机器带来的好处几乎抵消。

更可气的，明明出了差错，应当立即停止，但机器仍在运行，甚至继续执行下一步操作！因为它根本意识不到出了差错，它在执行程序而已。只要事先编好的程序不中断，机器就不会停止，无论有没有出差错。

No.6 差错更难修正

人犯错了，自己能意识到，能立即改正。“知错能改，善莫大焉。”

机器出错，自己意识不到，相反，需要人找到出错的根源。重新检查程序，浏览代码，确定根源，然后编写补丁程序，再检验补丁，更新补丁，有时需要补丁的补丁，最后甚至导致程序整体升级。

两相比较，孰易孰难？高下立判！对人而言，只需一句告诫：“不要再犯错，因为……”对机器而言，修正差错似乎繁琐到令人厌烦，很不值得。

No.5 反仆为主

机器是帮助人的，智能机器对人的帮助应该更大，可实际上呢？

假如你家里有位机器人，它储存你的个人信息，很了解你。你喜欢啤酒、披萨、冰淇淋，在网上订外卖。但机器人觉得这些食物不健康，为你着想，就在网上私自更改菜单，改成了胡萝卜、生菜、鳕鱼肝油。

再假如你皮肤过敏，怕晒太阳。机器人在网上获悉天气预报，它觉得晴天紫外线强烈，不适合你出门。为你着想，它把你锁在家里，坚决不开门（门及家里各种设备都是联网的）。你无法上班，怎么交差？假如你的上司也是机器人，你又怎么解释？

No.4 致人懒惰退化

制造机器人，就是为了帮助人类，使人类更轻松惬意、繁荣兴盛。比如，生活中机器人随时提醒，什么时间吃药，喝酒到什么程度刚刚好；机器人还可以洒扫庭除、烧水做饭。人类要么悠闲逛街，要么一心搞研发，其他什么都不用做。

实际上恰恰相反。人类不是更悠闲，而是更懒惰，甚至退化。机器人承担一切家务，打扫拾掇，买米买肉，煮饭烧菜等等。人类则呆在家里不出门，蜷在沙发看电视，窝在床上玩手机。

如今，年轻一代参加户外活动越来越少，他们通过手机和网络相互沟通。下一步，他们就呆在家里，窝在床上，蜷在沙发，动动嘴唇发发指令，智能机器包办一切，而我们越来越懒，身体机能越来越退化。

No.3 反叛终结人类

在美国科幻大片《终结者》里，人工智能觉醒，发动核战，操控机器，于是各种用途各种形状的机器人、销毁机器人的钢铁溶池、无所不在的天网等，有条不紊地运行；人类处境非常不妙。

人工智能配上武器，后果将非常严重。今天，给机器人装上枪炮，相当于给人类提前掘了坟墓，奏了死亡之曲，直到将来有一天，机器智能觉醒。

战场上，机器人减少人类伤亡，但是，我们不能保证机器人的枪口永远朝外。人类制造机器人，机器人学会杀人，这应了《侏罗纪公园》的名言：“生命会自己找出路。”

No.2 替代主宰人类

常常这样听说：机器人将占领地球，屠杀、奴役人类，而人类不得已逃到地下求生，暗无天日。如同《黑客帝国》，机器主宰地球，人类要么沉浸于无知却美好的虚拟世界，要么拼杀在磨难而残酷的现实世界。

然而，如果人工智能懂得进化，学习人类更多特性，使自己更像人，会怎么样？

机器人懂得感情，有了焦虑、后悔、沮丧、嘲讽、爱情、厌烦、猥亵、快乐等等情感，与人类又有何异？在地球上，这些机器人将居于主导地位，替代主宰人类。

科幻世界里，《2001太空漫游》的哈尔，能力出众，精通唇语，妄图控制人类；《银河系漫游指南》的马文患抑郁症，又是偏执狂，极其唠叨；《飞出个未来》的班德，嗜酒如命，自私自利，脾气暴躁。这种机器人越来越多，人类立足之地将会越来越少。

No.1 灭亡人类

世界被机器人统治，人类被灭亡，末日来临——这是人工智能带给人类的最大灾难。

灭亡人类，只因为机器人把人类视为自己进化路上的唯一障碍。又或许，机器人被植入了“保护地球”的程序，它遵命而行，只不过把人类当成了地球的最大威胁。

不管什么原因，至少结果都一样——人类被消灭了，而人类也不可能知道原因了。但是，唯一知道的是，这全部由人类自己的错误造成。

人类当警醒，否则，将来可能只剩下灵魂在悲泣：“早知如此，何必当初？！”

本文源自大科技*百科新说2016年第5期文章?

AI产业发展面临的三大难题有什么？

1、AI商业化能力有待证明

AI创业公司最有名的当属“CV四兽”，即专注于机器视觉技术服务的四大独角兽公司：商汤、旷视、依图与云从。2020年旷视科技冲击港股IPO未果，3月12日再度冲刺科创板;此前不久依图与语音AI企业云知声IPO折戟，多家AI公司上市遇阻，核心原因在于商业化能力有待证明。

2、AI人才荒依然有待缓解

前些年AI快速爆发，导致AI人才一度供不应求，企业年薪百万招聘AI专业大学毕业生、高价挖角高校AI专家的新闻不少。后来，国家重视AI教育、高校开设AI专业、产学研共同培育AI人才，AI人才荒得到一定程度解决，仅仅是百度就宣称自己已给行业培养100万AI人才;优必选科技则宣称在全球40多个国家，有约150万名学生通过优必选科技学习人工智能。

然而，AI人才供给依然跟不上AI产业化进程，新十年AI人才依然供不应求。

高端AI人才依然稀缺，根据美国保森基金会旗下智库的统计显示，截至2019年底，全球顶尖AI人才中的近60%定居美国，在中国接受本科教育的顶尖AI人才占比最高，达到29%，就是说，很多中国AI人才出国深造后留在了美国工作，导致中国本土高端AI人才匮乏。中国是AI大国，但领英大数据却显示，中国顶级人工智能人才仅排第六名。

细分领域AI人才同样短缺，比如服务机器人领域，AI人才荒更严峻，因为这是一个复杂系统，牵涉到多学科，厂商需求大量复合型技术人才、市场人才以及产品人才;应用场景则需要懂服务机器人和人工智能的人才。然而，复合型研发人才和应用人才太少，直接制约了产品研发和行业应用。

3、AI伦理问题变成燃眉之急

类似于AI换脸、“基于人脸识别的教室监控”这样的AI应用出现，让人们意识到，AI技术爆发，人类并未完全准备好。

任何技术都是双刃剑，AI也不例外。AI技术会给网络欺诈提供便利，让“造假”变得更加容易，且难以辨别;AI技术会让很多人失业，尤其是重复性强的工作，比如收银、客服、监测、软件测试工程师;AI算法是被人训练出来的，人的偏见会被AI继承，比如性别歧视、种族歧视、地域歧视;AI技术被黑客掌握，黑客的攻击手段会全面升级。

随着服务机器人、无人车等看得见、摸得着的AI应用爆发，AI伦理变得更重要。服务机器人在服务人类时，可能会跟人或者环境发生冲突/冲撞，责任该如何划分?无人车在马路上出现事故，责任又该如何划分?很多问题都有待解决。我们不能因噎废食限制AI发展，唯有AI伦理与法规双管齐下。

真人认证视频百元一套，能通过APP验证！该如何避免AI被滥加利用？

首先是相互提示，共同预防。亲戚朋友间要互相提示，相互宣传，因中老年人被骗较多，青年人要及时做好家中老人的宣传防范工作，提醒、告诫老年人接到电话、收到短信，只要是不认识、不熟悉的人和事，均不要理睬，以免被诱被骗。

“其次是拒绝诱惑，民众应当避免占便宜心理，警惕陌生人提供的好处；再次是谨慎处理金钱交易，无法确认对方身份时，拒绝交易；最后是保护网络账号及密码、手机号、身份证、家庭住址、亲属关系等个人敏感信息，不随意提供上述敏感信息。

智能家居遭黑客入侵突然说话，对AI类发展有什么影响？

小编觉得这个对Al类发展影响很大，人们从心理上会有一定的抵触心理，这对Al的发展和应用是不利于推广，其次智能家居遭黑客入侵突然说话本来就是一件很恐怖的事，那么研发公司在对Al的研究上要更加的安全、可靠才能得到人们的认可，这个在现阶段，还没有突破。

面对人工智能，我们依旧充满了好奇，随着AI智能的迅速发展，智能家居已经渐渐深入我们的生活，帮助人们实现智能化的居住环境，让生活更便捷。可是，在近期，美国某户家庭的智能家居遭黑客入侵，安装的智能摄像头突然说话引顾客担忧。

“人工智能未来的发展会威胁到人类的生存，这不是杞人忧天，确实会有很大的风险，虽说不是一定会发生，但是有很大的概率会发生。”在谭晓生看来，人类不会被灭亡，不管人工智能如何进化，总会有漏洞，黑客们恰恰会在极端的情况下找到一种方法把这个系统完全摧毁。

事实上，人们的担忧并非空穴来风。人工智能作恶的事件早在前两年就初见端倪，比如职场偏见、政治操纵、种族歧视等。此前，德国也曾发生人工智能机器人把管理人员杀死在流水线的事件。

小编觉得AI研发首先考虑道德约束，在人类不可预见其后果的情况下，研发应当慎重。同时，还需从法律上进行规制，比如联合建立国际秩序，就像原子弹一样，不能任其无限制地发展。