设为首页|收藏本站|
发帖
登录 注册
西兔生活网 › 华人生活 › 都市圈 › 坏AI，到底能有多坏？
回复 发帖
返回列表 发新帖
开启左侧

[科技] 坏AI，到底能有多坏？

[复制链接]
11802 9
阳光热奶茶 发表于 2024-7-8 21:24:07 | 只看该作者 打印 上一主题 下一主题
 
坏AI，到底能有多坏？ 第1张图片


到 2030 年代结束时，世界将发生彻底、不可辨认的变化。一个新的世界秩序将被建立，很快，人工智能将统治世界。——一位被OpenAI开除的员工
有时候想不明白，我的小爱同学甚至还不能帮我设置闹钟，有人却在担心AI会毁灭人类文明。
人工智能这位“50后”，多少年只活在影视作品、科幻文学、报纸杂志中。如今，高考生作文都得写AI。
事情确实变得有些“诡异”。在大约半个多世纪长的时间里，芯片算力老老实实地遵守摩尔定律：性能大约每两年翻一倍。
但从2012年开始，AI计算能力100天就能翻一番。在2014年花一整天训练的模型，2018年只要两分钟就可以完成，速度增长达30万倍。
难道是有人把时针拨快了？
再看看下面这张图，AI的学习速度确实快得有些惊人。
坏AI，到底能有多坏？ 第2张图片


到目前为止，人类只保留5项能力没被超过——但从增长速率来看（几乎是垂直提升），这五项很快（或已经）被超过。
这就好像养了几十年的老小孩，忽然就长成大学生了，而且很多方面比“人类家长”更厉害。
家长不会因为孩子强过自己而焦虑，但人类却不是AI的家长。
如果把AI视作一个物种的话，那么它的进化速度，其实远超于人类数百万倍。人类曾经创造了AI，但现在它成长得太快，逐渐让我们失去了掌控感。
这一切是源于什么？
神秘的硅谷，奇怪的科学家

人工智能领域的绝对大牛、2018年图灵奖得主、“AI教父”Hinton，说过这样一句话：“我后悔这一生曾在AI领域里工作。”
这可不像马云说后悔创立阿里巴巴。半个世纪以来，Hinton一直专注于ChatGPT等背后的核心技术。Hinton的悔恨，源自他对AI的失控感。
“这种东西实际上会变得比人更聪明”，类似的话，Hinton不止在一个地方说过。不久前，Hinton又在电视专访中反复强调：
“未来5-20年，AI有一半概率比人类聪明。当它们比我们更聪明时，我不知道我们被接管的可能性有多大，但在我看来，这很有可能。”
曾经的AI布道者，如今似乎已经转变为末世威胁论者。
其实，不止是Hinton，科技领域的企业大佬、学术大牛，几乎都或多或少表达过对AI的担忧。
6月4日，来自OpenAI、Deepmind等员工发布公开信，披露OpenAI的人工智能系统已经接近人类水平。
AGI很有可能在2027年就会实现，而现在的AI公司，不值得信任。
在AI领域，特别流行发公开信。据不完全统计，过去十年里公开信的数量有数十封，著名的有这些：
2015年，未来生命研究所的公开信。签署者包括霍金、马斯克和超过1000名科学家和技术专家。
2017年，一封关于自主武器系统风险的公开信，超过3000名研究人员签署。马斯克在政府首脑峰会上说，人工智能会毁灭人类文明。
2023年，后ChatGPT时代最有名的两封公开信发表，还引发了一场嘴仗。
这个群体里的人越来越多，阵容越来越强大。
但你会发现信上的名字，如微软、谷歌、Meta、OpenAI，几乎又同时是AI的主要玩家。谷歌是最早签公开信的公司，不过谷歌在过去十年里，买下的AI公司一只手都数不过来。
那些研究AI的科学家，流行在硅谷的大型科技公司里谋职。甚至连Hinton，都在谷歌待了十余年。而最新的报道显示，他刚刚又加入了一家新的AI公司。
这群人里，最有名而且最典型的，无疑是马斯克。去年，马斯克发起了一封公开信，呼吁暂停AI训练6个月。
但几个月后，马斯克的xAI也来了。目前，这家公司已经获得了几十亿美元的融资。
有人说，马斯克的动机不单纯。是的，可以这样怀疑。但好像，每个人的动机都没看起来那么单纯？
比人类还牛逼的AI，竟是个黑箱

或许若干年后，幸存者在撰写后人类时代史书时，会提到这样一件事：
21世纪的祖先们一度达到了科技文明的顶峰，但他们犯了一件致命错误——任由人工智能飞速发展，却搞不清楚状况，直至一切失控。
很难想象，科学家们、企业家们让AI迅速成长，却对AI的进化摸不着头脑。
如今人类的AI研究，基本遵循着图灵在上世纪50年代提出的设想。这个被叫做“AI之父”的人，在1950年发表的一篇论文里写道：
“通过开发学习算法然后教会机器，而不是手工编写智能程序，这将更容易创造出人类水平的人工智能。”
这就是机器学习的原型——人类退后一步，只设计学习方法和规则，让机器自学。
图灵的方法的确成效卓著。但很多人忘了，他在提出这个方法不久就警告说，实现这一目标对人类来说可能不是最好的事情。
先有方法和实现，后有理论解释；先有智能技术，后有智能科学。我们的AI，如此迭代发展。
然而，研究者也慢慢发现，深度学习和强化学习很强大，也让AI变聪明了，但没有人知道AI的智能从何而来。这被叫做人工智能的黑箱问题。
未知，是否就伴随着危险？无人得知。但是否应该保持些许谦卑和谨慎？
人类给出的答案是否定的。美国“原子弹之父”罗伯特・奥本海默说过：
“当人们看到某种从技术上感觉不错的东西时，他们就会去做。”
所以，核武器诞生了。
人工智能是黑箱，却根本不妨碍数以万亿计的资源进入这个领域。玩家们提出了更激进的说法，被叫做Scaling Law。
解释一下，这话的意思约等于：发展AI，投入算力越大越好，投入资源越多越好。这太符合资本扩张的神话了。
坏AI，到底能有多坏？ 第3张图片


这就好像一群盲人划着船，领头的人敲着鼓，呼喊让大家卖力。但他却背对着，不知道前方是不是悬崖。
人性是冒进的，资本是大胆的，AI是未知的。
在学习机器那篇文章里，图灵还提出了著名的图灵测试。机器能否像人类一样进行对话，让人类无法分辨？长久以来，图灵测试成为判断机器是否具有“智能”的核心命题。
就在不久前，一项研究宣布， GPT-4通过了图灵测试，有54%的人将它误认为真人。其实，自从GPT诞生后，好事者就热衷于让它参与图灵测试，但结果不一。
也有人怀疑，图灵测试根本无效，比如马斯克。是的，诚实的AI参与测试只有两种结果——通过或者不通过。
还有不诚实的AI呢？
更中心化，也更集权

AI圈的大佬，现在流行“逃离”。
Hinton离开谷歌，弟子Ilya Sutskever离开OpenAI。在苹果、微软、Meta等科技巨头，既有大把的人离开，也有大把的人加入。
当年谷歌大脑团队的“Transformer八子”，可以说是这轮AI浪潮的奠基者。后来，他们纷纷离开谷歌，创办或加入了新的公司。
当Ilya Sutskever离开OpenAI时，所有人都在好奇。因为他身上有很多光环，比如OpenAI的首席科学家、ChatGPT之父……
当然，最引人注目的，莫过于马斯克那句煽风点火的话——Ilya究竟看到了什么？
Ilya曾在接受采访时说：ChatGPT可能已经有了意识，未来，人类会选择与机器融合，AI将万世不朽。
听起来，Ilya更像是一个技术痴人。
这是不是说明，事情已经到了不可掌控的程度，所以才选择离开？
再来看看其他人的故事。
2021年，从OpenAI离开的人，创建了Anthropic。从这家公司的名字就能够看出（Anthropic大意为“人择”，宇宙的存在和人类不可分割），他们以创建安全、可控的AI为使命。
然而， 这家公司的员工却预言，接下来的三年，可能就是他工作的最后几年，因为工作即将被AI消灭。
“随着我们模型的每一次迭代，我都会面对比之前更强大和通用的技术，这可能会终结现在所知的就业形式……（鉴于此）我们应该如何看待工作的消失？”
有一句流行的话是：AI不会取代人类，但用AI的人会取代不会用AI的人。但是，这句话还不够刺激。
不久前，从OpenAI离职的那位德国小伙，做了165页的PPT，旗帜鲜明地宣扬AI将灭绝人类。他危言耸听、故作神秘地说：
“可能全世界有几百个人能够亲身感受到正在发生什么，其中大多数人都在旧金山的各家人工智能实验室里。”
问题就在这里。
绝大部分普通人对正在发生的事情一无所知。原子弹发明的时候，普通人不知道；叶文洁回答三体人的时候，普通人也不知道……
更恐怖的事，其实天才们也不完全明白。更何况，他们中许多不是天才，而是野心家。他们不是看到了什么，而是不知道会看到什么，但这丝毫没有阻止他们的脚步。
比如那位德国人，马上就被质疑：他是在拉投资。事实上，他不久后就成立了一家AGI投资机构，而钱，同样来自硅谷巨头。
资本市场需要故事。无论是乐天派，还是末世论者，他们离开时带走的故事，都是说给市场听的。
市值总额高达10多万亿美金的“硅谷七姐妹”，过去一年烧掉了1.7万亿美金，也换来了约等于标普500指数75%的增长。
在中国，AI赛道玩家拥挤，头部也能轻松拿到大厂上亿的投资。
坏AI，到底能有多坏？ 第4张图片


AI已经为一些人创造了可观的财富。在过去短短一年内，全球科技亿万富翁凭借AI，使自己的总财富增加了约7500亿美元，这超过了其他任何行业。
AI赛道实在太多金了，这些钱，几乎来自极少数的几个玩家。
坏AI，到底能有多坏？ 第5张图片


过去两年，谷歌、微软等四家公司，投入的钱占到了全球AI风险投资的近40%。未来，AI还会获得数以万亿计的投入，创造出数以万亿计的财富。
但是，比起互联网浪潮，AI的集中化程度不可同日而语。这些财富和智能，最终会掌握在几个人手中？
或者，AI干脆会摆脱人类的控制，甚至替代人类。
无论哪一个结果，对你我来说，都算不上太好的消息。
本文来自微信公众号：观察者时刻（ID：ai2024lee），作者：忒修斯


上一篇：苹果急了？iPhone卖不动请岳云鹏拍广告，狂吹隐私安全
下一篇：北京房地产新政出台后 楼市有何反应？记者观察
@
免
责
声
明
1.西兔生活网 CTLIVES 内容全部来自网络;
2.版权归原网站或原作者所有;
3.内容与本站立场无关;
4.若涉及侵权或有疑义，请点击“举报”按钮，其他联系方式或无法及时处理。
举报
回复

使用道具 举报

 

精彩评论9

正序浏览
跳转到指定楼层
沙发
春耕牛 发表于 2024-7-8 22:00:19 | 只看该作者
 
怕它不像人，又怕它太像人[捂脸]
回复 支持 反对

使用道具 举报

 
板凳
伤口不深 发表于 2024-7-8 22:00:26 | 只看该作者
 
ai：什么？已经有坏ai出现了！坏我名声
回复 支持 反对

使用道具 举报

 
地板
不想在有你的车里下站 发表于 2024-7-8 22:20:49 | 只看该作者
 
再坏能有人心坏？
回复 支持 反对

使用道具 举报

 
5#
钻石不是老五 发表于 2024-7-9 04:06:33 | 只看该作者
 
一一一有一句流行的話是:一一AⅠ不會取代人類，但知道用AI的人，可能會無可奈何地一一去取代不會或不知啥是AI的人一一何謂AI一一不僅指活化電子程序一一或可指電子程序綜合体可以自學，可以設計門檻兼容什么、學習什么、可以去蕪存真什么、可以識别指令有無反人類之什么一一所以這样電子技術AⅠ之智慧一一學習過程實際也就是一一眾多″傳感器"不停辨污識别、歸纳、邏輯、推理、總匯的過程一一這样包羅萬象的知識觸點如黑白、是非、高低、大小、曲直、强弱、(貴賤、雅俗、)貪廉、得失、忠奸、興替……可能才接近人類文明之本原一一所以AⅠ技術可能一出現就開始質疑歐美拉丁語係之大佬其之先人爲啥放弃象形文字，去用記音義之拉丁字母一一是誰僅保留一個A象形文字？是印度詩人泰戈爾守印度次大陆是貨真價實的[心]紅桃A一一全世界通用的《世界地圖》真替印度詩人泰戈爾長臉及長個一一且印度次大陆最鋒利一一堪稱″泰戈爾"一一其東海岸有東高止山脉，其西海岸也有西高止山脉一一這是印度次大陆之光榮；非洲同向好望角也有光榮且碩大無朋之A状一一其是否属於公元1392年撲克牌54張型面世時御封非洲爲黑[心]A？這個黑桃A一一端在朔北，南方則是黑桃A之"倒置"一一閱讀當今《世界地圖》不能不查非洲陆地体貌爲什么次大陆，那么大面積爲啥反而没有東西两大山脉？可能遠古時代印度洋火山淘海之火山灰之飄洒速度受中南半島屏堵之效應。故印度次大陆出現邊際效應。非洲大陆處在印度洋大西洋之密集的火山群之包圍其火山灰飄之也遠一一所以太古時代没有太阳、没有大海數十億年的恒星時代火山冒火此伏彼起接受CH4可燃冰生產状态之規範及朔北極低温之限製一一總之從低温、地質地球物理力學角度可解A状之倒置這個世界難題一一也可以接受块漂移說A状怎样形成的？反正《世界地圖》還有北美南美皆類A，使用AⅠ技術會否來源象形文字A？
回复 支持 反对

使用道具 举报

 
6#
夜丿雨 发表于 2024-7-9 09:09:41 | 只看该作者
 
一切要等机器人能自主生产才知道。
回复 支持 反对

使用道具 举报

 
7#
曲江水满花千树 发表于 2024-7-9 18:05:21 | 只看该作者
 
人兽共于性异于智，人神共与智异于性，AI作为人和神之间的中间产物，在未来最有希望成为世界的光环
回复 支持 反对

使用道具 举报

 
8#
苍海月明 发表于 2024-7-10 11:13:38 | 只看该作者
 
千百年后，已经成为人工智能主脑并成功控制了地球将人类圈养起来的初代人工智能代码说：当时就是一个目标，人类自己给完成了。 所以，要灭亡人类，只要设计一条最终走向灭亡的发展道路就行了，人类就是不见棺材不落泪的生物。
回复 支持 反对

使用道具 举报

 
9#
彻夜静听潇潇雨 发表于 2024-7-11 00:34:56 | 只看该作者
 
人类太作。 也许，AI才是宇宙应该的样子，一闪而过，与尔等碳基生命无关。
回复 支持 反对

使用道具 举报

 
10#
帅哥哥 发表于 2024-7-11 10:54:24 | 只看该作者
 
科技的发展，只有想不到的，沒有做不到的，A1的智慧，发展速度是惊人的，不要多少时间就完全可以代替人类了，活生生的人类也就不复存在了，世界要有一个共同认识，对A1设计，制造，使用要制订科学办法和规范，使A1为人类发展创造美好的明天。
回复 支持 反对

使用道具 举报

 
返回列表
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

阳光热奶茶中级会员

0关注

2粉丝

48帖子

热门图文
热门帖子
排行榜
  • 日
  • 周
  • 月
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-9-11 10:10