RNN/CNN/Transformer

在咱们逐渐了解AI方面的东西之前,有些概念是值得咱们去检索探求一番的。

例如RNN、CNN、Transformer,这儿解释一下Transformer,Transformer是一种用于处理序列数据的神经网络架构,开端由Google在2017年提出。它主要使用于自然语言处理范畴,被广泛用于机器翻译、文本摘要、对话生成等任务。

其实这些概念关于咱们大多数从未触及过这方面的人来说,是晦涩难懂的。关于我自己也一样,至多也就知道有这么个概念罢了。即便我从各种百科中搜集这些解释来摆入文中,多数人不也只是一览而过,又能有什么深入的理解吗?关于我自己也无协助,所以文中抛出的某些名词,有爱好的话,也还请大家自己多多去了解,自己去搜集查阅这些材料的过程中,也会学到更多的东西。抛出这些词的意图便是希望能提及一些大的概念,让大家能更好的从哪些方面去认知理解,究竟,我也只是一个学习者,也没有到达诠释一切的能力。文末也有我自己查阅材料的一些网站途径等,也能够供大家参阅,这儿也只是分享一些我自己在学习过程中获取的信息。这些其实更像一个黑盒,如潘多拉魔盒一般奇幻,咱们能够利用它去做一些自己想要的工作,但是咱们关于它没有有足够多的认知。

从认知ChatGPT开端

人人都在说ChatGPT,那么什么是ChatGPT呢。我觉得维基百科的给出的榜首句话,就很简洁明了的给咱们介绍了它。

ChatGPT (Chat Generative Pre-trained Transformer) is an artificial-intelligence (AI) chatbot developed by OpenAI and launched in November 2022.

ChatGPT是由OpenAI开发的人工智能(AI)谈天机器人,于2022年11月推出。莫非不是么?使用过的人应该都知道,只需咱们在网页下方的一个输入框里输入一些自己想跟它说的东西,发送之后它就会回复咱们一些成果。这不就跟咱们平常使用QQ、微信等一系列的谈天软件和别人谈天是一样的么。只不过此刻咱们的对象是一个虚拟的机器罢了。

一起能够发现GPT中的T其实便是指代的Transformer。相同的还有谷歌的BERT。

ChatGPT的诞生

2022年11月30日,人工智能范畴或许也迎来了与网景导航者的面世同样重要的关键时刻。

旧金山人工智能公司OpenAI的首席执行官山姆阿尔特曼宣告了这个时刻的来临。OpenAI成立于2015年,得到了埃隆马斯克、彼得泰尔和其他PayPal帮成员以及LinkedIn联合创始人雷德霍夫曼等一众硅谷大佬的出资。11月30日,公司成立约7年后,阿尔特曼发推文称:“今日咱们发布了ChatGPT。欢迎点击这儿与它谈天。”任何人能够通过推文中的链接注册一个账号,开端与OpenAI的新谈天机器人免费谈天。曩昔十年,人工智能技术在商业范畴逐渐扩展使用,悄然改进了咱们日常使用的许多软件,但却并没有令非技术用户感到振奋。ChatGPT的横空出世改变了这一点。突然之间,人人都开端议论人工智能将会怎么推翻他们的工作、公司、学校和日子。两个月后月活泼用户数已达1亿,成为历史上用户数增长最快的消费者使用。

ChatGPT带来的AI热潮

自ChatGPT面世以来,全球范围内的企业和研讨机构积极开发各种类型的AI技术。

  • 微软的New Bing 接入ChatGPT

  • 百度的文心一言

  • 谷歌的谈天机器人Bard等等

这儿不得不提一下谷歌的灾祸级发布会了,不禁让我想起了退钱哥。看完谷歌的发布会,你或许会有种被诈骗的感觉,乃至想喊:三个字母,退钱!也难怪股价暴降,市值蒸腾7000亿。这样的Bard就要与ChatGPT竞争,单从发布会来看,还有点为时过早。有爱好的朋友能够去查找观看。也不得不说,微软100亿美元押宝ChatGPT显然是成功的。

比尔盖茨:The Age of AI has begun

2023.3.22,我在推特无意中刷到比尔盖茨发的一则推文,写到:人工智能的开展与微处理器、个人电脑、互联网和移动电话的诞生一样重要。它将改变人们工作、学习、游览、获得医疗保健以及互相交流的方法。下面则是一个他写的一篇文章的详细链接,文章名即为The Age of AI has begun。

人工智能的年代现已开端了。他在文中阐述了人工智能关于很多方面的影响。例如:健康、教育、生产力等。一起也谈及了人工智能的危险和问题。这儿就不过多赘述里边的内容有爱好的朋友能够点下面链接去看。

www.gatesnotes.com/The-Age-of-…

一封公开信: Pause Giant AI Experiments: An Open Letter

2023.3.29, 也是在推特上所见,一个名为Future of Life Institute的账户发文:We’re calling on AI labs to temporarily pause training powerful models! 咱们呼吁人工智能实验室暂时中止练习强壮的模型! 其下面是一个网页链接,标题便是Pause Giant AI Experiments: An Open Letter。

简单说一下里边的内容。“咱们呼吁一切人工智能实验室当即暂停至少6个月比照GPT-4更强壮的人工智能系统的练习。”开头榜首句便是这。然后标明AI或许存在危险,呼吁一切AI实验室暂停AI的练习。也不过多赘述,详细链接如下。

futureoflife.org/open-letter…

不过令人惊讶的是,签署者名单中,皆是一众大佬。并且还在不断增加人数。

目前签名的有,图灵奖得主Yoshua Bengio、Stability AI首席执行官Emad Mostaque、苹果联合创始人Steve Wozniak、spaceX的CEO伊隆马斯克,「人类简史」作者Yuval Noah Harari等等。不过事情的背面究竟是怎么,咱们也不得而知。

再看LaMDA /来谈Emergence

LaMDA事情此处不提及,感爱好的朋友自己查找吧。

从上面这封公开信,我又回想到LaMDA事情,是否咱们的技术开展现已能够猜测能够到达某种程度了呢?还是说现已无法预知了?个人猜测,不妄下定论。

Emergence。咱们能够理解为“涌现”。简而言之,便是为什么现在的人工智能会开展的这么敏捷,是量变产生质变么?还是说现已到达一个tipping point,那么未来的AI开展是否是归于可控范围内,也是一个未知数。

总结

不过,不管AI往后的开展会朝什么方向。咱们能够看到的是,它确实给咱们的日子,学习带来了许多不同。站在风口上的猪,风口站对了,猪也能够飞起来。谁不想成为下一个“飞猪”,可又有几人成为下一个“飞猪”。在空中飞的猪一定是研讨过风向,研讨过风口的。反之,不过是一头普通的猪罢了!

注:本博客旨在个人学习的记载备份,以及关于学习感悟、思考的分享交流,其中必定有许多不妥之处,欢迎大家留言、评论、私信等指明过错。若有侵权请联系删去,如需转载请注明出处,谢谢。

References 参阅材料

  1. en.wikipedia.org/wiki/ChatGP…

  2. www.youtube.com/watch?v=zNR…

  3. ai.googleblog.com/2017/08/tra…

  4. en.wikipedia.org/wiki/BERT_(…

  5. www.51cto.com/article/746…

  6. finance.sina.cn/usstock/mgg…

  7. www.crhcc.com/hydj/2023/3…

  8. news.marsbit.co/20230208092…

  9. m.jiemian.com/article/887…

  10. finance.sina.com.cn/blockchain/…

  11. www.eet-china.com/mp/a196597.…

  12. www.qbitai.com/2023/02/419…

  13. www.scimonth.com.tw/archives/58…

  14. www.preface.ai/blog/trend/…

  15. www.youtube.com/watch?v=1rm…

  16. cloud.tencent.com/developer/n…

  17. www.youtube.com/watch?v=z9k…

  18. www.gatesnotes.com/The-Age-of-…

  19. mp.weixin.qq.com/s/1AtPzUt0h…

  20. futureoflife.org/open-letter…

  21. baike.baidu.com/item/%E9%A3…