没错，GPT-3确实令人瞩目，可是没须要恐惊它。相反，我们应该操作这些AI技能，将加密钱币酿成史上最智能的资产。
GPT-3背后的奥秘
作为原生数字资产，加密钱币最适合回收量化计策。轮回神经网络（RNN）和卷积神经网络（CNN）等技能在量化投资规模大受接待，并且在暗码学技能中发挥了很好的浸染。就像在语言阐明方面那样，Transformer架构大概优于CNN和RNN，尤其是在将“留意力”会合到一个数据集的某些部门（譬喻，2020年3月的比特币崩盘），，以及处理惩罚海量生意业务（譬喻，区块链生意业务）方面。
在没有大型已标志数据集的环境下，图像造假对付简化图像分类模子的练习来说至关重要。已经有人实验将Transformer架构应用于金融时间序列数据集，但愿可以改造量化生意业务计策。
支持GPT-3模子的Transformer架构是传统的编码器-解码器架构，通过插入留意力块来提高效率。留意力块的浸染是完整查察全部的输入和当前输出，揣度相关性，从而优化最终输出的生成进程。
这与加密钱币有什么干系？想象一下，假如有人能按期生成虚假的新闻稿来影响小币种的价值，听起来是不是很可骇？可是这并不是GPT-3最主要的成果。
第一代Transformer架构聚焦于语言任务。可是部门公司最近已经颁发了将Transformer应用于图像分类的相关研究。有人或者认为此举只是在实验伪造图像。可是这一研究的意义远不止如此。
什么是GPT-3？
区块链安详咨询公司 曲速将来 暗示：已往几年来，新推出的文本生成器模子GPT-3在加密钱币社区引起了热议。一些人表达了对GPT-3的好奇心，另一些人却有些极度，声称加密钱币社区应该对此感想惊骇。
既然我们已经先容了Transformer架构和GPT-3的配景常识，不妨再来思考一下文章开头的问题：GPT-3真的倒霉于加密钱币吗？
去中心化的Transformer架构。今朝，人们在尽力将Transformer模子应用到SingularityNet等去中心化的AI架构中。此举将拓展Transformer模子的应用场景。迄今为止，GPT-3等Transformer模子都是大公司的特权。只有大公司的AI尝试室才有足够的数据和资源来构建并运行如此大局限的神经网络。去中心化AI为我们提供了另一种方案，可以在基于鼓励机制运行的去中心化网络中练习、执行并监控Transformer架构。
从观念上来说，留意力机制会调查输入序列，并在每个步调中抉择输入序列中较量重要的部门。譬喻，在呆板翻译场景中，留意力机制会聚焦于那些编码器“应该留意的”单词，以便执行翻译。
就像那些已经在去中心化基本设施中运行的神经网络架构那样，我们很快就能瞥见GPT-3之类的模子运行在去中心化AI平台上。
当初，包括15亿个参数的GPT-2模子震惊了全世界。短短一年之内，这一记载先是被微软的Turing-NLG冲破，又被包括1750亿个参数的GPT-3碾压。简而言之，就Transformer架构而言，大等于好。
GPT-3模子可以或许执行多项语言任务，譬喻，呆板翻译、答复问题、语言阐明以及文本生成。GPT-3生成的伪造文本甚至可以或许以假乱真，引起了新闻媒体的留意。
生意业务计策。显然，假如事实证明Transformer架构可应用于金融数据集，这类架构大概会对加密钱币的量化计策发生重大影响。总的来说，深度神经网络为量化生意业务开辟了新的规模。从线性回归和决定树等基本呆板进修模子来看，量化基金正在研究巨大的深度进修计策。
每当你瞥见一个Seq2Seq场景，你都应该将它与编码器-解码器架构接洽起来。编码器会捕捉输入序列的语境，并将它通报给解码器，由解码器生成输出序列。通过识别输入中应该“留意”的要害部门，留意力机制办理了传统神经网络架构的范围性问题。
本文内容由 曲速将来 (WarpFuture.com) 安详咨询公司整理编译，转载请注明。 曲速将来提供包罗主链安详、生意业务所安详、生意业务所钱包安详、DAPP开拓安详、智能合约开拓安详等相关区块链安详咨询处事。
由Transformer架构生成的模子可以颠末海量数据集的练习，并实现高效并行化。果不其然，在论文颁发后，各公司竞相构建超大模子来处理惩罚差异的语言任务。
GPT-3是在深度进修架构Transformer的基本上开拓的。Transformer架构的主要创新之处是“留意力机制”观念。留意力机制凡是用来办理Seq2Seq问题。所谓的Seq2Seq问题，指的就是将一个序列（单词、字母、数字）处理惩罚后，输出另一个序列的问题。这类问题常见于文本生成、呆板翻译和答复问题等语言智能场景。
想象一下从西班牙语到英语的呆板翻译场景。凡是来说，解码器会将西班牙语文本输入到一个名为“虚构语言”的中间暗示内，然后操作这其中间暗示将其翻译成英语。传统的深度进修架构需要编码器息争码器之间一连举办反馈，导致效率极其低下。
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
