目录

@[TOC]

一、GPT4来了！

今天是2023年3月14日，是非同凡响的一天，是迄今为止最强壮的多模态模型GPT4发布的一天！据官方介绍，它的输入可所以文字（上限2.5万字），还可所以图画。更多具体介绍，请见下文：

OpenAI老板Sam Altman在推特上发文称：

GPT-4是迄今为止咱们最强壮的模型

We’ve created GPT-4, the latest milestone in OpenAI’s effort in scaling up deep learning. GPT-4 is a large multimodal model (accepting image and text inputs, emitting text outputs) that, while less capable than humans in many real-world scenarios, exhibits human-level performance on various professional and academic benchmarks.

二、什么是多模态？

如此火的GPT-4是源于支撑多模态，那究竟什么是多模态呢？

• 什么是模态? 模态是一种社会性、文化性的资源，是物质媒体经过时刻塑造而构成的含义潜势。 从社会符号学的角度上对模态的认知可所以声音、文字和图画等。
• 人类经过眼睛、耳朵、触觉等各种感觉器官接触国际，每种信息的来源或形式都能够称之为模态。一同，模态也可所以与人类经过本身的感觉器官从外部得到的信息，比方说嗅觉、视觉、听觉等。 跟着人工智能领域机器学习、深度学习的不断发展，研讨内容的不断添加和更新，逐步也赋予了模态新的界说，即机器对包含数据表征形式、数据收集形式、数据特征主体这3个外部信息的感知形式或信息信道。
• 多模态机器学习研讨包含不同模态数据的机器学习问题，一般的模态有视觉、文字和声音。它们通常来自不同的传感器，数据的构成办法和内部结构有很大的不同。例如，图画是存在于自然界中的接连空间，文本是依赖于人类常识、语法规矩而组织起来的离散空间，因而多模数据的异质性提出了怎么学习多模之间的关联性和互补性的问题。

三、GPT-4有多强？更多玩法等你来看：

• 多模态大模型
• 各种专业和学术考试中表现出了与人类水平相当的功能
• GPT-4的练习安稳性是史无前例的
• OpenAI在过去两年里重建了深度学习栈，并与Azure共同规划了一台超级计算机以便于应付他们的作业负载
• OpenAI还开源了OpenAI Evals，这是他们的自动化评价AI模型功能的结构，任何人都能够提交他们模型的缺陷以帮助改善

3.1 更加人性化，更具构思的回答：

GPT-4比以往任何时候都更具创造力和协作性。它能够生成、修改和迭代构思和技能写作使命，并与用户一同进行协作，比方创作歌曲、编写剧本或学习用户的写作风格。

3.2 图画描绘生成：

3.3 可视化输入： 文字与图片结合输入

拿一张手机插着VGA线的图给GPT4，并问：这张图有什么好笑的，分组描绘它。

它给出了令人惊叹的分析与回答。

但令人更加印象深入的是，只需要一张图表，就能够找到格鲁吉亚和西亚的日均肉类消费量

3.4 更长的上下文支撑：

GPT-4能够处理超过25,000个单词的文本，这使得它能够用于创建长篇内容、进行延续性对话以及文档查找和分析等用处

3.5 局限性：

虽然GPT-4在功能方面现已十分强壮，但它依然存在与前期GPT模型类似的局限性，其间最重要的是它依然不完全牢靠。OpenAI表明，GPT-4依然会产生错觉、生成过错答案，并呈现推理过错。因而，在运用言语模型时，应该谨慎检查输出内容，并根据特定用例的需求运用适当的协议（例如人工检查、附加上下文或完全避免运用）。总的来说，GPT-4相对于曾经的模型现已明显减轻了错觉问题，但仍需要留意其输出的精确性。在OpenAI的内部对抗性真实性评价中，GPT-4的得分比最新的GPT-3.5模型高40%。这表明GPT-4相对于曾经的模型现已取得了明显的进步，但在运用时仍需留意其局限性和缺陷

四、GPT-4有多强？基础模型介绍：

GPT-4是一种十分强壮的预练习言语模型，它能够承受图画和文本输入，以文本输出1。它能够在很多杂乱的NLP使命中取得惊人的作用，例如文章生成，代码生成，机器翻译，Q&A等。它在以下几个方面完成了质的飞越。

GPT-4的模型巨细是在1750亿到2800亿参数之间56，比GPT-3大了1到2倍，可是小于当时最大的言语模型（5300亿参数的MT-NLG和5400亿参数的PaLM）6。它运用了超级计算机来进行练习，耗费了很多的算力和数据。它采用了自回归（AR）的架构，即根据前面的输入来猜测下一个输出。它运用了Transformer网络作为基础结构，使用留意力机制来捕捉长距离依赖关系。

GPT-4在练习过程中加入了一些新颖的技能和办法，以进步模型的功能和安全性。其间一项是RLHF（Reinforcement Learning for Human Feedback），即使用人类反应来对模型进行强化学习。这样能够让模型更好地适应不同的场景和用户需求，一同避免一些不合适或有害的输出。另一项是零样本分类器（Zero-Shot Classifier），即使用模型本身的常识和推理才能来对输入进行分类，而不需要额外的标示数据或练习过程。这样能够让模型更灵活地处理各种类型和主题的输入，一同减少量据偏差和隐私危险4

在过去的两年里，OpenAI 重建了整个深度学习堆栈，并与 Azure 一同为其作业负载从头开始规划了一台超级计算机。一年前，OpenAI 在练习 GPT-3.5 时第一次测验运转了该超算体系，之后他们又陆续发现并修正了一些过错，改善了其理论基础。这些改善的成果是 GPT-4 的练习运转取得了前所未有的安稳，以至于 OpenAI 能够提早精确猜测 GPT-4 的练习功能，它也是第一个完成这一点的大模型。OpenAI 表明他们将继续专心于牢靠的扩展，进一步完善办法，以帮助其完成更强壮的提早猜测功能和规划未来的才能，这对安全至关重要。

OpenAI花了6个月时刻使GPT-4更安全、更具一致性。在内部评价中，与GPT-3.5比较，GPT-4对不允许内容做出回应的可能性降低82%，给出事实性回应的可能性高40%。也就是说，在上一年八月份OpenAI就现已完成了对GPT-4的模型练习，不得不说，自打ChatGPT面世以来，微软和谷歌之间打响的数轮科技战役，微软这次又是真的赢麻了。

五、GPT-4有多强？功能测验介绍：

5.1 美国高考SAT试题，GPT-4在阅读写作中拿下710分，数学700分

在非正式的谈话中，GPT-3.5和GPT-4之间的差异可能是微妙的。当使命的杂乱性到达足够的阈值时，差异就显现出来了——比较GPT-3.5，GPT-4更加牢靠、富有创造力，并且能够处理比较微妙的指令。

为了了解这两个模型之间的差异，咱们进行了各种基准测验，包含模拟开始规划给人类的考试。咱们运用最近公开的测验（在奥林匹克比赛和AP自在回答问题的情况下）或购买2022-2023年版别的模拟考试。咱们没有为这些考试进行专门的练习。模型在练习期间看到的问题只占少量，但咱们以为成果具有代表性——详见咱们的技能陈述。

5.2 在其他各种类的模拟考试中，GPT-4也表现出不同凡响的成果

5.3 在机器学习使命测验上，GPT-4表现出的功能也远远超过当时现有的大型言语模型，以及大多数最先进SOTA模型

不仅如此，OpenAI为了展现GPT-4在非英言语语上的功能，将MMLU测验翻译成不同言语版别，预料之内，GPT-4的表现均优于GPT-3.5

5.4 New Bing 早已在用：

GPT-4发布后微软作业人员表明：

如果你在过去六周内的任何时候运用过新的 Bing 预览版（New Bing），你就现已提早了解了 OpenAI 最新模型的强壮功能

没错，New Bing早就在GPT-4上运转，你是否现已被其强壮的才能震撼，虽然那只是前期版别。

六、怎么运用GPT-4？

• GPT4模型API 已处于内测阶段，经过恳求能够取得拜访权限

快加入内测恳求吧

• chatGPT-Plus版别用户能够直接预览GPT4
• 提出模型缺陷，就能够得到拜访权限

取得拜访权限后，您能够向 gpt-4 模型发出纯文本恳求（图画输入仍处于有限的 alpha 阶段），跟着时刻的推移，咱们会在制造新版别时自动将其更新为咱们推荐的安稳模型（您能够固定当时版别经过调用 gpt-4-0314，咱们将支撑到 6 月 14 日）。定价为每 1k 个提示令牌 0.03 美元和每 1k 个完成令牌 0.06 美元。默许速率限制为每分钟 40k 个令牌和每分钟 200 个恳求。gpt-4 的上下文长度为 8,192 个标记。咱们还提供对咱们的 32,768-上下文（约 50 页文本）版别 gpt-4-32k 的有限拜访，该版别也将跟着时刻的推移自动更新（当时版别 gpt-4-32k-0314，也支撑到 6 月 14 日). 定价为每 1K 提示令牌 0.06 美元和每 1k 完成令牌 0.12 美元。咱们仍在进步长期上下文的模型质量，并希望得到有关它在您的用例中表现怎么的反应。咱们正在根据容量以不同的速率处理对 8K 和 32K 引擎的恳求，因而您可能会在不一同间取得对它们的拜访权限。

本文正在参与 人工智能创作者扶持计划