TypeSafe 推出采用反幻觉设计的 Jev AI 模型

Diogo Almeida 创办的初创公司 TypeSafe 本月凭借 4000 万美元的种子轮融资亮相，并推出了 Jev。这是一款声称通过根本不同的设计方法消除幻觉的 AI 模型。Almeida 是 2022 年 InstructGPT 论文 20 位作者中的第 4 位。该论文将基于人类反馈的强化学习应用于语言模型，而他将 Jev 定位为解决 ChatGPT 可靠性问题的方案。该模型通过选择选项而非生成文本来运行，并将预定义选项硬编码限制为 255 个，从而阻止其形成可能包含事实错误的句子。

Almeida 在 ChatGPT 开发中的角色

Almeida 是 2022 年 InstructGPT 论文列出的 20 位作者中的第 4 位。该论文将 RLHF 应用于语言模型，是 ChatGPT 工程师在构建这一聊天机器人时参考的研究论文之一。论文脚注将 Almeida 列为 9 位“主要”作者之一，但他并非团队负责人。RLHF 技术早在该论文发表近 5 年前就已存在，其基础方法来自另外 6 位研究人员。

Almeida 试图通过推出 Jev 并筹集资金，同时宣称 RLHF——这项由他本人创造的技术——“没有用”。他称 ChatGPT“在没有人类监督的情况下不可靠”，并将“模式坍缩、过度自信以及总体上缺乏可靠性”归咎于 RLHF。

Jev 通过选项选择设计防止幻觉

根据 Jev 自己的文档，其防止幻觉的方式是采用选项选择而非句子写作的设计，并将选项数量硬编码限制为最多 255 个。该模型将自己定位为一种在有限选项或预先确定的选择中进行决策的工具，例如确定概率百分比。

由于 Jev 不像传统聊天机器人那样提供文本，因此无法产生幻觉，因为幻觉需要能够构成句子或事实性陈述的短语。Jev 只能从预定义输出中进行选择，不会提供可能被它自身或人类误解的句子。

TypeSafe 将 Jev 定价为每十亿个输入令牌 42 美元

Jev 目前处于早期访问阶段。其输入令牌定价为每十亿个 42 美元，输出令牌在补贴期间暂时免费。Almeida 声称，与竞争对手相比，Jev 在速度、成本和质量方面具有优势。

常见问题

Jev 采用什么方法来防止 AI 幻觉？
Jev 通过选项选择设计防止幻觉，并将预定义选项硬编码限制为最多 255 个，而不是生成可能包含事实错误的自由形式文本句子。

Diogo Almeida 在 ChatGPT 开发中扮演什么角色？
Almeida 是 2022 年 InstructGPT 论文 20 位作者中的第 4 位。该论文将基于人类反馈的强化学习应用于语言模型，也是 ChatGPT 工程师在开发过程中参考的研究论文之一。