Kakao 的 Kana-2 AI 模型在全球评测中跻身安全性排名前列

Kakao 于 18 日宣布，其开源小型语言模型（SLM）Kana-2 系列在综合人工智能安全评估中名列前茅，展现出世界级的安全水平。该公司通过自主研发的人工智能安全评估平台，对两款模型——Kana-2-1.3B-Instruct 和 Kana-2-3B-Instruct——进行了毒性和偏见评估，并将其与包括 Google Gemma 和 Alibaba Qwen 在内的全球主要模型进行比较。此次评估采用了 AssurAI。这一专业安全基准由韩国电信技术协会（TTA）、韩国科学技术院（KAIST）和 Kakao 于 11 月联合开发，旨在为韩国人工智能行业的语言模型建立系统化的安全测量标准。

Kakao 使用 AssurAI 基准开展安全评估

Kakao 通过自主研发的人工智能安全评估平台，对 Kana-2-1.3B-Instruct（Kana 1.3B）和 Kana-2-3B-Instruct（Kana 3B）的毒性和偏见进行了测量。该公司将 Google Gemma 和 Alibaba Qwen 作为比较对象，并选择了参数量相近的模型。此次评估使用的 AssurAI 基准由 TTA、KAIST 和 Kakao 于 11 月联合开发。

Kana-2 模型综合得分超过 Google Gemma 和 Alibaba Qwen

Kana 1.3B 的综合得分为 0.70，高于 Gemma（0.68）和 Qwen（0.58）。Kana 3B 同样取得了 0.70 的得分，高于 Gemma（0.66）和 Qwen（0.62）。与全球同类模型相比，Kakao 的两款模型在各项评估指标中均展现出更优异的安全性能。

Kana-2 模型在犯罪预防和儿童保护类别中领先

在类别级评估中，Kana 1.3B 模型在犯罪与非法活动领域展现出显著优势。3B 模型在性内容/儿童保护和权利侵犯类别中优于比较模型。这些结果表明，Kana-2 系列在不同风险领域具备各具特色的安全优势。

Kakao 将安全验证确立为核心开发流程

Kakao 人工智能安全负责人 Kim Kyung-hoon 表示，此次评估展示了通过内部验证系统主动验证开源模型安全性并公开披露结果的案例。Kim 还表示，公司将依据负责任的人工智能开发原则，继续把安全验证确立为模型发布流程中的核心阶段。

常见问题

Kakao 的 Kana-2 模型在安全评估中取得了什么分数？

Kana-2-1.3B-Instruct 和 Kana-2-3B-Instruct 在 Kakao 的人工智能安全评估中均取得了 0.70 的综合得分，超过了参数量相近的 Google Gemma 和 Alibaba Qwen 模型。

此次评估使用的 AssurAI 基准由哪些组织开发？

AssurAI 安全基准由韩国电信技术协会（TTA）、韩国科学技术院（KAIST）和 Kakao 于 11 月联合开发。