当Google在2023年I/O大会上发布PaLM 2时,它标志着这家科技巨头在大语言模型领域的一次关键升级。它不是一次简单的版本迭代,而是一次对多语言能力、推理效率和实际应用场景的系统性重构。
它是什么?
PaLM 2是Google的下一代大语言模型,基于Google在基础模型领域多年的积累,继承了其前身PaLM的核心技术。与追求“参数越大越好”的路线不同,PaLM 2更强调效率与实用性的平衡,通过更智能的架构设计和训练方式,实现了更强的性能。
三大核心能力升级
PaLM 2在三个关键维度上实现了显著提升:
多语言能力(Multilinguality)
PaLM 2在超过100种语言的文本上进行了训练。这使其不仅能处理常见的翻译任务,还能理解并生成包含习语、诗歌和谜语在内的复杂文本。它甚至通过了高级语言能力测试,达到了“精通”(mastery)级别。这一能力直接支撑了Bard向更多语言区域的扩展。
推理能力(Reasoning)
PaLM 2的训练数据集纳入了包含数学表达式的科学论文和网页。这使得它在逻辑推理、常识推理和数学计算方面的能力得到了显著增强。它不再是简单的“文字接龙”,而是能进行更复杂思维链推理的模型。
代码能力(Coding)
PaLM 2在大规模公开源代码数据集上进行了预训练。它擅长Python和JavaScript等主流语言,还能生成Prolog、Fortran和Verilog等专业语言的代码。Google随后推出的“Code with Bard”功能正是基于这一能力。
四种规格:从手机到云端
PaLM 2不是单一模型,而是一个模型家族,提供了四种不同规格,以适应从移动设备到大型企业级应用的多种场景:
| 规格 | 定位 | 适用场景 |
|---|---|---|
| Gecko | 最轻量 | 可在移动设备上离线运行,支持低延迟交互应用 |
| Otter | 轻量级 | 平衡性能与效率 |
| Bison | 中等规模 | 通用企业级应用 |
| Unicorn | 最大规模 | 高性能任务,最复杂的推理与生成 |
这种“从小到大”的矩阵式布局,意味着开发者可以根据自己的算力和需求,选择最合适的模型版本进行微调和部署。
产品落地:覆盖25+应用场景
PaLM 2并非停留在实验室中,它在发布时就已经支撑了超过25款Google产品和功能:
-
Bard:借助PaLM 2的多语言能力,Bard扩展到了更多语言区域。
-
Google Workspace:Gmail、Google Docs中的智能写作辅助,以及Google Sheets中的数据整理功能,都由PaLM 2驱动。
-
Med-PaLM 2:Google健康研究团队训练的医学专用模型,在USMLE(美国医学执照考试)风格问题上达到了“专家”水平,并能处理X光、乳腺X线照片等多模态医学信息。
-
Sec-PaLM:专为网络安全场景训练的模型,用于分析恶意脚本行为,加速威胁检测。
-
PaLM API & Vertex AI:开发者可以通过API或Google Cloud的Vertex AI平台使用PaLM 2,并获得企业级的隐私、安全与治理支持。
战略定位:通向Gemini的基石
PaLM 2在Google的AI战略中扮演着承前启后的角色。Google DeepMind团队(由Google Brain和DeepMind合并而成)正以PaLM系列的经验为基础,开发下一代模型——Gemini。
Gemini被设计为从零开始构建的多模态模型,具备工具与API集成、记忆与规划等前沿能力。可以说,PaLM 2是Google验证其技术路线、积累实际部署经验的关键一步,而Gemini则是这条路线上的下一个里程碑。