模型设计师的崛起

在过去的一年里，随着人工智能模型的普及，每个人都可以使用，设计师们一直忙于构思新产品和改进现有产品。我们一直专注于人们如何与这些模型互动，以新颖、创新的方式解决问题。这就像一场设计淘金热，充满了兴奋和探索。

然而，有一个关键的部分缺失了：我们主要关注界面（人们如何使用模型），而没有深入挖掘核心（模型本身）。这个核心是真正用户友好和负责任的未来的关键部分。

现在，我们将这些AI模型视为工具，但正如 Cassie Kozyrkov 解释的那样，这些模型不仅仅是原材料。它们就像需要塑造的粘土，特别是因为现在很多用户体验都嵌入在模型本身中。

幻觉、隐私和偏见等问题不仅仅是用户在与AI模型互动时遇到的问题。这些问题与模型的构建方式息息相关。为了有效地解决这些问题，我们需要与工程团队进行比目前更紧密的合作。

为了应对这一切，一个新的设计角色正在出现，我称之为：模型设计师。这些专家与专注于用户和产品之间互动的传统用户体验团队一起工作。与他们不同的是，模型设计师深入研究，直接与开发人工智能模型的工程师合作。

对于小型设计团队来说，模型设计师的角色可能是现有团队成员的额外责任。这意味着学习新技能并承担与塑造人工智能模型相关的新任务。对于拥有更成熟设计实践的大型公司来说，模型设计师将是一个专门的合作者，或者是一个整体的用户体验团队。

专家可以将他们在AI模型开发方面的垂直专业知识带到设计过程中，与界面设计师一起创造更好的产品。他们的综合技能涵盖了整个工作流程。

举几个例子：

• 提示非常痛苦，即使使用框架作为指导，也需要用户承担很大的认知负荷。用户体验设计师可以通过创建上下文建议条来缓解它。模型设计人员可以制作系统级提示，例如序言，甚至可以更深入地协作塑造数据集以进行微调。有关背景，请参阅 Cohere 博客：序言包含帮助引导聊天机器人的响应朝向特定特征（例如角色、风格或格式*）的说明，从而将用户从编写冗长的文本中解放出来。

• 为了解决潜在的偏见，模型设计人员可以与工程师合作实施策略，例如在某些情况下屏蔽特定单词。用户体验设计师可以通过在界面中加入免责声明来补充这些努力，以最大限度地减少偏见反应造成的潜在伤害。
• 可以通过建立模型来最大限度地减少幻觉，UX 和模型设计师都可以与工程团队一起合作开发强大的反馈周期。按照 Anthropic 的方法，模型设计师还可以创建一套对抗性训练的原则（或章程），其中对抗性模型将挑战原始模型的输出。
  训练模型周期的视觉描述。模型设计师将专注于对齐部分（微调等），而用户体验设计师将专注于界面。他们在一起会更强大。

以新的方式合作也意味着新的协作工件，一种专注于开放式用例的服务设计蓝图。PAIR（谷歌的 People + AI 研究）正在发布一些围绕使用 AI 模型时的交互设计策略的协作框架，而不仅仅是任务。

除了这些模型设计师如何协作的例子之外，随着 AI 的发展，重新定义角色的需求也越来越大。公司正在重组设计团队，在许多情况下，角色职责并不明确。对于大多数不从事 AI 项目的团队来说，人们甚至没有意识到新角色的出现。

内容设计师现在正在制定详细的模型训练指南，承担大部分工作，因为语言是大多数人工智能模型的货币。他们的日常任务与从事交互方面的传统内容设计师大不相同，但他们的头衔相同。

研究人员正在想象数据集如何反映用户意图，并将它们与他们开发的角色相匹配。致力于人工智能助手的对话设计师正在打破传统的决策树，创建提示集。

用户体验设计师正在转向战略层面，他们可以协调模型的塑造和用户体验所需的交互nd。

模型设计师是上述所有人员；有很多切入点，也有很多技能需要掌握。它需要融合技术知识、出色的写作能力和对端到端用户体验的深刻理解。除了特定角色之外，来自各个背景的设计师都应该了解模型的工作原理。永远保持好奇心从未如此重要。

对于我们的工艺来说，这是一个激动人心的时刻。

原文链接：The rise of the Model Designer

汇智网翻译整理，转载请标明出处