Runway 推出了 Solaris,这是该公司称为“界面世界模型”的新类别中的第一个模型,该系统可以逐帧实时生成用户界面,而不是运行代码。 Solaris 不是将设计转化为应用程序,而是以 720p 呈现界面本身,并在您与之交互时直接响应单击、拖动和语音命令。

The Decoder 详细报道了这一公告,标志着软件正常工作方式的重大突破。如今,操作系统决定屏幕上发生的事情,而应用程序在开发人员发布更新之前保持不变。 Solaris 提出了相反的建议:接口仅在生成时才存在,并不断适应使用它的人。 更多相关背景,请参阅我们的人工智能资讯

界面世界模型如何工作

Solaris 基于 Runway 的 Gen-4.5 视频模型构建,并遵循该公司早期通用世界模型 GWM-1 的发展方向。在幕后,两个系统进行协作:语言模型决定界面如何响应用户的操作而变化,而世界模型则渲染每一帧。

结果看起来和行为都像一个应用程序,但没有任何传统意义上的运行。没有布局文件,没有前端代码,没有编译的二进制文件 - 只是一个根据您最后一次点击生成下一帧的生成模型。

用例跑道正在投球

Runway 列出了几种可以用生成的界面代替固定界面的场景。

在网上购物中,商店本身就成为界面。购物者无需浏览静态产品网格,而是可以将一件衬衫拖到自己的照片上进行试穿。商店将不再是每个访客看到的固定布局,而是一个适应每个用户的环境。

对于产品可视化,重点是对对象的对话操作:说“移动桌子”或“改变沙发的颜色”,场景会立即做出反应。时装秀上看到了这种合适的家具购物和室内规划,看到的变化超乎想象。

该公司还提供教程和学习。 Solaris 可以在上下文中直观地显示下一步,而不是用文本回答聊天机器人 - 该公司的示例是根据所涉及的材料而变化的燃烧演示。

Runway 更大的主张:该应用程序消失了

演示的背后是一个具有争议性的论点。 Runway 认为,“应用程序”作为软件的固定单元将会消失。今天完成某件事意味着打开正确的预构建应用程序 - 一个用于购物,一个用于消息,一个用于预订。如果操作系统可以根据需要生成正确的界面,那么就没有理由将软件分类到固定目录中。

该技术还有第二个受众:人工智能代理本身。 Runway 指出,代理在酒店预订等任务上仍然会失败,因为他们接受的是固定布局的培训,当真实的网站偏离这些布局时,他们就会陷入困境。在生成的、模型理解的接口内运行的代理不会面临这种脆弱性。 Runway 明确地将界面世界模型构建为智能体的训练场。

要点:文本、可靠性和可访问性

目前,重大问题使 Solaris 牢牢地留在研究列中。

稳定、可读的文本仍然是生成视频模型的一个难题——而且界面上充满了文本。按钮、价格、地址和搜索字段都依赖于精确的字符串,其中幻觉的字符就是损坏的产品。

长时间的会议和可靠性也是悬而未决的问题。解码器注意到了一个微妙但严重的风险:生成的界面虽然错误但看起来令人信服,可能比根本没有界面更糟糕,因为用户无法区分渲染价格和真实价格之间的差异。

可访问性是另一个未解决的问题。生成的界面没有可供辅助技术阅读的底层结构,因此屏幕阅读器(盲人用户导航软件的主要方式)无法使用。

现在研究

Runway 不将 Solaris 作为产品提供。该公司正在寻找合作伙伴进行发布,并通过注册表单提供早期访问权,将该系统定位为对生成界面而不是编程时软件的外观的探索。

这个时机并非偶然。世界模型作为一个类别已经迅速成熟,主要实验室竞相模拟机器人、游戏和视频生成的真实环境。将同样的机制指向软件表面是一种自然的延伸,这使得以电影制作人使用的视频生成工具而闻名的 Runway 与生产力软件直接进行概念竞争。

是否有人真的想要不断变化的界面是 Runway 尚未解决的问题。软件惯例——购物车、搜索栏、设置装备——之所以存在,是因为它们是可预测的。一个为每个用户重新设计的界面,用可预测性换取了适应性,用户体验到这种体验是神奇还是混乱还有待观察。

清楚的是行进的方向。为模拟视频物理现实而构建的相同世界模型现在正指向软件现实——Runway 押注下一个界面根本不是设计的,而是生成的。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →