臧永宜
我对于在 AI 模型中找到隐藏的旋钮很感兴趣。
我的研究核心在于神经网络的「示能」(Affordance)。所谓示能,指的是一个物体潜在的所有操作可能(比如,对于商场入口的推拉门,你既可以推,也可以拉,那么「推/拉」就是这个推拉门的示能)。推而广之,在神经网络的语境下,我关注的是模型内部表征空间中那些「可被操控却尚未被发现」的可能性。
我的长期目标是打造一套工具和方法,让人类(或其他 AI)能够发现并创造这些表征层面的示能,从而直接操控 AI 的行为输出,而无需重新训练整个模型。具体来说,这涉及几个方向:研究特定示能在向量空间中的几何性质;对已学习的表征进行基于示能的分解;或是在训练阶段就预设某些示能的约束条件,让它们自然涌现。
目前我在 Smule 担任研究与实验室总监,带领团队挖掘声音与视觉信号中的示能,并与产品团队配合,把这些技术以直观的方式呈现给用户。在我的独立研究中,我专注于特定网络架构的示能挖掘,通过建立行为模型或施加空间约束,揭示那些原本隐而不显的操控接口,让外部系统能够与这些神经网络进行交互。
在此之前,我的背景是音乐制作。现在有时候帮朋友写歌,偶尔还会做几首自己喜欢的翻唱。
No posts yet.