3 月 23 日消息,英伟达 CEO 黄仁勋在上周四播出的一期《All-In 播客》中表示,如果这家芯片巨头的顶尖工程师在 AI 上的投入过低,他会“深感担忧”。
“如果那位年薪 50 万美元(注:现汇率约合 345.4 万元人民币)的工程师,消耗的 Token 价值还不到 25 万美元,我会非常担心。”黄仁勋说。
“到年底,我会问那位年薪 50 万美元的工程师:你这一年用了多少 Token?如果他说只用了 5000 美元,我会气炸。”他补充道。
当被问及英伟达是否会为工程师团队投入 20 亿美元用于 Token 时,黄仁勋回答:“我们正努力这么做。”
他把那些很少使用 AI Token 的顶尖工程师比作:“这就跟我们的芯片设计师说‘你猜怎么着?我打算只用纸和笔工作’没什么两样。”
上周早些时候,黄仁勋在 GPU 技术大会上还表示,Token 可能会成为他招聘工程师的策略之一。
谈到工程师时他说:“他们的年薪大概几十万美元,我可能会再额外给他们相当于基本工资一半的 Token 额度,让他们的效率提升 10 倍。”
“这现在已经成了硅谷的招聘手段之一:这份工作能配多少 Token?”黄仁勋补充道,“原因很简单,因为每一位能用上 Token 的工程师,效率都会更高。”
Token 是 AI 系统处理文本的基本单位。AI 读取或生成的文本越多,消耗的 Token 就越多,这也是企业通常按每千或每百万 Token 的使用量来收费的原因。
Token 也能当薪酬
并非只有黄仁勋认为,工程师需要充足的 AI 算力资源,且企业应该为此买单。
据《Business Insider》本月早些时候报道,科技公司正在尝试一种全新的人才竞争方式:在薪资、奖金和股权之外,额外提供 AI 推理算力权限。
风险投资公司 Theory Ventures 的托马斯 · 通古斯对巴尔表示,Token 有望成为薪酬的“第四组成部分”。
AI 模型性能评估初创公司 Arena 的 AI 能力负责人彼得 · 戈斯特夫建议,OpenAI 和 Anthropic 可以“搭建招聘网站,让客户在发布职位时,把岗位的 Token 预算和薪资范围一起列出”。
OpenAI Codex 团队工程主管蒂博 · 索蒂厄在 X 平台发文称,越来越多的求职者会询问入职后能使用多少算力。
OpenAI CEO 萨姆 · 奥尔特曼此前也曾表示,AI Token 可以成为一种全民基本收入形式。
在 2024 年 5 月的《All-In 播客》中,奥尔特曼说:“我在想,未来会不会更接近全民基本算力,而不是全民基本收入。每个人都能分到一部分 GPT‑7 的算力,可以自己用、转售,也可以捐给别人用于癌症研究。你得到的不是美元,而是这样一份份额,你拥有一部分生产力。”