英伟达终止Lepton AI运营 禁新用户注册、注销官推

在模型训练过程中，有时会出现降低输出质量的错误，Lepton AI 的平台具备检测此类错误的功能，同时还能发现更为隐蔽的技术问题，比如神经网络在训练过程中使用了超出预期的内存等。 此前，贾扬清在接受 InfoQ 《大模型领航者》栏目采访时表示，团队在技术实现上没用什么“黑科技”，而是将很多耳熟能详的单点技术结合起来，以实现成本的显著降低，如大模型处理服务收到大量请求时的动态批处理（Dynamic Batch）、用小模型预测数个 token 的预测解码等。 贾扬清去年 6 月时曾透露，Lepton AI 的客户数量和整体营收都处于非常健康的增长状态，他对此也比较满意，验证了团队之前的想法和产品在用户中的接受度。