Hailo推出用于边缘设备的GenAI芯片 功耗仅为2.5瓦

Hailo-10H 专为消费、企业和汽车市场的边缘设备而设计，结合了“高效率、高成本效益和强大的软件生态系统”，并由其“成熟且广泛采用的软件堆栈”提供支持，据该初创公司称，每月有超过 10000 名用户使用该软件堆栈。 采用 Hailo-10H 的公司包括惠普公司，该公司使用该芯片作为HP AI Accelerator M.2 卡的基础，该卡可以与 HP 点对点销售服务以及 HP 工作站和商用 PC“无缝”集成。 该初创公司表示，在 Hailo 进行的性能基准测试中，该芯片在各种 20 亿参数语言和视觉语言模型中实现了“第一个词元延迟低于 1 秒，每秒超过 10 个词元”。