Mythic，这家模拟计算芯片初创公司，已获得1.25亿美元的融资，由DCVC领投，还包括本田汽车和洛克希德·马丁等战略投资者。
www.eic.net.cn
Mythic成立于2012年，旨在商业化模拟计算内存技术。该初创公司的技术基于一组由256个亚阈值级别驱动的闪存晶体管，用于8位计算。该公司的一部分核心技术在于在不同环境条件下可靠运行所需的显著校准和补偿方案。模拟计算因其可以在边缘进行低功耗、快速的矩阵乘法计算而受到青睐。
在2022年底未能筹集资金后，该公司经历了激进的重组和裁员。2023年3月，投资者投入了1300万美元以维持运营，并任命联合创始人兼前CTO戴夫·菲克担任CEO。
Mythic推出了两款第一代芯片，M1108（35 TOPS INT8性能，4W，2020年发布）和M1076（25 TOPS INT8，3W，2021年发布）。这两款芯片专为视频分析应用设计，如无人机、视频监控和工业机器视觉。
www.eic.net.cn
Mythic在2024年中任命了拥有Nvidia和OnSemiconductor经验的塔纳尔·奥兹塞利克担任CEO。
之前的管理层犯了一些错误，但在新领导层的带领下，公司已经重建了其架构、路线图、软件和策略，奥兹塞利克告诉EE Times。
“边缘计算相当模糊，很难理解它是什么以及如何在边缘赚钱，”他说。“但公司也犯了很多初级错误并浪费了很多钱。”
奥兹塞利克在就职前向董事会详细列出了17个与Mythic方法和技术相关的问题，他指出这些问题都可以解决。
奥兹塞利克表示，Mythic第一代架构的实现限制了芯片性能，使其无法达到模拟计算的能力。例如，80个片上RISC-V处理器的利用率本应低于2%，但最终接近100%的利用率，这对他来说是可怕的能源消耗和超载的NoC，破坏了通信带宽。他还提到，芯片上没有DAC，ADC也没有达到正确的分辨率。
“我们已经解决了这些问题，过去一年半的改进使公司迅速发展，”他说。
这家初创公司还在充分开发其软件堆栈之前就流片了其首款芯片，没有利用像周期精确仿真这样的硬件-软件协同开发技术。
“软件是一切，”他说。“早期团队在没有软件的情况下流片了芯片……这是犯罪。”
Mythic的SDK可以运行任何来自PyTorch、TensorFlow或ONNX的模型，其编译器也有了飞跃式的进步，某些工作负载的性能提升了多个数量级。
芯片组策略
Mythic的下一代芯片将采用芯片组形式，配置范围从单个120-TOPS（INT8）芯片组，使用不到1 W用于边缘设备的视觉处理，到四和十六个芯片组用于更大的边缘应用。这些产品将针对机器人、汽车和国防应用。
该架构将支持最多3000万个参数的8位和4位计算。还有一个DSP可以用来卸载任何不支持的操作符。与第一代一样，Mythic的架构使用基于闪存的模拟计算芯片和数字控制芯片，这两个芯片将3D堆叠在一起。这种垂直堆叠是由于该技术的最低功耗和冷却需求，奥兹塞利克说。
该公司还计划在一个单一基板上设计一个巨大的1024芯片组设计，以针对数据中心的LLM推理。最终的Mythic机架规模服务器系统将在TCO和功耗方面与Nvidia竞争。对于70B模型，奥兹塞利克告诉EE Times，Mythic的风冷服务器在每个令牌的TCO上比Nvidia Blackwell一代硬件好两个数量级。对于1T模型，他表示每瓦特的令牌数每秒的差异可能是两个数量级。
未来的Mythic世代还将有基于NAND闪存的阵列（以及现有的NOR版本），这意味着该公司将能够在相同物理尺寸的芯片组上打包更大的模型并降低成本。这将是其将更大的LLM带到边缘设备的战略部分，特别是国防领域，奥兹塞利克说。例如，其中一个国防客户希望使用LLM作为设备手册的自然语言接口，而无需互联网连接。
传感器边缘
另一个产品系列，称为“Starlight”，将使用一个混合键合在视觉传感器光二极管阵列下的Mythic计算芯片组。这两个芯片组的总功耗将低于1 W。
奥兹塞利克表示，他在之前在OnSemiconductor工作时注意到市场上的这一空白。
“图像传感器最大的挑战之一是低光性能，”他说。“动态范围是另一个主要问题，尤其是在关键任务应用中。”
Mythic AI加速器可以在传感器旁边运行神经网络，以提高低光性能和动态范围。用于手机等应用的图像传感器非常小（三分之一英寸），随着尺寸变小，性能会下降，奥兹塞利克说。Mythic在这里有一个独特的机会，因为其技术紧凑，而且最关键的是，它使用很少的功率，根据奥兹塞利克的说法（光二极管阵列极其热敏感，意味着即使是一个小型DSP也无法直接放在光二极管阵列下）。
Mythic将自行构建这个传感器和AI加速器组合，奥兹塞利克说，加速器芯片组和图像传感器产品都将在今年流片。
总体而言，奥兹塞利克对即将到来的挑战规模持现实态度，尤其是考虑到公司进入数据中心领域并与Nvidia竞争。
“[我们的优势]必须非常显著，”他说。“至少要有一百倍，最好是更多。”
