理这个大模型人工智能的运算完全是浪费。这款加速芯片是为了研究院高精度的科学运算设计的,针对Fp64高精度浮点运算进行了专门的优化。大模型人工智能撑死用到Fp32的精度,我估计大多数场景用Fp16半精度就够了,很多场景甚至Fp4、Fp8甚至是8位的整数运算就能覆盖了。同样规模的芯片针对Fp64高精度浮点运算优化和针对低精度运算优化在算力上可不是简简单单的翻倍。”
上一页
点击功能呼出
下一页

+
-
成熟大叔
温柔淑女
甜美少女
清亮青叔
呆萌萝莉
靓丽御姐
理这个大模型人工智能的运算完全是浪费。这款加速芯片是为了研究院高精度的科学运算设计的,针对Fp64高精度浮点运算进行了专门的优化。大模型人工智能撑死用到Fp32的精度,我估计大多数场景用Fp16半精度就够了,很多场景甚至Fp4、Fp8甚至是8位的整数运算就能覆盖了。同样规模的芯片针对Fp64高精度浮点运算优化和针对低精度运算优化在算力上可不是简简单单的翻倍。”
