generated from halo-dev/plugin-starter
-
Notifications
You must be signed in to change notification settings - Fork 2
Open
Description
这是原始结构:
| 精度 | 含义 | 内存占用 | 内存结构 |
|---|---|---|---|
| fp32(float32) | 全精度浮点数 | 4字节,32位 | 1 bit 符号,8 bit 指数,23 bit 尾数 |
| fp16(float16) | 半精度浮点数 | 2字节,16位 | 1 bit 符号,5 bit 指数,10 bit 尾数 |
| int8 | 8位整数 | 1字节,8位 | 8 bit 整数 |
| int4 | 4位整数 | 0.5字节,4位 | 4 bit 整数 |
这是导出后的结构:
| | | | |
| --- | --- | --- | --- |
| 精度 | 含义 | 内存占用 | 内存结构 |
| fp32(float32) | 全精度浮点数 | 4字节,32位 | 1 bit 符号,8 bit 指数,23 bit 尾数 |
| fp16(float16) | 半精度浮点数 | 2字节,16位 | 1 bit 符号,5 bit 指数,10 bit 尾数 |
| int8 | 8位整数 | 1字节,8位 | 8 bit 整数 |
| int4 | 4位整数 | 0.5字节,4位 | 4 bit 整数 |Reactions are currently unavailable
Metadata
Metadata
Assignees
Labels
No labels