Taalas公司推出的4-bit LLaMA3.2-3B硬件推理速度快,结合ROM和SRAM,节能且可升级,适用于自动驾驶,提供即时决策和可追溯性,但需关注知识产权问题。
加拿大初创公司Taalas将AI模型直接蚀刻到芯片中,性能达到每秒1.7万Tokens。该技术使芯片通电后即为模型,速度极快,但无法升级,需重新流片。Taalas已完成1.69亿美元融资,展示其定制化芯片技术。
初创公司Taalas推出新芯片HC1,速度可达每秒17000个token,成本仅为传统芯片的1/10。该芯片通过将模型直接刻在硅片上,提升了性能和效率。团队由AMD前高管组成,专注于AI推理和训练的创新架构。尽管HC1表现优异,但硬编码可能导致过时的风险。
完成下面两步后,将自动完成登录并继续当前操作。