刷到 Thinking Machines Lab 11 月 20 日发了开源权重模型 Inkling 2 Mini。
官方发布
官方博客写能在笔记本上跑,权重大约 20GB。他们演示是在飞行途中用离线的 MacBook Pro 跑的,那台是 48GB 内存。模型卡列的配置是 32GB 及以上内存的 Apple silicon,其它 GPU 推荐 32GB 及以上显存。