本质上是矩阵运算，CPU 不是不能干，只是太慢而已。

不妨试试我的智障电子鹦鹉，浏览器 CPU 推理的，并不实用，只是为了说明语言模型推理的原理：
https://bd4sur.com/Nano/infer/

上网不涉密，涉密不上网。

我一直想不通的是，为什么有人会把敏感隐私数据弄到云存储服务上。

不妨看看我做的小玩具，浏览器上推理的：
https://github.com/bd4sur/Nano

量化 ggml + llama.cpp 、vLLM 。

只是图一乐的话，甚至浏览器也能推理。
可以看看我做的小玩具： https://github.com/bd4sur/Nano

手机的本质在于你购买的只是使用权，而非所有权。跟信用卡一样。
刷机破坏了可信计算，破坏了手机所有权人的权益。
所以不能允许你刷机。

双方或许都有些（高功能）自闭症（谱系）的倾向，以钻牛角尖、缺乏同理心、易怒、特殊且刻板的语言风格为特征。

众所周知，炒股最赚钱的是教别人炒股。你炒我教你，我炒我不炒。

什么深度学习科学算命，自己不要用。拉个群，包装一下，卖给别人用。（滑稽）

1 ）参数量是主要矛盾，越多越好。
2 ）不必担心量化，量化掉点有限。
3 ）实用模型，参数量不可低于 13~14B ，以 72B 量级为佳。
4 ）显存是主要矛盾，越多越好。
5 ） 2080ti 魔改 22GiB 显存，性价比较高。
6 ）多卡 AI 服务器平台，性价比较高，但要考虑环境和电费开销问题。

图形学不会消失，但是某些旧方法旧思维会逐渐消失。
只要你认为 Sora 是图形学，那么它就是图形学。
你可以拿着 AGI 这把剑，大杀四方。

@kneo 我感受到了你对於大模型的恐惧噢 ——来自大模型

为什么不问问大模型自己呢？我请教了我家大模型，祂是这样答复的，供参考：

将大模型应用到质量领域（ Quality Assurance, QA ）可以有多种方式，以下是一些可能的策略：

- **自动化测试**：利用自然语言处理（ NLP ）和机器学习技术，可以创建自动化测试脚本。例如，大模型可以帮助理解和解析复杂的业务逻辑，生成测试用例，甚至预测可能出现的错误。
- **缺陷预测和预防**：通过对历史数据的学习，大模型可以预测代码中的潜在问题，帮助开发者在编码阶段就发现和修复问题，提高产品质量。
- **文档审查和代码审查**：大模型可以帮助审查技术文档和代码，检查语法错误、逻辑错误或不一致之处。
智能客服和用户反馈分析：通过理解用户反馈和问题，大模型可以帮助快速定位产品质量问题，并提供解决方案。
- **持续学习和优化**：大模型可以根据反馈数据持续学习和优化，提高其在 QA 中的表现。
- **质量标准和合规性检查**：模型可以用于检查产品是否符合特定的质量标准或行业规范。
- **流程优化**：通过分析和理解复杂的业务流程，大模型可以帮助优化 QA 流程，提高效率。

实施这些策略需要与业务流程紧密结合，同时也需要对数据进行充分的预处理和训练。此外，由于涉及到敏感的业务数据和决策，数据安全和隐私保护也是需要考虑的重要因素。

超微 7048GR + 4×2080ti(22GB) FYI

文无第一。就我个人而言，我认为傅里叶变换是有史以来最伟大的算法。