用 iroh 把家里的旧设备拼成推理集群：Mesh LLM 到底能不能跑起来
Mesh LLM 和 iroh 分布式推理火了。我把一台小主机和两台旧笔记本连起来实测，聊聊点对点组网、模型切分和真实延迟，踩坑全记录。……
10-23 立刻查看
- 欢迎访问少将全栈，学会感恩，乐于付出，珍惜缘份，成就彼此、推荐使用最新版火狐浏览器和Chrome浏览器访问本网站。
- 吐槽，投稿，删稿，交个朋友
- 如果您觉得本站非常有看点，那么赶紧使用Ctrl+D 收藏少将全栈吧
Mesh LLM 和 iroh 分布式推理火了。我把一台小主机和两台旧笔记本连起来实测，聊聊点对点组网、模型切分和真实延迟，踩坑全记录。……