为什么一个小型免费聊天工具现在成为可能
当强大的模型只能从三家公司租用时,每一项服务都按消息付费,然后把成本转嫁出去。可下载的模型,把成本转移到了你可以一次性购买的硬件上,这正是让一个没有付费档位的独立服务在算术上成为可能的原因。
为什么一个小型服务能免费提供大型服务要收费的东西,这个问题有一个技术上的答案,而它比通常的猜疑要有意思得多。
租用对比拥有
按消息付费,意味着成本会随着使用量精确增长,所以每一个免费用户,都是一笔不断增长的账单。拥有硬件,则意味着固定的成本和一个容量上限。后一种模式,让一项免费服务成为可能;前一种模式,则几乎立即就会逼出一个使用上限。
质量差距在缩小
开源模型,曾经远远落后,现在已经足够接近,能胜任大多数普通工作。正是这个不断缩小的差距,把自托管从一种业余爱好,变成了一个产品可行的基础,这也是为什么这个品类在短时间内涌现出了大量小型服务。
拥有硬件的代价是什么
硬件、电费,以及维持它运转所需的工作。账单不会消失,它只是变了个形状,变得可以预测。正是这种可预测性,才让「对话不会中途中断」这样的承诺成为可能。
它改变不了什么
一个开源模型,不会自动变得更准确、更私密,或更宽松。这些取决于具体是哪个模型、它是如何被调校的,以及这项服务围绕它做了什么。「开源」描述的只是许可证,仅此而已,把它当作一种质量上的说法,是一个常见的错误。
免费的东西也值得问清楚
开源模型的能力更弱吗?
在普通的文字工作上,差距很小。在最困难的推理任务上,最大的闭源模型依然领先。
我能自己运行一个吗?
可以,而一个能用的模型,需要一块像样的显卡。这正是一项服务在替你承担的成本。
「开源」是不是意味着「无审查」?
不是。调校和许可证是两回事,许多开源模型,被调校得同样会大量拒绝回答。
用一个运行自己模型的聊天工具,看看限制上的差异。
打开免费聊天