✍️ Gate 广场「创作者认证激励计划」进行中!
我们欢迎优质创作者积极创作,申请认证
赢取豪华代币奖池、Gate 精美周边、流量曝光等超 $10,000+ 丰厚奖励!
立即报名 👉 https://www.gate.com/questionnaire/7159
📕 认证申请步骤:
1️⃣ App 首页底部进入【广场】 → 点击右上角头像进入个人主页
2️⃣ 点击头像右下角【申请认证】进入认证页面,等待审核
让优质内容被更多人看到,一起共建创作者社区!
活动详情:https://www.gate.com/announcements/article/47889
在巴基斯坦,大多数开发者、创业公司和小企业都只能使用没有GPU的笔记本电脑,几乎没有机会运行本地的大型语言模型(LLM),因此来自OpenAI和Anthropic的全球API在代理工作中变得极其昂贵。
一个不错的自主代理每天可能会花费20到50美元的代币费用。这还不包括外汇、银行手续费和PKR的波动。
解决方案摆在我们面前:我们的互联网服务提供商(ISP)和电信公司应该在他们已经运行的边缘服务器上托管量化的开源模型(Llama 3.1、Qwen2.5、Mistral系列),发放便宜的本地API密钥,以卢比计费。这样可以降低延迟、保障数据主权,并提供真正符合我们实际情况的价格。这虽然不是前沿技术,但对于80%的实际代理用例来说已经绰绰有余。
那么,为什么到2026年这个还没有实现呢?基础设施、人才和迫切的需求都在喀拉蚩和拉合尔,就在这里——但我们仍然强迫巴基斯坦的开发者和用户,要么自己托管较小的LLM,要么在加州的主要AI公司花大钱。
我们的ISP在销售光纤升级或过去的云计算方案,这当然不错,但为什么不打包一个真正的LLM API,让每个宽带用户一夜之间变成AI用户或开发者呢?
真正做出这一步的先行者,将掌控本地的AI经济。别再等待了。谁会站出来?
鸣谢:Tariq Mustafa 在LinkedIn