0代码微调一个大模型，成本不到20美元（人民币约144元）？
过程也非常简单，只需5步。
如LLaMA、GPT、StableLM等爆火的开源生成式模型，都能搞定。
(资料图片仅供参考)
这就是Monster API，一个最新火起来的API平台。
有人觉得这个开源领域的新工作，能改写AI开发的游戏规则，加速AI应用的速度。
还有人兴奋提问，之后会接入GPT-3/GPT-4吗？
所以，它具体是怎么实现的？
五步零代码搞定
简单理解，Monster API就是将微调步骤尽可能简易化，让开发者不用再手动进行一系列设置，同时也提供便宜的GPU资源及内存优化。
具体过程如下：
第一步，选择一个模型进行微调。
比如LLaMA-7B、GPT-J-6B、StableLM-7B等，Monster API提供了至少10个基础大模型。
第二步，选择或创建微调任务。比如指令微调、文本分类等，或者自定义任务。
第三步，选择一个HuggingFace数据集。
Monster API可以无缝集成HuggingFace数据集，可选择范围很大；还可以根据任务类型推荐数据集。
并且不用自己手动操作，就能自动设置好格式。
第四步，设置超参数。
第五步，检查和提交。
在设置好如上所有步骤后，确定没有错误就可以提交了。
Monster API表示可以通过WandB上的日志来监测任务。
在其博客中写道，用DataBricks Dolly 15k微调LLaMA-7B完成3个epouch，成本仅需不到20美元（折合人民币约144元）。
官网显示，注册用户后会赠送2500积分。会员分为三档，收费分别是每月9美元/29美元/39美元。
除了微调以外，Monster API还提供各种生成式AI的API接口，并表示成本比其他方案低80%。
背后公司已获110万美元融资
消息显示，Monster API背后公司拿下了110万美元的种子前资金（pre-seed funding）。
这家AI初创公司给自己的定位是要做“GPU领域的爱彼迎”，把全世界分散的GPU资源实现灵活调度，让开发者们能够以更低的价格使用。
创始人是两兄弟Gaurav Vij和Saurabh Vij。
其中Gaurav Vij还创立了一家CV公司，正是因为CV公司需要面临巨大的云计算资本，才启发了他们要做这样一个平台。
Saurabh Vij之前是欧洲核研究中心的粒子物理学家，同时也研究分布式计算。
兄弟俩表示在经过多轮技术迭代后，他们优化了消费级GPU在机器学习任务上的性能，使得运行Whisper AI模型的成本相较于AWS平台降低了90%，所以他们就想着为什么不利用这个方法来帮助数以万计的开发者们。
同时他们透露公司的一个客户使用他们的分散的GPU计算资源，已经节省了30万美元。
参考链接：[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/[2]https://www.enterpriseai.news/2023/06/09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/
关键词 :
上一篇 : 中电联：2023年预计用电量增速6%左右 部分区域、时段电力供需偏紧
下一篇 : 最后一页
明敏发自凹非寺量子位|公众号QbitAI0代码微调一个大模型，成本不到20美
手机网易网 07-08 16:56:35
明敏发自凹非寺量子位|公众号QbitAI0代码微调一个大模型，成本不到20美
手机网易网 07-08 16:56:35
央视网消息：2021年，我国正式设立三江源、大熊猫、东北虎豹、海南热带
央视网 07-08 16:57:43
央视网消息：2021年，我国正式设立三江源、大熊猫、东北虎豹、海南热带
央视网 07-08 16:57:43
新华社上海7月7日电（周蕊、王小淳、陆冠宇）记者从中国国际进口博览局
扬子晚报 07-08 16:44:18
新华社上海7月7日电（周蕊、王小淳、陆冠宇）记者从中国国际进口博览局
扬子晚报 07-08 16:44:18
【气温破40℃福建福州发布高温红色预警信号】今天（7月8日）14时42分，
央视新闻 07-08 16:23:55
【气温破40℃福建福州发布高温红色预警信号】今天（7月8日）14时42分，
央视新闻 07-08 16:23:55
其实肖智在国内球员当中已经算是非常自律的，状态在同年龄段的本土球员
舒俊爱体育 07-08 16:14:41
其实肖智在国内球员当中已经算是非常自律的，状态在同年龄段的本土球员
舒俊爱体育 07-08 16:14:41
对于电影市场复苏的原因，万达电影在业绩预告中表示，一方面，内容供给
第一财经 07-08 16:05:51
对于电影市场复苏的原因，万达电影在业绩预告中表示，一方面，内容供给
第一财经 07-08 16:05:51
【中电联：2023年预计用电量增速6%左右 部分区域、时段电力供需偏
东方资讯 07-08 16:01:22
【中电联：2023年预计用电量增速6%左右 部分区域、时段电力供需偏
东方资讯 07-08 16:01:22
央视网消息：眼下，各地陆续开始放暑假，教育部印发通知，要求各地做好
央视网 07-08 16:02:00
央视网消息：眼下，各地陆续开始放暑假，教育部印发通知，要求各地做好
央视网 07-08 16:02:00
进入下半年，希望在市中心买房的人群有所增加。最近，一位从事金融
今日热点网 07-08 15:47:49
进入下半年，希望在市中心买房的人群有所增加。最近，一位从事金融
今日热点网 07-08 15:47:49
什么水果最减肥最快最好，什么水果最减肥这个很多人还不知道,现在让我
车百科 07-08 15:40:45
什么水果最减肥最快最好，什么水果最减肥这个很多人还不知道,现在让我
车百科 07-08 15:40:45
常常举行肌肉展示，特别喜欢和喜羊羊他们玩，因为泰哥觉得只有羊族的人
时尚风行派V 07-08 15:14:03
常常举行肌肉展示，特别喜欢和喜羊羊他们玩，因为泰哥觉得只有羊族的人
时尚风行派V 07-08 15:14:03
今天，欧文正式和独行侠达成续约，3年1 26亿。今天，欧文更新了Instagr
天下足球最新帖子 07-08 15:12:01
今天，欧文正式和独行侠达成续约，3年1 26亿。今天，欧文更新了Instagr
天下足球最新帖子 07-08 15:12:01
7月7日，辽宁朝阳阜新等地突降大到暴雨，暴雨导致镇街内部分路段积水严
极目新闻 07-08 14:33:05
7月7日，辽宁朝阳阜新等地突降大到暴雨，暴雨导致镇街内部分路段积水严
极目新闻 07-08 14:33:05
大皖新闻讯7月8日12时，安徽省防汛抗旱指挥部对池州、安庆市启动防汛四
大皖新闻 07-08 14:22:57
大皖新闻讯7月8日12时，安徽省防汛抗旱指挥部对池州、安庆市启动防汛四
大皖新闻 07-08 14:22:57
记者从上海市商务委了解到，为紧抓全球投资新机遇，统筹用好国际国内各
央广网 07-08 14:11:46
记者从上海市商务委了解到，为紧抓全球投资新机遇，统筹用好国际国内各
央广网 07-08 14:11:46
上海促外商投资推出新计划：据媒体新闻，从上海市商务委了解到，上海市
和讯 07-08 14:02:46
上海促外商投资推出新计划：据媒体新闻，从上海市商务委了解到，上海市
和讯 07-08 14:02:46
1、看你问的时间和要求，一般可能需要去医院挂好了，要知道有的医院号
互联网 07-08 13:22:48
1、看你问的时间和要求，一般可能需要去医院挂好了，要知道有的医院号
互联网 07-08 13:22:48
美国劳工部7日公布的数据显示，今年6月美国失业率环比下降0 1个百分点
新华财经 07-08 13:18:23
美国劳工部7日公布的数据显示，今年6月美国失业率环比下降0 1个百分点
新华财经 07-08 13:18:23
两篇专栏，分别介绍美国对22国的打法简介，此为第一部分美国火枪14射程
哔哩哔哩 07-08 12:36:35
两篇专栏，分别介绍美国对22国的打法简介，此为第一部分美国火枪14射程
哔哩哔哩 07-08 12:36:35
大家好，今日关于【刮刮乐进货渠道女子过生日闺蜜送10万元刮刮乐】迅速
新经网 07-08 12:45:23
大家好，今日关于【刮刮乐进货渠道女子过生日闺蜜送10万元刮刮乐】迅速
新经网 07-08 12:45:23
按下shift按键先找到并按下你的电脑键丽珠盘上面的shift按键，切换到英文输入法状态。键盘下划线怎么打?...
word中_________上打字的方法如下：1、进入word2010，在要设置下划线的位置输入空格，然后选中空格，点...
word横线上打字横线往后移怎么办?选中横线跑的文字，找到输入文字后横线跑的那几个文字，选中文字。查看...
大熊猫有天敌吗?答案是肯定的。野生大熊猫最大的天敌就是豺，确切的说是四川豺。四川豺主要分布在我国的...
充电桩安装需要什么条件?1、运营充电桩需要电动车使用人数多，小区充电使用率到达一定程度，如果使用率...
联系我们:55 16 53 8@qq.com
关于我们| 联系方式| 版权声明| 供稿服务| 友情链接
经济头条 版权所有，未经书面授权禁止使用
Copyright©2008-2020 By www.jingji.net All Rights Reserved
营业执照公示信息