OnBoard!

EP 69. 对话硅谷AI应用增长顾问陈唱：深度解析HeyGen, Gamma, Otter.ai 百万用户增长实践

Wed, 09 Jul 2025 23:30:00 GMT

OnBoard! 今年第一场直播回放来啦！我们跨洋连线硅谷资深增长顾问陈唱，2个多小时的访谈，探讨了关于AI应用出海增长的各种干货，直播间饱爆满好评如潮，我们经过整理放出精修音频，绝对值得你反复听几遍！

Hello World, who is OnBoard!?

今年真是AI应用爆发的大年！诞生不到26个月的ChatGPT 月活已超过8亿，OpenAI 和Anthropic ARR 分别超过100亿美金和50亿美金，Cursor, Lovable, Manus, Genspark 等 AI 应用的用户数和收入增长不断刷新纪录。越来越多的AI应用创业者涌入赛场，如何做增长，就成了最经常被谈论的话题。尤其是对于广大打造出海应用的中国创业者，更是希望听到来自硅谷最一线的经验。

陈唱是增长顾问公司Hockey Stick Growth创始人。过去8年里，她服务过的很多客户不仅获得了顶尖VC投资，更是实现了扎实的用户和收入的跃升。这个名单，一定有不少你熟知的公司：HeyGen, Gamma, Otter.ai, 还有最近大火的语音模型公司 Cartesia, 成立不到2年，融资超过$90M, 上千万美金收入……

在两个多小时的对话里，她非常坦诚地分享了他在硅谷一线观察到的AI产品增长变化，以及那些成功案例背后的真实策略。比如：

AI应用增长方式过去几年的变化

从"AI化"到"去AI化"的品牌定位趋势背后发生了什么？

面对越来越卷的增长渠道，AI产品如何找到突破口？

那些"剑走偏锋"的增长策略到底值不值得尝试？

KOL和各种渠道营销的具体方法论

为什么要考虑 product-channel-fit

如果你正在做AI产品，或者对AI应用的增长策略感兴趣，这期来自硅谷一线的实战分享，绝对不容错过！听过直播的同学，也值得反复复习~Enjoy!

嘉宾介绍

Chang Chen（陈唱） – 硅谷增长顾问，Hockey Stick 增长顾问公司创始人；曾助力 HeyGen、Gamma、Otter.ai 等头部产品打造爆款增长闭环。

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

OnBoard! 主持：GN：前SaaS及科技投资人，Global SaaS 社区 Linkloud 发起人，公众号我思锅我在 (ID: thinkxcloud) 主理人。| 即刻：High寧

我们都聊了什么

02:59 陈唱自我介绍，最近看到的有意思的AI 产品和增长方式

06:36 AI 应用增长方式的演变：从强调“AI”到回归“产品价值”的“去AI化”趋势。

13:30 Go Viral 的底层逻辑：如何利用“猎奇、强大、共情”的用户心理策划病毒式传播？

17:37 案例复盘：如何结合热点话题 (Elon Musk's Grok) 策划成功的营销活动？

19:59 Product-Channel Fit：如何为产品的不同阶段和用户画像找到最合适的增长渠道？

24:00 被低估的增长渠道：为什么 ToB 产品应该重视 LinkedIn？

30:12 KOL 营销全攻略：如何识别、触达、并与高质量的 KOL 建立长期合作？

41:49 从“爆款”到“体系”：当市场变卷，如何建立可持续的增长护城河？

49:47 AI 产品如何收费？订阅制、Pay-as-you-go、混合模式的利弊分析。

58:53 从 PLG 到 PLS/SLG：AI 公司如何抓住企业客户，何时应该拓展企业市场？

01:10:59 Product-Market Fit 是一个动态过程，出海创业者如何更好地找到它？

01:16:24 AI 如何赋能增长团队？从内容生成到渠道拓展的最佳实践和误区。

01:20:20 LLM-Native 新渠道：如何在 ChatGPT 和 GPT Store 中获取流量？

01:24:07 Product Hunt 打榜还值得做吗？效果、用户质量和平台公信力的变化。

01:27:06 从0到1搭建增长团队：创始人何时应该招聘第一个全职增长负责人？

01:32:28 推荐的增长信息渠道：Twitter, LinkedIn 和线下分享。

01:33:00 未来展望：AI Agent 赛道有哪些“卖铲子”的机会？

我们提到的产品和关键词

HeyGen - AI视频生成领军企业

Gamma - AI PPT生成先驱，不到30人团队超过5000万美金ARR

Cartesia - 语音模型公司，成立不到两年融资超过9000万美金

Otter.ai - 会议转录和AI助手，超过1亿美金ARR

Cluely - "AI agent to cheat on everything"争议性定位

Eleven Labs - 语音合成领域头部公司

Apollo - 销售线索工具

Synthesia - AI 虚拟人生成工具

PLG (Product-Led Growth) - 产品驱动增长

SLG (Sales-Led Growth) - 销售驱动增长

ICP (Ideal Customer Profile) - 理想用户画像

PMF (Product Market Fit) - 产品市场契合度

别忘了！同步关注两位 Host 的微信公众号，看更多干货内容哦：

M小姐研习录 (ID: MissMStudy) by Monica

我思锅我在 (ID: thinkxcloud) by GN

欢迎在评论区留下你的思考，与听友们互动。喜欢 OnBoard! 的话，也可以点击打赏，请我们喝一杯咖啡！如果你用 Apple Podcasts 收听，也请给我们一个五星好评，这对我们非常重要。

最后！快来加入Onboard！听友群，结识到高质量的听友们，我们还会组织线下主题聚会，开放实时旁听播客录制，嘉宾互动等新的尝试。添加任意一位小助手微信，onboard666, 或者 Nine_tunes,小助手会拉你进群。期待你来！

EP 68. 对话AppLovin技术VP葛小川：2年市值增长25倍，千亿美金广告平台的传奇成长史

Thu, 03 Jul 2025 00:30:00 GMT

薛定谔式更新的 OnBoard! 回来了！今天我们要聊一家在过去几年里创造了美股增长神话的千亿美金传奇公司——AppLovin。如果你关注美股和游戏广告市场，Applovin 的名字一定早就如雷贯耳了。

Hello World, who is OnBoard!?

AppLovin成立于2012年，2021年在纳斯达克时估值还不到300亿美金，之后一度下跌至不到30亿美金，而经过短短几年的转型，2023年至今市值已经飙升20多倍，成为跻身纳斯达克 100 指数(NASDAQ-100) 的美股顶流千亿美金公司。2024 年营收 47 亿美元，同比 +43%，净利率也高的吓人，EBITDA 高达 27亿美金。而 Applovin 总员工数不到1000人，实现了“人均创造400万美金EBITDA”的惊人效率。

这一系列数字背后，是一个在硅谷都值得铭记的神奇故事：一家公司如何从游戏营销经纪公司，转型为游戏公司，又在大家以为广告行业被Google, meta 等巨头垄断没有新机会的时候，剥离所有游戏业务，成功转型为广告技术平台，并重塑行业生态。

虽然业绩亮眼，但AppLovin在成长过程中也一直饱受争议。那么争议背后的真实情况是什么？他们所做的事情与我们理解的广告、AI应用到底有怎样的关系？每日触达超 14 亿活跃用户的广告引擎，究竟是怎样打造的？

今天我们邀请到的嘉宾大概是最有发言权的人之一了。

AppLovin 的技术副总裁葛小川（Giovanni Ge），在 Meta 参与了广告系统核心算法的他，在 AppLovin 转型的关键时刻加入，并发挥了非常核心的作用。这次长达两个多小时的访谈，也是 Applovin 在中文媒体中第一次深度访谈。小川畅谈了很多理解这个公司的关键问题：

如何从物理学博士转型，并在关键时刻加入 AppLovin

AppLovin 两次转型的精彩历程

如何在被低估的手游广告市场中打造了买卖闭环的新型平台

这个 AI 第一股背后朴实又本质的算法逻辑和技术思考

华尔街为何集体错判（并且似乎还没看清）

电商如何成为下一个增长飞轮

……

我们还聊到AppLovin 为什么自认为是 "千亿美金的创业公司”，形成了no meeting，CTO亲手写代码和产品原型的独特文化。

OnBoard! 之前聊了很多AI 技术的细节，这次难得的千亿美金公司成长故事，希望给你不一样的启发。Enjoy!

（注：本文不构成任何投资建议！）

嘉宾介绍

葛小川 (Giovanni Ge)，AppLovin (NASDAQ: APP) 技术副总裁 (VP of Engineering)，曾在 Meta, Uber 担任高级机器学习工程师，SISSA 凝聚态材料物理学博士，中科大少年班。

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

友情小广告

2024 年，AppLovin 在北京正式组建 Axon China 团队啦！这支团队致力于打造全球化的广告产品，同时，积极探索大语言模型的应用，以技术创新推动行业变革，重新定义广告的未来。如果你听完了这一期分享，对公司的职位感兴趣，可以在如下招聘渠道中申请，不要错过跟这么有意思的一群人打造未来的机会！

AppLovin招聘邮箱：lillian.cao@applovin.com

招聘网址：（中国）app.mokahr.com；（北美）www.applovin.com

我们都聊了什么

00:03 开场介绍，AppLovin 为什么值得你关注
03:34 Giovanni 自我介绍，从凝聚态物理 PhD 到 Uber、Meta，再到 AppLovin 的职业转型
09:06 AppLovin 发展史：手游应用推广，自建发行，关键收购，广告平台转型
14:24 转折点：广告收入反超游戏，2025 Q1 出售自研游戏资产
19:57 AppLovin 的历史机遇与移动广告“三国杀”：Google / Meta vs 碎片化长尾流量
22:26 AppLovin 新型平台如何改变定价方式和行业生态，为什么 Google, Meta 做不了
30:04 广告推荐模型的演进历史，AppLovin 新模式 ROAS > CTR 背后数据飞轮
39:36 关键决策：“保护开发者长期利益”
42:26 华尔街“迟到的认可”——连续 8 季 beat，却股价滞后，被低估的是什么
48:32 为什么说 AppLovin 像也不像拼多多？
50:35 利润率飙升逻辑
56:22 电商广告如何为游戏生态注入“外部现金流”，新的挑战和机会是什么
58:30 生成式 AI 机会：创意生成、特征提取与推荐模型
01:00:38 如何理解 AppLovin 业务天花板？平台更迭和 LLM 可能带来哪些机遇
01:16:34 人均400万美金超高人效背后的“千亿美金创业公司”文化
01:23:00 全球招聘与北京研发中心：寻找“三段式”高成长人才
01:26:30 AppLovin 人才招聘观，北京团队招人啦！

我们聊到的内容

AppDiscovery: AppLovin 的买方 DSP，使用 Axon AI 在广告拍卖中自动出价、投放并持续优化效果。

MAX: AppLovin 的卖方 Header Bidding／Mediation 平台，帮助开发者在应用内实时并行竞价，提升填充率和 eCPM。

Axon AI: AppLovin 的核心广告推荐引擎，可在微秒级处理上万亿次竞价，预测用户价值并最大化 ROAS。

MoPub: Twitter 原 SSP，2022 年以 10.5 亿美元并入 AppLovin，显著扩展其卖方流量池

DSP（Demand-Side Platform）: 广告主用来跨多家交易所自动购买广告库存的程序化投放平台

SSP（Supply-Side Platform）: 发布商用来管理并出售广告位的程序化平台，可连接多个 DSP 以提升收益

ROAS（Return on Ad Spend）: 广告支出回报率＝广告带来的收入 ÷ 投放成本，是效果广告的核心指标

IDFA（Identifier for Advertisers）: Apple 为每台 iOS 设备生成的唯一广告标识符，用于投放和归因

ATT（App Tracking Transparency）: Apple 的隐私框架，要求应用在访问 IDFA 前先征得用户同意

Embedding: 将文本、图像等对象映射为稠密向量，便于 ML 模型计算相似度和理解语义。

参考文章

www.applovin.com

www.applovin.com

investors.applovin.com

www.fool.com

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 67. 解析DeepSeek R1技术创新与生态影响：强化学习，Long CoT，数据，Agent与开源生态

Mon, 03 Mar 2025 00:04:27 GMT

2025年第一期OnBoard! 让大家久等了！没错，这个话题我们怎么能绕的过去：Deepseek!

Deepseek 春节前夕发布的开源推理模型 Deepseek r1，无疑是整个世界最令人关注的新闻，不论你过去是否关注 AI，相信都已经被关于 Deepseek 的各种新闻和解读轰炸了好久。但是 OnBoard! 的硬核讨论，迟来却不过时。

Hello World, who is OnBoard!?

Deepseek R1 在数学、代码和各种推理能力比肩市面上最强的 OpenAI o1 正式版模型，同时又以其技术创新带来的极低的训练和推理成本，以及完全开源的特点，点燃了全世界对于推理模型，以及中国AI实力的关注。

在各种讨论的虚虚实实中，OnBoard! 一直想做的，就是找到尽可能全面和客观的视角，追寻到技术和创新的本质。于是，我们邀请到了横跨中美的一线研究员和从业者，跟大家聊聊：

到底如何看待 Deepseek 一系列模型的创新？

推理模型最核心的难点是什么？

DeepSeek 会对开源大模型生态带来哪些变化？

这次嘉宾也是站在学术和开源的前沿：

有备受关注的、最早尝试复现 r1 能力的 TinyZero 项目的一作，

有来自卡耐基梅隆大学研究推理最核心的 Long COT (Chain of Thoughts) 的研究员，

还有返场嘉宾，前 Google Tensorflow 成员、Huggingface 社区资深贡献者。

他们从推理、COT、infra和开源几个角度，从技术本质到行业影响，兼顾发散和深度地畅聊关于 Deepseek 的已知和未知，过去与未来。相信已经非常饱和的各种信息中，还可以给大家带来一些启发。

需要说明的是，其中来自 SGlang 的嘉宾因为临时原因没有参与录制，与他的补录正好又是关于模型推理的专业话题，我们就决定放在下一期作为一个相对技术的 bonus episode. 很快会放出来，敬请期待！

毫不意外，这次讨论又是长达三个多小时。但是一定值得你的时间！Enjoy!

嘉宾介绍

Xiang Yue, 岳翔 (个人主页), Postdoc @CMU, 师从 Prof. Graham Neubig，专注于提升模型推理能力的前沿专家

Jiayi Pan, 潘家怡 (个人主页）, PhD @Berkeley AI Research, 师从 Alane Suhr

Tiezhen Wang, Huggingface 资深工程师，前 Google Tensorflow 资深工程师

OnBoard! 主持：Monica（小红书/即刻：莫妮卡同学）：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人

PS 欢迎关注 Xiang Yue 最新的论文，Demystifying Long CoT Reasoning in LLMs（arxiv.org）关于 Long CoT 在模型推理能力中的作用有很有意思的发现！

我们都聊了什么

解析 DeepSeek R1 技术核心

03:34 几位嘉宾自我介绍，fun fact: DeepSeek R1 让你惊艳的使用场景是什么？好的文笔是背诵还是理解？

17:53 如果用 RL 生产数据越来越重要，还需要人类标注数据吗？

23:52 DeepSeek R1-Zero 为什么值得关注？跟R1是什么关系？TinyZero 复现 R1 的过程中有什么启发？

35:11 为什么看似简单的 Long CoT 的做法，一直到现在才被广泛用起来？Long CoT 的研究沿革和进展是怎样的？

48:29 推理模型的 Aha Moment 是什么？跟模型的“涌现能力”有什么关系？

51:13 澄清一下！正确理解“成本30美金”！

52:36 Long CoT 的实现有什么难点？DeepSeek 做了哪些值得关注的创新？

58:33 做 Coding agent 的经验：模型 coding 能力能泛化到更广泛的 Agent 能力吗？

62:32 SFT 在R1 训练中的作用？RL生成数据成本会比人工标注低吗？

71:46 Scale up RL 的难点是什么？为什么说这是 DeepSeek infra能力中容易被忽视的点

74:08 开源社区的 infra 限制，会对复现后续研究 RL 和推理模型相关工作有什么影响？

79:57 为什么说 Rewards and Simulators are all you need：还有哪些挑战？

94:34 MoE vs Dense model 的选择：业界已经是共识了吗？

107:29 DeepSeek 蒸馏 OpenAI 的数据了吗？

112:14 OpenAI o3 思维链中出现了中文应该如何理解？

大模型开源生态会发生什么变化

115:52 开源大模型需要将数据开源吗？

123:01 开源和闭源模型的差距会一直存在吗？这个差距对于使用者和模型公司意味着什么？

127:44 未来开源推理模型都会向 DeepSeek R1 的路线上收敛吗？对开源生态会有怎样的影响？

131:36 从 DeepSeek V3 到 R1, 有了基座模型训练推理模型，只需要几周的时间吗？

132:59 开发者选择开源还是闭源模型，有怎样的考量？今年开源大模型生态有哪些变化值得期待？

142:13 如何理解：Agentic workflow 只有短期价值，长期会被模型能力取代？Agent 公司的核心能力是什么？

未来展望与宏观思考

149:30 2025年，几位嘉宾的工作重点是什么？

155:22 AI 领域有什么过热的以及还没有被充分讨论的话题？

160:36 过去半年有什么观点的变化？

164:08 AI超越大部分人类智能的时候，你的生存意义是什么？

重点词汇

Reinforcement Learning

Chain of Thoughts

Dense model

Agentic workflow

参考文章

Xiang 最新的论文：Demystifying Long CoT Reasoning in LLMs

TinyZero: github.com

Deepseek
V3: github.com
R1: github.com
R1 zero: arxiv.org
mp.weixin.qq.com万字解析DeepSeek 成长史

www.latent.space

semianalysis.com

arcprize.org

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 66. 深度解读Coding Agent与OpenAI o3：中美Agent 创业者、研究员与投资人眼里的未来

Mon, 30 Dec 2024 00:00:00 GMT

终于来到了OnBoard! 2024 年压轴之作！那必须是绝对深度绝对精彩的一期！

年底关于 AI 的新闻太多，但是最值得我们压轴深入探讨的，必须是 coding agent ——即使已经有很多讨论，或许也都还是被低估。

不到两个月的时间，coding agent 产品完成了二连跳式的升级，从IDE 助手 Cursor 到 Replit Agent, Windsurf 为代表的 coding agent，到Devin 的惊艳发布，让我们意识到真正 end-to-end coding agent 的能力已经超过 coding 本身，打开了大模型未来全新的想象空间。

Hello World, who is OnBoard!?

更巧的是，就在我们录制这一期节目的凌晨，就是 OpenAI 12天发布会最后一天，OpenAI o3 横空出世，在编程和数学领域最有挑战的 Benchmark 上超越了绝大部分的人类，也让我们对大语言模型能力天花板的预期再次被刷新。

要展望2025年AI领域还会发生什么，coding agent 以及强化学习为新范式的 o3系列，无疑是最核心的问题。这一期的嘉宾，汇集了国内和硅谷 coding agent 一线创业者、coding 大模型研究员和 AI 投资人，这次长达三个多小时的讨论，在全网恐怕都很少见了，有一线 coding agent 设计解读，还有最新鲜热乎的对 o3 实现难点和未来挑战的拆解，你是不是还不知道，在好几个开源项目里，OpenHands 已经超越人类成为最活跃贡献者了？

我们还探讨了：

为什么说 Devin 展示了“完成工作”的 scaling law?

最早引领 coding agent 潮流的 Replit Agent，以及开源 Devin 项目 - Openhands, 是设计中有哪些关键决策？

Coding agent 未来是 Devin 形态赢家通吃吗？

底层模型能力之外，coding agent 应用公司的核心能力和壁垒是什么？

Coding Agent 对于工程师和未来的组织和社会，会有哪些深远影响？

如何看待 o3 超越大部分人类的能力？未来的发展空间在哪里？

理解这次内容需要一些背景知识，非常强烈推荐大家去复习Onboard! EP 62. 与Google deepmind 研究员对o1的讨论，以及EP 53 对coding agent 的第一次探讨，其中一位嘉宾姚顺雨，作为 SWE bench 的提出人，已经加入OpenAI 负责 agent方向的研究。

未来已来，不论你是否已经感知到，这3个小时，绝对值得你的时间。

感谢大家这一年以来的支持，如果喜欢我们的内容，今年最后有机会在小宇宙里面打赏，在Apple podcast, spotify 里面给五星好评啦！

我们明年见！Enjoy!

嘉宾介绍

Yusen Dai,真格基金管理合伙人，聚美优品联合创始人。

Zhen Li, Replit Agent 核心成员，Replit 资深工程师，ex-字节，Google.

Xingyao Wang, Allhands AI (开源项目 OpenHands) co-founder & Chief AI Officer, UIUC PhD.

Binyuan Hui, 阿里巴巴通义实验室科学家

Cohost: Peak, 真格基金EIR，前猛犸浏览器创始人

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

04:06 嘉宾自我介绍，最近用 coding agent 实现的有意思的任务

15:17 投资人视角下，Coding agent 发展历程中的核心节点，为什么说 scale of work 是最令人兴奋的机会

22:03 Replit Agent 诞生的历程，发展过程中的关键节点，从1-10 有什么计划

36:04 如何看待与Devin 的竞争？未来不同 coding agent 产品形态会融合吗？

39:01 OpenHands/All hands AI 不同寻常的诞生故事，打造开源 coding agent 的重要技术和商业决策？

41:48 Openhands 的架构设计，与Devin 的异同意味着什么？

49:24 Coding agent 与 Anthropic Computer Use 之间的关系？

54:35 OpenHands 产品发布以来，社区的主要反馈和重要变化？开源有什么作用？

1:04:40 Coding agent 产品的长期竞争力是什么？

1:09:20 o3 最让人印象深刻的是什么？对 coding 和AGI 未来有什么影响？

1:20:08 解决真实世界的复杂问题，o3 之后还需要什么？

1:24:33 SWE bench 被“刷爆”之后，下一个有意义的 benchmark 是什么？

1:36:27 Coding agent 领域今年还出现了哪些重要变化？

1:41:33 未来需要怎样的工程师和怎样的组织？

1:58:07 如何进一步提高模型 planning 的能力？完成多步骤任务能力如何实现？

2:07:45 Agent 的普及会带来哪些底层技术栈和工具的新机会？

2:17:25 投资人如何看待 AI agent 的价值和投资机会？未来中国 coding agent 的机会是怎样的？

2:25:55 快问快答：未来1年和3年对AI的期望，coding agent 翻车的例子，AI被高估和低估的能力

我们提到的公司和重点词汇

Cursor

Cognition labs/Devin

Replit

Replit Agent

OpenHands, github.com; OpenHands 论文: arxiv.org

VisualWebArena: arxiv.org

TheAgentCompany: 官网 the-agent-company.com，paper arxiv.org

OpenAI o3

OpenAI o1

Anthropic

Computer use by Anthropic

SWE bench

Windsurf

Bolt.new

参考文章

刚体验了一小时 Devin，这是我第一次见到真正意义上的 A - 即刻App

Devin和Agent Cursor使用体验对比

www.latent.space

Our Problems | Cursor - The AI Code Editor

More Problems | Cursor - The AI Code Editor

www.cognition.ai

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 65. 对话 Daloopa CTO Jeremy Huang:融资4千万美金，如何打造红遍华尔街的AI金融产品

Fri, 27 Dec 2024 09:54:12 GMT

久违的 OnBoard! 全英文的访谈，这次的嘉宾 Jeremy Huang, 是美国AI创业公司 Daloopa 的联合创始人兼 CTO。

Daloopa 是一家很低调但是很值得关注的公司。几位华裔创业者 2019 年成立的公司，他们的客户是企业服务软件公司都最想切入又最有难度的行业：金融服务业。今年5月，Daloopa 宣布了B轮融资$18M, 总融资额超过$40M。他们的AI 产品帮助华尔街的对冲基金、银行、PE等投资机构实现投资模型中的数据工作自动化，他们的客户覆盖了大部分大家耳熟能详的头部金融机构：Morgan Stanley, L/S hedge fund, Credit Suisse 等等。

Hello World, who is OnBoard!?

在两个多小时的对话里，Jeremy 真是非常坦诚地分享了很多从0-1的真实经历和非共识的观点，比如：

为什么要 sell before you build?

早期 startup idea 探索踩了那些坑？

为什么 CTO 也要每天花 8 小时去跟客户打电话?

如何平衡大客户定制化要求和标准化产品的设计？

如何管理遍布全球的远程团队？

面向准确度要求很高的金融领域 AI产品，LLM有哪些机会和挑战？

如果你也是创业者，或者未来想要成为创业者，这期满满创业者一线视角的分享，可千万别错过！Enjoy!

嘉宾介绍

Jeremy Huang, Co-founder & CTO @Daloopa, ex-Software engineer @Meta, Airbnb

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

01:30 Jeremy 的自我介绍，如何开始创业旅程，一开始如何尝试不同的创业方向

07:22 Jeremy 从 Airbnb 的经验中学到什么，为什么不需要写代码就可以验证 PMF

14:32 如果你自己就是“目标用户”，你还需要做用户访谈吗？

29:02 如何从潜在用户访谈中找到“对的” idea?

35:02 Daloopa 早期如何设计 MVP 并找到种子用户

41:13 对于一个准确度要求很高的AI产品，如何设计产品的 Human-in-the-loop 交互？

49:19 如何应对早期大客户的定制化要求？

54:01 为什么 founder-led-sales 是了解市场规模的最好方式

59:01 面对金融行业的销售流程是怎样的？创业公司如何切入？Product-led-growth (PLG) 方式管用吗？如何从0到1开始打造销售团队？

73:59 为什么CTO也需要每天8小时跟客户交流？

82:25 为什么要打造全球 remote 团队？如何管理全球化团队？

89:06 LLM 对于 Daloopa 的产品带来怎样的机会和挑战？对金融行业有什么影响？

108:59 早期融资遇到哪些挑战？对初次融资的创业者有什么建议？

114:53 快问快答：推荐的书籍，第一次校园创业，LLM的未来1年和未来3年展望

参考文章

mp.weixin.qq.com

daloopa.com

www.prnewswire.com

daloopa.com

daloopa.com

daloopa.com

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

欢迎在评论区留下你的思考，与听友们互动。喜欢 OnBoard! 的话，也可以点击打赏，请我们喝一杯咖啡！如果你用 Apple Podcasts 或者 Spotify 收听，也请给我们一个五星好评，这对我们非常重要。

EP 64. 对话 Comfy 核心中国力量：多模态生成全球狂奔之年，开源与商业化发生了什么

Wed, 25 Dec 2024 00:00:00 GMT

OnBoard! 我们首次来到日本东京，在六本木新城森大厦，面对着著名的东京塔完成了录制。11 月 16 日，由 Comfy 中国社区创始团队发起的 Comfy Community Summit（CCS）全球社区峰会第二站来到东京，从 ComfyUI 主题出发，邀请了海内外知名的 AI 创作者、前沿论文作者、插件和工作流开发者还有大模型训练专家等到场分享，我们不仅看到了多模态生成领域各角色之间碰撞出的火花，更重要的是看到了中国创作者与开源爱好者在全球化中扮演了越来越重要的地位。

Hello World, who is onboard?

这一期趁着主办方还在东京，我们邀请了 CCS 的两位重要发起人，国内最大的 AI 社群 WayToAGI 的主理人 AJ 和前 Stability AI 的工程师 Yizhou，还有老朋友 Huggingface 工程师 Tiezhen，以及在图像生成领域创业的本地创业者 TheSEA AI 的创始人 Yanjin 一起，回顾多模态生成领域今年的里程碑与 Comfy 开源社区的兴起，以及在商业场景尤其是日本市场落地的探索，最后讨论了 AI 开源力量在中国以及全球化的崛起。

嘉宾分别来自开源社区的创始团队、大模型及开源平台工程师，还有本地创业者，我们畅聊了以下话题：

过去一年多模态生成领域出现了哪些里程碑，背后又代表了什么趋势？

CCS 发起的历史背景，为什么这次会放在东京，以及有哪些不一样的收获？

多模态生成具体在商业落地上有哪些突破，尤其在日本市场看到了哪些实践？

WaytoAGI 社区是如何建立的，为什么会成为中国最大的 AI 开源社区，未来还有哪些规划？

今年国内开源基础大模型也在全球社区悉数亮相，海外内对开源投入的差异和挑战在哪里？

希望本期节目对积极实践开源、全球化创业和 AI 的爱好者们都有帮助，enjoy！

嘉宾介绍

AJ：国内最大 AI 开源社区 WaytoAGI 的主理人，也是 CCS 中国社区创始成员。CCS 是全球首次汇聚 AI 开源社区核心开发者与创作者的盛会，由中、美两地 AI 开源爱好者共同发起，于 2024 年正式启动，是亚洲生成式 AI 领域专业性最强、共创活跃度最高的开源社区之一。

Yizhou Zheng：曾在 StabilityAI 负责推理工作流优化及 SD3.5 基础模型训练，Diffusion 社区玩家，CCS、Diffusem发起人，GitHub: github.com/Dango233。

Tiezhen Wang：Huggingface 工程师，他可以说是中国与世界开源 AI 生态的桥梁，更是从 Google TensorFlow 时代到 Huggingface 早期员工，对中国和世界的开源 AI 生态都有极深的洞察。

Yanjin Li：TheSEA 联合创始人兼 CEO，同时也是东京大学在读博士生。TheSEA AI 专注于为品牌提供创新的视觉生成 GenAI 解决方案，致力于提升创意效率与视觉表达效果。

OnBoard!主持：高宁，Global SaaS/AI 社区 Linkloud 联合创始人。前美元 VC 投资人，公众号我思锅我在 (ID: thinkxcloud) 主理人，即刻：High寧。

我们都聊了什么

01:59 四位嘉宾自我介绍，以及举办或参加这次 CCS 的最大感受。

09:27 在图像生成领域，今年对推动应用落地的重要节点是什么？

10:51 什么是 ComfyUI 以及 CCS 社区的起源背景？

12:51 ComfyUI 与 WebUI 的核心区别在哪里，为什么前者逐渐成为主流？

20:20 现在有哪些方式在进一步降低 ComfyUI 的使用门槛？

22:58 把作品最终交给商业客户之前，还需要做哪些产品化？

26:06 CCS 全球峰会发起的背景以及为什么第二次放在东京？

37:12 峰会里的嘉宾是如何挑选以及分别代表哪种角色？

44:18 过去一年，多模态生成技术出现了哪些重要里程碑？

49:45 Stable Diffusion 3.5 诞生的背景以及对产业最大的影响可能在哪里？

56:00 从商业视觉角度，如何驾驭现在各类模型以便在特定行业做有效发散？

61:11 如何快速在 SD 3.5 的基础上微调出想要的风格？

63:00 视觉模型越来越大，端侧小模型的机会和空间在哪里？

68:50 模型厂商该如何建设生态以及吸引更多开发者参与使用？

72:53 TheSEA 成立的背景以及在日本市场看到了什么机会？

77:30 文生图领域在日本哪些行业落地，挑战在哪里？

82:36 哪些工作流已经发生改变，或者卡点又在哪里？

85:30 商业视觉生成的需求中日之间的差异在哪里，预期有何不同？

89:11 为什么 AI 不会让创作者“失业”，反而会增加？

94:21 多模态领域还将出现哪些 AI native 的应用或者行业？

98:43 回到商业落地，企业目前最关注的地方在哪里，如何能让他们用好？

101:15 技术角度，目前是如何推动可控性的提升？

103:55 WaytoAGI 社区的起源和定位是怎样的？

107:25 如何能在社区里调动不同背景和角色的人积极做贡献？

109:48 如何不断迭代优化知识库，坚持开源？

112:50 国内大模型厂商在开源社区的里程碑有哪些，以及有什么最佳实践？

116:35 对于开源初创公司，该如何高效地投入开源建设？

119:45 四位嘉宾对明年的期望和工作重心将在哪里？

提到的公司、技术或相关介绍

Comfy.org

WaytoAGI.com

Stable Diffusion 3.5

ComfyUI众星云集！IPA两大作者首次对谈！作者亲自答疑！

Coco Nita: iKHOR Labs

FLUX

Stable Diffusion WebUI

Myshell.ai

Purz

Ideogram

Recraft

AnimateDiff

Deforum

ControlNet

IP-Adapter

In-Context-LoRA

MAP（Multimodal Art Projection）

以上就是我们本期播客的全部内容，如果各位也有想要我们去访谈的公司或者创始人，非常欢迎大家在评论区给我们留言。感谢大家的收听。如果你喜欢我们的 Podcast，欢迎你点赞并且分享给感兴趣的朋友。如果你在用 Apple podcasts 收听，也希望你花几秒钟打个五星好评，这对我们非常重要！

最后！快来加入Onboard！听友群，结识到高质量的听友们，我们还会组织线下主题聚会，开放实时旁听播客录制，嘉宾互动等新的尝试。添加任意一位小助手微信，onboard666, 或者 Nine_tunes,小助手会拉你进群。期待你来！

EP 63. 直播回放：什么是开发大模型应用的新一代底层技术栈？对谈贾扬清，PingCAP黄东旭和AWS核心AI产品研发

Mon, 16 Dec 2024 23:30:00 GMT

我们回来了！2024年转眼就剩下不到两周了，接下来要努力了！这一期是10月一场直播的录制。AI时代日新月异，最近几个月 windsurf, Devin 一众 AI 软件开发工具不断刷新我们对于软件开发范式的认知。这一期对于更底层 AI native 软件技术栈的讨论，仍然不过时。

Hello World, who is OnBoard!?

随着 GPT, Claude 等大模型的出现和迅速演进，AI 应用开发进入了全新的阶段。传统的软件开发流程正在被重新审视，新的开发框架、数据存储方式和调试方法层出不穷。这次的嘉宾，在软件技术栈的各个领域都可谓重磅。

Andy Peng 是AWS 生成式AI核心产品 Bedrock 的核心成员，负责AWS上Anthropic 一系列重要 API 的同时，他也是 Linux Foundation 和 Cloud Native Computing Foundation (CNCF) 的重要成员，从云计算、分布式系统到AI 技术设施，都是绝对的一线专家。

Dongxu 是我们的返厂嘉宾，开源数据库PingCAP的创始人兼CTO，本次的的话题也是受到他的一条朋友圈启发：围绕AI的应用开发，会对整个软件开发范式，包括开发框架、数据存储和处理方式、观测性工程和质量体系等等，带来怎样的变化？

另一位返厂嘉宾也是绝对的大牛，Lepton AI 创始人 CEO贾扬清, 从 Google Brain 到 Facebook AI 到阿里巴巴，作为 Caffee2, Pytorch 的核心元老，到创立Lepton AI，致力打造 AI cloud，又看到整个AI开发生态有怎样的演进？有什么可以从上一代 AI infra 发展中可以参考的变与不变？

这次讨论的话题需要一些技术基础知识，另外，嘉宾长期在海外工作生活，夹杂英文在所难免，不接受抱怨，欢迎评论区提出新的问题和观点。Enjoy!

嘉宾介绍

贾扬清，Lepton AI 创始人 & CEO，ex-Facebook AI, Google Brain, 阿里云副总裁, 深度学习框架 Caffe 和 ONNX 的创建者之一

Andy Peng, AWS Bedrock 核心成员，Cloud Native Computing Foundation (CNCF) Ambassador

黄东旭，PingCAP 联合创始人兼 CTO，分布式数据库 TiDB 作者。

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

03:05 嘉宾自我介绍，最近关注到的 AI 相关产品：DSPy, 快手可灵，Anthropic Artifacts

12:08 开发基于大模型的应用，为什么需要不一样的技术栈？

18:45 为什么上一波 AI 的API商业模式不work, 这一次 Model as a service 的API业务会有什么异同？

25:26 过去一年，应用开发工具有哪些重要变化？未来更复杂的应用还有哪些需求？

33:35 AutoGPT 启发了 RAG？Agent 的实际落地情况怎样？

35:13 AI 应用为什么会重构 Kubernetes 的资源调度方式？

40:08 多模态和非结构化数据的增加，会对 Infra 和开发工具有哪些新的需求？对于现在的 data infra 公司意味着什么？

51:15 AI 应用需要怎样新的可观测性体系？

61:43 AI 和RAG系统中的搜索，与传统搜索有哪些异同？

64:47 Agentic workflow 会对应用开发技术栈带来哪些新的需求？现在做工具“抽象化”还太早了吗？

70:56 变革中，新的定义如何产生？为什么很多概念定义都是在美国诞生的？

73:18 这一系列变化中，有哪些是新玩家的新机会？哪些适合现有玩家做改良？

76:58 做一个开发工具，如何决定是否要开源？

78:41 多模态实时交互会对开发技术栈带来哪些新的挑战？

81:12 如何判断哪些开源项目可以做商业化？

85:45 我们需要单独的向量索引吗？VectorDB 有多少机会会被现有数据库公司占据？

93:43 未来技术选型的决策会由AI来做吗？软件开发会变成标品吗？

95:40 云厂商和大模型提供商之间是相互竞争的吗？

99:22 端侧模型和云端部署模型之间是怎样的关系？未来的格局会有什么变化？

104:21 未来1-3年，期待 infra 领域还有哪些变化？

109:51 嘉宾的产品未来还有哪些重要计划！

我们提到的公司

LangChain: www.langchain.com - 一个用于开发语言模型应用程序的框架。

LlamaIndex: gpt-index.readthedocs.io - 一个用于 LLM 应用程序的数据框架。

Databricks: www.databricks.com （可能是指他们的模型服务和优化基础设施）

Anyscale: www.anyscale.com一个用于构建和部署 Ray 应用程序的平台，通常用于扩展机器学习工作负载。

Mosaic: www.mosaicml.com一个用于高效、可扩展地训练大型 AI 模型的平台。

Modal: modal.com一个用于构建和部署机器学习模型的平台。

Vercel: vercel.com一个用于前端框架和无服务器函数的平台。

Guardrails: shreyar.github.io - 一个用于为 LLM 应用程序添加安全性和可靠性的开源库。

SQLite: www.sqlite.org一个轻量级的、基于文件的数据库。

DSPy: github.com - 一个用于构建 LLM 应用的框架，

Factory.ai: factory.ai

LiveKit: livekit.io - 一个用于构建和扩展实时音频和视频体验的开源基础设施。

Dify: dify.ai - 一个用于视觉化构建 LLM 应用的平台，提供可视化界面和 workflow 编排功能。

AWS Bedrock: aws.amazon.com - AWS Bedrock 让你能够通过 API 访问和使用来自不同提供商的各种强大的基础模型。

AWS App Studio: aws.amazon.com - AWS App Studio 简化了在 AWS 云上构建、部署和扩展 Web 应用程序的流程。

Phidata: www.phidata.com - Phidata 帮助你构建实时数据管道和应用程序，处理和分析流式数据。

NPI AI: www.npi.ai - The best tool for AI taking action.

Unstructured.io: unstructured.io - Unstructured.io 帮助你从各种类型的文档和数据中提取有价值的信息，例如文本、图像和表格。

Datalogy: www.datologyai.com - 自动生成和管理训练数据集。

Rockset: rockset.com - Rockset 提供了一个实时分析数据库，用于构建需要快速查询和分析数据的应用程序。

Anthropic Artifact: Anthropic Artifact 是一系列专注于安全性和可靠性的 LLM，可用于各种任务，例如对话生成和文本摘要。

AutoGPT: github.com - AutoGPT 是一个实验性项目，旨在探索如何使用 LLM 来自动执行任务和目标。

artificialanalysis.com - Artificialanalysis.com 提供了工具和资源来帮助你评估和比较不同的 LLM。

GraphRAG: github.com - GraphRAG 将知识图谱与 LLM 相结合，以提供更准确和全面的信息检索和生成。

vLLM: github.com - vLLM 帮助你更高效地在各种硬件上部署和运行 LLM 推理。

PGvector: github.com - PGvector 让你能够在 PostgreSQL 数据库中存储和查询向量嵌入，这对许多机器学习应用程序至关重要。

DuckDB: duckdb.org - DuckDB 是一款高性能的分析型数据库，非常适合处理大量数据和复杂查询。

重要词汇

RAG (Retrieval Augmented Generation): RAG 通过从外部知识源检索相关信息来增强 LLM 的能力，使其能够生成更准确和翔实的响应。

Embedding: 嵌入是一种将文本、图像或其他数据转换为数字向量表示的技术，使计算机能够理解和处理这些数据。

Function calling: 函数调用允许 LLM 调用外部函数或 API 来执行特定任务，例如获取实时信息或与其他系统交互。

Prompt engineering: Prompt engineering 是一种设计和优化 LLM 输入提示的技术，以引导模型生成所需的输出。

RPA (Robotic Process Automation): RPA 是一种使用软件机器人来自动化重复性任务的技术，例如数据输入和处理。

Agentic workflow: Agentic workflow 是一种 LLM 驱动的自动化流程，LLM 可以自主地执行任务和做出决策。

Data lake: 数据湖是一个集中存储各种类型原始数据的存储库，例如结构化数据、非结构化数据和半结构化数据。

ETL (Extract, Transform, Load): ETL 是一种将数据从各种来源提取、转换和加载到目标系统（例如数据仓库）的过程。

Vector database: 向量数据库专门用于存储和查询向量嵌入，这对于许多机器学习应用程序（例如相似性搜索和推荐系统）至关重要。

Observability (可观测性): 可观测性是一种通过监控系统行为来了解和诊断系统性能和问题的方法。

参考文章

www.enceladus.ventures

a16z.com

www.supervised.news

www.factory.ai

blog.livekit.io

www.harness.io

OpenAI Acquires Rockset

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 62. Google Deepmind 与LLM研究员深度解读OpenAI o1 及LLM+强化学习新范式

Fri, 11 Oct 2024 00:24:01 GMT

你们期待已久的最硬核干货的OpenAI o1模型技术解读来了！上个月最值得关注的事件，或许就是9月12号OpenAI o1模型的发布了，大家对这个新的模型翘首以待许久，OpenAI CEO Sam Altman 也称之为新范式的开始。经过强化学习（Reinforcement Learning）并结合Chain of thoughts 思维链技术，o1在处理物理、数学、编程等复杂问题时，甚至和该领域的博士生水平不相上下。OnBoard! 的嘉宾，不会让你失望！

Hello World, who is OnBoard!?

强化学习如何给大语言模型带来新的逻辑推理能力这？这种能力的来源、实现方式和未来潜力又是怎样的？o1带来的“新范式”会对行业有怎样的影响？

这次的嘉宾都是有实际训练LLM经验的一线研究员。这场三个多小时的解读，相信会给你不一样的视角！其中两位就来自 RL 绝对高地的 Google, 也是AlphaGo, alphafold, alphageometry 等一系列世界领先的RL工作的发源地。他们都分别在RL和MCTS（蒙特卡洛树搜索）领域有长期的研究和实践经验。另一位嘉宾则是在互联网大厂从LLM预训练到RLHF都有一手经验。中美视角的综合，碰撞出很多火花。这个嘉宾阵容对o1的猜想和解读，相信会让你直呼过瘾。

这次的探讨会涉及很多技术细节，嘉宾长期的海外工作学习，难免穿插英文，不接受抱怨。Enjoy!

PS 本期录制时间是2024年9月27日

嘉宾介绍

Kimi Kong，Research engineer @Google deepmind, 他在 Stanford 读书期间就接触强化学习，从机器人到现在的大语言模型，对强化学习的理论和使用的沿革有非常系统的理解。

Eric Li （返场嘉宾！），Research scientist @Google Cloud, PhD @Caltech。大家都猜测 o1 将蒙特卡洛树搜索 (MCTS) 应用到了LLM，是提升逻辑推理能力的重要方式之一。Eric 就发表了多篇LLM和MCTS结合的论文，绝对的专家。

苏辉，前微信AI研究员，现国内一线互联网公司大模型负责人。

Cohost: Cage，原字节的数据科学家，现拾像科技研究员，公众号“海外独角兽”撰稿人

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

02:36 嘉宾自我介绍，MCTS 科普，为什么对LLM+RL新范式很重要； Cursor 为何值得关注，Physics in LLM from Allen Zhu, 语言对推理能力的价值

20:25 对o1发布有什么印象深刻的地方，数据的重要性和难点

40:16 如何拆解o1能力提升的来源？如何重新训练一个o1?

56:10 为什么复杂的o1 却解决不好简单的数学或常识问题？

60:16 o1 用于 tool use 的任务，可能有什么挑战？对agent 产品有什么影响？

66:46 如何看待agent 数据集难收集的问题？

68:38 什么是 Chain of Thoughts (CoT)和MCTS? 对o1的作用跟以前CoT做法有什么不一样？MCTS 在LLM推理中可能有什么作用？

83:07 什么是强化学习（RL）？在LLM中应用RL是怎样的演进过程？

89:35 RL和self play 其他领域，比如机器人，有怎样的应用？跟在LLM的应用有何异同？

93:45 RL, CoT, self-play 之间是怎样的关系？真的可以无上限提升LLM推理能力吗？

106:56 o1 有可能是单一模型还是 multi-agent system?

119:11 LLM和游戏有什么相互影响？为什么玩游戏的能力对LLM 很值得关注？游戏数据对LLM训练有什么价值？

126:54 Google 很早就开始 RL 相关研究，为什么 OpenAI o1先出来了？

133:16 o1 新范式的出现，对于追赶者来说意味着什么？更容易还是更难？

141:43 要追赶 OpenAI o1, 最容易被低估和高估的是什么？

143:48 对未来的展望：未来1年和3年，预期AI领域会发生什么？

我们推荐的内容

OpenAI: Scaling Laws for Reward Model Overoptimization
Cursor
Allen Zhu: Physics of Language Models
Language is primarily a tool for communication rather than thought
OpenAI: Improving mathematical reasoning with process supervision
InstructGPT
OpenAI PRM 800k 数据集
Let's Verify Step by Step
Anthropic: Constitutional AI: Harmlessness from AI Feedback
RLAIF
OpenAI Hyung Won Chung: "Don't teach. Incentivize."
Toolformer
Chain of thoughts
DDPM
DPO
PPO
Sergey Levine: Soft actor-critic: Off-policy maximum entropy deep reinforcement learning with a stochastic actorT Haarn
AlphaGo
AlphaGo-Zero
AlphaZero
MADDPG (Multi-Agent Deep Deterministic Policy Gradient (MADDPG), from OpenAI paper "Multi-Agent Actor-Critic for Mixed Cooperative-Competitive Environments"
AlphaZero-Like Tree-Search can Guide Large Language Model Decoding and Training
Reasoning with Language Model is Planning with World Model
Chain of Thought Empowers Transformers to Solve Inherently Serial Problems

参考文章

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

最后！快来加入Onboard！听友群，结识到高质量的听友们，我们还会组织线下主题聚会，开放实时旁听播客录制，嘉宾互动等新的尝试。添加任意一位小助手微信，onboard666, 或者 Nine_tunes,小助手会拉你进群。期待你来！

EP 61. 深度访谈Castbox王小雨：50+款出海产品，5千万月活,播客App如何完成AI转型

Thu, 19 Sep 2024 00:00:00 GMT

本期播客与《此话当真》合作，这次的创业者深度访谈，有些不一样！这位女侠一般的创业者 2016 年就开始做出海应用创业。这次的访谈，我们看看一位8年出海老兵，如何从0做到数千万用户，又如何在 LLM 大潮中，雷厉风行地带领公司将 AI 融入实践中。

Hello World, who is OnBoard!?

今天的嘉宾，是 Guru Network 创始人兼CEO， Renee 王小雨。2016年，她开发的 Castbox 成立并进军海外移动端播客市场，填补了市场空白，注册用户曾一度达到 3000 万，位列第三方播客产品榜首。如今，这位毕业于北大心理学系，有着多年开发经验的前 Google 员工，正沿着她的创业路径，领导着一个有着 50 多款产品和全球 5000 多万月活用户的公司。

邀请 Renee 来，是我们看到了AI浪潮中，她如何通过自身快速的学习，不仅上线了数款AI native 产品，更是将AI技术迅速融入到各个产品的工作流中，甚至实现了组织和人才的整体进化。

过去这么多年打造海外产品的心得，在AI时代有怎样的变与不变？

有历史的创业者，如何带领自己的组织实现AI化的进化？

相信你可以从 Renee 分享的一线实战心得中得到不少启发。

这次两个小时的对话中，你也能感受到这位真性情的女性创业者。一路走来的蜕变与成长。我们聊得开心，也希望你听得有收获又尽兴。Enjoy!

嘉宾介绍

王小雨 Renee（公众号：Renee创业随笔）： Castbox 创始人兼 CEO（we are HIRING! renee@castbox.fm）

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们聊了什么

Renee 的创业经历：从 Castbox 到产品矩阵

01:50 北大心理系、大三自学编程、勇闯 Google 后选择离开创业

11:20 创立 Castbox，月活一度达 3000 万

13:56 单一产品商业化困难，转型矩阵式打法

创始人如何有效组织和管理公司？

21:27 发挥各家优势是跨国组织的效率密码

22:47 Founder Mode 带来的启发：不管规模多大，创始人一定要抓细节

应用 AI 技术给一家公司带来了什么影响和挑战？

27:39 从生产到推广环节，AI 技术应用带来了历史最快的增长

33:41 如何在公司中推广应用 AI：founder 要能够发掘出水下的新技术人才

39:03 矩阵式打法背后：以市场和收入为导向会更轻松

44:14 面对大模型生产力转化的不足，主动增加工程投入有价值吗？

创业者视角 VS 投资人视角；单一产品做大 VS 矩阵式生意

47:52 聊聊投资者与创业者心态的不同，做生意和做事业如何选择

54:42 互联网产品早期就得砸钱吗？

55:53 不是所有互联网产品都是赢家通吃，学着接纳多样化产品的自然规律

如何在当下做好一个 AI 产品

57:52 只看应用层，最后满足的还是用户需求；为什么说品类和组织能力是关键

61:42 今天的 AI 产品经理需要真的懂 AI，知道 AI 的边界在哪

66:56 潜力产品的两个特征：符合成瘾机制 + 激发心流状态

聊聊创业本身，有关创始人的心态和行为

71:31 创业作为一种生活方式，4000 weeks 如何教会我放弃执念，更有耐心

77:19 如何决定是否要拿投资人的钱？为什么不要迷恋宏大叙事，先立地，再顶天

81:39 创业者的悲观与乐观

84:51 出海创业者一定要到美国去吗？

88:40 快问快答：如何与自己和解，断舍离，对我影响大的人

我们推荐的内容

公众号：Renee 创业随笔

创业的耐心

悲观的乐观主义者

Founder Mode By Paul Graham

上瘾——让用户养成使用习惯的四大产品逻辑 Hooked: How to Build Habit-Forming Products, by Nir Eyal

《底层逻辑2》by 刘润：商业的加减乘除

闪电式扩张 Blitzscaling: The Lightning-Fast Path to Building Massively Valuable Companies, by Reid Hoffman, Chris Yeh

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 60. 全英文对话CRV投资人与LanceDB创始人：向量数据库下半场，大模型和多模态需要怎样的数据基建？

Fri, 13 Sep 2024 00:00:00 GMT

OnBoard! 又一期全英文访谈来啦！去年采访 MosaicML （$1.3Bn 被Databricks 收购）的CTO Hanlin Tang 和 Sapphire Ventures 合伙人 Casber Wang 的那期节目很受欢迎，创始人和投资人从不同角度探讨一个话题的形式看来很值得再尝试一次。这次的两位嘉宾，Monica 也是期待已久啦！

Hello World, who is OnBoard!?

这次我们来聊聊硅谷一直以来的投资热点：大模型应用的数据基础设施。去年方兴未艾的 vectorDB (向量数据库），现在竞争格局有了怎样的演变？AI应用场景中多模态数据的增加对于 data infra 会带来怎样的挑战和机遇？

这两位身处硅谷一线的嘉宾，太适合深入探讨这个话题了：

创始人嘉宾 Chang She，LanceDB 的 Co-founder & CEO。LanceDB 是一个为多模态数据设计的开源向量数据库。Chang 是 data infra 的老兵了：他是著名的 Pandas library 的核心贡献者之一，他创立的 Datapad 几年前被Cloudera 收购。2022年，Chang 又开始了第二次创业征程，创立了LanceDB.

VC 嘉宾 Brian Zhan，是硅谷50年历史的顶尖老牌早期基金 CRV的投资人。他们最新一期基金超过$1.5Bn, 投资过的 startup 包括DoorDash、Airtable, Vercel 等等。Brian 曾在 Meta 做 data infra 产品经理，后来加入了开源数据库独角兽Starburst。少有的有技术和产品背景的 infra 投资人！

Brian 在2023年底领投了 LanceDB $8M seed轮, LanceDB 至今总融资额超过$11M. 现在，LanceDB 的用户已经囊括了一众头部 GenAI 公司，包括 Character.ai，Midjourney，Harvey 等等。

我们还畅谈了Chang作为连续创业者的心得，以及两位对开源商业化模式和 data infra 热点话题的一些犀利观点，他俩的配合也是非常有趣。Enjoy!

嘉宾介绍

Chang She (推特 @changhiskhan)： Co-founder & CEO @LanceDB. 曾任 Tubi VP Engineering, 2013年创立的 Datapad 被Cloudera 收购。Pandas library 的核心贡献者。

Brian Zhan（推特 @brianzhan1）：Investor @CRV. 加入CRV 之前，在 Meta 和 Starburst 担任 Presto 产品经理。

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

02:15 Speakers' self-intro, which data infra project Chang found interesting

05:20 Why CRV invested in LanceDB

07:50 Why Chang started LanceDB, and why customers use Lance and LanceDB

18:36 Investor's view on VectorDB - how LanceDB stand out from the competition? Why does it have the potential to become a platform?

27:47 Will there be a convergence of vectorDB? How do we think about competition from incumbent databases such as PGVector by Postgres?

32:57 Takeaways from the announcements from Databricks and Snowflake summits in June 2024

36:15 When do we need a new data format? Why is opensource important for data format?

43:14 How will AI change the data infra landscape? What will stay, what will be replaced, and what will emerge?

52:31 Why does Chang think that RAG is similar to recommendation systems?

55:34 How to evaluate if a new opportunity is for incumbents or startups?

57:57 What are some common mistakes in building data infra? Why does Chang think that opensource is not a default mode?

60:05 How to view OpenAI's acquisition of Rockset?

74:14 Is RAG system here to stay?

79:11 Chang's lessons as a second time founder? Advice to technical founders.

87:04 Brian: What early investors look for in early stage startups

90:47 What do the speakers find exciting about AI in the next 1-3 years? AI agents, healthcare, robotics, multimodal (voice, video gen)

99:36 Quick-fire questions: book recommendations, what's underrated and overrated, oat milk and pressure relief

我们提到的内容

LanceDB: An open-source vector database designed for multi-modal data.

Lance format: A storage format that improves the performance of LanceDB.

Panda: A popular Python library for data analysis and manipulation.

HDFS: The Hadoop Distributed File System, a scalable storage system for large datasets.

Cloudera: A leading provider of enterprise data cloud solutions.

Data fusion: The process of combining data from multiple sources into a unified view.

Presto: A distributed SQL query engine for big data analytics.

Parquet: A columnar storage format that is efficient for data analysis.

Postgres: A powerful, open-source relational database management system.

PGVector: An extension for PostgreSQL that adds support for vector embeddings.

Unity catalog: A centralized metadata management platform for data discovery and governance.

Prefect: An open-source workflow orchestration platform for data engineering pipelines.

Dag works: A cloud-based data orchestration platform for building and managing data pipelines.

Airflow: A popular open-source platform for programmatically authoring, scheduling, and monitoring workflows.

Voyage AI: A startup focusing on building a platform for autonomous vehicle development.

Reflection AI: A startup that uses AI to help people understand and improve their communication skills.

Decagon AI: A startup that builds AI models for scientific discovery.

Rockset: A real-time analytics database built for the cloud.

RockDB: A high-performance embedded key-value store.

参考文章

www.ycombinator.com

blog.changshe.io

blog.lancedb.com

medium.com

www.snowflake.com

www.databricks.com

Databricks + Tabular：www.prnewswire.com

openai.com

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

最后！快来加入Onboard！听友群，结识到高质量的听友们，我们还会组织线下主题聚会，开放实时旁听播客录制，嘉宾互动等新的尝试。添加任意一位小助手微信，onboard666, 或者 Nine_tunes,小助手会拉你进群。期待你来！

EP 59. 对话硅谷连续创业者梁胜：20年3家公司总并购金额10亿美金，征战GenAI的走心创业思考

Fri, 06 Sep 2024 00:00:00 GMT

OnBoard! 终于又上新啦！这一期的嘉宾是一位少有的硅谷成功连续创业者，梁胜，他创立的三家公司都被成功并购、累计退出金额达10亿美金！

Hello World, who is OnBoard!?

国内很多朋友可能不是很熟悉梁胜，但是在开源和 infra 领域，他绝对是鼎鼎大名。从2000年第一次创业开始，他亲历了云计算整个崛起的20年。最近一次，他2014年创立的Kubernetes 管理平台 Rancher Labs, 融资超过9000万美金，2020年以超过6亿美金被SUSE 收购。2022年，他又开始了新的创业征程。

这一期超过2个小时访谈，你会听到一个硅谷创业老兵非常真实的创业和技术思考。每一次创业都经历了大小的转型：

作为创业公司，如何在早期发现看似很小的机会？

如何避开直面大厂的竞争？

如何在快速变化的市场中做各种战略性的取舍？

都是最一线的经历。

这一次创业，梁胜的公司在我们的对话之前，也刚刚做了一次pivot 转型，从 infra 开发工具，也进入到生成式AI领域。他们发布的GPTscript, 让开发者可以用自然语言进行编程。我们对话之前，编程 agent Devin 刚刚横空出世，梁胜如何看待这次AI大潮对于开发者生态的颠覆性影响？这次 pivot 背后又是怎样的心路历程？

不论你希望了解在开发者工具和开源领域创业，在硅谷的创业公司收并购，或许你也是在日新月异的AI领域探索的创业者和从业者，相信这一期真诚又有干货的访谈一定让你受益匪浅。

因为种种原因，这一期其实是今年4月Monica 在硅谷的时候录制的。不过我们谈论的很多内容现在也没有过时！接下来我们还有好多存货要放送，敬请期待！Enjoy!

嘉宾介绍

梁胜，Acorn Labs 联合创始人 & CEO. 中科大少年班，耶鲁大学博士，创办了Cloud.com (被Citrix 2亿美金收购），成为Citrix 首位华人 CTO。Racher Lab 创始人& CEO, 2020年被SUSE 以6亿美金收购。2022年创办 Acorn labs, 融资超过千万美金。

OnBoard! 主持 Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

02:00 Sheng 的自我介绍，24年前如何在硅谷第一次创业

06:43 影响最大的投资人：不做到世界第一就不值得做？不同领域会有什么不同吗？

13:55 用做到世界第一的思维，如何影响企业的决策？

16:02 如何开始 Racher Labs ($600+M 收购) 的创业：创业越来越难了，Rancher 如何转型，如何被收购

20:44 公司收购之后，在大公司里亲历创新者窘境，startup 为什么要创造新的市场

25:48 为什么创业公司一定要从小的市场开始做？

28:11 Rancher 定义新的市场的挑战，为什么觉得在5000万美金收入的时候卖掉？

33:36 为何决定从收购的公司出来，开始第四次创业？要为AI开发者提供怎样的工具？

39:18 为何 AI 应用开发需要不同的平台？平台的重构为何是随着应用改变？为什么说kubernetes 以后可能不需要了？

44:39 Pivot 到AI产品的过程：GPTScript 如何诞生？用自然语言写应用是怎么实现的？

54:33 如何克服大模型直接写应用的技术难点？如何从用户需求角度思考不同场景的技术需求？

60:54 为什么说现在以数据库为核心搭建的 RAG 走进了死胡同？

64:07 过去几次创业经历，让我不再担心大厂？ Agent 现在看着市场越小，对创业公司越好？

70:22 如何思考是否应该开源？为什么说开源是最低成本的试错？最好的开源是“为自己做”？

76:00 开源商业化模式有什么最佳实践？为什么说开源的困难其实都是市场太小？

78:49 做开发者工具的生意有什么误区？开发者很难挣钱吗？

81:56 创业过程中最大的挑战是什么？为什么说创业机会不是 evaluate 出来的？第一个客户怎么找？

87:17 快问快答：推荐的书，创业以来的变化，期望AI会带来什么变化，创业者如何解压？

我们提到的内容

GPTScript by Acorn Labs

Devin/Cognition Lab: www.cognition.ai -构建端到端的软件代理，特别是Devin，第一个AI软件工程师。

Citrix: www.citrix.com - 一家云计算和虚拟化技术公司，提供服务器、应用程序和桌面虚拟化解决方案。

Kubernetes: kubernetes.io - 一个开源容器编排系统，用于自动化软件部署、扩展和管理。

Redhat: www.redhat.com - 一家领先的企业开源软件解决方案提供商，包括红帽企业Linux和OpenShift。

SUSE: www.suse.com - 全球领先的创新、可靠和企业级开源解决方案提供商，专注于Linux和云基础设施。

RAG: 一种大型语言模型架构，它将信息检索系统与文本生成模型相结合，以提高事实准确性并提供最新响应。

推荐的书：Zero To One, by Peter Thiel

参考文章

www.acorn.io

www.forbes.com

Acorn Labs 介绍

GPTScript 介绍

Acorn Lab 转型

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 58. 你所不知道的AI产品，哪些正在“闷声赚大钱”？| OnBoard! X 十字路口

Thu, 11 Jul 2024 00:30:00 GMT

大家好，欢迎来到新一期OnBoard!，今年是大家讨论 AI 应用最频繁，也是最期待应用爆发的一年，然而回顾海内外无论面向C端用户还是企业级的产品，似乎离我们希望看到的“现象级”仍有距离。但如果聚焦在许多细分场景，回到现在大模型或技术适合解决的市场，也是上期与戴雨森的对谈里提到的“Technology-market fit”，我们仍可以发现不少应用正逐渐开始证明自己的产品力，这里面不乏来自中国人或华人创办的公司。

当我们提到「闷声赚大钱」的「大钱」，并不一定指巨额财富。我们也不打算在节目中透露它们的具体收入数字，因为我们认为，赚钱本身就是一个非常积极的信号。这意味着产品找到了市场契合度（Product-market Fit），找到了愿意付费的目标用户，这也意味着飞轮开始转动起来了。

Hello World, who is OnBoard!?

这一期是与 AI 主题播客「十字路口」的串台，我们与主播 Koji 一起聊聊身边看到与听到的那些华人创办的 AI 公司，这些公司总部有在国内，有的在硅谷、新加坡、日本等地。无论他们身处何地，他们都和我们处在同一个社交圈和文化体系中，能给我们带来最直接的启发和参考，Enjoy！

「十字路口」主持

Koji：关注 AI 的自媒体「十字路口」主理人，「新世相」/「躺岛」联合创始人

OnBoard!主持

高宁：前美元 VC 投资人，Global SaaS 社区及服务组织 Linkloud 联合创始人，公众号我思锅我在 (ID: thinkxcloud) 主理人。| 即刻：High寧

我们都聊了什么

02:42 AI创业，这一次为什么这么看重出海？

06:06 PictureThis如何在北美抓住用户？

08:31 AI教育为什么涌现许多不错的中国团队？

12:06 Speak为什么崛起在韩国？

16:04 UMU如何在日本敲开企业客户大门？

18:14 为什么中国团队适合做AI陪伴等C端产品？

23:24 AI赋能创意营销涌现了哪些高增长的产品？

29:47 AI图像生成工具有哪些不一样的商业模式？

31:52 效率工具类产品是如何“卷”出来的？

37:35 Voice agent赛道上又出现了哪些新兴公司？

38:54 Coding agent公司里又出现了哪些华人身影？

40:40 为什么这次AI创业全球范围内涌现越来越多华人？

44:57 Linkloud是如何服务SaaS及AI出海团队的？

46:21 日本与美国市场的异同在哪里？

51:28 我们能从硅谷AI创业潮中学到什么？

我们提到的公司或产品

PictureThis

Answer AI

StudyX

Speak

ChatOn

CrushOn

Chai

Talkie

HeyGen

Opus Clip

Creatify

ACE Studio

Fotor

Cutout Pro

Monica.im

Notta

Final Round AI

Retell

Devin

Nexa AI/Octopus

别忘了！同步关注主播的微信公众号，看更多干货内容哦：

我思锅我在 (ID: thinkxcloud) by GN

以上就是本期节目的全部内容，欢迎在评论区留下你的思考，与听友们互动。喜欢 OnBoard! 的话，也可以点击打赏，请我们喝一杯咖啡！如果你用 Apple Podcasts 收听，也请给我们一个五星好评，这对我们非常重要。

EP 57.【听友会实录2】创始人出海实战分享，如何在全球打造百万用户的产品

Fri, 05 Jul 2024 00:30:00 GMT

大家好，欢迎来到新一期OnBoard!。6月初，我们终于完成了今年初的一个重要目标——线下听友会，超过100位听友在北京，与两位主播和到场嘉宾一起，度过了干货满满的一整天。上一期节目是真格基金管理合伙人戴雨森和Monica的对谈回放，还没有听过的朋友欢迎回去复习。

Hello World, who is OnBoard!?

第二场对话，我们特地邀请到了三家面向不同海外客群的代表公司，知识工作者为主的Monica.im，开发者与程序员为主的Logto，还有面向北美青少年及学生群体为主的Answer AI，然而无论在对用户群体的调研方式，还是产品设计和增长的最佳实践，要做好全球化及本地化的秘诀等问题，三位嘉宾都分享了很多共通点和非共识的答案，希望也对正在出海的各位有所帮助，Enjoy！

嘉宾介绍：

肖弘：Monica.im 创始人 & CEO，2022年底成立的 Monica.im，也是中国最早一批 GenAI 工具。发展一年多的时间，现在在全球有了几百万活跃用户。更早之前肖弘在国内To B SaaS 领域连续创业，并完成了并购退出。

周立：Answer AI 创始人，目前北美增长最快的 AI Tutor 之一，目标用户是从七年级到大学的学生，在美国拥有超过 200 万的移动端用户。周立曾任创新工场的早期员工，LiveIn出海社交应用创始人，Kika输入法联合创始人，还担任过豌豆荚的代理CEO，曾是老虎地图的早期核心员工。

李铭：Logto 产品和市场负责人，2022年成立的 Logto 是面向全球开发者的工具产品，打造新一代的身份验证和鉴权的 infrastructure。上线以来，在 GitHub 上下载量超过加入 275k。在回国之前，她在字节和 Dropbox。李铭还有一个公众号《鸡汤挂面》，结合创业从0到1的经验，以一个 designer x product x growth 的视角，分享了非常很多出海增长的思考。

OnBoard!主持：高宁，前美元 VC 投资人，Global SaaS/AI 社区 Linkloud 联合创始人，公众号我思锅我在 (ID: thinkxcloud) 主理人。| 即刻：High寧

我们都聊了些什么？

01:03 出海Panel里三位嘉宾自我介绍以及现在公司产品的简介。

08:14 如何找到并定义产品的理想用户画像（ICP）的？

13:46 如何在全球市场开展用户访谈？

29:40 为什么PMF是一个可预测的状态？

34:41 什么叫用卖期货的方式验证PMF？

48:07 在大家看来各自领域中跟对标的公司有什么学习的地方？

58:12 为什么做好全球化不要犯怵，但要实际走到海外去？

重点公司或词汇

Photomath

Brainly

Quizlet

Superbase

HashiCorp

Duolingo

别忘了！同步关注两位 Host 的微信公众号，看更多干货内容哦：

M小姐研习录 (ID: MissMStudy) by Monica

我思锅我在 (ID: thinkxcloud) by GN

最后，OnBoard! 终于成立听友群啦！新年新气象，加入Onboard! 听友群，结识到高质量的听友们，我们还会组织线下主题聚会，开放实时旁听播客录制，嘉宾互动等新的尝试。添加任意一位小助手微信，onboard666, 或者 Nine_tunes, 发送你的姓名、公司和职位，小助手会拉你进群。期待你来！

EP 55. 对话UCSD副教授苏昊：从学术到创业，深度解读具身智能的实现路径

Thu, 13 Jun 2024 00:00:00 GMT

这次依旧是硬核话题，我们跟学术大牛深度聊聊2024年上半年美国创投圈最火的的话题之一，具身智能。

没错，智能机器人之火终于从国内来到美国了。在去年下半年的时候，美国创投界还是在关注大模型和应用、infra等等，虽然Deepmind RT-2 等工作彼时已经崭露头角，更喜欢软件的美国VC似乎还在犹豫机器人这个太硬的赛道。但是从今年上半年开始，事情似乎有了变化。

Hello World, who is OnBoard!?

除了Figure AI 这样的人形机器人公司获得了英伟达、微软等一系列战投的加持，硅谷的老牌基金们也疯狂涌入了所谓的机器人大模型公司，比如学术大牛创立的 Physical intelligence, Skild, 还有 Cruise 前CEO 创立的Bot company, 等等。

这次的嘉宾也是大名鼎鼎，UCSD 计算机科学副教授，苏昊老师，关注具身智能和3D视觉领域的同学应该都不陌生。他参与的一系列AI数据集和软件工作，从ImageNet到ShapeNet、PointNet、SAPIEN，以及最近的ManiSkill等等，都是三维视觉、机器人操作等领域穿越几个时代的标志性作品。苏昊老师现在还是智能机器人创业公司Hillbot 的联合创始人，我们深度探讨了：

过去一年，我们从学术界、工业界讨论的种种话题，又有了哪些新的进展？

大模型的发展如何影响具身智能的不同技术路径？

大模型带来的泛化能力，跟硬件、控制系统等，又会怎样相互作用？

机器人模型里的数据问题，有哪些解决方案？

具身智能这个看似很纷繁的话题，苏昊老师总是能抽丝剥茧，相信你们也能从我们两个多小时的交流中，受益匪浅。Enjoy!

对了！今年年初，Onboard 就发布过一期关于具身智能的讨论，嘉宾包括了 Deepmind Robotics，高仙机器人和UCSD 的不同视角的重磅嘉宾。那一期讨论也非常精彩，建议大家回去复习哈！

嘉宾介绍

苏昊 (Twitter @HaoSuLabUCSD)，UC San Diego Associate Professor，Hillbot智能机器人初创公司创始人、CTO。Stanford PhD, UCSD 具身智能实验室主任，数据科学研究所创始成员，以及视觉计算中心和情境机器人研究所成员。他的研究工作集中在开发算法来模拟、理解并与物理世界互动。

OnBoard! 主持：Monica, 美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

03:04 苏昊的学术历程，为什么最近觉得有关证明的研究进展对机器人领域很有启发？

10:05 从智能演化的角度，理解“具身智能”这个“老概念”

15:01 为什么从语言而不是视觉上最先看到了接近人类的智能？

21:31 实现具身智能有哪些主流的路线？如何理解不同路径不同切入点背后的逻辑？

32:10 可以通过大模型的能力实现运动控制吗？有泛化性的控制数据要怎么采集？

38:26 演示学习 (learning from demonstration) 有哪些不同路径？ALOHA这类遥操作有什么利弊？

47:00 规划和执行需要一起做训练吗？做一个端到端的系统核心难点在哪里？

51:15 划重点：好的算法的本质就是降低对数据的需求

52:23 针对机器人的大模型会跟LLM架构有什么异同？

59:31 人形机器人可以解决数据和能力泛化的问题吗？

66:16 模拟器能解决训练数据的问题吗？近年来模拟器相关技术有什么关键进展？

78:31 AI生成3D，Sora 等新技术进展对实现 sim2real 路径有什么影响？

95:26 苏昊老师现在的创业项目 Hillbot

100:32 快问快答：推荐的书，影响最大的人，具身智能被高估和低估的话题，如何解压！

重点词汇和公司

Boston Dynamics

PI (Physical Intelligence)

OpenAI DALL-E 3

SAPIEN: A SimulAted Part-based Interactive ENvironment

ManiSkill: a powerful unified framework for robot simulation and training powered by SAPIEN.

Google Deepmind RT-1: Robotics Transformer for real-world control at scale

Google Deepmind RT-2: New model translates vision and language into action, Paper

Google Deepmind Open X-Embodiment: Robotic Learning Datasets and RT-X Models, Paper

ALOHA: A Low-cost Open-source Hardware System for Bimanual Teleoperation

Mobile ALOHA: a low-cost and whole-body teleoperation system for data collection.

Behavior Colony：行为克隆

Learning from Demonstration：示范学习

Meta AI Habitat: A Platform for Embodied AI Research

AI2: The Allen Institute for Artificial Intelligence

Segment Anything Model (SAM): a new AI model from Meta AI that can "cut out" any object, in any image, with a single click

robot-VILA: Look Before You Leap: Unveiling the Power of GPT-4V in Robotic Vision-Language Planning

CoPa: General Robotic Manipulation through Spatial Constraints of Parts with Foundational Model

ImageNet: image database organized according to the WordNet hierarchy

参考文章

EP 44.【AI年终特辑3】具身智能深度对话：从学术到产业，机器人的ChatGPT时刻来了吗？ - OnBoard! | 小宇宙

Debate: Is Scaling Enough to Deploy General Purpose Robots @CoRL2023

解密机器人大模型RFM-1：Covariant创始人陈曦专访

对话高阳：具身大模型框架ViLa+CoPa

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

EP 54. 深度对谈顶尖AI开源项目：大模型开源生态, Agent 与中国力量

Fri, 07 Jun 2024 02:47:03 GMT

聊到生成式AI的发展，开源绝对是最关键的话题之一。这次的嘉宾，可以说涵盖了大模型开源领域最值得关注的公司：从顶流社区Huggingface, 到全球开源社区都关注的阿里通义千问 Qwen 大模型，堪称行业标准的 LLM 推理框架 vLLM, 还有最近最火的软件开发 agent 项目 OpenDevin. 真的是黄金阵容！

这一期节目也发布得很应景：就在今天凌晨，阿里发布了最新的通义千问 Qwen 系列模型！Qwen2-72B 的表现甚至全面超过 SOTA 的 Llama 3，大家赶紧去关注！

首先跟大家汇报一下，上周日我们在北京举办的 OnBoard! 第一次线下听友会真是超预期！开放报名4天就250多人报名，周日从上午9点到下午3点，从机器人到AI，创业投资和软件出海，100人的场地，直到最后都几乎座无虚席！真的是非常感谢大家的支持~我们正在努力整理精华文字稿，也请期待我们更多活动！

Hello World, who is OnBoard!?

回到这一期播客，我们将深入探讨大模型的开源生态。

在生成式AI飞速发展的一年多时间里，开源无疑是一个不可忽视的话题。开源模型的迅猛发展，从 Meta 的 Llama 3 到 Mistral 的最新模型，它们对闭源大模型如 GPT4 的追赶，不仅令人惊艳，更加速了 AI 场景下产品的实际应用。而围绕大模型的生态系统，从推理加速到开发工具，再到智能代理，技术栈的丰富程度，虽然已经孕育出了像 Langchain 这样的领军企业，但这一切似乎只是冰山一角。

特别值得一提的是，随着阿里千问系列、Deepseek、以及 Yi 等中国团队主导的模型在国际舞台上崭露头角，我们不禁思考，除了模仿和追赶，中国在大模型领域的发展是否还有更多值得我们关注和自豪的成就。

今天，Monica 有幸邀请到了几位极具代表性的重磅嘉宾，来自 Huggingface 的开源老兵，有通义千问 Qwen 的开源负责人（他也是 Agent 领域最受关注的项目 OpenDevin 核心成员），还有最具国际影响力的开源项目 vLLM 主导人。真是涵盖了大模型开源生态的各个领域的最一线视角！

嘉宾们都太宝藏了，我们的话题延伸到大模型的各个方面，录了近4个小时！我们前半部分聊了很多infra的创新，以及最近很火的、以OpenDevin 为代表的软件开发agent 背后的技术和生态等话题。下半部分，我们回到大模型开源的主题，畅谈了：

底层基础大模型的开源闭源生态，未来可能有怎样的演进？

开源模型商业化跟过去我们在大数据时代看到的databricks 之类开源商业模式有哪些异同？

如何做一个有国际影响力的开源项目？

还有数据、评测等等大模型领域的核心话题，真的非常全面，又不失一线从业者的深度。

索性就不分成两部分了，大家可以对着 show notes 里面的时间戳，直接跳转到你感兴趣的话题（虽然我觉得每个话题都很好！）

介绍了这么多，还要声明一下，节目里面重点聊到的开源社区 Huggingface，还有几个开源的项目，包括阿里千问、OpenDevin, Deepseek, 零一万物的 Yi，vLLM 等，都没有收取任何广告，完全是嘉宾走心分享，全程无广！当然，如果你们或者其他AI公司考虑赞助一下我们用爱发电的播客，我们当然也是欢迎的！

三小时硬核马拉松开始，enjoy!

嘉宾介绍

Tiezhen Wang, Huggingface 工程师，他可以说是中国与世界开源 AI 生态的桥梁，更是从 Google TensorFlow 时代到 Huggingface 早期员工，对中国和世界的开源 AI 生态都有极深的洞察。

Junyang Lin, 通义千问开源负责人，作为 Qwen 在全球开源社区的主要代言人，他不仅见证了开源的发展历程，还是目前备受瞩目的 Agent 开源项目 OpenDevin 的核心团队成员。

李卓翰，UC Berkeley PhD，他所主导的项目更是大名鼎鼎，就是已经成为行业标准的大模型推理框架 vLLM！他所在的 Sky Lab 被誉为开源基础设施的摇篮，从估值百亿美元的 Databricks 到 Anyscale（开源计算框架 Ray 的商业化公司）。他还深度参与了 Chat Arena, Vicuna 等多个国际知名开源项目，对大模型周边生态和 infra 的不仅有国际一线经验，更是有很多有技术理想的干货！

OnBoard! 主持：Monica：美元VC投资人，前 AWS 硅谷团队+ AI 创业公司打工人，公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

05:28 嘉宾自我介绍，有意思的开源 AI 项目

18:37 vLLM 如何开始的，如何成为全球顶尖项目，为什么我们需要一个大模型推理框架？

30:24 Agent framework: OpenDevin 这样的负责 agent 会带来怎样的推理挑战？

40:37 做好一个编程 Agent，还需要哪些新的工具？多模态会带来怎样的变化？

56:16 我们需要怎样的 Agent Framework？为什么最适合开源社区来做？Framework 会收敛吗？

67:46 什么是 Crew AI? 如何看待 Multi-agent 架构？

73:11 借鉴前端框架的发展历史，如何理解一个框架如何成为行业标准？

77:54 Huggingface 上开源LLM现状，过去一年多有哪些重要进展？有哪些不同的开源方式？泽娜要给你看待一个开源模型的流行程度？

94:27 如何理解不同架构的开源大模型生态？Qwen 如何通过架构演进打造更好的开源生态？

104:59 中国的大模型开源项目有哪些创新？大模型架构有哪些变化？

112:17 为什么说新的模型架构可能会带来商业化的新机会？我们能从以前的开源商业化中学到什么？

119:22 我们看到现有大模型架构的天花板了吗？什么是一个新的架构？

128:03 Zhuohan 从参与最早的开源 LLM 之一 Vicuna 的经历学到什么？学术界和业界在大模型生态上如何分工？

140:48 用于大模型的数据集领域有哪些值得关注的进展？

149:42 Mistral 为什么这么快爆火？打造一流国际开源项目有什么可借鉴的经验？vLLM 有什么道和术上的心得？

166:13 Chatbot Arena 是如何开始的？为什么模型的评测那么重要？还有哪些挑战和可能的进展？

180:49 Zhuohan 对于 vLLM 商业化方式有什么思考？未来推理成本还有哪些下降空间？

188:17 快问快答：过去一年生成式AI发展有什么超出预期和不及预期的地方？未来还有什么值得期待？

我们提到的公司和重点名词

Qwen, Qwen-2

OpenDevin: opendevin.github.io

vLLM: github.com

Yi (Github), 零一万物

Chatbot Arena: huggingface.co

AutoGPT: github.com

crew AI: www.crewai.com

autoAWQ: github.com

LLM.c: github.com

Flash attention: github.com

Continuous batching：一种数据处理技术，用于将连续的数据流分批处理，以提高效率和可扩展性。

KV cache：键值对缓存，一种存储结构，通过键快速访问数据值，常用于提高数据检索速度。

Page attention：页面注意力机制，一种在处理长文本时，使模型集中注意力于当前页面或段落的技术。

Quantization：量化，将数据表示的精度降低到更少的比特数，以减少模型大小和提高计算效率。

Direct Preference Optimization (DPO): Your Language Model is Secretly a Reward Model

Google Gemini: deepmind.google

Adept: www.adept.ai

MetaGPT: github.com

Dolphinan open-source and uncensored, and commercially licensed dataset and series of instruct-tuned language models based on Microsoft's Orca paper

Common crawl: commoncrawl.org

参考文章

Tiezhen 的报告：Booming Open Source Chinese-Speaking LLMs: A Closer Look, Slides

通义千问一周年，开源狂飙路上的抉择与思考｜魔搭深度访谈

阿里林俊旸：大模型对很多人来说不够用，打造多模态Agent是关键 | 中国AIGC产业峰会

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)