著述转载于新智元开yun体育网

创业一年半后，前大脑高档磋磨科学家、Reka首席科学家兼连合创始东谈主Yi Tay晓示已重返谷歌！

他回到了谷歌DeepMind，回到了他的前司理Quoc Le部下责任，职位为高档资深磋磨科学家，链接从事东谈主工智能和大语言模子（LLM）的磋磨。

这是他归来的第一周。

在他创立Reka的1年9个月里，Yi Tay说他履历了非常直快东谈主心的时光，并从这段全新的履历中学到了许多。

他还写了一篇博客，共享了他的履历和此次转型——

博客地址：https://www.yitay.net/blog/returning-to-google-deepmind

1

在Reka的639天

在Reka的时光里，Yi Tay学到了许多对于谷歌外部基础关节的常识，包括使用PyTorch、GPU等外部资源。

此外，他还学会了如何应付不巩固的GPU、供应商和猜测资源（干系博客著述见下）。

博客地址：https://www.yitay.net/blog/training-great-llms-entirely-from-ground-zero-in-the-wilderness

他和Reka的创始团队成员沿途，以老本最优的表情构建了一些出色的模子。

本年5月，Reka Core的认知踏进Lmsys的前五名，模子自己名步骤七，并得手高出了GPT-4的早期版块。

在资源（资金、算力和东谈主力）远少于其他施行室的情况下，他们赢得了这一得益，Yi Tay为此感到十分夸口。

要知谈，他们的技艺团队系数不到15东谈主。

在这段日子里，Yi Tay也参与了许多技艺共享。

包括在WebConf的LLM日作念主题演讲、越南的GenAI峰会、swyx的Latent Space播客节目，以及受TechInAsia邀请进行的一场炉边言语。

与此同期，看成创业者，他学到了许多对于创业、贸易和从零初始修复公司的常识。

对他来说，这是一段极为弥留的时分。

就在他离开谷歌初独创业时，得知妻子怀上了他们的第一个孩子。

为了同期处理这样多事情，他的身心健康受到了严重影响，由于高强度的责任和不健康的生活表情，他的体重增多了15公斤。

本年3月，Yi Tay还写了一篇长帖，追思了创业一年并兼任「奶爸」的艰痛心程，并共享了全天24小时的日程。

[下昼3:00] 稳重起床。 [下昼3:30] 颤颤巍巍走到书桌前，查验睡前跑的任务。莫得收到任务挂掉的音讯教唆（Clustermon安闲无事），谢天谢地！和妻子、宝宝说声「晨安」。喝杯咖啡看重。 [下昼4:00] 和另一家公司开线上会议，他们专诚与咱们勾通。 [下昼4:30] 边写代码边吃家东谈主帮我买的外卖午餐。欧洲的共事初始上线。 [下昼4:30] 给宝宝洗浴。 [下昼5:00] 回到书桌链接写代码，再来一杯咖啡。 [下昼6:00] 和几位共事临时线上筹商技艺问题。 [下昼7:00] 查抄妻子和宝宝是否一切安好。妻子给宝宝换尿布，我帮衬准备她的晚餐。 [晚上8:00] 再次查验任务，链接写代码。感受Cuda和GPU的灾祸。两个任务挂掉了。确切绝了！ [晚上9:00] 躺在床上休息旋即，刷X。用匿名小号@agihippo发个辛辣不雅点。 [晚上9:30] 有点困顿地链接写代码，同期在Reka的Slack立地频谈发几条搞笑音讯。 [晚上10:00] 吃家里的晚饭。天然有点凉，但无所谓了。 [晚上10:30] 团队全员同步会议，跨时区的全球齐上线了！ [晚上11:30] 妻子休眠，我摄取哄娃任务。 [午夜12:00] 喂宝宝，让她再行入睡（但愿她此次能睡久少量！） [凌晨1:00] 和@DaniYogatama聊天一个小时。 [凌晨2:00] 查验任务，链接写代码和调试。不成再喝咖啡了:( 亚洲共事们大多下线了，只剩下我和好意思国的共事在Slack上聊天。 [凌晨3:00] 有点饿了，点了一份照烧鸡肉饭外卖。 [凌晨3:30] 喂宝宝！她初始闹腾，不愿入睡。我抱着她走了半小时。 [凌晨4:30] 终于回到书桌前。外卖到了，开吃！边吃边用Reka Flash和Reka Core作念一些测试。又一次感受到「为东谈主父母」的奇妙体验。 [凌晨5:00] 感到困顿和被Bug折磨的挫败感。跑去另一间房，望望宝宝睡得是否安详。 [凌晨6:00] 回到Slack恢复音讯，查验任务。又有一个任务挂了☠️☠️，重启任务。 [清晨7:00] 刷X和TikTok，想考要不要休眠。反想东谈主生。再发一条@agihippo的辛辣不雅点。 [清晨7:30] 天初始亮了，我在家里粗率走走，向照旧醒着的家东谈主谈「晨安」。 [清晨8:00] 上床休眠。今天的班罢了了。妻子起床接着带宝宝。把宝宝交到她的手中，感到快慰☺️。 [清晨8:30] 手机忘了静音，被音讯吵醒，深感困顿，料想还有不到4小时就得起来投入下昼1点的线下责任会议，倍感压力。 [清晨9:00] 好了，此次是真的休眠了（但愿能睡着）。

不外，Ti Tay仍对这一阶段的履历感到恬逸，并认为这是一次厚爱的「学术假期」与学习履历。

过程创业的尝试后，他认为我方如故更像别称科学家/磋磨员，而不是其他身份，因此他决定归来他的磋磨本职，回到谷歌投身磋磨。

1

明星联创纷繁卖身大厂

Reka成就于2022年，团队由谷歌和Meta的磋磨东谈主员构成。

放肆2023年6月，该公司已得手筹集5750万好意思元，估值达到3亿好意思元。

然则，本年确实莫得什么首要进展——唯独值得驻扎的是，本年5月，Reka与Snowflake的10亿好意思元收购谈判闹翻，来去最终流产。

本年，前谷歌职工创办的初创企业确实齐在濒临一个难题的「穷冬」时刻。许多创始东谈主纷繁跳船。

3月，Inflection的CEO Mustafa Suleyman离开公司，转投微软；

6月，Adept的CEO David Luan跳槽到了亚马逊；

8月，Character.AI的CEO Naom Shazeer携总裁Daniel De Freitas集体跑路，重返老东家谷歌；

可见，这一年全球齐不好过。

简略你也会忍不住问，初创们的生计为怎么此难题？

毕竟，这些出走谷歌的大佬们，基本上在创业前一直齐在埋头搞磋磨。

谷歌部门更像是「学术磋磨机构」，并非遑急需要产生现款流，专注磋磨是中枢。

而贸易化计策，是有筹画者的事。

一朝外出创业，两种环境所需的妙技千差万别。

对于学术界的磋磨者来说，擅长磋磨，时常并不虞味着擅长照顾/诡计一家公司。

其次，东谈主员亦然一浩劫题。

即使最佳的初创公司，时常也濒临里面参差词语，创始东谈主出现不合的事并不荒凉。

再加上，「学者降生」的创始东谈主，可能并不合乎企业的照顾结构，增多了打破的可能性。

此外，AI开采的昂贵老本，以及现存公司强烈竞争，这些身分使得这些初创公司，从一初始就濒临难题的处境。

何况，即使是最优秀的AI初创，若是莫得像谷歌、亚马逊、微软等大公司提供财务撑握和云管事，也难以安闲生计。

参考贵寓：

https://www.yitay.net/blog/returning-to-google-deepmind