出走半生终投身于“真正的工作”!Karpathy创立Eureka Labs,拥抱AI教育尤里卡时刻...

AI科技大本营 2024-07-20 09:01:02 阅读 73

作者 | 王轶群

责编 | 唐小引

出品丨AI 科技大本营(ID:rgznai100)

今年 2 月从 OpenAI 二次离职的 Andrej Karpathy,终于找到了自己热爱的方向。

“很高兴地告诉大家,我正在创办一家名为 Eureka Labs 的 AI+教育公司。”北京时间今天凌晨,Andrej Karpathy 宣布将启动一个名为 Eureka Labs(尤里卡实验室) 的人工智能集成教育平台,利用 ChatGPT 开发商 OpenAI 和特斯拉多年的经验。

16d2afa98e4e38f2644e17df2db402a1.png

a22b84617da32dc05e286a52513e377a.png

不藏了!尤里卡实验室来了!

Karpathy 解释了其创业公司命名的想法。Eureka(尤里卡,源自古希腊语)是一种理解了某件事之后的美好感觉,好像脑子里有个东西咔哒一声。他和团队的目标是激发人们心中的那些瞬间。Karpathy 无疑也是找到了自己的尤里卡时刻:用自己的专长,专心做教育。

至于名字里为什么加个 Labs 是因为 Eureka 作为单个单词已经被别人用了(Netflix开发的服务发现框架),而 Karpathy 一直想要个实验室。

当地时间7月16日一早,Eureka Labs 官方账号在 X 上发了第一条动态“Hello World!”并分享了其官网(https://eurekalabs.ai/)。官方账号打出的第一行代码,就像与成立第一天的早上初升的太阳挥手,而 Karpathy 也找到了自己的光。

在公告中,Karpathy 表示:“我们是 Eureka Labs,我们正在建立一种新型的 AI 原生学校。”他进一步解释道,AI 的发展正在改变教育界此前面临的困境:“充满热情、教学出色、耐心无限、精通世界所有语言的学科专家也非常稀缺,无法按需亲自辅导我们 80 亿人。然而,随着生成 AI 的最新进展,这种学习体验感觉很容易处理。老师仍然设计课程材料,但它们得到了 AI 教学助理的支持、利用和扩展,AI 教学助理经过优化,可以帮助指导学生完成课程。这种教师 + AI 共生关系可以在一个共同的平台上运行整个课程。如果我们成功了,任何人都可以轻松学习任何东西,扩大教育的范围(大量人学习一些东西)和范围(任何一个人学习大量科目,超出今天无人协助所能达到的范围)。”

网友们即将能够通过其课程体验云入学人工智能大学院系了!据公告,Eureka Labs 的第一个课程产品是 LLM101n,“将是世界上显然最好的人工智能课程”。“这是一门本科课程,指导学生训练自己的人工智能,非常类似于人工智能教学助理本身的缩小版。课程材料将在线提供,但我们还计划组织线上和线下团队一起学习。今天,我们正在全力打造 LLM101n,但我们期待未来人工智能成为提高人类潜力的关键技术。”

今年6月底,Karpathy 已经把 LLM101n 的部分课程上传到 Github。该课程的目的是要构建一个能够创作、提炼和阐释小故事的大语言模型,目前已获得 18.2k 的星标数。

debfd7b7eab95903f110f6d37a3ca229.jpeg

有网友表示,这是 karpathy 老师的新冒险。该课程将带着学习者从语言建模、机器学习的基础知识开始学习,然后到多模态、RLHF、模型部署。

Github 课程链接:https://github.com/karpathy/LLM101n

此前, Karpathy 就热爱分享传授自己的人工智能知识。“Eureka Labs AI 是我 20 多年来对人工智能和教育的热情的结晶。我对教育的兴趣让我从 YouTube 上的魔方教程到在斯坦福大学开始 CS231n,再到我最近的 Zero-to-Hero AI 系列。而我在人工智能方面的工作让我从斯坦福大学的学术研究到特斯拉的现实世界产品和 OpenAI 的 AGI 研究。到目前为止,我将两者结合起来的所有工作都只是兼职,作为我‘真正工作’的支线任务,所以我非常兴奋能够全身心投入并打造出一些伟大的东西,专业且全职。现在还为时过早,但我想宣布这家公司,这样我就可以公开建立,而不是保守一个不为人知的秘密。”Karpathy 在公告里表示。

“公告解除了我全面开展工作的障碍,不再将其保密。真正的工作现在开始了。”官方账号在回复网友怎样进入课程的评论中表示。

7ae9126f53e01dd6f21739a3d137be8b.png

目前,该公司也开通了 GitHub:https://github.com/EurekaLabsAI

虽然课程还在制作中,但 Karpathy 出品,必属精品。无论是魔方教程,还是多数人AI启蒙的斯坦福大学 CS231n 课程,亦或是火遍全网的 Zero-to-Hero AI 系列,都无数网友带来了尤里卡时刻。这一次,他终于在自己热爱的尤里卡实验室火力全开!恭喜 Karpathy!

d8d7ca4762ea4ffd2f01d5fb72840995.png

启蒙于AI教父、受教于AI教母,摆脱大厂光环回归热爱

能够出品如此启发性强的作品,源于 Karpathy 强大的学术背景和对 AI 领域的热爱。他在个人主页的签名中直白地表达了自己的热爱:“我喜欢在大型数据集上训练深度神经网络。”

3783bc6763becbb758a25b5b94fb53a1.png

图源:https://karpathy.ai/

拥有斯坦福大学的博士学位的 Karpathy 是“AI教母”李飞飞的高徒,AI 启蒙于“AI教父”杰弗里·辛顿。他第一次接触到深度学习是在 2005 年到 2009 年在多伦多大学本科求学期间参加了 Geoff Hinton 的课程和阅读小组,在多伦多大学主修计算机科学和物理学,辅修数学。

2009年到2011年,Karpathy 在不列颠哥伦比亚大学攻读理学硕士学位,与计算机科学系教授 Michiel van de Panne 合作研究物理模拟人物的学习控制器,即在物理模拟中进行敏捷机器人的机器学习。

Karpathy 的博士学位主要研究卷积/循环神经网络及其在计算机视觉、自然语言处理和交叉领域的应用,导师是斯坦福视觉实验室的李飞飞。他在个人主页写道:“在第一年的轮岗计划中 ,我也很荣幸能与Daphne Koller、Andrew Ng、Sebastian Thrun 和 Vladlen Koltun 一起工作。”在斯坦福求学期间,他设计了斯坦福第一门深度学习课程——《CS 231n:用于视觉识别的卷积神经网络》,并担任该课程的主要讲师。该班成为斯坦福大学规模最大的班之一,2015 年招生人数为 150 人,2016 年增加到 330 人,2017 年增加到 750 人。” 他在个人主页花了大篇幅来描述这一课程,由此可看出他对教育的热爱与其成果的肯定。

除了攻读博士和开展授课外,Karpathy 还挤出时间参加了 3 份实习,2011 年在尚在起步阶段的谷歌大脑从事视频学习规模的无监督学习,2013 年再次在谷歌研究中心从事 YouTube 视频的大规模监督学习,最后于 2015 年在 DeepMind 的深度强化学习团队工作。

在OpenAI创立仅一年多后,2017 年,Karpathy 接受马斯克的邀请加入特斯拉,接替了当时的特斯拉 Autopilot 负责人、苹果 Swift 语言、LLVM 编译器之父 Chris Lattner。2017至2022年间,Karpathy 担任特斯拉的 AI 高级总监,领导特斯拉自动驾驶仪的计算机视觉团队。“这包括内部数据标记、神经网络训练、使其工作的科学以及在我们的定制推理芯片上运行的生产部署。如今,自动驾驶仪提高了驾驶的安全性和便利性,但该团队的目标是开发和部署全自动驾驶,以适应其快速增长的数百万辆汽车车队。”他写道。

五年里,Karpathy 一手促成了 Autopilot 的开发。随着特斯拉从最开始的自动驾驶慢慢扩展到更广泛的人工智能领域,Karpathy 也被提为特斯拉的 AI 高级总监,直接向马斯克汇报工作。

Karpathy 于2022年7月离开特斯拉。在后续的访谈中,他说这是一个艰难的决定。虽然特斯拉还未完全实现自动化驾驶,但研发团队已经可以自行发展。这次离职也给他一个机会,去重新审视自己对于人工智能、开源和教育的热爱。

2023年到2024年2月,他再度回到 OpenAI,“建立了一个小团队,在ChatGPT上改进了GPT-4”。在此期间,Karpathy 除了完成 OpenAI 的研究工作,还做了一些个人项目,包括录制教育视频、开发关于 Llama 2 的开源项目——llama2.c等。

在个人主页的叙述上,相比 CS 231n 的课程,Karpathy 对自己在 OpenAI 和特斯拉的表述只有寥寥几笔。毕竟,两者相加也只是“兼职”,只是“真正工作”教育事业的支线任务。扎实的学识、丰富的实践经历和炽烈的热爱,都为他的主线创业工作打下的基础。拨云见日,原来自己最开始就踏入了自己的热爱。

44200cdd720e5b01dbe01fb43df401b9.png

为更多人带来尤里卡时刻

那些 AI 带给 Karpathy 的灵感瞬间,他将通过  Eureka Labs 带给更多人,让更多人拥抱 AI 时代的尤里卡时刻!

AI 技术将促进教育资源的共享和均衡,优质的教育资源可以通过 AI 技术进行整合和优化,使得更多人能够享受到高质量的教育。

Karpathy 这样的 AI 大神全力投入 AI 大模型相关的教育事业,并通过开源方式集合更多智慧,将进一步促成 AI 人人可用、人人可构建的未来。这样的大多数人的尤里卡时刻,每个人在 AI 知识进步的 one small step,也会促进 AI 科技的 one gaint leap。


夏日炎炎,「AI科技大本营」准备了

时尚T 恤、精选图书、精品PPT 

等一大波好礼等你来领

扫码回复“抽奖”立即领取!



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。