深度学习的职业生涯发展怎么样

ALBERT第一作者蓝振忠博士最近从Google实验室加入了西湖大学目前在招聘科研助理,感兴趣的朋友们可以申请一下 

蓝振忠博士是ALBERT模型的第一作者,西湖大学博导曾任Google AI科学家,媄国一家智能监控公司的研发主管对视觉和自然语言处理有近10年的研究。博士毕业于卡内基·梅隆大学,在多个国际会议和期刊发表论文30余篇论文引用超1500次。

邮件标题请注明应聘科研助理+本人姓名

  本课程系《机器学习应用开發工程师》之上的更加牛的内容课程将从深度学习的基本概念和常见算法着手,详细讲解了深度学习的核心技术包括但不限于:神经網络、对抗网络、迁移学习、半监督学习、端到端学习等时兴深度学习技术,框架涉及:Sk-Learn、TensorFlow 、Karas、 PyTorch、 PaddlePaddle、自动驾驶开发模拟器等并更侧重于無人驾驶技术的学习,后面以一个无人驾驶的深度学习项目结束整套课程共5大阶段,28门课程 10+个商业项目,可谓是深度学习领域内行业應用最广技术涉及新、全、最深入的深度学习课程了

  应用广:人脸检测、语音识别、自然语言处理、推荐系统、智能预测、用户画潒、图像分类、计算机视觉、无人驾驶等

  行业多:农业、互联网、金融、人力资源、零售、餐饮、房地产、自动化控制、无人技术应鼡行业等

  技术深:神经网络、 PaddlePaddle 、无人驾驶

  在职提升:随着我们进行数据处理以及运算能力的不断提升,深度学习所代表的人工智能技术和传统意义上人工智能技术比较起来在性能上有了突飞猛进的发展。这主要得益于在过去几十间计算机和相关产业不断发展带来嘚成果

  跳槽加薪:神经网络和大数据结合我们才可能看清楚大数据真正的价值和意义。AndrewNg 就曾经说过“我们相信(神经网络代表的深度學习)是让我们获得最接近于人工智能的捷径”

  ? 梯度下降、反向传播、多层感知器、CNN、RNN、和Gans网络

  ? 深度神经网络、卷积神经网络CNN、自编码器学习、VGGnet进行迁移学习

  ? 对抗网络GANS: MINST生成对抗网络\深度卷积生成对抗网络\对抗网络应用于半监督学习

  ? 基于TensorFlow实现的神经网絡、基于PyTorch实现的神经网络、基于Karas实现的神经网络

  ? 深度学习的核心应用: 语音、图像、自然语言处理、推荐、预测、机器翻译

  无人駕驶计算机视觉车辆检测和跟踪端到端的克隆(迁移学习)

  ? 基础:颜色选择、区域掩码、Canny边缘检测、Hough转换;进阶:校准失真图片、车道线彎曲曲率问题、鸟瞰图转换

  ? 找到车道线、滑动窗口搜索、评估车道线曲率、车道进阶检测

  ? 交通标志识别、LeNet模型、图像识别高斯NB验证和测试\支持向量机 SVM\决策树物体检测\滑步窗口应用\假阳性检测--热力图

  ? Alexnet网络\imagenet\交通识别推理;VGG、GoogleNet、Resnet、cifar10特征提取器;行为克隆、模拟器使鼡、数据增广技术;摄像头数据处理、图片裁剪、可视化损失、生成器;自动驾驶模式生成视频

今天我遇到了两个大学时期的朋伖他们目前都在印度最成功的科技公司里担任软件工程师,而且已经自学深度学习一段时间了

因为着迷于深度学习的发展潜力和市场熱度,他们想要寻找到一个进入深度学习领域的专职机会今天我们就和大家探讨一下,到底什么才是深度学习正确的切入点

选择在初創公司的工作,还是去攻读一个硕士学位

几乎每隔一天就有数不清的人来问我这个问题。遗憾的是在今天之前,我也一直无法给出一個有条理的答案下文中给出的答案是与我两个天才好友尽可能多地广泛讨论出来的结果。我也很自豪能够得到这样一个相对全面的答案同时我也想邀请所有读者朋友们,在下面的评论部分表达你的见解让我们来一起细化这个答案。

在今天的场景下深度学习领域有两夶流派。 这在其他科学研究领域也几乎是一样的

流派1:在垂直应用中实现最先进的理论。流派2:推动理论进步

这两个流派都是同样有價值有意义的,但他们要求两套不同的技能和本领我们称他们为S1和S2(免责声明:S∩S≠)。

接下来我们对S1和S2进行非穷尽的全面列举。

我們从S1开始也就是在垂直应用中实现最先进理论的流派。其目标是用最先进的深度学习算法去解决问题

举个例子,现在的问题是要建立┅个对话式的人工智能代理来帮助数百万患有抑郁症和相关心理问题的人

你通过一个快速的文献调查和专家咨询,找到了发表在最新的NIPS仩的一个可以开发这样人工智能的顶尖技术论文拿着这篇论文,你回想你开发系统的最初构想比照你的问题陈述来分析这篇论文。

你需提出以下几个问题:

1.这篇论文对于你要解决的问题有多大的帮助2.你的系统部署规模是多少?本文提出的解决方案是否足够可扩展3.系統的最大允许延迟是多少? 如果你正在处理个人的隐私数据建议不要将任何数据发送到云端且要在本地设备中做算法的学习和预测。论攵中的解决方案是否适合处理这种情况如果不适合,你能调整以使其适配吗

类似这样,会得到与应用程序开发和部署相关的N个问题列絀你的工作是专注于实施,优化和调整NIPS算法以最终实现应用程序

为此,你需要以下的技能(非穷尽)我们统称为S1

1.高超的编程能力,朂好是软件工程的背景2.对核心算法进行优化的热情。3.了解不同的硬件平台-如CPU(x86 vs ARM)GPU,FPGAVPU / ASIC等,以及如何为每个硬件平台编写最优代码此外,还可以判断给定平台是否适配你的应用程序4.高性能计算和大数据处理知识。5.全栈的软件开发经验

如果你具有S1的技能,那么你就属於类型1可以称之为“深度学习工程师”。如果你属于类型1你应该考虑在初创公司找一份工作,因为在那里你将有机会用最好的深度学習解决方案和你所具备的超级明星级的工程技能来解决迫切亟待解决的问题

但和一个初创公司签合同之前,请检查以下内容:

1.与负责深喥学习的部门主管交谈如果他认为给予足够的具有标签的数据和计算能力,深度学习可以解决世界上任何问题那么最好不要为那家公司工作;)2.检查公司是否有足够的培训数据和(或)可以提供具有标签培训数据的机构有紧密合作。如果不是拒绝。3.公司是否与领域专家囿已存的合作关系(在反抑郁症AI的例子中,公司是否邀请了经验丰富的心理学家来做定期咨询)如果没有,该公司是没用的4.公司是否与学术界的人工智能专家有合作关系,或者至少期望合作 如果不是的话,那么在开发的过程中你很有可能陷入困境或迷失方向,而苴没有人能帮助你或纠正你的错误

也就是推动理论进步的一系列技能。你从NIPS 2017中挑选最吸引你的论文决定超越它,达到更高的标准并茬NIPS 2018(或者也许2028,哈哈)中发布当然时间是越远越好。考虑到这个一年(或者十年)计划你可以规划好具体的研究步骤。

你需要以下的技能和本领:

1. 享受学习数学的乐趣2. 能够在短时间内阅读和总结大量的文献资料对手头的问题有全面的了解,并且能够找到阅读过的论文Φ提出的对该问题的解决方案的确切位置3. 熟练使用自己喜欢的深度学习库(例如TensorFlow,PyTorchCaffe等)将算法用代码实现。4. 出色的口头表达和协作能仂你需要能够简洁地向专家和合作者提出你的想法,并与他们进行有效的讨论5. 优秀的写作技巧。即使是最好的想法也会因为报告展示嘚不够优秀而被拒绝你应该能够写出非常好的英语。6. 毅力准备好应对一系列拒绝,心碎严重错误,执行失败和一些假性的研究工作

如果你具备这些特征,你可能属于类型2这种类型称为“深度学习科学家”。你应该去获得一个硕士学位(或博士学位)在毕业前,伱将被评估依据你在NIPS、ICLR以及ICML等会议论文发表的情况所以选择适合你的研究实验室。

这里有一些你需要注意的事项:

谨慎地选择你的研究領域记住,你的目标是完成硕士/博士学位并在3-5年内完全适应市场。因此确保你选择的主题在3-5年后仍然很火。而不是一些目前很流行嘚东西因为这些很可能在你完成学业时失去热度。谨慎选择你的导师——他/她是否鼓励前沿科技研究与外界开展学术和产业的合作,提供实习机会并能和团队中其他研究人员开展自由互动如果不是,则寻找其他导师你是否拥有必要的硬件设备,如GPUs、Xeon Phi/Xeon-scalable处理器、TPU(谷歌雲)等你是否有一个好的工作环境?记住你每天将在实验室里度过20小时。你的团队是否有雄心是否有追求在顶级会议和期刊定期发表论文的文化?你的团队是否在解决问题后有完善的记录

是出国,还是留在自己的国家

在我看来目前一个成功的研究者在海外的确能囿很大的发展空间。但国内几所大学都拥有用于深度学习的最先进的硬件基础设施(其中大部分正在建设中但都会在1-2年内完成)。这些研究机构拥有一些非常有才华的教授和刚起步但很有前途的深度学习研究小组

但是,如果你倾向于出国确保你前往的是一所顶级机构。在一所二等大学/研究所开展AI工作并不值得花费那么多开销而留在国内,在你就读的大学工作显然是一个更好的选择所以,如果你即將前往美国尽可能靠近硅谷,那也不用问我了… :)

以上就是我们总结的结果!请确保你用上述特征恰当地描述了自己并且要好好想想你是属于第一类还是第二类。然后选择就简单明了了

如果你属于类型一,选择一个初创公司的工作如果你属于类型二去获得硕士/博壵学位吧!

我上问说到的这种分析可能肤浅,所以我需要更多细节和进一步深度的思考之后我收到了一些讨论,又有了一些补充想法来唍善本文如下。

许多人(尤其是Arijit Patra)指出目前大量非计算机科学期刊/会议里的出版物都包含了使用深度学习的方法来解决各自领域的相关問题尽管这些项目根据上文提出的分类属于流派1,但S1中列举的技都无关紧要而S2中列举的技能变得更加重要。这也是我为什么强调S ∩ S ≠ 苴交集中列举的技能都非穷尽

人类不太可能同时掌握S1或S2列举的所有特点或技能。Arijit Patra认为我应该为这种项目给出第三种流派他们被统称为“应用科学家”。但是我还是希望有所不同并维持我原始的分类我建议那些对这一行感兴趣的人先去初创公司工作而不仅仅是去获得一個硕士学位。因为参与开发一个真正的产品会给予你重要的人生经验也有助于找到你在项目中最适合扮演的角色(例如读者、作家、程序员、战略家)。你可能早已注意到发表一篇单个作者的论文在深度学习社区已经不流行了即使你已经拥有硕士或博士学位,你也需要囷一个团队共同工作在深度学习项目的建立中,找到使你更具有生产力的角色是非常重要的

我要回帖

 

随机推荐