其生机勃勃原意为探求东方之珠创新意识和样子的展览,依然没中

 照明工业     |      2020-01-04 00:54

八月,黄炳培在香港湾仔做了一个叫“好香港、好香港(Very Hong Kong、Very Hong Kong)”的展览,他和设计师陈幼坚用从政府那里申请来的创意基金,带来了 150 件香港创意和设计作品,涉及平面、摄影、 玩具、时装、建筑、音乐等领域。

摘要:深度学习作为机器学习的重要领域,在过去的几年时间里面发挥了巨大的作用。但是随着机器学习在不同领域的深入应用,迁移学习正在成为不可忽视的力量。

图片 1

这个本意为探讨香港创意和方向的展览,一度被认为是一场大型的香港怀旧展。

我们越来越善于训练深度神经网络,从大量的标记数据中学习到从输入到输出的非常准确的映射,无论它们是图像,句子,标签预测等。

在欧洲,有一个很火的综艺节目《The Price is Right》,节目是让观众打电话去猜给出商品的价格以此赢取丰厚的奖金。

“好香港、好香港(Very Hong Kong、Very Hong Kong)”,图片来源:hk01

但,我们的模型所缺乏的是能够概括出不同于训练过程中遇到的情况。当你将模型应用于精心构建的数据集,它表现的总是不错。但,现实世界是混乱的,包含无数的新情景,其中许多是你的模型在训练期间没有遇到过的。将知识迁移到新情景的能力通常被称为迁移学习,这是我们将在本文的其余部分讨论的内容。

图片 2

也许知道黄炳培另外两个名字的人更多——Stanley Wong 和又一山人。Stanley Wong 出现在广告人和平面设计圈子里,按照他自己的话来说,这个名字是留给赚钱时候用的。

在本篇博文中,我将首先将转换学习与机器学习的最普遍和成功的范例-监督式学习进行对比。随后,我会给出一个更具技术性的定义和详细的不同迁移学习场景。然后,我将提供迁移学习的应用实例,然后深入研究可用于传授知识的实用方法。最后,我将对相关的方向进行概述,并提出展望未来。

那天和葡萄牙的小伙伴正好看到节目正在竞猜一部iPhone7Plus的价格,一向对这种节目生恶痛绝的初阳,悻悻的打了一个电话过去,没中!

1990 年,入行 5 年、 30 岁的 Stanley Wong 因为为港铁做的一系列广告而出名,他也是《重庆森林》的海报设计者,曾担任过广告公司 Bartle Bogle Hegarty (BBH)亚洲创意总监和 Omnicom 旗下广告公司 TBWA 的 CEO,2007 年成立了自己的创意公司 84000communications。除此之外,他也是方所的三个创始人之一,是马可的品牌无用的创意顾问。

什么是迁移学习?

在机器学习的监督学习场景中,如果我们打算为某个任务和领域A训练一个模型,我们假设我们为相同的任务和域提供了标签数据。我们可以在图1中清楚地看到这一点,其中我们模型A和B的训练和测试数据的任务和领域是一样的。让我们假设一个任务是我们的模型旨在执行的目标,例如识别图像中的对象,一个域是我们的数据来自旧金山咖啡店拍摄的图像。

传统的方法是我们要分别训练模型A和B,这势必会造成大量的资源和时间上的浪费。

而且当我们没有足够的标记数据为我们训练可靠模型的任务或领域时,传统的监督式学习范式就会崩溃。

如果我们想要训练一个模型来检测夜间图像上的行人,我们可以应用一个已经在类似的领域进行训练的模型,例如在日间图像上。然而在实践中,由于模型继承了训练数据的偏见,这个时候我们就需要改动其中的一些参数或者寻找一些新的模型。

如果我们想要训练一个模型来执行一个新的任务,比如检测骑自行车的人,我们甚至不能重复使用现有的模型,因为任务之间的标签是不同的。

迁移学习使我们能够利用已经存在的某些相关任务的标记数据来处理这些场景,新的模型继承了老模型的相关能力。

在实践中,我们试图将尽可能多的知识从源头迁移到目标任务或领域。这些知识可以根据数据采取多种形式:它可以涉及如何组成对象,使我们更容易识别新的对象等。

又试了一次,

商业创意的成功让黄炳培不用担心钱的问题, 2000 年左右,他开始投身艺术,以又一山人(取名于中国明末清初画家八大山人)的名字做个人创作。从开始到现在,身为艺术家的又一山人一直在做一种元素:红白蓝。

为什么要迁移学习?

斯坦福大学教授Andrew Ng在他广泛流行的NIPS 2016教程中表示,迁移学习将是在监督学习之后成为ML商业成功的下一个推动力。

他在白板上画出了一张图表,据Andrew Ng介绍,迁移学习将成为机器学习在行业中取得成功的关键因素。

毫无疑问,ML在工业界的使用和成功迄今主要是由监督学习推动的。在深度学习、强大的算法和大量标记数据集的推动下,监督学习使得人类对人工智能兴趣大增,特别是我们已经看到的机器学习的应用近几年来,这已成为我们日常生活的一部分。

然而,为什么迁移学习已经存在了几十年,目前在工业上很少被利用,为什么会看到吴恩达预测的爆炸性增长呢?与其他机器学习领域相比,迁移学习目前受到关注较少,例如无监督学习和强化学习。强化学习是由Google DeepMind领导,例如AlphaGo的成功,以及通过将Google的数据中心冷却费用降低40%。这两个领域虽然很有希望,但在可预见的未来可能只会产生相对较小的商业影响,大部分仍然处于尖端研究报告的范围内,因为它们仍然面临着许多挑战。

目前在工业中使用机器学习的特点是二分天下:

一方面:在过去的几年中,我们已经获得了训练越来越精确模型的能力。最先进的模型表现的非常好,已经满足了用户的需求。到底有多好?ImageNet上的最新残差网络在识别物体方面实现了超人的性能;天猫小秘的智能回复广泛应用,语音识别错误一直下降;我们可以自动识别皮肤癌以及其他症状。这种成熟度使得这些模型能够大规模地部署到数百万用户。

另一方面:这些成功的模型非常需要数据,并依靠大量的标记数据来实现其性能。对于一些任务和领域,这些数据是多年来一直苦心经营的。在一些情况下,它是公开的,例如ImageNet,但是大量的标记数据通常是专有的或昂贵的,就像语音或MT数据集一样,因此在数据上就有了竞争优势,有了竞争机器学习才能更好的商业化。

同时,在应用机器学习模型时,存在着大量问题,如:模型以前从未见过,不知如何处理的诸多条件,每个客户和每个用户都有自己的偏好,拥有与用于训练的数据不同的数据;一个模型被要求执行许多没有被训练的任务。在所有这些情况下,我们目前最先进的模型有的时候也会崩溃。

迁移学习可以帮助我们处理这些,首先我们必须学会将我们所获得的知识迁移到新的任务和领域。为了做到这一点,我们需要了解迁移学习涉及的概念。接着我们来介绍一些迁移学习的相关应用。

又XX没中!

起因是黄炳培 90 年代在英国一家精品店发现了一款正在售卖的“红白蓝胶袋”,也就是我们所说的蛇皮袋。“是那种原始的、没有经过二次加工的胶袋。当时我很诧异,为什么西方人这么重视红白蓝,大老远从内陆带到西方卖,我们却不重视自己的文化,(我)有种被打脸的感觉”,黄炳培说。从那时起,又一山人开始创作关于“红白蓝胶袋”的艺术作品、设计和展览,而 Stanley Wong 的商业创作也开始重视本土文化。

迁移学习的应用

迁移学习中一个特别重要的应用是模拟学习,对于许多依靠硬件进行交互的机器学习应用程序来说,在现实世界中收集数据和训练模型是昂贵的、耗时的。因此,以其他风险较小的方式收集数据是明智的。

模拟就是这方面的首选方法,它已经被用于在现实世界中许多先进的ML系统。从模拟中学习并将获得的知识应用到现实世界中是一个迁移学习场景的实例,因为源域和目标域之间的特征空间是相同的(两者通常都依赖于像素),但是模拟和边界概率分布现实是在模拟和来源不同,即物体的样子不同,尽管这种差异随着模拟变得更现实而减少。与此同时,模拟和真实世界之间的条件概率分布可能是不同的,因为模拟不能完全复制现实世界中的所有反应,例如物理引擎不能完全模拟真实世界对象的复杂相互作用。

模拟的好处是可以方便地收集数据,因为可以轻松地绑定和分析对象,同时实现快速训练,因为学习可以跨多个实例并行化。因此,它是大型机器学习项目需要与现实世界交互的先决条件,如自驾车。据谷歌自驾汽车技术负责人赵引佳介绍,“如果你真的想做一辆自驾车,模拟是必不可少的”。Udacity已经开源了模拟器,它用于教自己驾驶的汽车工程师nanodegree,而且OpenAI的世界可能允许使用GTA 5或其他视频游戏来训练自驾车。

其他的应用还有适应新的领域以及跨语言传输知识。这些应用都是非常有趣的,而且商业价值也比较高。

结论:迁移学习一定会成为未来继监督学习研究的热点,因为它本身可以创造足够多的经济价值。有了更清晰的商业价值,科技巨头才会更多的关注这项科技。

以上为译文阿里云云栖社区组织翻译。

文章原标题《transfer-learning Machine Learning’s Next Frontier》,作者:Sebastian Ruder,译者:虎说八道,审校:袁虎。

第三次打,

按照维基百科上的说法,这种红白蓝胶袋原创于 1960 年代的香港,回归后,香港人寻找自我身份认同,红白蓝被认为是香港文化和香港精神的代表之一。

哈哈,

“香港人不快乐”,黄炳培说,他想用这样的创作宣扬一种正面香港的积极乐观精神。他很注重保护红白蓝创作的非商业性,为此拒绝了多年前一位想要帮助他的外籍印刷厂老板,而选择与慈善机构新生精神康复会一起合作红白蓝 330 (RWB330)品牌。为的是保持目的的纯粹性,按照黄炳培的话说,不要让人家指指点点,说你做了那么多其实是为了赚钱。

还是没中!!

黄炳培和陈幼坚都是出生在五六十年代的香港设计师,他们选择主动承担起了更多的社会责任感,并为香港创意设计找到未来的方向和出路做着努力。而在这条路上你最好和商业保持一定的距离。

手机这时收到一条短信:您的号码在境外消费50欧(约合400人民币),感谢您的参与!

香港的创意环境不好,是如今香港创意人的共识。商业环境是其中一个原因。

“X X X X X X!!!”(bi~bi~bi~bi~)

“回归后,两拨金融危机,令香港的工业触礁。如今的香港,房地产和金融行业独大,而这两个行业对设计的需求远远不如工业…这个年代的香港拥有的是最好的数码设计师”,香港设计师靳埭强曾在采访中如此评价香港的创意设计产业。

在旁边已经笑喷的Ivan告诉我,目前这个节目在葡萄牙,乃至整个欧洲都非常火,有很多人每个月会花上大半的工资去对赌竞猜奖金。

HK Wall 是一个帮助涂鸦艺术家在香港的墙上绘制自己艺术作品的非营利机构,最近在香港中文大学办了一个艺术展,对这次展览他没指望多少人来看。“在香港只有三月大家才会稍微讲一下艺术,因为商业媒体这个月都要做艺术板块(三月份香港会举办巴塞尔艺术),平时都没有人来问我们”,HK Wall 的创立人之一 Ben 说。

尚存一丝理智的我,马上联想到心理学中的一个现象——口红效应,即在经济萧条期间,生活压力增大,沉重的生活总是需要轻松的东西使自己放松一下,所以像《The Price is Right》这样的娱乐节目才会如此风靡。

香港计师 Coney 2000 年开始做自己的服装品牌,2008 年转行做了独立珠宝设计师,一直扮演着独立设计师的社会角色,“在香港做设计没有一天是容易的”,Coney 说。

而对比三年前在欧洲旅行的印象,切身感受到欧洲确实正日渐衰落,竟让这种“XX”(bi~~)节目能在欧洲横行!

HK Wall 和 Vans 的合作 图片来源:HK Wall

为了让自己深刻记住这个教训,我找来了Ivan的爸爸,和做了一次深入的讨论和分析这种情况的原因。

尽管创意环境对这些设计师们并不友好,也不是香港重点发展方向,但这几年政府也开始在这方面做一些努力。

在探讨中,他将欧洲衰亡的原因归结为两点———债台高筑和难民隐患。

2017 年 9 月 6 号到 9 号,香港贸发局举办了一个叫 Centrestage (香港国际时尚汇展))的活动,主秀请来韩国的新兴设计师 JUUN.J 和香港设计师品牌 FFIXXED STUDIOS,这几天的活动中包括了 Showroom 展示、品牌走秀(以香港设计师为主)、论坛讲座等常规的时装周行程。除此之外, Centrestage 还负责向媒体展示香港的创意发展。