机器学习介绍

人工智能是什么呢？其实人工智能一点都不是什么新词汇，人工智能(Artificial Intelligence)这个词汇，在1950年代就有了。那这个词意味着什么呢？这个词意味着人类长远以来的一个目标——希望机器可以跟人一样的聪明。在科幻小说里面，我们看要很多这样的幻想和期待。但很长的一段时间里面，人们并不知道怎么做到人工智能这件事情，直到大概1980年以后，有了机器学习的方法。机器学习顾名思义，就是让机器具有学习的能力。那么机器学习跟人工智能之间有什么关系呢？

人工智能是我们想要达成的目标，而机器学习是达成目标的手段，希望机器通过学习的方式，使他跟人一样聪明。深度学习和机器学习又有什么关系呢？深度学习就是机器学习其中的一种方法。

在有深度学习、机器学习方法之前，人们用什么样的方式来实现人工智能这件事呢？我记得高中生物学告诉我们说：生物的行为取决于两件事，一个是后天学习的结果，一个是先天的本能。对于机器来说也是一样，他如何表现的很有智慧，要么就是通过后天的学习，要么就是通过"先天的本能"。机器为什么会有先天的本能，那可能就是他的创造者，帮它事先设立好的。

一个通俗的例子

现在先来看一下生物的本能，讲一个跟机器学习没有关系的内容：生物的本能。例如一个河狸，那河狸的特点就是它会筑水坝把水挡起来。但是河狸怎么知道要筑水坝呢？河狸筑水坝能力是天生的。也就是说，假设一只河狸它在实验室出生，它没有父母教他怎么筑水坝，但它一生下来，心里就有个冲动，就是想要筑水坝。那如果用程序语言来描述它的话，程序语言就是这样的：

if 河狸听到流水声
then 河狸筑水坝直到它听不到流水声

所以，生物学家就可以欺负河狸，使用一个扬声器来播放流水声，如果把扬声器流放在水泥墙里面，然后河狸就会在水泥墙上放很多的树枝，在水泥墙上面筑堤，想把扬声器的声音盖住。如果你把扬声器放在地上，河狸就会用树枝把它盖住直到你听不见扬声器的声音为止。这就是生物的本能，机器的本能跟生物的本能其实也很像。

假设有一天你想要做一个聊天机器人，如果你不是用机器学习的方式，而是给他天生本能的话，那会是什么样子呢？你可能就会在这个聊天机器人里面的设定一些规则，这些规则我们通常称hand-crafted rules，叫做人设定的规则。假设你今天要设计一个机器人，他可以帮你打开或关掉音乐，那你的做法可能是：设立一条规则，如果输入的句子里面看到“turn off”这个词汇，那聊天机器人就把音乐关掉。之后对聊天机器人说，Please turn off the music 或 can you turn off the music, Smart? 它就会帮你把音乐关掉。别人就会觉得这就是人工智能。但是如果你今天想要欺负聊天机器人的话，你就可以说please don‘t turn off the music，但是他还是会把音乐关掉。这是个真实的例子，你可以看看你身边有没有这种类似的聊天机器人，然后去对他说这种故意欺负它的话，它其实是会答错的。

Weakness of hand-crafted rules

• Hard to consider all possibilities
  永远无法超越创造者
• Lots of human efforts (not suitable for small industry)

使用hand-crafted rules有什么样的坏处呢，它的坏处就是：使用hand-crafted rules你没办法考虑到所有的可能性，它非常的僵化，而用hand-crafted rules创造出来的machine，它永远没有办法超过它的创造者人类。人类想不到东西，就没办法写规则，没有写规则，机器就不知道要怎么办。所以如果一个机器，它只能够按照人类所设定好的hand-crafted rules，它整个行为都是被规定好的，没有办法freestyle（雾）。如果是这样的话，它就没有办法超越创造他的人类。

你可能会说，但是你好像看到很多chat-bot看起来非常的聪明。如果你是有一个是一个非常大的企业，他给以派给成千上万的工程师，用血汗的方式来建出数以万计的规则，然后让他的机器看起来好像很聪明。但是对于中小企业来说，这样建规则的方式反而是不利的。所以我认为机器学习发展，对比较小规模企业反而是更有利的。因为接下来，不需要非常大量的人来帮你想各式各样的规则，只要手上有data，你可以让机器来帮你做这件事情。当然怎么收集data又是另外一个问题，这不是我们今天要讨论的主题

AI这个词现在非常非常非常非常的热门，所以会有各式各样、奇奇怪怪的东西，我觉得现在非常经常碰到的一个问题，也许可用以下这个漫画来说明，这是四格漫画，而这个漫画并不是随随便便的一个四格漫画，这个漫画是facebook上的漫画。

这个漫画想要说的是：现在你一定常常新闻或者是商场上看到这个讯息，有一个seller说看看我们最新的人工智慧机器人，它就是非常的人工智慧。这个系统搭配一个能言善道seller，加上一个非常非常潮的前端和外壳，里面是什么没有人知道。

外面的观众就问说：他是用什么neural方法做的，反正就是最潮的AI的技术。但是你把他剖来看一看，里面通通都是if掉出来。

现在政府、企业都说想要推广的AI，可是他们想要推广AI其实是这种AI。那这个其实都不是我们现在应该做的事，如果你要推动，如果你要推广的是这种hand-crafted AI的话，你怎么五十年前不推广，一直到今天才出来做呢？今天我们要走的不是这个路线，如果是这个路线是要被diss的

ML现在的方向

我们要做的其实是让机器他有自己学习的能力，也就我们要做的应该machine learning的方向。讲的比较拟人化一点，所谓machine learning的方向，就是你就写段程序，然后让机器人变得了很聪明，他就能够有学习的能力。接下来，你就像教一个婴儿、教一个小孩一样的教他，你并不是写程序让他做到这件事，你是写程序让它具有学习的能力。然后接下来，你就可以用像教小孩的方式告诉它。假设你要叫他学会做语音辨识，你就告诉它这段声音是“Hi”，这段声音就是“How are you”，这段声音是“Good bye”。希望接下来它就学会了，你给它一个新的声音，它就可以帮你产生语音辨识的结果。

如果你希望他学会怎么做影像辨识，你可能不太需要改太多的程序。因为他本身就有这种学习的能力，你只是需要交换下告诉它：看到这张图片，你要说这是猴子；看到这张图片，然后说是猫；看到这张图片，可以说是狗。它具有影像辨识的能力，接下来看到它之前没有看过的猫，希望它可以认识。

ML能做的事情

Machine Learning $\approx$​ Looking for a Function

如果讲的更务实一点的话，machine learning所做的事情，你可以想成就是在寻找一个function，要让机器具有一个能力，这种能力是根据你提供给他的资料，它去寻找出我们要寻找的function。还有很多关键问题都可以想成是我们就是需要一个function。

在语音辨识这个问题里面，我们要找一个function，它的输入是声音信号（如上图的波状），他的输出是语音辨识的文字。这个function非常非常的复杂，有人会想说我来用一些写规则的方式，读很多语言学文献，然后写一堆规则，然后做语音辨识。这件事情，60年代就有人做，但到现在都还没有做出来。语音辨识太过复杂，这个function太过的复杂，不是人类所可以写出来，这是可以想象的。所以我们需要凭借的机器的力量，帮我们把这个function找出来。

假设你要做影像辨识，那就是找一个function，输入一张图片，然后输出图片里面有什么样的东西。 或者是大家都一直在说的Alpha GO(其实和图片识别类似使用CNN，后面会介绍)，如果你要做一个可以下围棋machine时，其实你需要的也就是找一个function。这个function的输入是围棋上19 19的棋盘。告诉机器在19 19的棋盘上，哪些位置有黑子，哪些位置有白子。然后机器就会告诉你，接下来下一步应该落子在哪。或者是你要做一个聊天机器人，那你需要的是一个function，这个function的输入就是使用者的input，它的输出就是机器的回应。

Framework的概念

以下我先很简短的跟大家说明怎么样找出这个function，找出function的framework是什么呢？我们以影像辨识为例，我们找个function输入一张图片，它告诉我们这个图片里面有什么样的东西。

在做这件事时，你的起手事是你要先准备一个function set(集合)，这个function里面有成千上万的function。举例来说，这个function在里面,有一个f1，你给它看一只猫，它就告诉你输出猫，看一只狗就输出狗。有一个function f2它很怪，你给它看猫，它说是猴子；你给他看狗，它说是蛇。你要准备一个function set，这个function set里面有成千上万的function。这件事情讲起来可能有点抽象，你可能会怀疑说怎么会有成千上万的function，我怎么把成千上万的function收集起来，这个内容我们之后会再讲。

总之，我们先假设你手上有一个function set，这个function set(包含所有可能的函数集合)就叫做model(模型)。

有了这个function set，接下来机器要做的事情是：它有一些训练的资料，这些训练资料告诉机器说一个好的function，它的输入输出应该长什么样子，有什么样关系。你告诉机器说呢，现在在这个影像辨识的问题里面，如果看到这个猴子的图片要输出猴子，看到这个猫的图也要输出猫，看到这个狗的图，就要输出狗，这样才是对的。只有这些训练资料，你拿出一个function，机器就可以判断说，这个function是好的还是不好的。

supervised learning监督学习

机器可以根据训练资料判断一个function是好的，还是不好的。举例来说：在这个例子里面显然$f_1$，他比较符合training data的叙述，比较符合我们的知识。所以$f_1$看起来是比较好的。$f_2$​​看起来是一个荒谬的function。我们今天讲的这个task叫做supervised learning(监督学习)。

如果你告诉机器input和output这就叫做supervised learning，之后我们也会讲到其他不同的学习场景。现在机器有办法决定一个function的好坏。但光能够决定一个function的好坏是不够的，因为在你的function set里面，他有成千上万的function，它有会无穷无尽的function，所以我们需要一个有效率的演算法，有效率的演算法可以从function的set里面挑出最好的function。一个一个衡量function的好坏太花时间，实际上做不到。所以我们需要有一个好的演算法，从function set里面挑出一个最好的的function，这个最好的function将它记为$f^*$

当找到$f^*$​​后，我们希望用它应用到一些场景中，比如：影像辨识，输入一张在机器没有看过的猫，然后希望输出也是猫。你可能会说：机器在学习时没有看到这只猫，那咋样知道在测试时找到的最好$function\ f^∗$​可以正确辨识这只猫呢？这就是machine learning里面非常重要的问题：机器有举一反三的能力，这个内容后面再讲。

整个framework的过程

左边这个部分叫training，就是学习的过程；右边这个部分叫做testing，学好以后你就可以拿它做应用。所以在整个machine learning framework整个过程分成了三个步骤(正如将一头大象放入冰箱内也是3步)

1. 第一个步骤是找一个function（define a set of function）
2. 第二个步骤让machine可以衡量一个function是好还是不好 (goodness of function)
3. 第三个步骤是让machine有一个自动的方法，有一个好演算法可以挑出最好的function (pick the best function)

机器学习相关的技术

如图为这学期的Learning Map，看起来是有点复杂的，我们一块一块来解释，接下里我们将从图的左上角来进行学习。

监督学习

Regression回归

Regression是一种machine learning的task，当我们要做regression时的意思是，machine找到的function，它的输出是一个scalar(标量数值)，这个叫做regression。举例来说，在作业一里面，我们会要你做PM2.5的预测（比如说预测明天上午的PM2.5），也就是说你要找一个function，他的输入可能是种种跟预测PM2.5，有关的指数包括今天的PM2.5的数值，今天的平均温度，今天平均的臭氧浓度等等，这一个函数可以拿这些数值作为输入参数，这个function的输出是未来某一个时间PM2.5的一个数值，这个是一个regression的问题。

如果要训练这样的machine，就如同我们在framework中所讲，需要准备一些训练资料。上图是过去从政府的open data上搜集下来的资料。九月一号上午的PM2.5是63，九月二号上午的PM2.5是65，九月三号上午的PM2.5是100。所以一个好的function输入九月一号、九月二号的PM2.5，它应该输出九月三号的PM2.5；若给function九月十二号的PM2.5、九月十三号的PM2.5，它应该输出九月十四号的PM2.5。若收集更多的data，那你就可以做一个气象预报的系统。

Classification分类

除了Regression以外，另外一个大家耳熟能详的任务，叫作Classification。Classification这个任务，就是要机器做选择题，在Regression中机器输出的是一个数值，在Classification里面机器输出的是类别。假设Classification问题分成两种，一种叫做二分类输出的是是或否（Yes or No）；另一类叫做多分类（Multi-class），在Multi-class中是让机器做一个选择题，等于是给它数个选项，每个选项都是一个类别，让它从数个类别里选择正确的类别。

二分类

二分类可以鉴别垃圾邮件，将其放到垃圾箱。那怎么做到这件事呢？其实就是需要一个function，它的输入是一个邮件，输出为邮件是否为垃圾邮件。

你要训练这样的function很简单，给它一大堆的Data并告诉它，现在输入的这封邮件是垃圾邮件或不是垃圾邮件。当你给他够多的这种资料去学，它就可以自动找出一个可以来侦测垃圾邮件的function。

多分类

多分类的举一个文章分类的例子，现在网络上有非常非非常多的新闻，也许没有人会把所有的新闻看完，但希望机器自动帮一把新闻做分类。怎么做呢？你需要的是一个function，它的输入是一则新闻，输出是新闻属于哪个类别，你要做的事情就是解这个选择题。

若要训练这种机器就要准备很多训练资料（Training Data），然后给它新的文章，根据输入的新闻它能给你正确的分类结果。

上面讲的都是让machine去解的任务类型（回归和分类），接下来要讲的是在求解的过程中的第一步（选择function set），选不同的function set就是选不同的model。Model有很多种，最简单的就是线性模型，但我们会花很多时间在非线性的模型上。在非线性的模型中最耳熟能详的就是Deep learning（深度学习）。

在做Deep learning时，它的function特别复杂，所以它可以做特别复杂的事情。比如它可以做影像辨识，这个复杂的function可以描述pixel和class之间的关系（后面会详细介绍）。

用Deep learning的技术也可以让机器下围棋， 下围棋这个task 其实就是一个分类的问题。对分类问题我们需要一个很复杂的function，输入是一个棋盘的格子，输出就是下一步应该落子的位置。我们知道一个棋盘上有十九乘十九的位置可以落子，所以今天下围棋这件事情，你就可以把它想成是一个十九乘十九个类别的分类问题，或者是你可以把它想成是一个有十九乘十九个选项的选择题，选出下一步应该要落子的位置。

除了deep learning外还有很多machine learning的model也是非线性的模型

监督学习中的结构化学习

除了回归和分类问题，机器学习中还有一类问题是结构化学习（structured learning）

structured learning 中让机器输出的是有结构性的，举例来说：在语音辨识里面，机器输入是声音讯号，输出是一个句子。句子是要很多词汇拼凑完成。它是一个有结构性的object。或是说在机器翻译里面你输入中文希望机器翻成英文，它的输出也是有结构性的。再例如你今天要做的是人脸辨识，来给机器看张图片，它会知道说最左边是长门，中间是凉宫春日，右边是宝玖瑠。然后机器要把这些东西标出来，这也是一个structure learning问题。

其实多数人可能都听过regression，也听过classification，你可能不见得听过structure learning。很多教科书都直接说，machine learning只有regression和classification两类问题，就好像告诉你：我们所熟知的世界只有五大洲，但是这只是真实世界的一小部分，真正的世界是如上图所示。还应该包括structure learning，这里面还有很多问题是没有探究的。

半监督学习

刚才我们讲的都是supervised learning（监督学习），监督学习的问题是我们需要大量 的training data。training data告诉我们要找的function的input和output之间的关系。如果我们在监督学习下进行学习，我们需要告诉机器function的input和output是什么。这个output往往没有办法用很自然的方式取得，需要人工的力量把它标注出来，这些function的output叫做label。

由于training data数量很多，人工标注output是一件很麻烦的事，那有没有办法减少label需要的量呢？有，其中一种方法就是半监督学习。

假设你先想让机器鉴别猫狗的不同。你想做一个分类器让它告诉你，图片上是猫还是狗。你有少量的猫和狗的已经做好标注的数据集(labeled data)，但是同时你又有大量的未做标注的数据(Unlabeled data)，并且你没空去告诉机器说哪些是猫哪些是狗。在半监督学习的技术中，这些没有label的data，它可能也是对学习有帮助。这个我们之后会讲为什么这些没有label的data对学习会有帮助。

迁移学习

迁移学习同样可以减少所需训练data的大小

迁移学习的意思是：假设我们要做的是猫和狗的分类问题，现在除了少量有label的data，还有大量可能没有label或是label和问题不相干的data，我们要分辨的是猫和狗的不同，这里面有一大堆其他动物的图片甚至是动漫角色图片（凉宫春日，御坂美琴）你有这一大堆不相干的图片，它到底可以带来什么帮助。这个就是迁移学习要说明的问题。

无监督学习

更加进阶的就是无监督学习，我们希望机器可以学到无师自通。在人完全没有给任何label的训练数据情况下，机器到底可以学会什么样的东西。

举例来说，如果我们给机器看大量的文章（去网络上收集文章很容易，随便爬取就可以）当机器看过大量的文章以后，它到底可以学到什么事情。

它能不能够学会每一个词汇的意思，要让机器学会每一个词汇的意思，你可以想成是我们找一个function，然后把一个词汇丢进去。比如说你把“apple”丢进这个function里面，机器要输出告诉你说这个词的意思。不同于词典上的释义，可能machine会使用一个多维向量来表示它所理解的这个词的各种特性

另外一个无监督学习的例子：假设我们今天带机器去动物园让它看一大堆的动物，它能不能够在看了一大堆动物以后，就学会自己创造一些动物。上图是一个示例，在学习大量的动物图片以后，它就可以自己创造出一些动物来

这个task也是一个无监督学习的问题，function的输入不知道是什么，可能是用某一个code代表要输入图片的特性，输出是一张图片。机器看到的只有大量的图片，没有输出规则。那么它要如何生成新的图片，这是我们后面要解决的问题。

强化学习

reinforcement learning其实是一个已经发展了很久的技术，但近期受到大家的关注是因为data mining将reinforcement learning技术用来玩一些小游戏。另外一个就是Alpha Go。

一个对比示例：

若将强化学习和监督学习进行比较时，在监督学习中我们会告诉机器正确答案是什么。若现在我们要用监督学习的方法来训练一个聊天机器人，你的训练方式会是：告诉机器，现在使用者说了hello，你就说hi，现在使用者说了byebye ，你就说good bye。所以机器有一个人当他家教在他旁边手把手的教他每件事情，这就是监督学习。

reinforcement learning是什么呢？在reinforcement learning里面，我们没有告诉机器正确的答案是什么，机器所拥有的只有一个分数，就是他做的好还是不好。若我们现在要用reinforcement learning方法来训练一个聊天机器人的话，他训练的方法会是这样：把机器发到线下，让他和进来的客人对话，然后在想了半天给出奇怪的答复以后，客人可能勃然大怒把电话挂掉了。那机器就学到一件事情就是刚才做错了。但是他不知道哪里错了，它就要回去自己想道理，是一开始就不应该打招呼吗？还是中间不应该骂脏话之类的。它不知道，也没有人告诉它哪里做的不好，它要回去反省检讨哪一步做的不好。机器在reinforcement learning的情况下学习，是非常intelligence的。reinforcement learning也是比较符合我们人类真正学习的情景，在学校里学习老师会告诉你答案，但在真实社会中没人告诉你正确答案。你只知道你做得好还是做得不好。

若我们用Alpha Go当做例子时，supervised learning就是告诉机器：看到这个情况你就下“5-5”，看到这个情况你就下“3-3”

reinforcement learning的意思是：机器跟对手互下，机器会不断的下棋，最后赢了，机器就会知道下的不错，但是究竟是哪里可以使它赢，它其实是不知道的。我们知道Alpha Go其实是用监督学习加上reinforcement learning去学习的。先用棋谱做监督学习，然后再做reinforcement learning，但是reinforcement learning需要一个对手，如果使用人当对手就会很让费时间，所以机器的对手是另外一个机器。

课程安排图的补充说明

相同颜色不同的方块是同一个类型的，这边的蓝色的方块，指的是要学习的技术，通常采用哪种技术来解决问题是根据问题情况来决定的。比如，因为我们没有data做监督学习，所以我们才做强化学习。现在因为Alpha Go比较火，所以Alpha Go中用到的强化学习会被认为比较潮。所以说有学生去面试，说明自己是做监督学习的，就会被质疑为什么不做强化学习。那这个时候你就应该和他说，如果今天可以监督学习，其实就不应该做强化学习。强化学习是我们没有办法做监督学习的时候才做的。红色的是指你的任务，要完成任务需要考虑其中所用的function类型，有regression、有classification、有structured learning。在这些不同task里面有不同的model，用绿色的方块来表示。