《机器学习基础》课程教学大纲

《机器学习基础》教学大纲课程英文名MachineLearningFoundation课程代码03M0140学分2总学时32理论学时16实验/实践学时16课程类别学科基础课程性质任选先修课程高等数学、概率论与数理统计、线性代数、Python程序设计适用专业通信工程开课学院信息工程学院注：课程类别是指公共基础课/学科基础课/专业课；课程性质是指必修/限选/任选。一、课程地位与课程目标（一）课程地位本课程是通信工程专业的一门学科选修课。随着人工智能、物联网、大数据等技术快速发展，机器学习已经成为信息技术产业发展以及高新技术的核心技术，几乎在所有领域都具有非常广泛的应用。本课程提供机器学习的入门基础知识讲解，将介绍机器学习的一般性原理、基本思想以及主流机器学习算法和模型，使学生掌握机器学习中的基础知识、核心算法和理论，较为全面地了解机器学习这门学科的各类问题和方法论。本课程同时强调学生的动手能力，要求学生通过编程练习和典型应用加深理解，为进一步学习和从事人工智能理论与应用研究奠定基础。（二）课程目标该课程应达到的预期学习结果（ILO，IntendedLearningOutcomes）如下所示：1、ILO-1：了解机器学习的发展历程、现状、最新进展和发展趋势，了解机器学习与人工智能、数据挖掘、模式识别等课程的关系，了解机器学习的特点、分类及相关领域的典型应用；2、ILO-2：掌握经典机器学习理论的基本概念、原理和方法，注重逻辑思维和创新思维能力的培养；掌握实际问题中机器学习技术的建模、评估、可视化等方法，培养学生分析与解决工程实践问题的能力;3、ILO-3：掌握文献查阅、报告撰写、技术研讨的方法，培养学生的自主学习与终身学习能力、组织与表达能力、以及团队协作意识；教会学生如何通过实验的手段在未来的工作中快速且规范化的实现人工智能技术；二、课程目标达成的途径与方法课程目标主要以课堂教学与实验操作为主，结合期末测试、课堂测试、课程讨论等途径和方式来达成。具体课程目标的达成途径与方法如下表所示。课程目标达成途径ILO-1课堂教学、课后作业、课堂测试和期末测试ILO-2实验指导、验收、实验报告ILO-3课堂教学三、课程目标与相关毕业要求的对应关系课程目标课程目标对毕业要求的支撑程度（H、M、L）毕业要求指标点1-1毕业要求指标点2-2毕业要求指标点4-3毕业要求指标点9-2ILO-1M(0.15)ILO-2M(0.20)M(0.25)ILO-3H(0.30)L(0.10)注：1.支撑强度分别填写H、M或L（其中H表示支撑程度高、M为中等、L为低，保证H>M>L，具体对应的数值，根据各自课程来定），括号里的数字代表权重，权重之和为1。2.毕业要求应根据课程所在专业培养方案进行描述。3.通识选修课程可不填写上表。四、课程主要内容与基本要求1、机器学习概述了解机器学习的基本概念、应用场景、发展历程、最新进展、重要事件；理解机器学习的分类方法及其工作原理；掌握机器学习所需的预备知识，包括线性代数基础、概率论基础、约束优化问题；熟练掌握机器学习编程语言与基本工具。该部分是课程的理论基础，重点掌握机器学习的基本概念和基本问题。2、模型估计与优化了解机器学习常用的模型估计与优化方法；掌握模型参数估计方法：最小二乘估计、最大似然估计、最大后验估计；熟悉经验误差、过拟合、比较检验、偏差与方差等基本概念；了解梯度下降法、牛顿迭代法等模型优化方法；了解随机梯度法、最大期望法、蒙特卡罗法等模型优化的概率方法；掌握常用的模型正则化策略，为后续具体的模型学习奠定基础。3、线性学习了解线性模型的基本概念、组成形式、代价函数，及回归与分类的区别；掌握线性回归、岭回归、广义线性回归基本模型及最小二乘法优化；掌握二分类任务中的逻辑斯蒂回归和线性判别分析方法；了解线性模型在多分类任务中的应用及其划分策略；掌握用正则化构建回归模型并避免过拟合；了解类不平衡问题及其对策；通过完成相应的实验任务进一步巩固学生对线性学习模型的理解。4、决策树学习了解决策树的基本思想、模型结构及其判别标准；理解信息熵、条件熵、信息增益、基尼系数等度量指标；掌握决策树模型的常用的属性划分方法；熟悉ID3、C4.5、CART三种经典决策树算法；掌握决策树的正则化策略：预剪枝和后剪枝；掌握解决策树处理连续与缺失值问题的一般方法；了解决策树的Bagging策略、随机森林模型及随机森林做在征选择与异常值检测等应用，以便学生的自主学习；基于实际案例完成相应的上机实验操作。5、支持向量机了解支持向量机模型的思想；理解间隔、超平面及支持向量的概念；掌握线性可分支持向量机；理解线性可分定义、软间隔及损失函数定义；掌握核函数的概念及其选择方法；了解支持向量机优化问题、线性不可分情况及对偶问题；根据所学内容，掌握支持向量机的构建，并学会对实际问题进行优化求解（上机实验）。6、无监督学习了解无监督学习的基本概念，及其与有监督学习的差异；了解无监督学习对于理解数据的优势及数据挖掘的概念；理解聚类分析问题描述、优化目标及常用的聚类算法；掌握聚类算法的选择方法；掌握k-均值聚类（K-means）算法的构建和应用；掌握随机初始化、选择聚类数目的方法；熟练掌握K-means算法在实际问题中的运用。这部分是无监督学习中核心内容。7、人工神经网络基础了解人工神经网络基本概念、历史发展及应用场景；掌握神经网络模型的构成、代价函数与学习方式；熟悉感知器算法--MP神经元模型,及其改造模型；掌握神经网络中的激活函数、后向传播算法、梯度检验、参数估计等概念与方法；掌握随机初始化、优化方法与参数设置；熟练掌握多层神经网络的构建并训练；通过实际问题来进行训练和优化，为以后的深度学习及人工智能研究奠定基础。五、课程学时安排章节号教学内容学时数学生任务对应课程目标第1章概述21.预习机器学习基本概念、发展历程及典型应用；2.完成课中的课堂测试。ILO-1第2章模型估计与优化41.完成最小二乘法、梯度下降法方面的作业；2.课前预习微积分、概率统计、矩阵运算等数学知识；3.完成课中的课堂测试。ILO-1、ILO-2第3章线性学习41.完成逻辑回归优化方面的作业；2.完成课中的课堂测试；3.完成上机实验（实验一）。ILO-2、ILO-3、第4章决策树学习41.完成课中的课堂问题测试；2.完成决策树实验（实验二）。ILO-2、ILO-3、第5章支持向量机61.完成课中的课堂测试；2.完成课后作业；3.线性可分与支持向量进行讨论；4.安排实验三；ILO-2、ILO-3、第6章无监督学习41.预习无监督学习的背景知识2完成无监督学习与有监督学习的比较分析、无监督学习分类等方面的作业；3.完成课中的课堂测试；4.完成实验四。ILO-2、ILO-3、第7章人工神经网络基础81.预习人工神经网络的背景知识2完成无监督学习与有监督学习的比较分析、无监督学习分类等方面的作业；3.完成课中的课堂测试；4.完成实验五和实验六。ILO-2、ILO-3六、实践环节及基本要求序号实验项目名称学时基本要求学生任务实验性质实验类别1线性回归及分类实验2了解机器学习编程环境，熟悉常用的机器学习库，并掌握线性回归模型的实际运用，如房价预测，用户分类等问题。在实验操作之前完成预习，在老师讲解基本操作方法后，学生单独或按2人分组，按照实验指导书的步骤，运用线性回归模型/逻辑回归模型在提供的数据集上完成相应的操作，记录相关实验结果，并完成实验指导书中的思考题，撰写实验报告。验证必做2决策树实验2熟悉和掌握1.随机森林与特征选择；2.决策树应用于回归；3.多标记的决策树回归；4.决策树和随机森林的可视化；5.葡萄酒数据集的决策树/随机森林分类；6.泰坦尼克乘客存活率估计上机前完成预习，在老师讲解基本操作和注意事项后，学生按照实验指导书的操作步骤，记录相关实验结果，并能对实验结果有预期的正确判断，并回答实验指导书中的思考题，撰写实验报告。设计必做3支持向量机实验2熟悉和掌握1.原始数据和特征提取；2.调用开源库函数完成SVM模型构建；3.基于MNIST手写体数据集完成SVM模型的训练与预测任务；要求学生根据实验内容设计相应的实验方案，基于不同的参数设计，运用SVM模型及相关知识，编程实现SVM在开源数据集MNIST上的手写体识别任务。每个同学撰写相应的程序代码，并进行调试测试和评价分析，撰写实验报告。设计必做4k-均值聚类分析实验2掌握求解聚类问题的基本流程，并测试主要参数对结果的影响。能够熟练在不同场景数据中运用K-均值聚类算法要求学生在上机前完成预习，在老师讲解基本操作和注意事项后，学生按照实验指导书的操作步骤，记录相关实验结果；对于同一个聚类问题，分析聚类规模、中心点选取和对算法结果的影响，编写实验代码，撰写实验报告。验证必做5神经网络手写体数字识别实验4熟悉并掌握基于Tensorflow的神经网络模型构建，了解神经网络的运行机制，以及参数设置，模型优化等策略。在上机前完成预习，在老师讲解基本操作和注意事项后，学生按照实验指导书的操作步骤，记录相关实验结果；构建基于Tensorflow的神经网络，并在手写数字数据集上验证其性能，编写代码，撰写实验报告。验证选做6基于神经网络的优化设计实验4掌握连续多层神经网络的结构和运行机制，理解多层神经网络用于优化计算的基本原理。能够针对创新点开展切实有效的理论和应用研究.要求学生根据实验内容设计相应的实验方案，可参考深度神经网络模型源代码，实现基于CIFAR-10的人脸识别，分析多层神经网络在分类问题中的算法性能；编写代码，撰写实验报告。综合性选做注：1.实验性质指演示性、验证性、设计性、综合性等；2.实验类别指必做、选做等。七、考核方式及成绩评定考核内容考核方式评定标准（依据）占总成绩比例考核与课程目标对应关系过程考核含到课率、课堂讨论发言、平时作业等点名记录回答问题记录课堂测试成绩25%ILO-1，ILO-3实验考核验收及实验报告验收成绩报告批改成绩30%ILO-2期末考核考试/大作业卷面/大作业成绩45%ILO-1，ILO-3考核类别考查成绩登记方式百分制八、课程目标达成度评价方法课程目标权重成绩评定ILO-1过程考核0.3相应课堂测试平均分A10期末测试0.7相应期末考试平均分B10ILO-1达成度=0.3*A10+0.7*B10ILO-2验收+报告，1验收*0.5+报告*0.5的所有实验平均分A20ILO-2达成度=1*A20ILO-3过程考核0.7相应课堂测试平均分A30期末测试0.3相应期末考试平均分B30ILO-3达成度=0.7*A30+0.3*B30九、推荐教材与主要参考书（一）课