Note for Machine Learning - ML By Vindhya Shivshankar

Topics ( 7 )

Text from page-1

Machine Learning with Python/Scikit-Learn - Application to the Estimation of Occupancy and Human Activities - Tutorial proposed by: manar.amayri@g-scop.grenoble-inp.fr stephane.ploix@g-scop.grenoble-inp.fr SIMUREX 2015: October 26th - 30th, 2015

Text from page-3

Contents 1 Objective of the tutorial 1.1 Building: a complex human-physical system 1.2 Estimating occupancy and human activities . 1.3 What is machine learning? . . . . . . . . . . . 1.4 Test bench . . . . . . . . . . . . . . . . . . . . 1.5 Machine learning with scikit-learn . . . . . . . . . . . . . . . . . . . . . . . . . . 2 Estimation of occupancy in an office 2.1 Data preprocessing . . . . . . . . . . . . . . . . . . . 2.2 Information gain to measure the purity of a decision 2.3 Decision tree as a classifier . . . . . . . . . . . . . . 2.4 Assessing the result quality . . . . . . . . . . . . . . 2.5 Random forest as a robust solution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 appendix 3.1 Basic Python . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.1 Data types . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.2 Control flows . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.3 Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.4 Object oriented programing . . . . . . . . . . . . . . . . . 3.1.5 Exceptions . . . . . . . . . . . . . . . . . . . . . . . . . . . 3.1.6 Working with modules . . . . . . . . . . . . . . . . . . . . 3.1.7 File management . . . . . . . . . . . . . . . . . . . . . . . . 3.2 Scientific Python for matrix calculation with numpy . . . . . . . . 3.2.1 Creating matrices: help, array, matrix, ndim, shape, reshape, vstack, hstack, tolist, ix_ . . . . . . . . . . . . . . . 3.2.2 Transforming matrices: dot, multiply, *, power, **, /, >, nonzero, copy, flatten . . . . . . . . . . . . . . . . . . . . . 3.2.3 Generating matrices: r_, zeros, ones, eye, diag, rand, randn, randint, max, maximum, norm, logical_and, logical_or, &, | 3.2.4 Calculating with matrices: inv, pinv, matrix_rank, solve, lstsq, svd, transpose, eig, sort, linspace, meshgrid, mgrid, ogrid, concatenate, tile, squeeze, integrate . . . . . . . . . 3.3 Scientific Python for advance computions with scipy . . . . . . . iii 3 3 4 5 7 9 13 13 14 20 24 25 27 27 28 31 31 33 35 35 37 38 40 43 47 50 55

Text from page-4

iv CONTENTS 3.3.1 3.4 3.5 Load and saving matrices: save, load, savetxt, savemat, loadmat, expm, interp1d . . . . . . . . . 3.3.2 Some advanced computations . . . . . . . . . . . Scientific Python for plotting with matplotlib . . . . . . . 3.4.1 3 simple plots . . . . . . . . . . . . . . . . . . . . 3.4.2 Standard time plot . . . . . . . . . . . . . . . . . . 3.4.3 Another time plot with modified spaces . . . . . . 3.4.4 Plots with different strokes . . . . . . . . . . . . . 3.4.5 Filled plot . . . . . . . . . . . . . . . . . . . . . . 3.4.6 Dashed plot . . . . . . . . . . . . . . . . . . . . . 3.4.7 Colored plot . . . . . . . . . . . . . . . . . . . . . 3.4.8 Another colored plot . . . . . . . . . . . . . . . . 3.4.9 Dotted plot . . . . . . . . . . . . . . . . . . . . . . 3.4.10 Curve and point . . . . . . . . . . . . . . . . . . . 3.4.11 Points with coordinates . . . . . . . . . . . . . . . 3.4.12 Date time plot . . . . . . . . . . . . . . . . . . . . 3.4.13 Bar plot . . . . . . . . . . . . . . . . . . . . . . . . 3.4.14 Multi-colored plot . . . . . . . . . . . . . . . . . . 3.4.15 Polar plot . . . . . . . . . . . . . . . . . . . . . . . 3.4.16 Another bar plot . . . . . . . . . . . . . . . . . . . 3.4.17 Another histogram . . . . . . . . . . . . . . . . . . 3.4.18 2D data plot . . . . . . . . . . . . . . . . . . . . . 3.4.19 Vertical bar graph . . . . . . . . . . . . . . . . . . 3.4.20 Another vertical bar graph . . . . . . . . . . . . . 3.4.21 Horizontal bar graph . . . . . . . . . . . . . . . . 3.4.22 3D bar graph . . . . . . . . . . . . . . . . . . . . . 3.4.23 Multi-colored bar plots . . . . . . . . . . . . . . . 3.4.24 Contours . . . . . . . . . . . . . . . . . . . . . . . 3.4.25 Advanced contours . . . . . . . . . . . . . . . . . 3.4.26 Surface . . . . . . . . . . . . . . . . . . . . . . . . 3.4.27 Colored surface . . . . . . . . . . . . . . . . . . . 3.4.28 Another colored surface . . . . . . . . . . . . . . 3.4.29 Points and contours . . . . . . . . . . . . . . . . . 3.4.30 Points and lines . . . . . . . . . . . . . . . . . . . 3.4.31 Points . . . . . . . . . . . . . . . . . . . . . . . . . 3.4.32 Complex plot . . . . . . . . . . . . . . . . . . . . . 3.4.33 Pie chart . . . . . . . . . . . . . . . . . . . . . . . 3.4.34 Radar . . . . . . . . . . . . . . . . . . . . . . . . . 3.4.35 Another radar . . . . . . . . . . . . . . . . . . . . 3.4.36 Another complex radar . . . . . . . . . . . . . . . 3.4.37 3 Sankey diagrams . . . . . . . . . . . . . . . . . 3.4.38 Vectors . . . . . . . . . . . . . . . . . . . . . . . . 3.4.39 Insets . . . . . . . . . . . . . . . . . . . . . . . . . Code for calculating entropy and information gain . . . . loadtxt, . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56 56 59 60 61 61 62 63 64 64 65 66 67 68 68 69 70 71 72 72 73 74 75 76 77 77 78 79 80 81 82 83 84 85 86 86 87 88 89 90 91 92 95