compling/dl_text.html at master · attapol/compling · GitHub

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194

<!DOCTYPE html>
<html lang="en">

  <head>

    <meta charset="utf-8">
    <meta name="viewport" content="width=device-width, initial-scale=1, shrink-to-fit=no">
    <meta name="description" content="">
    <meta name="author" content="">

    <title>Deep Learning for Text Classification</title>

    <!-- Bootstrap core CSS -->
    <link href="bootstrap/css/bootstrap.min.css" rel="stylesheet">
    <link href="custom/custom.css" rel="stylesheet">

  </head>

  <body>

    <!-- Navigation -->
    <nav aria-label="breadcrumb">
      <ol class="breadcrumb">
        <li class="breadcrumb-item"><a href="index.html">Home</a></li>
        <li class="breadcrumb-item active" aria-current="page">Basics of Deep Learning</li>
      </ol>
    </nav>


    <!-- Page Content -->
    <div class="container">

      <div class="row mt-5">

        <div class="col-md-7">
          <h1>Deep Learning for Text Classification</h1>
          <p> ปัจจุบันนี้คนหันมาใช้ Deep Learning model กันมากขึ้นโดยใช้พื้นฐานของความหมายของคำที่กำหนดโดยบริบทและการใช้ภาษา (Distributed semantic model หรือ distributional semantic model) ในคลังข้อมูลเป็นหลัก วิดีโอชุดนี้ครอบคลุมวิธีการเทรนโมเดล Deep Learning และรายละเอียดของโมเดล Deep Averaging Network และ Convolutional Neural Network
          </p>
        </div>
        <div class="col-md-3">
          <p>Slides และแหล่งอ้างอิง</p>
          <ul>
            <li><a href="slides/word_embedding_classifier.pdf">Slides จากวิดีโอเรื่อง Word embedding และ Neural Bag-of-word model</a></li>
            <li><a href="slides/training_dl.pdf">Slides จากวิดีโอเรื่องการเทรน deep learning model</a></li>
            <li><a href="slides/CNN_technical.pdf">Slides จากวิดีโอเรื่อง CNN</a></li>
            <li><a href="https://web.stanford.edu/~jurafsky/slp3/6.pdf">Chapter 6 จาก Jurafsky</a></li>
            <li><a href="https://web.stanford.edu/~jurafsky/slp3/7.pdf">Chapter 7 จาก Jurafsky</a></li>
          </ul>
          </div>
        </div>


      <div class="row mt-5">
        <div class="col-md-7">
        <h2>Deep Learning เริ่มต้นมาจาก Logistic regression</h2>
        <p>Deep Learning หรือ Neural Network เป็นเทคโนโลยีทางด้าน machine learning คลื่นลูกใหม่ในการแก้ปัญหา NLP เพราะโมเดลนี้สามารถนำเอาธรรมชาติของคำที่มีหลายหลายมิติทางความหมายมาใช้ประโยชน์ในการจำแนกประเภทข้อความ</p>
        <p>คณิตศาสตร์ระดับม.ปลายเป็นประโยชน์มากสำหรับการทำความเข้าใจเนื้อหาในส่วนนี้ โดยเฉพาะอย่างยิ่งการอนุพันธ์ของฟังก์ชัน (Calculus)</p>
        </div>
      </div>
      <div class="row mt-4">
        <div class="col-md-5">
          <div class="embed-responsive embed-responsive-16by9">
            <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/kD5H0DBl5q4" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
          </div>
        </div>
  	    <div class="col-md-5">
          <div class="embed-responsive embed-responsive-16by9">
            <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/po4FIs5jNLI" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
          </div>
        </div>
      </div>

      <div class="row mt-5">
        <div class="col-md-7">
        <h2>Word Embedding และ Computational Lexical Semantics</h2>
        <p>ความหมายของคำศัพท์คำหนึ่งมีหลากหลายมิติของความหมายจนทำให้การเขียนกฏต่างๆ ในการจัดระเบียบของความหมายนั้นเป็นไปได้โดยยาก Word embedding เก็บลักษณะเฉพาะทางความหมายของแต่ละคำโดยเรียนรู้จากคลังข้อมูล และเป็นพื้นฐานของการสร้าง Text classifier ตัวใหม่ๆ ในปัจจุบัน</p>
        </div>
      </div>
	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/Jpaiey9kBKQ" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/OcG-sfMa0oI" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
      </div>
	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/1juBMC8zjQc" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/_6cMYyg88n4" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
      </div>

	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/R9NKLc-pdH8" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
    </div>

	  <div class="row mt-5">
        <div class="col-md-7">
        <h2>Training Deep Learning Models</h2>
        <p>Deep Averaging Network เป็นโมเดล baseline ในการทำความเข้าใจและพัฒนา neural model architecture อื่นๆ ที่จะพบเห็นในบทต่อๆ ไปเช่น
        recurrent neural network และ sequence-to-sequence models</p>
        </div>
      </div>
	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/pxXhG6rBa4o" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/cxZh-F4WjYQ" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
    </div>

	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/0ZmfyFwDs6Q" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/9WtJgNAtAhk" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
    </div>

	  <div class="row mt-5">
        <div class="col-md-7">
        <h2>Convolutional Neural Network</h2>
        <p>Convolutional Neural Network (CNN) เป็นโมเดลที่ใช้กันอย่างแพร่หลายในการทำ text classification
        เพราะว่ามีขนาดเล็ก เทรนไม่ยาก และประกอบรวมพลังกับ word embedding ได้อย่างดี
        </p>
        </div>
      </div>
	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/vhjoVCE18jc" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/vjLIq5w_yaA" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
    </div>
	  <div class="row mt-2">
          <div class="col-md-5">
            <div class="embed-responsive embed-responsive-16by9">
              <iframe class="embed-responsive-item" src="https://www.youtube.com/embed/JJP5a1WcTVk" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
            </div>
          </div>
    </div>


    <footer class="page-footer font-small">
      <div class="container">
        <div class="row">
             <div class="col-md-12 py-3">
                  <div class="flex-center">
                    <hr/>
                  </div>
            </div>
        </div>
        <div class="footer-copyright text-right py-3 mb-5">© 2021 Copyright: Attapol Thamrongrattanarit</div>
      </div>
    </footer>

    <!-- Bootstrap core JavaScript -->
    <script src="jquery/jquery.min.js"></script>
    <script src="bootstrap/js/bootstrap.bundle.min.js"></script>

  </body>

</html>