์ „์ฒด ๊ธ€ 132

[BigData] ํšŒ๊ท€ (Regression)

ํšŒ๊ท€(regression) ? ์ฃผ์–ด์ง„ ์ž…๋ ฅ์˜ ํŠน์ง•์œผ๋กœ๋ถ€ํ„ฐ ์‹ค์ˆ˜(์—ฐ์†ํ˜• ๋ณ€์ˆ˜)๋ฅผ ์˜ˆ์ธกํ•˜๋Š” ํ–‰์œ„ ๋ฐ์ดํ„ฐ ๋ณ€์ˆ˜๋“ค ๊ฐ„์— ํ•จ์ˆ˜๊ด€๊ณ„๋ฅผ ํŒŒ์•…ํ•˜์—ฌ ํ†ต๊ณ„์  ์ถ”๋ก ์„ ํ•˜๋Š” ๊ธฐ์ˆ  ์ž…๋ ฅ๊ณผ ์ถœ๋ ฅ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•จ์ˆ˜๋ฅผ ์ถ”์ •ํ•˜์—ฌ, ์˜ˆ์ธก ๊ฐ’๊ณผ ์‹ค์ œ๊ฐ’์˜ ์˜ค์ฐจ๋ฅผ ์ตœ์†Œํ™”ํ•˜๋Š” ๊ฒƒ์ด ํšŒ๊ท€์˜ ๋ชฉํ‘œ ํšŒ๊ท€์˜ ์œ ํ˜• ๋‹จ์ˆœ ์„ ํ˜• ํšŒ๊ท€(Simple linear regression) : ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์ธ ๋‹จ๋ณ€๋Ÿ‰ ๋ชจ๋ธ๋กœ์„œ, ๋…๋ฆฝ๋ณ€์ˆ˜๊ฐ€ ํ•˜๋‚˜์ธ ํšŒ๊ท€ ๋ชจ๋ธ ๋‹ค์ค‘ ์„ ํ˜• ํšŒ๊ท€(Multiple linear regression) : ๋‹ค๋ณ€๋Ÿ‰ ๋ชจ๋ธ๋กœ์„œ, ๋…๋ฆฝ๋ณ€์ˆ˜๊ฐ€ ๋‘˜ ์ด์ƒ์ธ ํšŒ๊ท€ ๋ชจ๋ธ MILib ์˜ ํšŒ๊ท€ ๋ชจ๋ธ ์„ ํ˜• ํšŒ๊ท€(Linear Regression) ์ผ๋ฐ˜ํ™” ์„ ํ˜• ํšŒ๊ท€(Generalized linear Regression) ์„ ํ˜•ํšŒ๊ท€๋ถ„์„์—์„œ ๊ฒฐ๊ณผ๋ณ€์ˆ˜๋Š” ์—ฐ์†์ ์ด๋ฉด์„œ ์ •๊ทœ๋ถ„ํฌ๋ฅผ ๋”ฐ๋ฅด์ง€..

[Java] GUI, ์ด๋ฒคํŠธ ์ฒ˜๋ฆฌ

์ด๋ฒคํŠธ(event) ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์—์„œ ๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค(GUI)๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ํŠน์ • ๋ช…๋ น์„ ์š”์ฒญํ•˜๋Š” ํ–‰์œ„๋ฅผ ์˜๋ฏธ (ex. ๋ฒ„ํŠผ ํด๋ฆญ, ํ‚ค๋ณด๋“œ ๋ฌธ์ž ์ž…๋ ฅ, ๋งˆ์šฐ์Šค ์Šคํฌ๋กค ๋“ฑ) Event Class ํด๋ž˜์Šค ์„ค๋ช… ActionEvent ๋ฒ„ํŠผ ํด๋ฆญ, ๋ฉ”๋‰ด ์„ ํƒ, ๋ชฉ๋ก ํ•ญ๋ชฉ ํด๋ฆญ ์‹œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ MouseEvent ๋งˆ์šฐ์Šค ๋“œ๋ž˜๊ทธ, ๋งˆ์šฐ์Šค ํด๋ฆญ ์‹œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ MouseWheelEvent ๋งˆ์šฐ์Šค ํœ ์„ ์›€์ง์ผ ๋•Œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ KeyEvent ํ‚ค๋ณด๋“œ ์ž…๋ ฅ ์‹œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ ItemEvent ์ฒดํฌ๋ฐ•์Šค๋‚˜ ๋ชฉ๋ก ํ•ญ๋ชฉ ํด๋ฆญ ์‹œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ TextEvent ํ…์ŠคํŠธ ์˜์—ญ์ด๋‚˜ ํ…์ŠคํŠธ ํ•„๋“œ์˜ ๊ฐ’์ด ๋ณ€๊ฒฝ๋  ๋•Œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ WindowEvent ์œˆ๋„์šฐ ์ฐฝ์ด ํ™œ์„ฑํ™”/๋น„ํ™œ์„ฑํ™”, ์—ด๋ฆฌ๊ฑฐ๋‚˜ ๋‹ซํž ๋•Œ ๋ฐœ์ƒํ•˜๋Š” ์ด๋ฒคํŠธ ์ด๋ฒค..

JAVA 2024.01.15

[Java] ์Šค์œ™ (Swing)

์Šค์œ™ (Swing) Java ์–ธ์–ด๋กœ ๊ฐœ๋ฐœ๋œ ๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค(GUI) ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ AWT๋ณด๋‹ค ๋” ๊ฐ•๋ ฅํ•˜๊ณ  ์ผ๊ด€๋œ GUI ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ œ๊ณต ํ”Œ๋žซํผ ๋…๋ฆฝ์„ฑ์„ ํ™•๋ณดํ•˜๊ธฐ ์œ„ํ•ด ์ˆœ์ˆ˜ Java ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋กœ ๊ตฌํ˜„๋จ => Java์—์„œ ์ง€ํ–ฅํ•˜๋Š” "Write Once, Run Everywhere(WORE)"๋ฅผ ๊ตฌํ˜„ํ•˜๊ธฐ ์œ„ํ•ด, ์‹œ์Šคํ…œ์—์„œ ๊ณตํ†ต์ ์œผ๋กœ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ•œ ๋ฒ„ํŠผ ๋“ฑ์˜ UI ์ปดํฌ๋„ŒํŠธ๋ฅผ ์ œ๊ณตํ•จ ๋ชจ๋“  AWT ์ปดํฌ๋„ŒํŠธ์™€ 100% ํ˜ธํ™˜๋˜๋Š” ์ปดํฌ๋„ŒํŠธ๋กœ ์žฌ์ž‘์„ฑ ๋˜์–ด์žˆ์Œ AWT ์ปดํฌ๋„ŒํŠธ์™€ ๊ตฌ๋ถ„ํ•˜๊ธฐ ์œ„ํ•ด ์Šค์œ™ ์ปดํฌ๋„ŒํŠธ์˜ ์ด๋ฆ„์€ ๋Œ€๋ฌธ์ž J๋กœ ์‹œ์ž‘ (ex. JComboBox, JButton, JMenu..etc) Swing ํด๋ž˜์Šค ๊ตฌ์กฐ JComponent ํด๋ž˜์Šค ๋ชจ๋“  ์Šค์œ™ ์ปดํฌ๋„ŒํŠธ์˜ ๊ธฐ๋ณธ ํด๋ž˜์Šค๋กœ ๊ทธ๋ž˜ํ”ฝ ๊ทธ๋ฆฌ๊ธฐ, ์ด๋ฒคํŠธ ์ฒ˜๋ฆฌ ๊ธฐ๋Šฅ์„ ํ•˜..

JAVA 2024.01.15

[Java] ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค (User Interface)

๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค (Graphic User Interface) ์‚ฌ์šฉ์ž๊ฐ€ ๋งˆ์šฐ์Šค๋‚˜ ํ‚ค๋ณด๋“œ ๋“ฑ์„ ์ด์šฉํ•˜์—ฌ ํŽธ๋ฆฌํ•˜๊ฒŒ ์ž…์ถœ๋ ฅํ•  ์ˆ˜ ์žˆ๋Š” ๊ทธ๋ž˜ํ”ฝ ํ™”๋ฉด ๊ตฌ์„ฑ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์˜๋ฏธํ•˜๋ฉฐ GUI(graphic user interface)๋ผ๊ณ ๋„ ๋ถ€๋ฆ„ ๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค์˜ ํ•„์š”์„ฑ ์‚ฌ์šฉ์„ฑ ๊ฐœ์„  : ๋ฒ„ํŠผ, ๋ฉ”๋‰ด ๋“ฑ์„ ์‚ฌ์šฉํ•˜์—ฌ ์‚ฌ์šฉ์ž๊ฐ€ ์‰ฝ๊ฒŒ ์ดํ•ดํ•˜๊ณ  ์กฐ์ž‘ํ•  ์ˆ˜ ์žˆ๋„๋ก ์„ค๊ณ„ํ•จ์œผ๋กœ์จ ์‚ฌ์šฉ์„ฑ์„ ํ–ฅ์ƒ์‹œํ‚ด ์ƒํ˜ธ์ž‘์šฉ ํ–ฅ์ƒ : ์‚ฌ์šฉ์ž๊ฐ€ ์ปดํ“จํ„ฐ์—๊ฒŒ ์‹œ๊ฐ์ ์ธ ์ž…๋ ฅ์„ ๋ณด๋‚ด๊ณ , ์ปดํ“จํ„ฐ๊ฐ€ ์‚ฌ์šฉ์ž์—๊ฒŒ ์‹œ๊ฐ์ ์ธ ํ”ผ๋“œ๋ฐฑ์„ ์ œ๊ณต ์•ˆ์ „์„ฑ ํ–ฅ์ƒ : ์‚ฌ์šฉ์ž๊ฐ€ ์ž˜๋ชป๋œ ์ž‘์—…์„ ํ•  ๊ฐ€๋Šฅ์„ฑ์„ ์ค„์ž„์œผ๋กœ์จ, ์‹œ์Šคํ…œ์˜ ์˜ค๋™์ž‘ ๊ฐ€๋Šฅ์„ฑ์„ ์ค„์ผ ์ˆ˜ ์žˆ์Œ Java์—์„œ ๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค์˜ ๊ตฌํ˜„ ๊ตฌ๋ถ„ ์„ค๋ช… AWT - Abstract Window Toolkit์˜ ์•ฝ์–ด๋กœ ..

JAVA 2024.01.15

[Java] Map ์ปฌ๋ ‰์…˜

Map ์ปฌ๋ ‰์…˜ ํ‚ค(key)์™€ ๊ฐ’(value)์œผ๋กœ ๊ตฌ์„ฑ๋œ ์ž๋ฃŒ ๊ตฌ์กฐ์˜ ํ˜•ํƒœ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ์ €์žฅํ•จ ์š”์†Œ๋“ค์„ ์ €์žฅํ•  ๋•Œ ์ˆœ์„œ๋ฅผ ๋ณด์žฅํ•˜์ง€ ์•Š์œผ๋ฏ€๋กœ ์ˆœ์„œ๊ฐ€ ์—†์Œ ํ‚ค๋Š” ์ค‘๋ณตํ•ด์„œ ์ €์žฅํ•  ์ˆ˜ ์—†์œผ๋ฏ€๋กœ ๋งŒ์•ฝ ๊ธฐ์กด์— ์žˆ๋˜ ํ‚ค์™€ ๊ฐ™์€ ํ‚ค๊ฐ€ ์ž…๋ ฅ๋˜๋ฉด, ํ•ด๋‹น ํ‚ค์˜ ๊ฐ’์ด ์ƒˆ๋กœ์šด ๊ฐ’์œผ๋กœ ๋ณ€๊ฒฝ๋จ ๋Œ€ํ‘œ์ ์œผ๋กœ HashTable, HashMap, LinkedHashMap, TreeMap ํด๋ž˜์Šค๊ฐ€ ์žˆ์Œ Map ์ปฌ๋ ‰์…˜์€ ํ‚ค๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ๊ด€๋ฆฌํ•จ ํ‚ค๋Š” ์ค‘๋ณตํ•ด์„œ ์ €์žฅํ•  ์ˆ˜ ์—†์ง€๋งŒ, ๊ฐ’์€ ์ค‘๋ณตํ•ด์„œ ์ €์žฅํ•  ์ˆ˜ ์žˆ์Œ HashMap ํด๋ž˜์Šค ํ‚ค์™€ ๊ฐ’์„ ์Œ์œผ๋กœ ์ €์žฅํ•˜๊ธฐ ์œ„ํ•œ Map ๊ธฐ๋ฐ˜ ์ปฌ๋ ‰์…˜์ด๋ฉฐ HashMap ๋˜๋Š” HashMap๋กœ ํ‘œ์‹œํ•จ ์ €์žฅ ์ˆœ์„œ๋ฅผ ๋ณด์žฅํ•˜์ง€ ์•Š์œผ๋‚˜, ํ•ด์‹ฑ์„ ์‚ฌ์šฉํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๋งŽ์€ ์–‘์˜ ๋ฐ์ดํ„ฐ๋ฅผ ๊ฒ€์ƒ‰ํ•˜๋Š”๋ฐ ์œ ์šฉํ•จ

JAVA 2024.01.15

[Java] List ์™€ Set ์ปฌ๋ ‰์…˜

List ์ปฌ๋ ‰์…˜ ์„ ํ˜• ์ž๋ฃŒ ๊ตฌ์กฐ์˜ ํ˜•ํƒœ๋กœ ์š”์†Œ๋ฅผ ์ €์žฅ ์š”์†Œ๋ฅผ ์ธ๋ฑ์Šค๋กœ ๊ด€๋ฆฌํ•˜๊ธฐ ๋•Œ๋ฌธ์— ์š”์†Œ๋ฅผ ์ €์žฅํ•˜๋ฉด ์ž๋™์œผ๋กœ ์ €์žฅ ์ˆœ์„œ์˜ ์ธ๋ฑ์Šค๊ฐ€ ๋ถ€์—ฌ๋˜๊ณ , ์ธ๋ฑ์Šค๋กœ ์š”์†Œ๋ฅผ ๊ฒ€์ƒ‰ํ•˜๊ฑฐ๋‚˜ ์‚ญ์ œ ๋ฐ์ดํ„ฐ๊ฐ€ ๊ฐ™์€ ์š”์†Œ๋ฅผ ์ค‘๋ณตํ•ด์„œ ์ €์žฅํ•  ์ˆ˜ ์žˆ์Œ ๋Œ€ํ‘œ์ ์œผ๋กœ ArrayList, LinkedList, Vector ํด๋ž˜์Šค๊ฐ€ ์žˆ์Œ ArrayList ํด๋ž˜์Šค List ์ปฌ๋ ‰์…˜ ๊ธฐ๋ฐ˜์˜ ์„ ํ˜• ์ˆœ์„œ๋กœ ์ €์žฅํ•˜๋Š” ๋ฐ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฐ์—ด ํ˜•ํƒœ์˜ ๋ฐ์ดํ„ฐ ๊ตฌ์กฐ ํ•œ ๋ฒˆ ์ƒ์„ฑ๋˜๋ฉด ํฌ๊ธฐ๊ฐ€ ๋ณ€ํ•˜์ง€ ์•Š๋Š” ๋ฐฐ์—ด๊ณผ ๋‹ฌ๋ฆฌ ArrayList๋Š” ํฌ๊ธฐ๊ฐ€ ๊ฐ€๋ณ€์ ์ž„ ์ €์žฅ ์šฉ๋Ÿ‰์„ ์ดˆ๊ณผํ•˜๋ฉด ๋ถ€์กฑํ•œ ๋งŒํผ ์ž๋™์œผ๋กœ ์ €์žฅ ์šฉ๋Ÿ‰์ด ๋Š˜์–ด๋‚˜๊ธฐ ๋•Œ๋ฌธ์—, ์ผ๋ฐ˜์ ์ธ ๋ฐฐ์—ด๋ณด๋‹ค ์œ ์—ฐ์„ฑ์ด ๋›ฐ์–ด๋‚˜ ๋„๋ฆฌ ์‚ฌ์šฉ Set ์ปฌ๋ ‰์…˜ ๋น„์„ ํ˜• ์ž๋ฃŒ ๊ตฌ์กฐ์˜ ํ˜•ํƒœ๋กœ ์š”์†Œ๋ฅผ ์ €์žฅํ•จ ์š”์†Œ๋ฅผ ์ธ๋ฑ์Šค๋กœ ๊ด€๋ฆฌํ•˜์ง€ ์•Š๊ธฐ ๋•Œ๋ฌธ์— ์ €์žฅ ์ˆœ์„œ..

JAVA 2024.01.15

[Java] Collection ์ปฌ๋ ‰์…˜

์ž๋ฃŒ๊ตฌ์กฐ ๋ฐ์ดํ„ฐ๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์ €์žฅ, ๊ด€๋ฆฌ ๋ฐ ์กฐ์ž‘ํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ์ •์˜๋กœ ๋ฐ์ดํ„ฐ์˜ ์‚ฝ์ž…, ์‚ญ์ œ, ๊ฒ€์ƒ‰, ์ •๋ ฌ๊ณผ ๊ฐ™์€ ์—ฐ์‚ฐ์„ ํšจ์œจ์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•˜๋„๋ก ํ•จ ์ปฌ๋ ‰์…˜(collection) ๋ฐ์ดํ„ฐ๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์ €์žฅ, ๊ด€๋ฆฌ ๋ฐ ์กฐ์ž‘ํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•˜๋Š” ์ž๋ฃŒ๊ตฌ์กฐ๋กœ์„œ List, Set, Map ๋“ฑ๊ณผ ๊ด€๋ จ๋œ ๋‹ค์–‘ํ•œ ํด๋ž˜์Šค ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์ œ๊ณตํ•จ ๋ฐฐ์—ด๊ณผ์˜ ์ฐจ์ด์  ๋ฐฐ์—ด ์ปฌ๋ ‰์…˜ ๋™์ผํ•œ ์œ ํ˜•์˜ ๋ฐ์ดํ„ฐ๋งŒ ์ €์žฅํ•  ์ˆ˜ ์žˆ์Œ ๋‹ค์–‘ํ•œ ์œ ํ˜•์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ €์žฅํ•  ์ˆ˜ ์žˆ์Œ (๊ฐ€๋Šฅํ•˜์ง€ ์•Š์€ ์ปฌ๋ ‰์…˜๋„ ์žˆ์Œ) ํฌ๊ธฐ๊ฐ€ ๊ณ ์ •๋˜์–ด ์žˆ์Œ(์ •์ ) ํฌ๊ธฐ๋ฅผ ์กฐ์ ˆํ•  ์ˆ˜ ์žˆ์Œ(๋™์ ) ๋ฉ”๋ชจ๋ฆฌ ํšจ์œจ์ด ๋‚ฎ์Œ ๋ฉ”๋ชจ๋ฆฌ ํšจ์œจ์„ฑ์ด ์ข‹์Œ ์ปฌ๋ ‰์…˜์˜ ํ•„์š”์„ฑ ๋ฐ์ดํ„ฐ ๊ตฌ์กฐํ™” : ๋ฐ์ดํ„ฐ๋ฅผ ๊ตฌ์กฐํ™”ํ•˜์—ฌ ์ €์žฅํ•˜๊ณ  ๊ด€๋ฆฌํ•˜๋Š”๋ฐ ๋„์›€์„ ์ฃผ๋ฏ€๋กœ, ๋ฐ์ดํ„ฐ๋ฅผ ์‰ฝ๊ฒŒ ์ฐพ๊ณ  ์กฐ์ž‘ ๊ฐ€๋Šฅ ๋ฉ”๋ชจ๋ฆฌ ๊ด€๋ฆฌ : ์ปฌ..

JAVA 2024.01.15

[Machine Learning] SVM (Support Vector Machines)

Binary Classification(two-class classfication) ์ง๊ด€์ ์ธ ๋ถ„๋ฅ˜ ๋ฐฉ๋ฒ• Feature space์—์„œ ๊ณต๊ฐ„์„ ๋‘˜๋กœ ๋‚˜๋ˆ„๋Š”(separate) ํ‰๋ฉด(plane)์„ ์ฐพ์Œ ๋งŒ์•ฝ ๊ทธ๋Ÿฌํ•œ ํ‰๋ฉด์„ ์ฐพ์„ ์ˆ˜ ์—†๋‹ค๋ฉด ๊ณต๊ฐ„์„ ๊ตฌ๋ถ„(seperate)ํ•œ๋‹ค๋Š” ๊ฐœ๋…์„ ๋Š์Šจํ•˜๊ฒŒ ์ ์šฉ ๊ตฌ๋ถ„์ด ๊ฐ€๋Šฅํ•˜๋„๋ก feature space๋ฅผ ํ™•์žฅ (์ถ”๊ฐ€์ ์ธ feature ์ƒ์„ฑ) Maximal Margin Classfier ๋ชจ๋“  separating hyperplane ๊ฐ€์šด๋ฐ ๋‘ class๊ฐ„์˜ margin์„ ๊ฐ€์žฅ ํฌ๊ฒŒ ํ•˜๋Š” separating hyperplane์ด ์กด์žฌํ•จ ์ด hyperplane์„ ์ด์šฉํ•˜๋Š” classfier๋ฅผ Maximal Margin Classfier๋ผ๊ณ  ํ•จ Support Vector Classfier..

[Machine Learning] Aggregating decision trees

Bagging(Bootstrap aggregation) ๋จธ์‹ ๋Ÿฌ๋‹ ๋ฐฉ๋ฒ•์˜ ๋ณ€๋™์„ฑ(variance)์„ ์ค„์ด๊ธฐ ์œ„ํ•œ ์ผ๋ฐ˜์ ์ธ ๋ฐฉ๋ฒ•์œผ๋กœ decision tree ๋ฐฉ๋ฒ•์— ํŠนํžˆ ์œ ์šฉํ•˜์—ฌ ๋งŽ์ด ์ ์šฉ๋จ -> ์—ฌ๋Ÿฌ ๊ฐœ์˜ ๋…๋ฆฝ์ ์ธ ๋ฐ์ดํ„ฐ์…‹์„ ํ™•๋ณดํ•˜๋Š” ๊ฒƒ์ด ์–ด๋ ค์›Œ bootstrap ๋ฐฉ๋ฒ• ์‚ฌ์šฉ OOB(Out-of-Bag Error Estimation) Bagging ๋ฐฉ๋ฒ•์—์„œ๋Š” ์•„์ฃผ ์ง๊ด€์ ์ธ test error ์ถ”์ • ๋ฐฉ๋ฒ•์ด ์กด์žฌ Bootstrap์€ ์ค‘๋ณต์„ ํ—ˆ์šฉํ•˜๋ฏ€๋กœ ํ•˜๋‚˜์˜ bootstrap training data์—์„œ ํ‰๊ท ์ ์œผ๋กœ ๋ณธ๋ž˜(original) ๋ฐ์ดํ„ฐ์˜ 2/3๊ฐ€ ์ƒ˜ํ”Œ๋ง๋จ ๋‚˜๋จธ์ง€ ์ ํ•ฉ์— ์‚ฌ์šฉ๋˜์ง€ ์•Š์€ 1/3์˜ ๋ฐ์ดํ„ฐ๋ฅผ OOB(out-of-bag)์œผ๋กœ ๋ช…๋ช… i๋ฒˆ์งธ ๋ฐ์ดํ„ฐ๊ฐ€ OOB์ธ ๊ฒฝ์šฐ์˜ decision tree์—์„œ i๋ฒˆ์งธ..

[Machine Learning] ํŠธ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ฐฉ๋ฒ• (Decision trees)

ํŠธ๋ฆฌ ๊ธฐ๋ฐ˜ ๋ฐฉ๋ฒ•(tree-based methods) Predictor ๊ณต๊ฐ„(space) -> ์—ฌ๋Ÿฌ ๊ฐœ์˜ ๋‹จ์ˆœํ•˜๊ณ  ์ž‘์€ ๊ณต๊ฐ„์œผ๋กœ ๊ณ„์ธตํ™”(stratify), ๋‚˜๋ˆ„๋Š”(segment) ๋ฐฉ๋ฒ• => Predictor ๊ณต๊ฐ„์„ ๋‚˜๋ˆ„๊ธฐ ์œ„ํ•ด ์‚ฌ์šฉ๋˜๋Š” ๋ถ„ํ•  ๊ทœ์น™์ด, ๋งˆ์น˜ ๋‚˜๋ฌด๊ฐ€ ๊ฐ€์ง€๋ฅผ ์น˜๋Š” ๊ฒƒ๊ณผ ์œ ์‚ฌํ•˜์—ฌ decision tree ๋ฐฉ๋ฒ• ์žฅ์  : ๋‹จ์ˆœํ•ด์„œ ํ•ด์„ํ•˜๊ธฐ ์‰ฌ์›€ ๋‹จ์  : Decision tree ๋ฐฉ๋ฒ•์€ ๋ณดํ†ต ๋‹ค๋ฅธ ์ง€๋„ํ•™์Šต ๋ฐฉ๋ฒ•๋ณด๋‹ค ์„ฑ๋Šฅ์ด ์ข‹์ง€ ๋ชปํ•จ => ๋Œ€์•ˆ์œผ๋กœ ์—ฌ๋Ÿฌ ๊ฐœ์˜ ํŠธ๋ฆฌ๋ฅผ ๋งŒ๋“ค์–ด ์˜ˆ์ธก์„ฑ๋Šฅ์„ ๋†’์ด๋Š” ๋ฐฉ์‹์ธ bagging, random forests, boosting ๋ฐฉ๋ฒ•์„ ์‚ฌ์šฉ (๋‹จ, ์ด ๋ฐฉ๋ฒ•์€ ํ•ด์„๋ ฅ์ด ๋–จ์–ด์ง) Internal node(๋‚ด๋ถ€ ๋…ธ๋“œ) : ๊ธฐ์ค€์œผ๋กœ ๋น„๊ตํ•˜์—ฌ ์ขŒ์šฐ๋กœ ๋‚˜๋ˆ” Terminal node(ํ„ฐ๋ฏธ..